Kažu da su za novitete klasika. Alegorija napisana četiri stoljeća naše ere idealna je da se shvati koje su granice novih primjena vještačke inteligencije. Mislim na "ChatGPT pećinu" koja je ni više ni manje nego adaptacija poznate alegorije Platonove pećine
Nemam ništa protiv upotrebe alata veštačke inteligencije. U stvari, smatram da oni znatno olakšavaju posao. Ali sve dok koristiti od strane ljudi koji imaju dovoljno znanja da procijene vaš rad.
Na primjer; može se zatražiti od ChatGPT-a da napiše WordPress dodatak, ali ako ne poznaje PHP taj dodatak može uzrokovati ozbiljne sigurnosne probleme.
Alegorija pećine
Platon je bio grčki filozof koji je živio između XNUMX. i XNUMX. stoljeća prije Krista. Svoje misli je iznosio u obliku mitova i alegorija. Najpoznatija od njih bila je pećina.
Objavljeno u La República, alegorija zamišlja grupa ljudi okovanih u pećini, iza sebe imaju vatru koja baca senke na zid ispred sebe. Senke su jedino što vide i zamišljaju da su jedino što postoji, ignorišući ono što je iza.
Kada jedan od zatvorenika bude pušten, on je u stanju da vidi svet kakav on zaista jeste i shvata koliko su njegova iskustva u pećini bila ograničena.
Prema Platonovim učenjacima, ova alegorija naglašava da svi živimo svoje živote na osnovu vlastitih informacija i iskustava. Informacije i iskustva ekvivalentni sjenama pećine. Kao i zatvorenici, postoji prava stvarnost i ona je izvan našeg poimanja.
ChatGPT pećina
ChatGPT i njegovi konkurenti imaju i obožavatelje i klevetnici. Ali, niko nije dao tehničko objašnjenje o njegovim kvarovima do članka objavljeno u New Yorkeru od pisca naučne fantastike Teda Čanga
Da bi objasnio nedostatke u jezičkim modelima, Chang pravi analogiju sa onim što se dešava sa slikama i audio datotekama.
Snimanje i reprodukcija digitalne datoteke zahtijeva dva koraka: prvi je kodiranje, u kojem trenutku se datoteka pretvara u kompaktniji format, nakon čega slijedi dekodiranje, što je obrnuti proces. Proces konverzije se naziva bez gubitaka (obnovljena datoteka je ista kao originalna) ili sa gubitkom (neke informacije se zauvijek izgube). Kompresija sa gubitkom se primjenjuje na slike, video ili audio datoteke i većinu vremena nije primjetna. Kada jeste, naziva se kompresijski artefakt. Artefakti kompresije se pojavljuju u obliku zamućenja na slikama ili zveckanja u zvuku.
Chang koristi analogiju nejasnog JPG-a sa weba da se odnosi na jezičke modele. I, ovo je prilično tačno. Oba komprimiraju informacije zadržavajući samo „važnu stvar“. LJezički modeli generiraju, iz velike količine tekstualnih podataka, kompaktan prikaz obrazaca i odnosa između riječi i fraza.
Iz njega se generira novi tekst nastojeći što je više moguće učiniti sličnim po sadržaju i značenju originalnom tekstu. Problem je kada na webu nema dovoljno informacija za generiranje novog teksta. Ovo znači da ChatGPT može napisati esej na nivou koledža, ali ne izvodi jednostavne 5-cifrene operacije.
Chang zaključuje da:
Čak i ako je moguće ograničiti velike jezičke modele da učestvuju u izradi, trebamo li ih koristiti za generiranje web sadržaja? Ovo bi imalo smisla samo ako je naš cilj da prepakujemo informacije koje su već dostupne na Webu. Neke kompanije postoje da rade upravo to; mi ih općenito nazivamo tvornicama sadržaja. Možda im je nejasnost jezičkih modela korisna, kao način da izbjegnu kršenje autorskih prava. Ipak, generalno govoreći, rekao bih da sve što je dobro za fabrike sadržaja nije dobro za ljude koji traže informacije. Porast ove vrste ponovnog pakovanja je ono što nam otežava da trenutno pronađemo ono što tražimo na mreži.; Što se više teksta generiranog velikim jezičkim modelima objavi na webu, to više web postaje mutnija verzija samog sebe.
I, kao i zatvorenici u pećini, naše iskustvo bi bilo mnogo manje od onoga što nam realnost nudi.