Kažu da su za novotarije klasici. Alegorija napisana četiri stoljeća naše ere idealna je za razumijevanje koje su granice novih primjena umjetne inteligencije. Mislim na "ChatGPT špilju" koja nije ni više ni manje nego adaptacija poznate alegorije o Platonovoj špilji
Nemam ništa protiv korištenja alata umjetne inteligencije. Zapravo, smatram da znatno olakšavaju posao. Ali sve dok mogu koristiti ljudi koji imaju dovoljno znanja da procijene vaš rad.
Na primjer; možete zatražiti od ChatGPT-a da napiše dodatak za WordPress, ali ako nemate dovoljno znanja o PHP-u, taj dodatak može uzrokovati ozbiljne sigurnosne probleme.
Alegorija špilje
Platon je bio grčki filozof koji je živio između XNUMX. i XNUMX. stoljeća pr. Svoje misli izražavao je u obliku mitova i alegorija. Najpoznatiji od njih bio je onaj o pećini.
Objavljeno u La República, zamišlja alegorija skupina ljudi okovana u špilji, iza sebe imaju vatru koja baca sjene na zid ispred njih. Sjene su jedino što vide i zamišljaju da su jedino što postoji, zanemarujući ono što leži iza.
Kada je jedan od zatvorenika pušten, on može vidjeti svijet onakvim kakav on doista jest i shvaća koliko su njegova iskustva u špilji bila ograničena.
Prema proučavateljima Platona, ova alegorija naglašava da svi živimo svoje živote na temelju vlastitih informacija i iskustava. Informacije i doživljaji jednaki sjenama špilje. Baš kao i zatvorenici, postoji prava stvarnost i ona je izvan našeg poimanja.
ChatGPT-ova špilja
ChatGPT i njegovi konkurenti imaju i obožavatelje i klevetnici. No, nitko nije dao tehničko objašnjenje o njegovim kvarovima do članka objavljen u New Yorkeru pisca znanstvene fantastike Teda Changa
Kako bi objasnio nedostatke u jezičnim modelima, Chang pravi analogiju s onim što se događa sa slikama i audio datotekama.
Snimanje i reprodukcija digitalne datoteke zahtijeva dva koraka: prvi je kodiranje, u kojem trenutku se datoteka pretvara u kompaktniji format, nakon čega slijedi dekodiranje, što je obrnuti proces. Proces pretvorbe naziva se bez gubitaka (obnovljena datoteka je ista kao izvornik) ili s gubitkom (neke informacije su zauvijek izgubljene). Kompresija s gubitkom primjenjuje se na slikovne, video ili audio datoteke i većinu vremena nije primjetna. Kada jest, naziva se artefakt kompresije. Artefakti kompresije pojavljuju se u obliku zamućenja na slikama ili zveckanja u zvuku.
Chang koristi analogiju nejasnog JPG-a s weba kako bi se referirao na jezične modele. I, ovo je prilično točno. Oba komprimiraju informacije zadržavajući samo “Ono važno”. LJezični modeli generiraju, iz velikih količina tekstualnih podataka, kompaktnu reprezentaciju obrazaca i odnosa između riječi i fraza.
Iz njega se generira novi tekst nastojeći ga što je više moguće sadržajem i značenjem učiniti sličnijem izvornom tekstu. Problem je kada na webu nema dovoljno informacija za generiranje novog teksta. To znači da ChatGPT može napisati esej na razini koledža, ali ne može raditi jednostavne 5-znamenkasti operacije.
Chang zaključuje da:
Čak i ako je moguće ograničiti velike jezične modele da sudjeluju u autorstvu, trebamo li ih koristiti za generiranje web sadržaja? To bi imalo smisla samo ako nam je cilj prepakirati informacije koje su već dostupne na webu. Neke tvrtke postoje da rade upravo to; općenito ih nazivamo tvornicama sadržaja. Možda im je nejasnost jezičnih modela korisna kao način izbjegavanja kršenja autorskih prava. Općenito govoreći, rekao bih da sve što je dobro za tvornice sadržaja nije dobro za ljude koji traže informacije. Porast ove vrste prepakiranja ono je što nam otežava pronalaženje onoga što tražimo na internetu upravo sada.; Što se više teksta generiranog velikim jezičnim modelima objavljuje na webu, to više web postaje mutnija verzija samog sebe.
I, poput zatvorenika u špilji, naše bi iskustvo bilo puno manje od onoga što nam stvarnost nudi.