Pravijo, da je za novosti klasika. Alegorija, napisana štiri stoletja našega štetja, je idealna za razumevanje, kakšne so meje novih aplikacij umetne inteligence. Mislim na "Jamo ChatGPT", ki ni nič več ne manj kot priredba slavne alegorije Platonove jame
Nič ne nasprotujem uporabi orodij umetne inteligence. Pravzaprav se mi zdi, da zelo olajšajo delo. Ampak dokler uporabljajo ljudje, ki imajo dovolj znanja za oceno vašega dela.
Na primer; lahko prosite ChatGPT, da napiše vtičnik za WordPress, če pa nimate znanja o PHP, lahko ta vtičnik povzroči resne varnostne težave.
Alegorija jame
Platon je bil grški filozof, ki je živel med XNUMX. in XNUMX. stoletjem pr. Svoje misli je izražal v obliki mitov in alegorij. Najbolj znana med njimi je bila jama.
Objavljeno v La República, si predstavlja alegorija skupina ljudi, priklenjenih v votlini, za seboj imajo ogenj, ki meče sence na steno pred njimi. Sence so edina stvar, ki jo vidijo in si domišljajo, da so edina stvar, ki obstaja, pri tem pa ignorirajo tisto, kar leži onstran.
Ko je eden od zapornikov izpuščen, lahko vidi svet takšen, kot v resnici je, in spozna, kako omejene so bile njegove izkušnje v jami.
Po mnenju učenjakov Platona ta alegorija poudarja, da vsi živimo svoja življenja na podlagi lastnih informacij in izkušenj. Informacije in doživetja enakovredna sencam jame. Tako kot zaporniki obstaja prava resničnost, ki je izven našega razumevanja.
ChatGPT-jeva jama
ChatGPT in njegovi konkurenti imajo oboževalce in obrekovalci. Toda do članka nihče ni dal tehnične razlage o njegovih napakah objavljeno v New Yorkerju pisatelja znanstvene fantastike Teda Changa
Da bi pojasnil napake v jezikovnih modelih, Chang naredi analogijo s tem, kar se zgodi s slikami in zvočnimi datotekami.
Snemanje in reprodukcija digitalne datoteke zahtevata dva koraka: prvi je kodiranje, pri katerem se datoteka pretvori v bolj kompaktno obliko, čemur sledi dekodiranje, ki je obraten postopek. Postopek pretvorbe se imenuje brez izgube (obnovljena datoteka je enaka izvirniku) ali z izgubo (nekatere informacije so za vedno izgubljene). Stiskanje z izgubo se uporablja za slikovne, video ali zvočne datoteke in je večino časa neopazno. Ko je, se imenuje artefakt stiskanja. Artefakti stiskanja se pokažejo v obliki zamegljenosti na slikah ali žvenketanja v zvoku.
Chang uporablja analogijo mehkega JPG iz spleta, da se sklicuje na jezikovne modele. In to je precej natančno. Oba stisneta informacije in ohranita samo »pomembno«. LJezikovni modeli iz velikih količin besedilnih podatkov ustvarijo kompaktno predstavitev vzorcev in odnosov med besedami in frazami.
Iz njega nastane novo besedilo, ki se trudi, da bi bilo vsebinsko in pomensko čim bolj podobno izvirnemu besedilu. Težava je, ko na spletu ni dovolj informacij za ustvarjanje novega besedila. To pomeni, da lahko ChatGPT napiše esej na fakulteti, vendar ne izvaja preprostih 5-mestnih operacij.
Chang zaključuje, da:
Tudi če je mogoče velikim jezikovnim modelom preprečiti sodelovanje pri avtorstvu, ali naj jih uporabimo za ustvarjanje spletne vsebine? To bi bilo smiselno le, če je naš cilj prepakirati informacije, ki so že na voljo na spletu. Nekatera podjetja obstajajo zato, da počnejo prav to; na splošno jih imenujemo tovarne vsebine. Morda jim nejasnost jezikovnih modelov koristi kot način, da se izognejo kršitvam avtorskih pravic. Na splošno pa bi rekel, da vse, kar je dobro za tovarne vsebin, ni dobro za ljudi, ki iščejo informacije. Porast te vrste prepakiranja je tisto, zaradi česar trenutno težko najdemo tisto, kar iščemo na spletu.; Več besedila, ki ga ustvarijo veliki jezikovni modeli, je objavljenih na spletu, bolj postaja splet bolj zamegljena različica samega sebe.
In tako kot jetniki v votlini bi bila naša izkušnja veliko manjša od tiste, ki nam jo ponuja realnost.