De sier at for nyheter klassikerne. En allegori skrevet fire århundrer av vår tid er ideell for å forstå hva som er grensene for de nye anvendelsene av kunstig intelligens. Jeg sikter til "ChatGPT-hulen" som verken er mer eller mindre enn en tilpasning av den berømte allegorien om Platons hule
Jeg har ingen innvendinger mot bruk av kunstig intelligens-verktøy. Jeg synes faktisk at de gjør jobben mye enklere. Men så lenge brukes av personer som har tilstrekkelig kunnskap til å evaluere arbeidet ditt.
For eksempel; man kan be ChatGPT om å skrive en WordPress-plugin, men hvis man mangler kunnskap om PHP kan denne plugin forårsake alvorlige sikkerhetsproblemer.
Allegorien om hulen
Platon var en gresk filosof som levde mellom det XNUMX. og XNUMX. århundre f.Kr. Han uttrykte sine tanker i form av myter og allegorier. Den mest kjente av dem var grotten.
Postet i La República, forestiller allegorien en gruppe mennesker lenket i en hule, bak seg har de en ild som kaster skygger på veggen foran dem. Skyggene er det eneste de ser og forestiller seg at de er det eneste som eksisterer, og ignorerer det som ligger bortenfor.
Når en av fangene blir løslatt, er han i stand til å se verden for hva den egentlig er og innser hvor begrensede opplevelsene hans i hulen var.
I følge Platon-forskere fremhever denne allegorien at vi alle lever våre liv basert på vår egen informasjon og erfaringer. Informasjon og opplevelser tilsvarende skyggene i hulen. Akkurat som fangene er det den sanne virkeligheten, og den er utenfor vår fatteevne.
ChatGPTs hule
ChatGPT og dets konkurrenter har både beundrere og kritikere. Men ingen hadde gitt en teknisk forklaring om feilene før en artikkel publisert i New Yorker av science fiction-forfatteren Ted Chang
For å forklare feilene i språkmodeller, gjør Chang en analogi med hva som skjer med bilder og lydfiler.
Opptaket og reproduksjonen av en digital fil krever to trinn: det første er koding, på hvilket tidspunkt filen konverteres til et mer kompakt format, etterfulgt av dekoding, som er den omvendte prosessen. Konverteringsprosessen kalles tapsfri (den gjenopprettede filen er den samme som originalen) eller tapsløs (noen informasjon går tapt for alltid). Tapskomprimering brukes på bilde-, video- eller lydfiler og er for det meste ikke merkbar. Når det er det, kalles det en kompresjonsartefakt. Kompresjonsartefakter vises i form av uskarphet i bilder eller klirring i lyd.
Chang bruker analogien til en uklar JPG fra nettet for å referere til språkmodeller. Og dette er ganske nøyaktig. Begge komprimerer informasjonen og beholder bare "Det viktige". LSpråkmodeller genererer, fra store mengder tekstdata, en kompakt representasjon av mønstre og relasjoner mellom ord og uttrykk.
Fra den genereres en ny tekst som prøver så mye som mulig å gjøre den lik den opprinnelige teksten i innhold og mening. Problemet er når det ikke er nok informasjon på nettet til å generere en ny tekst. Dette betyr at ChatGPT kan skrive et essay på høyskolenivå, men ikke gjøre enkle 5-sifrede operasjoner.
Chang konkluderer med at:
Selv om det er mulig å begrense store språkmodeller fra å delta i forfatterskap, bør vi bruke dem til å generere nettinnhold? Dette vil bare gi mening hvis målet vårt er å pakke om informasjon som allerede er tilgjengelig på nettet. Noen selskaper eksisterer for å gjøre nettopp det; vi vanligvis kaller dem innholdsfabrikker. Kanskje er uklarheten i språkmodellene nyttig for dem, som en måte å unngå brudd på opphavsretten. Generelt sett vil jeg imidlertid si at det som er bra for innholdsfabrikker, ikke er bra for folk som leter etter informasjon. Fremveksten av denne typen ompakking er det som gjør det vanskelig for oss å finne det vi leter etter på nett akkurat nå.; Jo mer tekst generert av store språkmodeller publiseres på nettet, desto mer blir nettet en mer uskarp versjon av seg selv.
Og, som fangene i hulen, ville opplevelsen vår være mye mindre enn hva virkeligheten tilbyr oss.