De siger, at for nyheder klassikerne. En allegori skrevet fire århundreder af vores æra er ideel til at forstå, hvad der er grænserne for de nye anvendelser af kunstig intelligens. Jeg henviser til "ChatGPT-hulen", som hverken er mere eller mindre end en tilpasning af den berømte allegori om Platons hule
Jeg har ingen indvendinger mod brugen af kunstig intelligens-værktøjer. Faktisk synes jeg, at de gør arbejdet meget lettere. Men så længe bruges af folk, der har tilstrækkelig viden til at evaluere dit arbejde.
For eksempel; man kan bede ChatGPT om at skrive et WordPress plugin, men hvis man mangler kendskab til PHP kan det plugin give alvorlige sikkerhedsproblemer.
Allegorien om hulen
Platon var en græsk filosof, der levede mellem det XNUMX. og XNUMX. århundrede f.Kr. Han udtrykte sine tanker i form af myter og allegorier. Den mest kendte af dem var grottens.
Sendt i La República, forestiller allegorien en gruppe mennesker lænket i en hule, bag sig har de en ild, der kaster skygger på væggen foran dem. Skyggerne er det eneste, de ser og forestiller sig, at de er det eneste, der eksisterer, og ignorerer det, der ligger hinsides.
Da en af fangerne bliver løsladt, er han i stand til at se verden for, hvad den virkelig er, og indser, hvor begrænsede hans oplevelser i hulen var.
Ifølge Platon-forskere fremhæver denne allegori, at vi alle lever vores liv baseret på vores egne oplysninger og erfaringer. Information og oplevelser svarende til hulens skygger. Ligesom fangerne er der den sande virkelighed, og den er uden for vores fatteevne.
ChatGPTs hule
ChatGPT og dets konkurrenter har både beundrere og modstandere. Men ingen havde givet en teknisk forklaring om dens fejl før en artikel offentliggjort i New Yorker af science fiction-forfatteren Ted Chang
For at forklare fejlene i sprogmodeller laver Chang en analogi med, hvad der sker med billeder og lydfiler.
Optagelse og gengivelse af en digital fil kræver to trin: det første er kodning, hvorefter filen konverteres til et mere kompakt format, efterfulgt af afkodning, som er den omvendte proces. Konverteringsprocessen kaldes tabsfri (den gendannede fil er den samme som originalen) eller tabsgivende (Nogle information går tabt for altid). Tabskomprimering anvendes på billed-, video- eller lydfiler og er for det meste ikke mærkbar. Når det er, kaldes det en kompressionsartefakt. Kompressionsartefakter dukker op i form af sløring i billeder eller klirrende lyd.
Chang bruger analogien med en fuzzy JPG fra nettet til at henvise til sprogmodeller. Og dette er ret præcist. Begge komprimerer informationen og beholder kun "Det vigtige". LSprogmodeller genererer, ud fra store mængder tekstdata, en kompakt repræsentation af mønstrene og relationerne mellem ord og sætninger.
Ud fra den genereres en ny tekst, der så vidt muligt forsøger at få den til at ligne den originale tekst i indhold og betydning. Problemet er, når der ikke er nok information på nettet til at generere en ny tekst. Dette betyder, at ChatGPT kan skrive et essay på universitetsniveau, men ikke lave simple 5-cifrede operationer.
Chang konkluderer, at:
Selvom det er muligt at begrænse store sprogmodeller fra at deltage i forfatterskab, skal vi så bruge dem til at generere webindhold? Dette ville kun give mening, hvis vores mål er at ompakke information, der allerede er tilgængelig på nettet. Nogle virksomheder eksisterer for at gøre netop det; vi kalder dem generelt indholdsfabrikker. Måske er uklarheden i sprogmodellerne nyttig for dem, som en måde at undgå krænkelse af ophavsretten. Generelt vil jeg dog sige, at det, der er godt for indholdsfabrikker, ikke er godt for folk, der leder efter information. Fremkomsten af denne type ompakning er det, der gør det svært for os at finde det, vi leder efter online lige nu.; Jo mere tekst, der genereres af store sprogmodeller, udgives på nettet, jo mere bliver nettet en mere sløret udgave af sig selv.
Og ligesom fangerne i hulen ville vores oplevelse være meget mindre, end hvad virkeligheden tilbyder os.