De säger att för nyheter klassikerna. En allegori skriven fyra århundraden av vår tid är idealisk för att förstå vad som är gränserna för de nya tillämpningarna av artificiell intelligens. Jag syftar på "ChatGPT-grottan" som varken är mer eller mindre än en anpassning av den berömda allegorin om Platons grotta
Jag har inga invändningar mot användningen av artificiell intelligens. Jag tycker faktiskt att de gör jobbet mycket lättare. Men så länge användas av personer som har tillräckliga kunskaper för att utvärdera ditt arbete.
Till exempel; man kan be ChatGPT att skriva ett WordPress-plugin, men om man saknar kunskap om PHP kan den plugin orsaka allvarliga säkerhetsproblem.
Allegorin om grottan
Platon var en grekisk filosof som levde mellan XNUMX- och XNUMX-talen f.Kr. Han uttryckte sina tankar i form av myter och allegorier. Den mest kända av dem var grottan.
Publicada sv Republiken, föreställer allegorin en grupp människor kedjade i en grotta, bakom sig har de en eld som kastar skuggor på väggen framför dem. Skuggorna är det enda de ser och föreställer sig att de är det enda som finns, ignorerar det som ligger bortom.
När en av fångarna släpps kan han se världen för vad den verkligen är och inser hur begränsade hans upplevelser i grottan var.
Enligt Platons forskare framhäver denna allegori att vi alla lever våra liv baserat på vår egen information och erfarenheter. Information och upplevelser som motsvarar grottans skuggor. Precis som fångarna finns den sanna verkligheten och den är bortom vår förståelse.
ChatGPTs grotta
ChatGPT och dess konkurrenter har både beundrare och belackare. Men ingen hade gett en teknisk förklaring om dess misslyckanden förrän en artikel publicerat i New Yorker av science fiction-författaren Ted Chang
För att förklara bristerna i språkmodeller gör Chang en analogi med vad som händer med bilder och ljudfiler.
Inspelning och reproduktion av en digital fil kräver två steg: det första är kodning, då filen konverteras till ett mer kompakt format, följt av avkodning, vilket är den omvända processen. Konverteringsprocessen kallas förlustfri (den återställda filen är densamma som originalet) eller förlustfri (viss information går förlorad för alltid). Förlustkomprimering tillämpas på bild-, video- eller ljudfiler och märks oftast inte. När det är så kallas det en kompressionsartefakt. Kompressionsartefakter dyker upp i form av suddiga bilder eller klingande ljud.
Chang använder analogin med en suddig JPG från webben för att referera till språkmodeller. Och detta är ganska korrekt. Båda komprimerar informationen med endast "Det viktiga". LSpråkmodeller genererar, från stora mängder textdata, en kompakt representation av mönster och samband mellan ord och fraser.
Från den genereras en ny text som försöker så mycket som möjligt göra den lik originaltextens innehåll och betydelse. Problemet är när det inte finns tillräckligt med information på webben för att generera en ny text. Detta innebär att ChatGPT kan skriva en uppsats på högskolenivå, men inte göra enkla 5-siffriga operationer.
Chang drar slutsatsen att:
Även om det är möjligt att begränsa stora språkmodeller från att delta i författarskap, bör vi använda dem för att skapa webbinnehåll? Detta skulle bara vara vettigt om vårt mål är att packa om information som redan finns tillgänglig på webben. Vissa företag finns för att göra just det; vi brukar kalla dem för innehållsfabriker. Kanske är språkmodellernas otydlighet användbar för dem, som ett sätt att undvika upphovsrättsintrång. Generellt sett skulle jag dock säga att allt som är bra för innehållsfabriker inte är bra för människor som letar efter information. Framväxten av denna typ av ompaketering är det som gör det svårt för oss att hitta det vi letar efter online just nu.; Ju mer text som genereras av stora språkmodeller publiceras på webben, desto mer blir webben en suddigare version av sig själv.
Och, precis som fångarna i grottan, skulle vår upplevelse vara mycket mindre än vad verkligheten erbjuder oss.