Ze zeggen dat voor nieuwigheden de klassiekers. Een allegorie die vier eeuwen van onze jaartelling is geschreven, is ideaal om te begrijpen wat de grenzen zijn van de nieuwe toepassingen van kunstmatige intelligentie. Ik verwijs naar de "ChatGPT-grot", die niet meer of minder is dan een aanpassing van de beroemde allegorie van Plato's grot
Ik heb geen bezwaar tegen het gebruik van hulpmiddelen voor kunstmatige intelligentie. Sterker nog, ik merk dat ze het werk veel gemakkelijker maken. Maar zolang worden gebruikt door mensen die voldoende kennis hebben om uw werk te beoordelen.
Bijvoorbeeld; men kan ChatGPT vragen om een WordPress-plug-in te schrijven, maar als men geen kennis heeft van PHP, kan die plug-in ernstige beveiligingsproblemen veroorzaken.
De allegorie van de grot
Plato was een Griekse filosoof die leefde tussen de XNUMXe en XNUMXe eeuw voor Christus. Hij drukte zijn gedachten uit in de vorm van mythen en allegorieën. De bekendste daarvan was die van de grot.
Geplaatst in La República, verbeeldt de allegorie een groep mensen geketend in een grot, achter hen hebben ze een vuur dat schaduwen werpt op de muur voor hen. De schaduwen zijn het enige dat ze zien en stellen zich voor dat ze het enige zijn dat bestaat, waarbij ze negeren wat erachter ligt.
Wanneer een van de gevangenen wordt vrijgelaten, kan hij de wereld zien zoals die werkelijk is en beseft hij hoe beperkt zijn ervaringen in de grot waren.
Volgens Plato-geleerden benadrukt deze allegorie dat we allemaal ons leven leiden op basis van onze eigen informatie en ervaringen. Informatie en ervaringen gelijk aan de schaduwen van de grot. Net als de gevangenen is er de ware realiteit en die gaat ons bevattingsvermogen te boven.
De grot van ChatGPT
ChatGPT en zijn concurrenten hebben zowel bewonderaars als tegenstanders. Maar niemand had een technische uitleg gegeven over de mislukkingen tot een artikel gepubliceerd in New Yorker van sciencefictionschrijver Ted Chang
Om de gebreken in taalmodellen te verklaren, maakt Chang een analogie met wat er gebeurt met afbeeldingen en audiobestanden.
De opname en reproductie van een digitaal bestand vereist twee stappen: de eerste is de codering, waarna het bestand wordt geconverteerd naar een compacter formaat, gevolgd door decodering, wat het omgekeerde proces is. Het conversieproces wordt lossless genoemd (het herstelde bestand is hetzelfde als het origineel) of lossy (sommige informatie gaat voor altijd verloren). Compressie met verlies wordt toegepast op afbeeldings-, video- of audiobestanden en is meestal niet merkbaar. Wanneer dit het geval is, wordt dit een compressieartefact genoemd. Compressie-artefacten verschijnen in de vorm van vervaging in afbeeldingen of gerinkel in audio.
Chang gebruikt de analogie van een fuzzy JPG van het web om naar taalmodellen te verwijzen. En dit is vrij nauwkeurig. Beiden comprimeren de informatie en behouden alleen "Het belangrijkste". LTaalmodellen genereren uit grote hoeveelheden tekstgegevens een compacte weergave van de patronen en relaties tussen woorden en zinnen.
Hieruit wordt een nieuwe tekst gegenereerd die zoveel mogelijk wordt geprobeerd om deze qua inhoud en betekenis vergelijkbaar te maken met de originele tekst. Het probleem is wanneer er niet genoeg informatie op het web is om een nieuwe tekst te genereren. Dit betekent dat ChatGPT een essay op universitair niveau kan schrijven, maar geen eenvoudige vijfcijferige bewerkingen kan uitvoeren.
Chang concludeert dat:
Zelfs als het mogelijk is om te voorkomen dat grote taalmodellen deelnemen aan het schrijven, moeten we ze dan gebruiken om webinhoud te genereren? Dit zou alleen zinvol zijn als het ons doel is om informatie die al beschikbaar is op het web opnieuw te verpakken. Sommige bedrijven zijn er om precies dat te doen; we noemen ze over het algemeen inhoudsfabrieken. Misschien is de vaagheid van de taalmodellen nuttig voor hen, als een manier om inbreuk op het auteursrecht te voorkomen. Over het algemeen zou ik echter zeggen dat wat goed is voor contentfabrieken, niet goed is voor mensen die op zoek zijn naar informatie. De opkomst van dit soort herverpakkingen maakt het voor ons moeilijk om op dit moment online te vinden wat we zoeken.; Hoe meer tekst gegenereerd door grote taalmodellen op het web wordt gepubliceerd, hoe meer het web een wazigere versie van zichzelf wordt.
En, net als de gevangenen in de grot, zou onze ervaring veel kleiner zijn dan wat de realiteit ons biedt.