Azt mondják, hogy az újdonságok a klasszikusok. Egy korunk négy évszázada írt allegória ideális annak megértéséhez, hogy mik a korlátai a mesterséges intelligencia új alkalmazásainak. A "ChatGPT-barlangra" gondolok, amely nem több és nem is kevesebb, mint Platón barlangja híres allegóriájának adaptációja.
Nincs kifogásom a mesterséges intelligencia eszközök használata ellen. Sőt, úgy látom, sokkal könnyebbé teszik a munkát. De amíg olyan emberek használhatják, akik elegendő tudással rendelkeznek a munkája értékeléséhez.
Például; megkérhetjük a ChatGPT-t, hogy írjon egy WordPress beépülő modult, de ha valaki nem ismeri a PHP-t, az komoly biztonsági problémákat okozhat.
A barlang allegóriája
Platón görög filozófus volt, aki az ie XNUMX. és XNUMX. század között élt. Gondolatait mítoszok és allegóriák formájában fejezte ki. A legismertebb közülük a barlangé volt.
kirakott A Köztársaság, képzeli el az allegória egy barlangba láncolt embercsoport, mögöttük tűz van, ami árnyékot vet a falra előttük. Az árnyékok az egyetlen dolog, amit látnak, és azt képzelik, hogy ők az egyetlen dolog, ami létezik, figyelmen kívül hagyva azt, ami túl van.
Amikor az egyik fogoly kiszabadul, képes arra, hogy olyannak lássa a világot, amilyen valójában, és rájön, mennyire korlátozottak voltak a barlangban szerzett tapasztalatai.
Platón tudósai szerint ez az allegória rávilágít arra, hogy mindannyian saját információink és tapasztalataink alapján éljük az életünket. A barlang árnyékaival egyenértékű információk és tapasztalatok. Csakúgy, mint a foglyok, itt is létezik az igazi valóság, és ez meghaladja a felfogásunkat.
A ChatGPT barlangja
A ChatGPT-nek és versenytársainak egyaránt vannak tisztelői és ellenzők. Egy cikkig azonban senki sem adott technikai magyarázatot a hibáira közzétett a New Yorkerben Ted Chang tudományos-fantasztikus írótól
A nyelvi modellek hibáinak magyarázatára Chang analógiát mutat be azzal, ami a képekkel és hangfájlokkal történik.
A digitális fájl rögzítése és reprodukálása két lépést igényel: az első a kódolás, ekkor a fájl kompaktabb formátumba konvertálódik, majd dekódolás következik, ami a fordított folyamat. Az átalakítási folyamatot veszteségmentesnek (a visszaállított fájl megegyezik az eredetivel) vagy veszteségesnek (egyes információ örökre elveszik) nevezzük. A veszteséges tömörítést a rendszer kép-, videó- vagy hangfájlokon alkalmazza, és az esetek többségében nem észrevehető. Ha igen, azt tömörítési műterméknek nevezik. A tömörítési műtermékek elmosódás formájában jelennek meg a képeken vagy csörömpölve a hangban.
Chang a webről származó fuzzy JPG analógiáját használja a nyelvi modellekre való hivatkozáshoz. És ez elég pontos. Mindkettő tömöríti az információt, csak a „A fontos dolgot” tartva meg. LA nyelvi modellek nagy mennyiségű szöveges adatból generálják a szavak és kifejezések közötti minták és kapcsolatok kompakt reprezentációját.
Ebből egy új szöveget generálnak, amely a lehető legnagyobb mértékben hasonlít az eredeti szöveghez tartalmilag és jelentésében. A probléma az, ha nincs elég információ a weben egy új szöveg létrehozásához. Ez azt jelenti, hogy a ChatGPT képes főiskolai szintű esszét írni, de nem végez egyszerű 5 számjegyű műveleteket.
Chang arra a következtetésre jut, hogy:
Még ha lehetséges is korlátozni a nagy nyelvi modellek alkotásban való részvételét, használjuk őket webtartalom generálására? Ennek csak akkor lenne értelme, ha a célunk a weben már elérhető információk újracsomagolása. Egyes cégek azért léteznek, hogy ezt megtegyék; általában tartalomgyáraknak hívjuk őket. Talán a nyelvi modellek homályossága hasznos számukra, a szerzői jogok megsértésének elkerülése érdekében. Általánosságban azonban azt mondanám, hogy ami jó a tartalomgyáraknak, az nem jó azoknak, akik információt keresnek. Az ilyen típusú újracsomagolás térhódítása az, ami megnehezíti számunkra, hogy jelenleg az interneten megtaláljuk, amit keresünk.; Minél több nagy nyelvi modellek által generált szöveget tesznek közzé a weben, annál inkább válik a web önmaga homályosabb változatává.
És mint a foglyok a barlangban, a tapasztalatunk sokkal kisebb lenne, mint amit a valóság kínál.