Říká se, že pro novinky klasika. Alegorie napsaná čtyřmi stoletími naší doby je ideální k pochopení toho, jaké jsou limity nových aplikací umělé inteligence. Mám na mysli „jeskyni ChatGPT“, která není ani víc, ani míň než adaptace slavné alegorie Platónovy jeskyně.
Nemám žádné námitky proti používání nástrojů umělé inteligence. Ve skutečnosti si myslím, že práci hodně usnadňují. Ale dokud používat lidé, kteří mají dostatečné znalosti k hodnocení vaší práce.
Například; můžete požádat ChatGPT, aby napsal plugin WordPress, ale pokud nemáte znalosti PHP, může tento plugin způsobit vážné bezpečnostní problémy.
Alegorie jeskyně
Platón byl řecký filozof, který žil mezi XNUMX. a XNUMX. stoletím před naším letopočtem. Své myšlenky vyjadřoval formou mýtů a alegorií. Nejznámější z nich byla jeskyně.
Publikováno v Republika, představuje si alegorie skupina lidí připoutaných v jeskyni, za nimi mají oheň, který vrhá stíny na zeď před nimi. Stíny jsou jedinou věcí, kterou vidí a představují si, že jsou jedinou věcí, která existuje, ignorujíce to, co leží za nimi.
Když je jeden z vězňů propuštěn, je schopen vidět svět takový, jaký ve skutečnosti je, a uvědomuje si, jak omezené byly jeho zážitky v jeskyni.
Podle učenců Platóna tato alegorie zdůrazňuje, že všichni žijeme svůj život na základě vlastních informací a zkušeností. Informace a zkušenosti ekvivalentní stínům jeskyně. Stejně jako vězni existuje skutečná realita a ta je mimo naše chápání.
ChatGPT jeskyně
ChatGPT a jeho konkurenti mají oba obdivovatele a odpůrci. Až do vydání článku však nikdo nepodal technické vysvětlení jeho selhání zveřejněna v New Yorker od spisovatele sci-fi Teda Changa
K vysvětlení nedostatků v jazykových modelech používá Chang analogii s tím, co se děje s obrázky a zvukovými soubory.
Záznam a reprodukce digitálního souboru vyžaduje dva kroky: prvním je kódování, kdy je soubor převeden do kompaktnějšího formátu, po kterém následuje dekódování, což je opačný proces. Proces převodu se nazývá bezeztrátový (obnovený soubor je stejný jako původní) nebo ztrátový (některé informace jsou navždy ztraceny). Ztrátová komprese je aplikována na obrázky, video nebo zvukové soubory a většinou není patrná. Když je, nazývá se kompresní artefakt. Kompresní artefakty se projevují ve formě rozmazání v obrazech nebo cinkání ve zvuku.
Chang používá analogii fuzzy JPG z webu k odkazování na jazykové modely. A tohle je docela přesné. Oba komprimují informace a ponechávají pouze „To důležité“. LJazykové modely generují z velkého množství textových dat kompaktní reprezentaci vzorů a vztahů mezi slovy a frázemi.
Z něj se generuje nový text, který se snaží co nejvíce přiblížit obsahově a významově původnímu textu. Problém je, když na webu není dostatek informací pro vygenerování nového textu. To znamená, že ChatGPT je schopen napsat esej na vysokoškolské úrovni, ale nedělá jednoduché 5místné operace.
Chang dochází k závěru, že:
I když je možné zabránit velkým jazykovým modelům v účasti na tvorbě, měli bychom je používat ke generování webového obsahu? To by mělo smysl pouze v případě, že naším cílem je přebalit informace, které jsou již na webu dostupné. Některé společnosti existují právě proto; obecně jim říkáme továrny na obsah. Možná je pro ně nejasnost jazykových modelů užitečná jako způsob, jak se vyhnout porušování autorských práv. Obecně bych však řekl, že cokoli je dobré pro továrny na obsah, není dobré pro lidi, kteří hledají informace. Vzestup tohoto typu přebalování je to, co nám ztěžuje najít to, co právě teď hledáme online.; Čím více textu generovaného velkými jazykovými modely je publikováno na webu, tím více se web stává rozmazanější verzí sebe sama.
A stejně jako u vězňů v jeskyni by naše zkušenost byla mnohem menší, než co nám nabízí realita.