Mówią, że nowości to klasyka. Alegoria napisana cztery wieki naszej ery jest idealna do zrozumienia, jakie są granice nowych zastosowań Sztucznej Inteligencji. Mam na myśli „Jaskinię ChatGPT”, która jest ni mniej, ni więcej tylko adaptacją słynnej alegorii jaskini Platona
Nie mam nic przeciwko wykorzystywaniu narzędzi sztucznej inteligencji. W rzeczywistości uważam, że znacznie ułatwiają pracę. Ale tak długo, jak być używany przez osoby, które mają wystarczającą wiedzę, aby ocenić twoją pracę.
Na przykład; można poprosić ChatGPT o napisanie wtyczki WordPress, ale jeśli ktoś nie zna PHP, ta wtyczka może powodować poważne problemy z bezpieczeństwem.
Alegoria jaskini
Platon był greckim filozofem żyjącym między V a IV wiekiem pne. Wyrażał swoje myśli w formie mitów i alegorii. Najbardziej znanym z nich była jaskinia.
Opublikowany w Republika, wyobraża sobie alegoria grupa ludzi przykutych łańcuchami w jaskini, za nimi mają ogień, który rzuca cienie na ścianę przed nimi. Cienie są jedyną rzeczą, którą widzą i wyobrażają sobie, że są jedyną rzeczą, która istnieje, ignorując to, co jest poza nimi.
Kiedy jeden z więźniów zostaje uwolniony, jest w stanie zobaczyć świat takim, jaki jest naprawdę i zdaje sobie sprawę, jak ograniczone były jego doświadczenia w jaskini.
Według uczonych Platona ta alegoria podkreśla, że wszyscy żyjemy w oparciu o własne informacje i doświadczenia. Informacje i doświadczenia równoważne z cieniami jaskini. Tak jak więźniowie, istnieje prawdziwa rzeczywistość i jest ona poza naszym zrozumieniem.
Jaskinia ChatGPT
ChatGPT i jego konkurenci mają zarówno wielbicieli, jak i przeciwnicy. Ale nikt nie podał technicznego wyjaśnienia jego niepowodzeń aż do artykułu opublikowane w New Yorker przez pisarza science fiction Teda Changa
Aby wyjaśnić wady modeli językowych, Chang dokonuje analogii do tego, co dzieje się z obrazami i plikami audio.
Nagrywanie i odtwarzanie pliku cyfrowego wymaga dwóch kroków: pierwszy to kodowanie, w którym to momencie plik jest konwertowany do bardziej zwartego formatu, po którym następuje dekodowanie, czyli proces odwrotny. Proces konwersji nazywany jest bezstratnym (przywrócony plik jest taki sam jak oryginał) lub stratnym (niektóre informacje są tracone bezpowrotnie). Kompresja stratna jest stosowana do plików graficznych, wideo lub audio i przez większość czasu jest niezauważalna. Kiedy tak jest, nazywa się to artefaktem kompresji. Artefakty kompresji pojawiają się w postaci rozmycia obrazu lub brzęczenia dźwięku.
Chang używa analogii do rozmytego pliku JPG z sieci, aby odnieść się do modeli językowych. I to jest całkiem dokładne. Oba kompresują informacje, pozostawiając tylko „to, co ważne”. ŁModele językowe generują z dużych ilości danych tekstowych zwartą reprezentację wzorców i relacji między słowami i frazami.
Z niego generowany jest nowy tekst, starając się w jak największym stopniu upodobnić go treścią i znaczeniem do tekstu oryginalnego. Problem pojawia się, gdy w sieci nie ma wystarczającej ilości informacji, aby wygenerować nowy tekst. Przekłada się to na to, że ChatGPT jest w stanie napisać esej na poziomie uniwersyteckim, ale nie wykonuje prostych 5-cyfrowych operacji.
Chang stwierdza, że:
Nawet jeśli możliwe jest ograniczenie udziału dużych modeli językowych w tworzeniu treści, czy powinniśmy ich używać do generowania treści internetowych? Miałoby to sens tylko wtedy, gdy naszym celem jest przepakowanie informacji, które są już dostępne w sieci. Niektóre firmy istnieją właśnie po to; ogólnie nazywamy je fabrykami treści. Być może rozmycie modeli językowych jest dla nich przydatne jako sposób na uniknięcie naruszenia praw autorskich. Ogólnie rzecz biorąc, powiedziałbym jednak, że to, co jest dobre dla fabryk treści, nie jest dobre dla osób poszukujących informacji. Wzrost popularności tego rodzaju przepakowywania sprawia, że obecnie trudno jest nam znaleźć to, czego szukamy w Internecie.; Im więcej tekstu generowanego przez duże modele językowe jest publikowanych w sieci, tym bardziej sieć staje się bardziej niewyraźną wersją samej siebie.
I podobnie jak więźniowie w jaskini, nasze doświadczenie byłoby znacznie mniejsze niż to, co oferuje nam rzeczywistość.