Казват, че за новости класиката. Една алегория, написана през четири века от нашата ера, е идеална, за да разберем какви са границите на новите приложения на изкуствения интелект. Имам предвид „пещерата ChatGPT“, която е нито повече, нито по-малко от адаптация на известната алегория на пещерата на Платон
Нямам нищо против използването на инструменти с изкуствен интелект. Всъщност намирам, че те правят работата много по-лесна. Но докато да се използва от хора, които имат достатъчно познания, за да оценят вашата работа.
Например; човек може да поиска от ChatGPT да напише плъгин за WordPress, но ако няма познания по PHP, този плъгин може да причини сериозни проблеми със сигурността.
Алегорията на пещерата
Платон е гръцки философ, живял между XNUMX-ти и XNUMX-ти век пр.н.е. Той изрази мислите си под формата на митове и алегории. Най-известният от тях е този на пещерата.
Публикувано в Републиката, въобразява си алегорията група хора, оковани в пещера, зад тях има огън, който хвърля сенки върху стената пред тях. Сенките са единственото нещо, което те виждат и си въобразяват, че са единственото нещо, което съществува, игнорирайки това, което лежи отвъд.
Когато един от затворниците е освободен, той може да види света такъв, какъвто е в действителност, и осъзнава колко ограничени са били неговите преживявания в пещерата.
Според учените на Платон тази алегория подчертава, че всички живеем живота си въз основа на собствената си информация и опит. Информация и преживявания, еквивалентни на сенките на пещерата. Точно като затворниците, има истинска реалност и тя е извън нашето разбиране.
Пещерата на ChatGPT
ChatGPT и неговите конкуренти имат както почитатели, така и хулители. Но никой не беше дал техническо обяснение за неговите неуспехи до статия публикувано в New Yorker от писателя на научна фантастика Тед Чанг
За да обясни недостатъците в езиковите модели, Чанг прави аналогия с това, което се случва с изображенията и аудио файловете.
Записването и възпроизвеждането на цифров файл изисква две стъпки: първата е кодиране, в който момент файлът се преобразува в по-компактен формат, последвано от декодиране, което е обратният процес. Процесът на преобразуване се нарича без загуба (възстановеният файл е същият като оригинала) или със загуба (някоя информация се губи завинаги). Компресията със загуба се прилага към изображения, видео или аудио файлове и през повечето време не се забелязва. Когато е така, това се нарича артефакт на компресия. Артефактите на компресията се появяват под формата на замъгляване на изображения или дрънкане в аудио.
Чанг използва аналогията с размит JPG от мрежата, за да се позовава на езикови модели. И това е доста точно. И двете компресират информацията, запазвайки само „Важното“. ЛЕзиковите модели генерират, от големи количества текстови данни, компактно представяне на моделите и връзките между думи и фрази.
От него се генерира нов текст, който се опитва да направи възможно най-подобен по съдържание и смисъл на оригиналния текст. Проблемът е, когато в мрежата няма достатъчно информация за генериране на нов текст. Това означава, че ChatGPT може да напише есе на ниво колеж, но не и да прави прости 5-цифрени операции.
Чанг заключава, че:
Дори ако е възможно да се ограничи участието на големи езикови модели в авторството, трябва ли да ги използваме за генериране на уеб съдържание? Това би имало смисъл само ако нашата цел е да преопаковаме информация, която вече е достъпна в мрежата. Някои компании съществуват, за да правят точно това; обикновено ги наричаме фабрики за съдържание. Може би размитостта на езиковите модели е полезна за тях, като начин да избегнат нарушаване на авторски права. Най-общо казано обаче, бих казал, че каквото и да е добро за фабриките за съдържание, не е добро за хората, които търсят информация. Възходът на този тип преопаковане е това, което ни затруднява да намерим това, което търсим онлайн в момента.; Колкото повече текст, генериран от големи езикови модели, се публикува в мрежата, толкова повече мрежата става по-размита версия на себе си.
И подобно на затворниците в пещерата, нашият опит би бил много по-малък от това, което реалността ни предлага.