Кажуть, що для новинок класика. Алегорія, написана чотири століття нашої ери, ідеально підходить для розуміння того, якими є межі нових застосувань штучного інтелекту. Я маю на увазі «Печеру ChatGPT», яка є ні більше, ні менше, ніж адаптацією відомої алегорії про печеру Платона
Я не заперечую проти використання інструментів штучного інтелекту. Насправді, я вважаю, що вони значно полегшують роботу. Але поки використовувати люди, які мають достатньо знань, щоб оцінити вашу роботу.
Наприклад; Можна попросити ChatGPT написати плагін WordPress, але якщо комусь бракує знання PHP, цей плагін може спричинити серйозні проблеми з безпекою.
Алегорія печери
Платон був грецьким філософом, який жив між XNUMX-м і XNUMX-м століттями до нашої ери. Свої думки він викладав у формі міфів та алегорій. Найвідомішою з них була печера.
Опубліковано в Республіка, алегорія уявляє група людей, закутих у печеру, за ними є вогонь, який відкидає тіні на стіну перед ними. Тіні — це єдине, що вони бачать, і уявляють, що вони єдине, що існує, ігноруючи те, що лежить за ними.
Коли одного з в’язнів звільняють, він може побачити світ таким, яким він є насправді, і усвідомлює, наскільки обмеженим був його досвід у печері.
На думку дослідників Платона, ця алегорія підкреслює, що всі ми живемо на основі власної інформації та досвіду. Інформація та враження, еквівалентні тіням печери. Так само, як і в’язні, існує справжня реальність, і вона поза нашим розумінням.
Печера ChatGPT
У ChatGPT і його конкурентів є як шанувальники, так і шанувальники недоброзичливці. Але ніхто не дав технічного пояснення щодо його несправностей до публікації статті опубліковано у New Yorker письменника-фантаста Теда Чанга
Щоб пояснити недоліки мовних моделей, Чанг проводить аналогію з тим, що відбувається з зображеннями та аудіофайлами.
Запис і відтворення цифрового файлу вимагає двох кроків: перший - це кодування, під час якого файл перетворюється на більш компактний формат, після чого відбувається декодування, що є зворотним процесом. Процес перетворення називається без втрат (відновлений файл такий самий, як оригінал) або з втратами (деяка інформація втрачається назавжди). Стиснення із втратами застосовано до зображень, відео чи аудіофайлів і здебільшого непомітно. Коли це так, це називається артефактом стиснення. Артефакти стиснення проявляються у вигляді розмиття зображень або дзвінких звуків.
Чанг використовує аналогію з нечітким JPG з Інтернету для посилання на мовні моделі. І це досить точно. Обидва стискають інформацію, зберігаючи лише «важливе». ЛМовні моделі створюють на основі великих обсягів текстових даних компактне представлення моделей і зв’язків між словами та фразами.
З нього створюється новий текст, який намагається максимально схожий за змістом і змістом на вихідний текст. Проблема полягає в тому, що в Інтернеті недостатньо інформації для створення нового тексту. Це означає, що ChatGPT може написати твір на рівні коледжу, але не виконувати прості 5-значні операції.
Чанг робить висновок, що:
Навіть якщо можливо заборонити великі мовні моделі брати участь у створенні, чи варто використовувати їх для створення веб-вмісту? Це мало б сенс, лише якщо наша мета полягає в тому, щоб перепакувати інформацію, яка вже доступна в Інтернеті. Деякі компанії існують саме для цього; ми зазвичай називаємо їх контент-фабриками. Можливо, нечіткість мовних моделей корисна для них як спосіб уникнути порушення авторських прав. Хоча загалом я б сказав, що все, що добре для фабрик контенту, не підходить людям, які шукають інформацію. Поширення такого типу перепакування – це те, що ускладнює нам зараз пошук того, що ми шукаємо в Інтернеті.; Чим більше тексту, створеного великими мовними моделями, публікується в Інтернеті, тим більше Інтернет стає розмитішою версією самого себе.
І, як у в’язнів у печері, наш досвід був би набагато меншим, ніж пропонує нам реальність.