Говорят, что за новинками классика. Аллегория, написанная за четыре века нашей эры, идеально подходит для понимания того, каковы пределы новых приложений искусственного интеллекта. Я имею в виду «Пещеру ChatGPT», которая является не чем иным, как адаптацией знаменитой аллегории пещеры Платона.
Я не возражаю против использования инструментов искусственного интеллекта. На самом деле, я считаю, что они значительно облегчают работу. Но пока использоваться людьми, обладающими достаточными знаниями для оценки вашей работы.
Например; можно попросить ChatGPT написать плагин WordPress, но если кому-то не хватает знаний о PHP, этот плагин может вызвать серьезные проблемы с безопасностью.
Аллегория пещеры
Платон был греческим философом, жившим между V и IV веками до нашей эры. Свои мысли он выражал в форме мифов и аллегорий. Самым известным из них был пещерный.
Опубликовано в La República, аллегория представляет группа людей, прикованных цепями в пещере, позади них горит огонь, отбрасывающий тени на стену перед ними. Тени - единственное, что они видят, и воображают, что они - единственное, что существует, игнорируя то, что находится за их пределами.
Когда один из заключенных освобождается, он может увидеть мир таким, какой он есть на самом деле, и понимает, насколько ограниченным был его опыт в пещере.
По мнению ученых-платоновцев, эта аллегория подчеркивает, что все мы живем, основываясь на собственной информации и опыте. Информация и впечатления эквивалентны теням пещеры. Как и заключенные, существует истинная реальность, и она находится за пределами нашего понимания.
Пещера ChatGPT
ChatGPT и его конкуренты имеют как поклонников, так и недоброжелатели. Но никто не дал технического объяснения его неудачам, пока не была опубликована статья. опубликованный в New Yorker писателя-фантаста Теда Чанга
Чтобы объяснить недостатки языковых моделей, Чанг проводит аналогию с тем, что происходит с изображениями и аудиофайлами.
Запись и воспроизведение цифрового файла требуют двух шагов: первый — кодирование, после чего файл преобразуется в более компактный формат с последующим декодированием, что является обратным процессом.. Процесс преобразования называется без потерь (восстановленный файл не отличается от исходного) или с потерями (некоторая информация теряется навсегда). Сжатие с потерями применяется к изображениям, видео или аудио файлам и в большинстве случаев незаметно. Когда это так, это называется артефактом сжатия. Артефакты сжатия проявляются в виде размытия изображения или лязга звука.
Чанг использует аналогию с нечетким JPG из Интернета для обозначения языковых моделей. И это довольно точно. Оба сжимают информацию, оставляя только «важное». лЯзыковые модели генерируют из больших объемов текстовых данных компактное представление шаблонов и отношений между словами и фразами.
Из него генерируется новый текст, стараясь сделать его максимально похожим по содержанию и смыслу на исходный текст. Проблема в том, что в сети недостаточно информации для генерации нового текста. Это означает, что ChatGPT может написать эссе на уровне колледжа, но не может выполнять простые операции с 5-значными числами.
Чанг заключает, что:
Даже если можно ограничить участие больших языковых моделей в разработке, должны ли мы использовать их для создания веб-контента? Это имело бы смысл только в том случае, если бы наша цель состояла в том, чтобы переупаковать информацию, которая уже доступна в Интернете. Некоторые компании существуют именно для этого; обычно мы называем их фабриками контента. Возможно, нечеткость языковых моделей им полезна, как способ избежать нарушения авторских прав. Вообще говоря, я бы сказал, что все, что хорошо для фабрик контента, плохо для людей, ищущих информацию. Рост этого типа переупаковки — вот что мешает нам найти то, что мы ищем в Интернете прямо сейчас.; Чем больше текста, сгенерированного большими языковыми моделями, публикуется в Сети, тем более размытой становится Сеть.
И, подобно узникам в пещере, наш опыт был бы намного меньше того, что предлагает нам реальность.