Кажу да су за новине класика. Алегорија написана четири века наше ере је идеална да се разуме шта су границе нових примена вештачке интелигенције. Мислим на "ЦхатГПТ пећину" која је ни више ни мање него адаптација чувене алегорије Платонове пећине
Немам ништа против употребе алата вештачке интелигенције. У ствари, сматрам да они знатно олакшавају посао. Али све док користити људи који имају довољно знања да процене ваш рад.
На пример; може се затражити од ЦхатГПТ-а да напише додатак за ВордПресс, али ако неко не познаје ПХП тај додатак може да изазове озбиљне безбедносне проблеме.
Алегорија пећине
Платон је био грчки филозоф који је живео између XNUMX. и XNUMX. века пре нове ере. Своје мисли је износио у облику митова и алегорија. Најпознатији од њих био је онај о пећини.
Објављено у Ла Републица, алегорија замишља група људи окованих у пећини, иза себе имају ватру која баца сенке на зид испред себе. Сенке су једино што виде и замишљају да су једино што постоји, игноришући оно што лежи иза.
Када је један од затвореника пуштен, он је у стању да види свет какав он заиста јесте и схвата колико су његова искуства у пећини била ограничена.
Према Платоновим научницима, ова алегорија наглашава да сви живимо своје животе на основу сопствених информација и искустава. Информације и искуства еквивалентни сенкама пећине. Као и затвореници, постоји права стварност и она је ван нашег разумевања.
ЦхатГПТ пећина
ЦхатГПТ и његови конкуренти имају и обожаваоце и клеветници. Али, нико није дао техничко објашњење о његовим кваровима до чланка објављено у Њујоркеру писац научне фантастике Тед Чанг
Да би објаснио недостатке у језичким моделима, Чанг прави аналогију са оним што се дешава са сликама и аудио датотекама.
Снимање и репродукција дигиталне датотеке захтева два корака: први је кодирање, у ком тренутку се датотека конвертује у компактнији формат, након чега следи декодирање, што је обрнути процес. Процес конверзије се назива без губитака (обновљена датотека је иста као оригинална) или са губитком (неке информације се заувек изгубе). Компресија са губитком се примењује на слике, видео или аудио датотеке и већину времена није приметна. Када јесте, назива се артефакт компресије. Артефакти компресије се појављују у облику замућења на сликама или звецкања у звуку.
Чанг користи аналогију нејасног ЈПГ-а са веба да се односи на језичке моделе. И, ово је прилично тачно. Оба компримују информације задржавајући само „важну ствар“. ЛЈезички модели генеришу, из велике количине текстуалних података, компактно представљање образаца и односа између речи и фраза.
Из њега се генерише нови текст настојећи што је више могуће да буде сличан по садржају и значењу оригиналном тексту. Проблем је када на вебу нема довољно информација за генерисање новог текста. Ово значи да ЦхатГПТ може да напише есеј на нивоу колеџа, али не ради једноставне операције са 5 цифара.
Чанг закључује да:
Чак и ако је могуће ограничити велике језичке моделе да учествују у изради, да ли треба да их користимо за генерисање веб садржаја? Ово би имало смисла само ако је наш циљ да препакујемо информације које су већ доступне на Вебу. Неке компаније постоје да раде управо то; ми их углавном називамо фабрикама садржаја. Можда им је нејасност језичких модела корисна, као начин да се избегне кршење ауторских права. Међутим, генерално говорећи, рекао бих да све што је добро за фабрике садржаја није добро за људе који траже информације. Успон ове врсте поновног паковања је оно што нам отежава да тренутно пронађемо оно што тражимо на мрежи.; Што је више текста генерисаног великим језичким моделима објављено на Вебу, Веб више постаје мутнија верзија самог себе.
И, као и затвореници у пећини, наше искуство би било много мање од онога што нам реалност нуди.