Пре неког времена, мој Паблинук партнер Он нам је рекао на писмо које су написали неподношљиви Елон Муск и друге личности тражећи паузу у истраживању вештачке интелигенције док се не предузму мере за спречавање његових могућих штетних ефеката. То ми даје изговор да причам о стварним и замишљеним ризицима вештачке интелигенције.
Ризикујући да направим будалу од себе неуспелим предвиђањима у стилу Била Гејтса, почињем тако што кажем да по мом мишљењу највећи ризик тренутно је пуцање мехура То ће дот-цом оставити до благог шока.
Стварни и замишљени ризици вештачке интелигенције
Слажем се са Паблинуксом да писмо има више средњовековног мрачњаштва него научног резоновања. То док настављају да деле идеју да треба успоставити законодавство које би регулисало употребу његовог садржаја. Међутим, не можемо порећи да је сва технологија збуњивала и плашила људе док није била позната.
Пројекција доласка воза на почетку кинематографије натерала је људе да беже из собе и, иако има много урбане легенде, радио верзија Рат светова аутора Орсона Велса изазвао је доста панике међу људима који су веровали да је то стварно.
У ствари, ова врста софтверске регулативе није ништа ново. Финансијски регулаторни органи у многим земљама забрањују програмима као што је Пхотосхоп да уређују слике новчаница или чекова.
1994. Том Цланци је објавио Дуг части. Сматран стручњаком за питања одбране, Цланци изамислио напад на финансијски систем Сједињених Држава тако што је манипулисао експертским системима акционарских друштава да поверују да се дешава криза ослобађање таласа продаје који је коначно произвео кризу.
Пре него што то одбаците као фикцију, сетите се да је у том истом роману, 7 година пре Кула близнакиња, Кленси предвидео да би Сједињене Државе могле да трпе нападе коришћењем комерцијалних авиона.
У ствари, идеја није нова. филм из 1983 Ратне игре Причало се како је тинејџер збунио компјутер задужен за лансирање пројектила да помисли да Руси нападају.
Замислимо да чујемо како се приближава галоп. Наш први закључак је да је то коњ и 9 пута од 10 ћемо бити у праву. Али, увек постоји могућност да се ради о зебри која је побегла из зоолошког врта. Лекари, астронаути и пилоти авиона пролазе строгу обуку мислећи на зебре, знајући шта да раде ако дође до аномалије. Модели вештачке интелигенције се тренирају имајући на уму коње.
Модел попут оног који користи ЦхатГПТ заснива се на постојећим информацијама у његовој бази знања. Што се више пута та информација понавља, већи је кредибилитет који јој приписује.
Пошто би за чување свих доступних информација било потребно много простора за складиштење, он само чува оно што је релевантно, а затим га поново гради према захтеву користећи структуру која се статистички чини најрелевантнијом. Отуда много пута наводим референце које не постоје само зато што је статистички вероватно да постоји документ са тим насловом који садржи тај садржај.
О зебрама и псима који не лају
Постоји ли још нешто на шта желите да ми скренете пажњу?
-Необичан инцидент са псом ноћу.
- Пас ништа није радио ноћу.
То је био чудан инцидент.
Сер Артур Конан Дојл
Још један од ризика који системи вештачке интелигенције имају је оно што не раде. И то је такође важна тачка коју треба имати на уму.
Деведесетих година прошлог века, један аустралијски лекар је претпоставио да су најчешћи узрок чирева бактерије. Пошто није имао сјајну биографију, смејали су му се у лице док се није показало да је у праву. Као и многа друга научна открића (ротација планета, чињеница да што више пауза правите, то сте продуктивнији) она су супротна мудрости тренутка.
Али, модели интелигенције су засновани на мудрости тренутка. У оним сазнањима у којима постоји консензус. Баш као што су технологија замрзавања, аутомобили и достава повећали број гојазних, доступност алата вештачке технологије може нас учинити лењим интелектуалцима и угушити иновације.
Као што видите, има довољно ствари о којима треба да бринете осим страха од поробљавања машина. И да још увек не говоримо о приступу изворном коду и приватности корисника.