Prieš kurį laiką mano Pablinux partneris Jis mums pasakė apie laiškas, kurį parašė nepakenčiamas Elonas Muskas ir kitos asmenybės, prašydami sustabdyti dirbtinio intelekto tyrimus kol bus imtasi priemonių užkirsti kelią galimam neigiamam jo poveikiui. Tai suteikia man pasiteisinimo kalbėti apie tikrą ir įsivaizduojamą dirbtinio intelekto riziką.
Rizikuodamas apsijuokti dėl nesėkmingų Billo Gateso prognozių, pradėsiu sakydamas, kad, mano nuomone, didžiausia rizika šiuo metu yra burbulo sprogimas Dėl to „dot-coms“ patirs lengvą šoką.
Tikroji ir įsivaizduojama dirbtinio intelekto rizika
Sutinku su Pablinuxu, kad laiške daugiau viduramžių tamsumo nei mokslinio samprotavimo. Tai ir toliau pritaria minčiai, kad reikėtų priimti teisės aktus, reglamentuojančius jų turinio naudojimą. Tačiau negalime paneigti, kad visos technologijos glumino ir gąsdino žmones, kol nebuvo gerai žinomos.
Projekcija apie traukinio atvykimą kinematografijos pradžioje privertė žmones pabėgti iš kambario ir, nors jame yra daug miesto legendų, radijo versija Pasaulių karas Orson Welles sukėlė nemažą paniką tarp žmonių, kurie tikėjo, kad tai tikra.
Tiesą sakant, tokio tipo programinės įrangos reguliavimas nėra jokia naujiena. Daugelio šalių finansų reguliavimo institucijos draudžia programoms, pvz., „Photoshop“, redaguoti banknotų ar čekių vaizdus.
1994 m. Tomas Clancy paskelbė Garbės skola. Gynybos klausimų ekspertu laikomas Clancy iįsivaizdavo ataką prieš Jungtinių Valstijų finansų sistemą manipuliuojant akcijų bendrovių ekspertinėmis sistemomis, įtikinant, kad vyksta krizė išlaisvino pardavimo bangą, kuri galiausiai sukėlė krizę.
Prieš atmesdami jį kaip fantastiką, atminkite, kad tame pačiame romane, likus 7 metams iki bokštų dvynių, Clancy numatė, kad JAV gali patirti išpuolius naudojant komercinius lėktuvus.
Tiesą sakant, idėja nėra nauja. 1983 metų filmas Karo žaidimai Jame buvo pasakojama, kaip paauglys supainiojo kompiuterį, atsakingą už raketos paleidimą, manydamas, kad rusai puola.
Įsivaizduokime, kad išgirstame artėjantį šuoliais. Pirmoji mūsų išvada – tai arklys ir 9 kartus iš 10 būsime teisūs. Tačiau visada yra tikimybė, kad tai iš zoologijos sodo pabėgęs zebras. Gydytojai, astronautai ir lėktuvų pilotai yra griežtai mokomi galvoti apie zebrus, žinoti, ką daryti, jei įvyktų anomalija. Dirbtinio intelekto modeliai treniruojami turint omenyje arklius.
Toks modelis, kaip naudojamas ChatGPT, yra pagrįstas esama informacija, esančia jo žinių bazėje. Kuo daugiau kartų ta informacija kartojama, tuo didesnis jos patikimumas.
Kadangi norint išsaugoti visą turimą informaciją, reikia daug vietos saugykloje, išsaugo tik tai, kas yra aktualu, o tada atkuria, kaip reikalaujama, naudodama struktūrą, kuri statistiškai atrodo tinkamiausia. Todėl daug kartų cituoju nuorodas, kurių nėra tik todėl, kad statistiškai tikėtina, kad yra dokumentas tokiu pavadinimu, kuriame yra toks turinys.
Apie zebrus ir šunis, kurie neloja
Ar yra koks nors kitas dalykas, į kurį norėtumėte atkreipti mano dėmesį?
-Įdomus šuns įvykis naktį.
-Šuo naktį nieko neveikė.
Toks buvo keistas įvykis.
Seras Arthuras Conanas Doyle'as
Kitas pavojus, kurį turi dirbtinio intelekto sistemos, yra tai, ko jos nedaro. Ir tai taip pat svarbu nepamiršti.
Dešimtajame dešimtmetyje vienas australų gydytojas manė, kad dažniausia opų priežastis yra bakterijos. Kadangi jis neturėjo puikaus gyvenimo aprašymo, jie juokėsi jam į akis, kol buvo įrodyta, kad jis teisus. Kaip ir daugelis kitų mokslinių atradimų (planetų sukimasis, tai, kad kuo daugiau pertraukų darai, tuo esi produktyvesnis), jie prieštarauja šių dienų išminčiai.
Tačiau žvalgybos modeliai yra pagrįsti akimirkos išmintimi. Tose žiniose, kuriose yra sutarimas. Lygiai taip pat, kaip užšaldomos technologijos, automobiliai ir pristatymas padidino nutukusių žmonių skaičių, dirbtinės technologijos įrankiai gali paversti mus tingiais intelektualais ir užgniaužti naujoves.
Kaip matote, yra pakankamai dalykų, dėl kurių reikia nerimauti, be baimės būti pavergtam mašinų. Ir kad mes vis dar nekalbame apie prieigą prie šaltinio kodo ir vartotojų privatumą.