Prije nekog vremena, moj Pablinux partner Rekao nam je na pismo koje su nepodnošljivi Elon Musk i druge ličnosti napisali tražeći pauzu u istraživanju umjetne inteligencije dok se ne poduzmu mjere za sprječavanje njegovih mogućih štetnih učinaka. To mi daje izgovor da govorim o stvarnim i izmišljenim rizicima umjetne inteligencije.
Uz rizik da napravim budalu od sebe s neuspjelim predviđanjima u stilu Billa Gatesa, počinjem govoreći da po mom mišljenju najveći rizik trenutno je pucanje balona To će dovesti dot-come do blagog šoka.
Stvarni i izmišljeni rizici umjetne inteligencije
Slažem se s Pablinuxom da pismo ima više srednjovjekovnog mračnjaštva nego znanstvenog razmišljanja. Da nastavljajući dijeliti ideju da treba uspostaviti zakone koji će regulirati korištenje sadržaja. Međutim, ne možemo poreći da je sva tehnologija zbunjivala i plašila ljude dok nije postala poznata.
Projekcija dolaska vlaka na početku kinematografije natjerala je ljude da pobjegnu iz sobe i, iako ima dosta urbane legende, radijska verzija Rat svjetova Orsona Wellesa izazvala je priličnu paniku među ljudima koji su vjerovali da je stvarna.
Zapravo, ova vrsta regulacije softvera nije ništa novo. Financijska regulatorna tijela u mnogim zemljama zabranjuju programima kao što je Photoshop uređivanje slika novčanica ili čekova.
Tom Clancy objavio je 1994 Dug časti. Smatran stručnjakom za pitanja obrane, Clancy izamislio napad na financijski sustav Sjedinjenih Država manipulirajući stručnim sustavima dioničkih društava da povjeruju da je kriza u tijeku pokrenuvši val prodaje koji je konačno proizveo krizu.
Prije nego što to odbacite kao fikciju, sjetite se da je u tom istom romanu, 7 godina prije Tornjeva blizanaca, Clancy predvidio da bi Sjedinjene Države mogle pretrpjeti napade korištenjem komercijalnih zrakoplova.
Zapravo ideja nije nova. film iz 1983 Ratne igre Ispričalo se kako je jedan tinejdžer zbunio računalo zaduženo za ispaljivanje projektila da pomisli da Rusi napadaju.
Zamislimo da čujemo približavanje galopa. Naš prvi zaključak je da je to konj i 9 puta od 10 bit ćemo u pravu. No, uvijek postoji mogućnost da se radi o zebri koja je pobjegla iz zoološkog vrta. Liječnici, astronauti i piloti zrakoplova prolaze strogu obuku o razmišljanju o zebrama, znajući što učiniti ako se dogodi anomalija. Modeli umjetne inteligencije treniraju se imajući na umu konje.
Model poput onog koji koristi ChatGPT temelji se na postojećim informacijama u svojoj bazi znanja. Što se više puta ta informacija ponovi, veća je vjerodostojnost koju ona daje.
Budući da bi spremanje svih dostupnih informacija zahtijevalo puno prostora za pohranu, sprema samo ono što je relevantno i zatim ga ponovno gradi prema zahtjevu koristeći strukturu koja se statistički čini najrelevantnijom. Stoga mnogo puta navodim reference koje ne postoje samo zato što je statistički vjerojatno da postoji dokument s tim naslovom koji sadrži taj sadržaj.
O zebrama i psima koji ne laju
Postoji li još neka točka na koju mi želite skrenuti pozornost?
- Neobičan događaj s psom noću.
-Pas noću nije radio ništa.
Bio je to čudan događaj.
Sir Arthur Conan Doyle
Još jedan od rizika koje sustavi umjetne inteligencije nose jest ono što ne čine. Također je važno imati na umu.
Devedesetih godina prošlog stoljeća jedan je australski liječnik pretpostavio da su najčešći uzrok čira bakterije. Budući da nije imao sjajan životopis, smijali su mu se u lice dok se nije pokazalo da je bio u pravu. Kao i mnoga druga znanstvena otkrića (rotacija planeta, činjenica da što više pauza uzimate, to ste produktivniji) ona su u suprotnosti s mudrošću trenutka.
No, modeli inteligencije temelje se na mudrosti trenutka. U onim znanjima u kojima postoji konsenzus. Baš kao što su tehnologija zamrzavanja, automobili i dostava povećali broj pretilih, dostupnost alata umjetne tehnologije može nas učiniti lijenim intelektualcima i ugušiti inovacije.
Kao što vidite, postoji dovoljno stvari o kojima se morate brinuti osim straha od porobljavanja strojeva. I da još uvijek ne govorimo o pristupu izvornom kodu i privatnosti korisnika.