Stvarni i zamišljeni rizici umjetne inteligencije (Mišljenje)

Modeli umjetne inteligencije ne mogu otkriti anomalije

Prije nekog vremena, moj Pablinux partner Rekao nam je o pismo koje su napisali nepodnošljivi Elon Musk i druge ličnosti tražeći pauzu u istraživanju umjetne inteligencije dok se ne preduzmu mjere za sprječavanje njegovih mogućih štetnih posljedica. To mi daje izgovor da pričam o stvarnim i zamišljenim rizicima vještačke inteligencije.

Rizikujući da napravim budalu od sebe neuspjelim predviđanjima u stilu Billa Gatesa, počinjem tako što kažem da po mom mišljenju najveći rizik trenutno je pucanje balona To će dot-com ostaviti do blagog šoka.

Stvarni i zamišljeni rizici umjetne inteligencije

Slažem se sa Pablinuksom da pismo ima više srednjovekovnog mračnjaštva nego naučnog rezonovanja. To dok nastavljaju da dijele ideju da treba uspostaviti zakonodavstvo kako bi se reguliralo korištenje njegovog sadržaja. Međutim, ne možemo poreći da je sva tehnologija zbunjivala i plašila ljude dok nije postala poznata.

Projekcija dolaska voza na početku kinematografije natjerala je ljude da pobjegnu iz sobe i, iako ima mnogo urbane legende, radijska verzija Rat svjetova Orson Welles izazvao je dosta panike među ljudima koji su vjerovali da je to stvarno.

Zapravo, ova vrsta softverske regulative nije ništa novo. Finansijska regulatorna tijela u mnogim zemljama zabranjuju programima poput Photoshopa da uređuju slike novčanica ili čekova.

1994. Tom Clancy je objavio Dug časti. Smatran stručnjakom za pitanja odbrane, Clancy izamislio napad na finansijski sistem Sjedinjenih Država tako što je manipulisao ekspertskim sistemima dioničkih društava u uvjerenju da se dešava kriza oslobađanje prodajnog vala koji je konačno proizveo krizu.

Prije nego što to odbacite kao fikciju, sjetite se da je u tom istom romanu, 7 godina prije Kula blizanaca, Clancy očekivao da bi Sjedinjene Države mogle pretrpjeti napade korištenjem komercijalnih aviona.

Zapravo ideja nije nova. film iz 1983 Ratne igre Pričalo se kako je tinejdžer zbunio kompjuter zadužen za lansiranje projektila da pomisli da Rusi napadaju.

Zamislimo da čujemo kako se približava galop. Naš prvi zaključak je da je to konj i 9 puta od 10 ćemo biti u pravu. Ali, uvijek postoji mogućnost da se radi o zebri koja je pobjegla iz zoološkog vrta. Doktori, astronauti i piloti aviona prolaze strogu obuku razmišljajući o zebrama, znajući šta da rade ako dođe do anomalije. Modeli umjetne inteligencije se treniraju imajući na umu konje.

Model poput onog koji koristi ChatGPT zasniva se na postojećim informacijama u njegovoj bazi znanja. Što se više puta ta informacija ponavlja, to joj pripisuje veći kredibilitet.

Budući da bi spremanje svih dostupnih informacija zahtijevalo puno prostora za pohranu, on samo čuva ono što je relevantno, a zatim ga ponovo gradi prema zahtevu koristeći strukturu koja se statistički čini najrelevantnijom. Stoga mnogo puta citiram reference koje ne postoje samo zato što je statistički vjerovatno da postoji dokument s tim naslovom koji sadrži taj sadržaj.

O zebrama i psima koji ne laju

Postoji li još neka stvar na koju želite da mi skrenete pažnju?
-Neobičan incident sa psom noću.
- Pas ništa nije radio noću.
To je bio čudan incident.

Sir Arthur Conan Doyle

Još jedan od rizika koji sistemi veštačke inteligencije imaju je ono što ne rade. I to je takođe važna tačka koju treba imati na umu.

Devedesetih godina prošlog vijeka jedan australski doktor je pretpostavio da su najčešći uzrok čireva bakterije. Pošto nije imao sjajnu biografiju, smijali su mu se u lice dok se nije pokazalo da je u pravu. Kao i mnoga druga naučna otkrića (rotacija planeta, činjenica da što više pauza pravite, to ste produktivniji) ona su suprotna mudrosti trenutka.

Ali, modeli inteligencije su zasnovani na mudrosti trenutka. U onim znanjima u kojima postoji konsenzus. Baš kao što su tehnologija zamrzavanja, automobili i dostava povećali broj pretilih, dostupnost alata umjetne tehnologije može nas učiniti lijenim intelektualcima i ugušiti inovacije.

Kao što vidite, ima dovoljno stvari o kojima treba brinuti osim straha od porobljavanja mašinama. I da još uvijek ne govorimo o pristupu izvornom kodu i privatnosti korisnika.


Ostavite komentar

Vaša e-mail adresa neće biti objavljena. Obavezna polja su označena sa *

*

*

  1. Odgovoran za podatke: AB Internet Networks 2008 SL
  2. Svrha podataka: Kontrola neželjene pošte, upravljanje komentarima.
  3. Legitimacija: Vaš pristanak
  4. Komunikacija podataka: Podaci se neće dostavljati trećim stranama, osim po zakonskoj obavezi.
  5. Pohrana podataka: Baza podataka koju hostuje Occentus Networks (EU)
  6. Prava: U bilo kojem trenutku možete ograničiti, oporaviti i izbrisati svoje podatke.