Koliko je štete nanio Skynet: Otvoreno pismo poziva na zaustavljanje eksperimenata s umjetnom inteligencijom velikih razmjera od strane ChatGPT 4

Zaustavi ChatGPT 4

Da, koliko je štete napravio Skynet. Mislim da priča o djelu koje je svoju prvu epizodu objavila prije skoro 40 godina (1984.) nije kvarno, ali prije četiri decenije nije bilo umjetne inteligencije osim malih programa koji su malo naučili i pustili mašti na volju. Tako je zamišljena figura Skyneta, programa koji je učio sam od sebe i usavršavao se i usavršavao dok nije postao svjestan sebe, "uplašen" saznanja da će se ugasiti i uništiti čovječanstvo kakvo je poznato lansiranjem projektila između SAD i Rusije.. Najnaprednije što sada postoji, barem se zna, jeste ChatGPT4, a njegova poboljšanja su uplašila ili, barem, iznervirala.

Ali hajde da se spustimo na realniju tačku. Zabrinutost potpisnika otvoreno pismo, uključujući Elona Muska, imaju druge brige, ili jednu bez punog obrasca. On njihov strah je od nepoznatog, jedan od najčešćih strahova je da OpenAI i druge fondacije, programi i projekti poboljšavaju svoju umjetnu inteligenciju kao da se trka ko će dalje i kada, a to može dati različite rezultate.

ChatGPT 4 u centru pažnje

Sa verzijom < 4 OpenAI chat bota, stvari su izgledale "smješnije" ili "slatke", koristite riječ koju želite. Pitaju ga stvari i on odgovara; od vas se traži da ispravite dio koda i vi to učinite; pitate ga za značenje slova iz pesme ili filma i on vam to objašnjava; ali ChatGPT 4 je otišao dalje. Vaši odgovori su se dosta poboljšali, a možete čak i generirati sadržaj koji bi mogao biti lažan.

Jer ovo je jedna od zabrinutosti koja se spominje: zamislimo da napišem vrlo detaljan članak o tome zašto čovjek nikada nije stigao na Mjesec. Ovaj članak ima mnogo posjeta i svuda se dijeli, iako je u nekim slučajevima to da se kritikuje. Kasnije tražimo od ChatGPT-a šta se dogodilo u tom trenutku, da nam napiše članak o tom događaju, on nam piše nešto na osnovu onoga što sam napisao i pošto nema mogućnost da detektuje lažne vesti, napišite nam nešto lažno. Ovo, ili sa boljim primjerom, moglo bi preplaviti mreže.

6 mjeseci pauze za kontrolu učenja

Ono što se traži je toSve AI laboratorije pauzirajte najmanje 6 mjeseci obuku AI sistema moćnijih od ChatGPT-4. Ova pauza bi trebala biti javna i provjerljiva i uključivati ​​sve ključne aktere. Ako pauza ne može da se donese brzo, vlade bi trebale da se pojačaju i uvedu moratorij.".

Sve laboratorije a nezavisni stručnjaci bi trebali iskoristiti ovo vrijeme da implementirati skup sigurnosnih protokola, što bi se prevedeno moglo shvatiti kao drugi način da se kaže da morate pisati zakone slične poznatim zakonima robotike.

Zar nije isto za vlade?

Ono što mene lično pogađa je tačka u kojoj on kaže da, paralelno, programeri veštačke inteligencije moraju da rade sa kreatorima politike kako bi ubrzali razvoj veštačke inteligencije za vladine sisteme. to će reći, pomoći vladama svojom umjetnom inteligencijom da mogu, u nekoliko reči, da kontrolišu veštačku inteligenciju. Radi ono što kažem, a ne ono što radim.

To što je pismo potpisao Elon Musk me ne čudi. Otkriveno je da je suosnivač OpenAI-a, a čini se da je njegov uspjeh nakon odlaska iz kompanije boli. U ostalom, da, istina je da se za umjetnu inteligenciju, ma koliko inteligentna bila, u donošenju odluka kaže da nije ništa bolja od 7-godišnjeg djeteta i da im je možda teško razlikovati istinitu od lažne informacije, tako da je poenta lažnih vijesti mogućnost i mora se poduzeti akcija. Za sve ostalo, mislim da sve dok im se ne daju šifre za lansiranje projektila, stvari ne izgledaju tako loše. Nadam se da ne grešim.


Budite prvi koji komentarišete

Ostavite komentar

Vaša e-mail adresa neće biti objavljena. Obavezna polja su označena sa *

*

*

  1. Odgovoran za podatke: AB Internet Networks 2008 SL
  2. Svrha podataka: Kontrola neželjene pošte, upravljanje komentarima.
  3. Legitimacija: Vaš pristanak
  4. Komunikacija podataka: Podaci se neće dostavljati trećim stranama, osim po zakonskoj obavezi.
  5. Pohrana podataka: Baza podataka koju hostuje Occentus Networks (EU)
  6. Prava: U bilo kojem trenutku možete ograničiti, oporaviti i izbrisati svoje podatke.