Koliko je štete Skynet napravio: Otvoreno pismo poziva na zaustavljanje velikih eksperimenata umjetne inteligencije, ChatGPT 4

Zaustavi ChatGPT 4

Da, koliko je štete napravio Skynet. Mislim da pričanje o djelu koje je svoju prvu epizodu objavilo prije gotovo 40 godina (1984.) nije kvarno, ali prije četiri desetljeća nije bilo umjetne inteligencije osim malih programa koji su malo učili i puštali mašti na volju. Tako je zamišljena figura Skyneta, programa koji je učio sam od sebe i usavršavao se sve dok nije postao svjestan samog sebe, "uplašen" saznanjem da će se ugasiti i dokrajčiti čovječanstvo kakvo je bilo poznato lansiranjem projektila između SAD i Rusije.. Najnapredniji koji sada postoji, barem se zna, jest ChatGPT4, a njegova poboljšanja počela su plašiti ili, barem, smetati.

Ali prijeđimo na realniju točku. Zabrinutost potpisnika u otvoreno pismo, uključujući Elona Muska, imaju druge nedoumice ili one bez punog obrasca. On njihov strah je od nepoznatog, jedan od najčešćih strahova, jest da OpenAI i druge zaklade, programi i projekti unapređuju svoju umjetnu inteligenciju kao da je riječ o utrci tko će i kada stići dalje, a to može dati različite rezultate.

ChatGPT 4 u centru pažnje

S verzijom < 4 OpenAI chatbota stvari su se činile više "smiješne" ili "slatke", upotrijebite koju god riječ želite. Pitaju ga stvari, a on odgovara; od vas se traži da ispravite dio koda i vi to učinite; pitate ga za značenje slova iz pjesme ili filma i on vam to objasni; ali ChatGPT 4 je otišao dalje. Vaši su se odgovori dosta poboljšali, a možete čak i generirati sadržaj koji bi mogao biti lažan.

Jer ovo je jedna od zabrinutosti koja se spominje: zamislimo da napišem vrlo detaljan članak o tome zašto čovjek nikada nije stigao do Mjeseca. Ovaj članak ima mnogo posjeta i dijeli se posvuda, iako je u nekim slučajevima kritiziran. Kasnije pitamo ChatGPT što se dogodilo u tom trenutku, da nam napiše članak o tom događaju, on nam piše nešto na temelju onoga što sam ja napisao i, budući da nema mogućnost detektiranja lažna vijest, napiši nam nešto lažno. Ovo, ili bolji primjer, moglo bi preplaviti mreže.

6 mjeseci pauze za kontrolu studija

Ono što se traži je daSvi AI laboratoriji pauzirajte najmanje 6 mjeseci obuku AI sustava moćnijih od ChatGPT-4. Ova pauza bi trebala biti javna i provjerljiva te uključivati ​​sve ključne igrače. Ako se pauza ne može brzo provesti, vlade bi trebale djelovati i uvesti moratorij.”.

Svi laboratoriji a neovisni stručnjaci trebali bi iskoristiti ovo vrijeme da implementirati skup sigurnosnih protokola, što bi se prevedeno moglo shvatiti kao drugi način da se kaže da morate pisati zakone slične poznatim zakonima robotike.

Nije li isto i za vlade?

Ono što me osobno pogađa je točka u kojoj on kaže da, paralelno, programeri umjetne inteligencije moraju surađivati ​​s kreatorima politike kako bi ubrzali razvoj umjetne inteligencije za vladine sustave. to jest, pomoći vladama vlastitom umjetnom inteligencijom moći, u nekoliko riječi, kontrolirati umjetnu inteligenciju. Radi ono što ja kažem, a ne ono što ja radim.

To što je pismo potpisao Elon Musk me ne čudi. Otkriveno je da je suosnivač OpenAI-ja, a čini se da nakon odlaska iz tvrtke njegov uspjeh šteti. Za ostalo, da, istina je da se za umjetnu inteligenciju, koliko god inteligentna bila, u donošenju odluka kaže da nije bolja od 7-godišnjeg djeteta i da joj je teško razlikovati istinito od lažne informacije. , tako da je smisao lažnih vijesti mogućnost i potrebno je nešto poduzeti. Za sve ostalo, mislim da sve dok im se ne daju šifre za lansiranje projektila, stvari ne izgledaju tako loše. Nadam se da ne griješim.


Budite prvi koji će komentirati

Ostavite svoj komentar

Vaša email adresa neće biti objavljen. Obavezna polja su označena s *

*

*

  1. Odgovoran za podatke: AB Internet Networks 2008 SL
  2. Svrha podataka: Kontrola neželjene pošte, upravljanje komentarima.
  3. Legitimacija: Vaš pristanak
  4. Komunikacija podataka: Podaci se neće dostavljati trećim stranama, osim po zakonskoj obvezi.
  5. Pohrana podataka: Baza podataka koju hostira Occentus Networks (EU)
  6. Prava: U bilo kojem trenutku možete ograničiti, oporaviti i izbrisati svoje podatke.