Com dany ha fet Skynet: una carta oberta demana que s'aturin els experiments amb IA a gran escala per ChatGPT 4

Parar a ChatGPT 4

Sí, quant de mal ha fet Skynet. No crec que parlar d?una obra que va publicar el seu primer episodi fa gairebé 40 anys (1984) sigui fer spoiler, però fa quatre dècades no hi havia intel·ligència artificial més enllà de petits programes que aprenien una mica i deixar volar la imaginació. Així es va concebre la figura de Skynet, un programa que aprenia per si mateix i va millorar i va millorar fins a prendre consciència de si mateix, «espantar-se» en saber que seria apagat i acabar amb la humanitat com es coneixia llançant míssils entre els EUA i Rússia. . El més avançat que existeix ara, si més no que se sàpiga, és ChatGPT 4, i les seves millores han arribat a espantar o, si més no, molestar.

Però baixem a un punt més realista. La preocupació dels signants de la carta oberta, entre els quals hi ha Elon Musk, tenen altres preocupacions, o una sense una forma completa. El por que tenen és a allò desconegut, una de les pors més comunes, i és que OpenAI i altres fundacions, programes i projectes estan millorant les seves intel·ligències artificials com si fos una carrera per veure qui arriba més lluny i quan, i això pot donar resultats dispars.

ChatGPT 4 al punt de mira

Amb la versió < 4 del chatbot d'OpenAI, les coses semblaven més «gracioses» o «cuquis», feu servir la paraula que preferiu. Se li pregunten coses i respon; se li demana que corregeixi una secció de codi i ho fa; us demaneu el significat d'una lletra d'una cançó o una pel·lícula i us ho explica; però ChatGPT 4 ha anat més enllà. Les respostes han millorat molt, i fins i tot pot generar contingut que podria arribar a ser fals.

Perquè aquesta és una de les preocupacions que s'esmenten: imaginem que jo escric un article ben detallat de per què l'home mai no ha arribat a la lluna. Aquest article té moltes visites i es comparteix per tot arreu, encara que en alguns casos sigui per criticar-ho. Més tard, li preguntem a ChatGPT què va passar en aquell moment, que ens escrigui un article sobre aquest esdeveniment, ens escriu alguna cosa basada en el que jo he escrit i, com que no té la capacitat de detectar notícies falses, ens escriu alguna cosa falsa. Això, o amb algun exemple millor, podria inundar les xarxes.

6 mesos de pausa per estudiar el control

El que es demana és que «Tots els laboratoris d'IA pausin per almenys 6 mesos l'entrenament de sistemes d'IA més potents que ChatGPT-4. Aquesta pausa hauria de ser pública i verificable i incloure tots els actors clau. Si la pausa no pot ser promulgada ràpidament, els governs haurien de fer un pas endavant i instituir una moratòria".

Tots els laboratoris i experts independents han de fer servir aquest temps per implementar un grup de protocols de seguretat, el que traduït podria prendre com una altra manera de dir que cal escriure unes lleis similars a les famoses lleis de la robòtica.

No és el mateix per als governs?

El que em crida personalment l'atenció és un punt en què diu que, en paral·lel, els desenvolupadors d'IA han de treballar amb els creadors de polítiques per accelerar el desenvolupament intel·ligència artificial per a sistemes de govern. És a dir, ajudar els governs amb la seva pròpia intel·ligència artificial per poder, en poques paraules, controlar les intel·ligències artificials. Feu el que dic, no el que faig.

Que la carta l'hagi firmada Elon Musk no em sorprèn. S'ha sabut que va cofundar OpenAI, i sembla que, després d'abandonar la companyia, el seu èxit li està fent mal. Pels altres, sí, és cert que les intel·ligències artificials, per molt intel·ligents que siguin, a la presa de decisions es diu que no són millors que un nen/a de 7 anys, i que li pot costar diferenciar informació veraç de la falsa , de manera que el punt de les fake news sí que és una possibilitat i cal prendre mesures. Per tota la resta, crec que mentre no se'ls doni els codis de llançaments de míssils la cosa no pinta tan malament. Espero no equivocar-me.


El contingut d'l'article s'adhereix als nostres principis de ètica editorial. Per notificar un error punxa aquí.

Sigues el primer a comentar

Deixa el teu comentari

La seva adreça de correu electrònic no es publicarà. Els camps obligatoris estan marcats amb *

*

*

  1. Responsable de les dades: AB Internet Networks 2008 SL
  2. Finalitat de les dades: Controlar l'SPAM, gestió de comentaris.
  3. Legitimació: El teu consentiment
  4. Comunicació de les dades: No es comunicaran les dades a tercers excepte per obligació legal.
  5. Emmagatzematge de les dades: Base de dades allotjada en Occentus Networks (UE)
  6. Drets: En qualsevol moment pots limitar, recuperar i esborrar la teva informació.