Quanti danni ha fatto Skynet: una lettera aperta chiede di interrompere gli esperimenti di intelligenza artificiale su larga scala di ChatGPT 4

Arresta ChatGPT 4

Sì, quanti danni ha fatto Skynet. Non credo che parlare di un'opera che ha pubblicato il suo primo episodio quasi 40 anni fa (1984) sia uno spoiler, ma quattro decenni fa non c'era intelligenza artificiale oltre a piccoli programmi che imparavano un po' e lasciavano correre la tua immaginazione. È così che è stata concepita la figura di Skynet, un programma che ha imparato da solo e migliorato e migliorato fino a prendere coscienza di sé, "spaventato" nell'apprendere che stava per essere spento e porre fine all'umanità come era conosciuta lanciando missili tra Stati Uniti e Russia... Il più avanzato che esiste ora, almeno quello che si sa, lo è Chat GPT 4, e i suoi miglioramenti hanno finito per spaventare o, almeno, infastidire.

Ma veniamo a un punto più realistico. La preoccupazione dei firmatari dell'art lettera aperta, incluso Elon Musk, hanno altre preoccupazioni, o una senza una forma completa. Lui la loro paura è dell'ignoto, uno dei timori più comuni, è che OpenAI e altre fondazioni, programmi e progetti stiano migliorando le loro intelligenze artificiali come se fosse una corsa a chi arriva più lontano e quando, e questo può dare risultati disparati.

ChatGPT 4 sotto i riflettori

Con la versione <4 del chatbot OpenAI, le cose sembravano più "divertenti" o "carine", usa la parola che preferisci. Gli chiedono delle cose e lui risponde; ti viene chiesto di correggere una sezione di codice e lo fai; gli chiedi il significato di una lettera di una canzone o di un film e lui te lo spiega; ma ChatGPT 4 è andato oltre. Le tue risposte sono migliorate molto e puoi persino generare contenuto che potrebbe essere falso.

Perché questa è una delle preoccupazioni che viene menzionata: immaginiamo che io scriva un articolo molto dettagliato sul perché l'uomo non ha mai raggiunto la luna. Questo articolo ha molte visite ed è condiviso ovunque, anche se in alcuni casi c'è da criticarlo. Successivamente, chiediamo a ChatGPT cosa è successo in quel momento, di scriverci un articolo su quell'evento, ci scrive qualcosa in base a ciò che ho scritto e, poiché non ha la capacità di rilevare notizie false, scrivici qualcosa di falso. Questo, o con un esempio migliore, potrebbe inondare le reti.

Pausa di 6 mesi per studiare il controllo

Ciò che è richiesto è quelloTutti i laboratori di intelligenza artificiale sospendere per almeno 6 mesi l'addestramento di sistemi di IA più potenti di ChatGPT-4. Questa pausa dovrebbe essere pubblica e verificabile e includere tutti i principali attori. Se la pausa non può essere attuata rapidamente, i governi dovrebbero intensificare e istituire una moratoria.«.

Tutti i laboratori e gli esperti indipendenti dovrebbero usare questo tempo per implementare una serie di protocolli di sicurezza, che tradotto potrebbe essere preso come un altro modo per dire che bisogna scrivere leggi simili alle famose leggi della robotica.

Non è lo stesso per i governi?

Ciò che mi colpisce personalmente è un punto in cui afferma che, parallelamente, gli sviluppatori di intelligenza artificiale devono lavorare con i responsabili politici per accelerare lo sviluppo dell'intelligenza artificiale per i sistemi governativi. Vale a dire, aiutare i governi con la propria intelligenza artificiale essere in grado, in poche parole, di controllare le intelligenze artificiali. Fai quello che dico, non quello che faccio.

Che la lettera sia stata firmata da Elon Musk non mi sorprende. È stato rivelato che ha co-fondato OpenAI e sembra che, dopo aver lasciato l'azienda, il suo successo stia facendo male. Per il resto, sì, è vero che l'intelligenza artificiale, per quanto intelligente possa essere, nel processo decisionale si dice che non sia migliore di un bambino di 7 anni, e che potrebbe essere difficile per loro differenziare vero da informazioni false. , quindi il punto delle notizie false è una possibilità e occorre agire. Per tutto il resto, penso che finché non vengono forniti i codici di lancio del missile, le cose non sembrano così male. Spero di non sbagliarmi.


Puoi essere il primo a lasciare un commento

Lascia un tuo commento

L'indirizzo email non verrà pubblicato. I campi obbligatori sono contrassegnati con *

*

*

  1. Responsabile del trattamento: AB Internet Networks 2008 SL
  2. Scopo dei dati: controllo SPAM, gestione commenti.
  3. Legittimazione: il tuo consenso
  4. Comunicazione dei dati: I dati non saranno oggetto di comunicazione a terzi se non per obbligo di legge.
  5. Archiviazione dati: database ospitato da Occentus Networks (UE)
  6. Diritti: in qualsiasi momento puoi limitare, recuperare ed eliminare le tue informazioni.