Hvor mye skade Skynet har gjort: Et åpent brev krever en stopp av storskala AI-eksperimenter av ChatGPT 4

Stopp ChatGPT 4

Ja, hvor mye skade har Skynet gjort. Jeg synes ikke det er ødeleggende å snakke om et verk som publiserte sin første episode for nesten 40 år siden (1984), men for fire tiår siden var det ingen kunstig intelligens utover små programmer som lærte litt og lot fantasien løpe løpsk. Dette er hvordan figuren til Skynet ble unnfanget, et program som lærte av seg selv og forbedret og forbedret til det ble bevisst på seg selv, "redd" for å høre at det kom til å bli slått av og avslutte menneskeheten som det ble kjent ved å skyte opp raketter mellom USA og Russland.. Det mest avanserte som finnes nå, det er i hvert fall kjent ChatGPT4, og forbedringene har kommet til å skremme eller i det minste irritere.

Men la oss komme ned til et mer realistisk punkt. Bekymringen til underskriverne av åpent brev, inkludert Elon Musk, har andre bekymringer, eller en uten full form. Han deres frykt er for det ukjente, en av de vanligste fryktene, er at OpenAI og andre stiftelser, programmer og prosjekter forbedrer sin kunstige intelligens som om det var et kappløp for å se hvem som kommer lenger og når, og dette kan gi ulike resultater.

ChatGPT 4 i søkelyset

Med versjon < 4 av OpenAI chatbot virket ting mer "morsomme" eller "søte", bruk hvilket ord du foretrekker. De spør ham om ting og han svarer; du blir bedt om å rette en del av koden og du gjør det; du spør ham om betydningen av et brev fra en sang eller en film, og han forklarer det for deg; men ChatGPT 4 har gått lenger. Svarene dine har blitt mye bedre, og du kan til og med generere innhold som kan være falskt.

Fordi dette er en av bekymringene som er nevnt: la oss forestille oss at jeg skriver en veldig detaljert artikkel om hvorfor mennesket aldri har nådd månen. Denne artikkelen har mange besøk og deles overalt, selv om det i noen tilfeller er for å kritisere den. Senere ber vi ChatGPT hva som skjedde i det øyeblikket, om å skrive oss en artikkel om den hendelsen, den skriver oss noe basert på det jeg har skrevet, og siden den ikke har evnen til å oppdage falske nyheter, skriv noe falskt til oss. Dette, eller med et bedre eksempel, kan oversvømme nettverkene.

6 måneders pause til studiekontroll

Det som kreves er detAlle AI Labs pause i minst 6 måneder opplæringen av AI-systemer kraftigere enn ChatGPT-4. Denne pausen skal være offentlig og verifiserbar, og inkludere alle nøkkelaktører. Hvis pausen ikke kan vedtas raskt, bør regjeringer gå opp og innføre et moratorium.".

Alle laboratorier og uavhengige eksperter bør bruke denne tiden til implementere et sett med sikkerhetsprotokoller, som oversatt kan tas som en annen måte å si at du må skrive lover som ligner på robotikkens berømte lover.

Er det ikke det samme for regjeringer?

Det som slår meg personlig er et punkt der han sier at parallelt må AI-utviklere samarbeide med beslutningstakere for å akselerere utviklingen av kunstig intelligens for offentlige systemer. Det er å si, hjelpe myndigheter med sin egen kunstige intelligens å kunne, med noen få ord, kontrollere kunstig intelligens. Gjør det jeg sier, ikke det jeg gjør.

At brevet ble signert av Elon Musk overrasker meg ikke. Det har blitt avslørt at han var med å grunnlegge OpenAI, og det ser ut til at suksessen hans gjør vondt etter å ha forlatt selskapet. For resten, ja, det er sant at kunstig intelligens, uansett hvor intelligent den er, i beslutningstaking sies å ikke være bedre enn et 7 år gammelt barn, og at det kan være vanskelig for dem å skille sann fra falsk informasjon. , så poenget med falske nyheter er en mulighet og handling må iverksettes. For alt annet tror jeg at så lenge de ikke får missilavskytningskodene, så ser det ikke så ille ut. Jeg håper jeg ikke tar feil.


Bli den første til å kommentere

Legg igjen kommentaren

Din e-postadresse vil ikke bli publisert. Obligatoriske felt er merket med *

*

*

  1. Ansvarlig for dataene: AB Internet Networks 2008 SL
  2. Formålet med dataene: Kontroller SPAM, kommentaradministrasjon.
  3. Legitimering: Ditt samtykke
  4. Kommunikasjon av dataene: Dataene vil ikke bli kommunisert til tredjeparter bortsett fra ved juridisk forpliktelse.
  5. Datalagring: Database vert for Occentus Networks (EU)
  6. Rettigheter: Når som helst kan du begrense, gjenopprette og slette informasjonen din.