Hvor meget skade Skynet har gjort: Et åbent brev opfordrer til et stop for store AI-eksperimenter af ChatGPT 4

Stop ChatGPT 4

Ja, hvor meget skade har Skynet gjort. Jeg synes ikke, det er ødelæggende at tale om et værk, der udgav sin første episode for næsten 40 år siden (1984), men for fire årtier siden var der ingen kunstig intelligens ud over små programmer, der lærte lidt og lod fantasien løbe løbsk. Sådan blev figuren Skynet udtænkt, et program, der lærte af sig selv og forbedrede og forbedrede, indtil det blev bevidst om sig selv, "bange" for at erfare, at det ville blive slukket og afslutte menneskeheden, som det blev kendt ved at affyre missiler mellem USA og Rusland.. Det mest avancerede, der findes nu, er i det mindste kendt ChatGPT4, og dens forbedringer er kommet til at skræmme eller i det mindste irritere.

Men lad os komme ned til et mere realistisk punkt. Bekymringen for underskriverne af åbent brev, herunder Elon Musk, har andre bekymringer, eller en uden en fuldstændig formular. Han deres frygt er for det ukendte, en af ​​de mest almindelige frygt, er, at OpenAI og andre fonde, programmer og projekter forbedrer deres kunstige intelligenser, som om det var et kapløb om, hvem der kommer længere og hvornår, og det kan give forskellige resultater.

ChatGPT 4 i søgelyset

Med version < 4 af OpenAI chatbot, virkede tingene mere "sjove" eller "søde", brug det ord du foretrækker. De spørger ham om ting, og han svarer; du bliver bedt om at rette et kodeafsnit, og du gør det; du spørger ham om betydningen af ​​et brev fra en sang eller en film, og han forklarer det for dig; men ChatGPT 4 er gået længere. Dine svar er blevet meget bedre, og du kan endda generere indhold, der kan være falsk.

Fordi dette er en af ​​de bekymringer, der nævnes: Lad os forestille os, at jeg skriver en meget detaljeret artikel om, hvorfor mennesket aldrig har nået månen. Denne artikel har mange besøg og deles overalt, selvom det i nogle tilfælde er for at kritisere den. Senere beder vi ChatGPT, hvad der skete i det øjeblik, om at skrive en artikel til os om den begivenhed, det skriver os noget baseret på det, jeg har skrevet, og da det ikke har evnen til at opdage falske nyheder, skriv os noget falsk. Dette, eller med et bedre eksempel, kunne oversvømme netværkene.

6 måneders pause til studiekontrol

Det der kræves er detAlle AI Labs pause i mindst 6 måneder i træningen af ​​AI-systemer, der er stærkere end ChatGPT-4. Denne pause bør være offentlig og verificerbar og omfatte alle nøglespillere. Hvis pausen ikke kan gennemføres hurtigt, bør regeringerne optrappe og indføre et moratorium.".

Alle laboratorier og uafhængige eksperter bør bruge denne tid til implementere et sæt sikkerhedsprotokoller, som oversat kunne opfattes som en anden måde at sige, at du skal skrive love, der ligner robotteknologiens berømte love.

Er det ikke det samme for regeringer?

Det, der slår mig personligt, er et punkt, hvor han siger, at AI-udviklere sideløbende skal arbejde sammen med politiske beslutningstagere for at fremskynde udviklingen af ​​kunstig intelligens til offentlige systemer. Det vil sige, hjælpe regeringer med deres egen kunstige intelligens at være i stand til med få ord at kontrollere kunstige intelligenser. Gør hvad jeg siger, ikke hvad jeg gør.

At brevet var underskrevet af Elon Musk, overrasker mig ikke. Det er blevet afsløret, at han var med til at stifte OpenAI, og det ser ud til, at hans succes gør ondt efter at have forladt virksomheden. For resten, ja, det er rigtigt, at kunstig intelligens, hvor intelligent den end måtte være, i beslutningstagning ikke siges at være bedre end et 7-årigt barn, og at det kan være svært for dem at skelne sandt fra falsk information. , så pointen med falske nyheder er en mulighed, og der skal tages handling. For alt andet tror jeg, at så længe de ikke får missilopsendelseskoderne, så ser tingene ikke så slemt ud. Jeg håber ikke, jeg tager fejl.


Vær den første til at kommentere

Efterlad din kommentar

Din e-mailadresse vil ikke blive offentliggjort. Obligatoriske felter er markeret med *

*

*

  1. Ansvarlig for data: AB Internet Networks 2008 SL
  2. Formålet med dataene: Control SPAM, management af kommentarer.
  3. Legitimering: Dit samtykke
  4. Kommunikation af dataene: Dataene vil ikke blive kommunikeret til tredjemand, undtagen ved juridisk forpligtelse.
  5. Datalagring: Database hostet af Occentus Networks (EU)
  6. Rettigheder: Du kan til enhver tid begrænse, gendanne og slette dine oplysninger.