Ano, kolik škod Skynet napáchal. Nemyslím si, že mluvit o díle, které vydalo svou první epizodu před téměř 40 lety (1984), kazí, ale před čtyřmi desetiletími neexistovala žádná umělá inteligence nad rámec malých programů, které by se trochu učily a popouštěly uzdu vaší fantazii. Takto byla koncipována postava Skynetu, programu, který se učil sám od sebe a vylepšoval a zdokonaloval, dokud si neuvědomil sám sebe, „vyděšený“ se dozvědět, že bude vypnut a skoncovat s lidstvem, jak bylo známé odpalováním raket. mezi USA a Ruskem.. Nejpokročilejší, co nyní existuje, alespoň to je známo, je ChatGPT4, a jeho vylepšení začala děsit nebo alespoň otravovat.
Ale pojďme k realističtějšímu bodu. Obava signatářů otevřený dopis, včetně Elona Muska, mají jiné starosti, nebo jeden bez plné formy. On jejich strach je z neznáma, jednou z nejčastějších obav je, že OpenAI a další nadace, programy a projekty vylepšují své umělé inteligence, jako by šlo o závod o to, kdo se dostane dále a kdy, a to může přinést rozdílné výsledky.
ChatGPT 4 v centru pozornosti
S verzí < 4 chatbota OpenAI se věci zdály „vtipnější“ nebo „roztomilejší“, použijte jakékoli slovo, které preferujete. Ptají se ho na věci a on odpovídá; budete požádáni o opravu části kódu a vy tak učiníte; zeptáte se ho na význam písmene z písničky nebo filmu a on vám to vysvětlí; ale ChatGPT 4 zašel ještě dále. Vaše odpovědi se hodně zlepšily a můžete dokonce generovat obsah, který by mohl být nepravdivý.
Protože toto je jedna ze zmíněných obav: představme si, že napíšu velmi podrobný článek o tom, proč člověk nikdy nedosáhl Měsíce. Tento článek má mnoho návštěv a je sdílen všude, i když v některých případech je to kritizovat. Později se zeptáme ChatGPT, co se v tu chvíli stalo, aby nám napsal článek o této události, napíše nám něco na základě toho, co jsem napsal, a protože nemá schopnost detekovat falešné novinky, napište nám něco nepravdivého. To, nebo s lepším příkladem, by mohlo zahltit sítě.
6 měsíců přestávka na kontrolu studia
To, co je požadováno, je toVšechny laboratoře AI pozastavit alespoň na 6 měsíců výcvik systémů AI výkonnějších než ChatGPT-4. Tato pauza by měla být veřejná a ověřitelná a měla by zahrnovat všechny klíčové hráče. Pokud pauzu nelze uzákonit rychle, vlády by měly zintenzivnit a zavést moratorium.".
Všechny laboratoře a nezávislí odborníci by měli tento čas využít implementovat sadu bezpečnostních protokolů, což by se v překladu dalo brát jako další způsob, jak říct, že musíte psát zákony podobné slavným zákonům robotiky.
Není to stejné pro vlády?
Osobně mě zaráží bod, kdy říká, že vývojáři umělé inteligence musí paralelně spolupracovat s tvůrci politik, aby urychlili vývoj umělé inteligence pro vládní systémy. to znamená, pomoci vládám s jejich vlastní umělou inteligencí být schopen, několika slovy, ovládat umělé inteligence. Dělej, co říkám, ne to, co dělám.
Že dopis podepsal Elon Musk, mě nepřekvapuje. Bylo odhaleno, že spoluzaložil OpenAI a zdá se, že po odchodu ze společnosti jeho úspěch bolí. Ostatně ano, je pravda, že umělá inteligence, ať je sebevědomá, v rozhodování prý není o nic lepší než 7leté dítě a že pro ně může být těžké odlišit pravdivé od nepravdivé informace., takže smyslem falešných zpráv je možnost a je třeba podniknout kroky. Co se týče všeho ostatního, myslím si, že dokud nedostanou odpalovací kódy raket, nevypadá to tak špatně. Doufám, že se nemýlím.