Áno, koľko škôd Skynet napáchal. Nemyslím si, že rozprávanie o diele, ktoré vydalo svoju prvú epizódu takmer pred 40 rokmi (1984), kazí, ale pred štyrmi desaťročiami neexistovala žiadna umelá inteligencia nad rámec malých programov, ktoré by sa trochu učili a popustili uzdu vašej fantázii. Takto bola koncipovaná postava Skynetu, programu, ktorý sa učil sám od seba a zdokonaľoval sa a zlepšoval, až kým si neuvedomil sám seba, „vystrašený“ z toho, že bude vypnutý a ukončí ľudstvo, ako bolo známe odpálením rakiet. medzi USA a Ruskom.. Najpokročilejšie, čo teraz existuje, aspoň to je známe, je ChatGPT4, a jeho vylepšenia začali strašiť alebo aspoň otravovať.
Poďme však k realistickejšiemu bodu. Obavy signatárov otvorený list, vrátane Elona Muska, majú iné starosti, alebo jeden bez plnej formy. On ich strach je z neznáma, jednou z najčastejších obáv je, že OpenAI a ďalšie nadácie, programy a projekty zdokonaľujú svoju umelú inteligenciu, akoby išlo o preteky o to, kto sa dostane ďalej a kedy, a to môže viesť k rozdielnym výsledkom.
ChatGPT 4 v centre pozornosti
S verziou < 4 chatbota OpenAI sa veci zdali viac „zábavné“ alebo „roztomilejšie“, použite akékoľvek slovo, ktoré uprednostňujete. Pýtajú sa ho na veci a on odpovedá; budete požiadaní o opravu časti kódu a vy tak urobíte; spýtate sa ho na význam písmena z piesne alebo filmu a on vám to vysvetlí; ale ChatGPT 4 zašiel ešte ďalej. Vaše odpovede sa výrazne zlepšili a môžete dokonca generovať obsah, ktorý môže byť nepravdivý.
Pretože toto je jedna zo spomínaných obáv: predstavme si, že napíšem veľmi podrobný článok o tom, prečo človek nikdy nedosiahol Mesiac. Tento článok má veľa návštev a je zdieľaný všade, hoci v niektorých prípadoch ho kritizuje. Neskôr sa spýtame ChatGPT, čo sa v tom momente stalo, aby nám o tej udalosti napísal článok, napíše nám niečo na základe toho, čo som napísal a keďže nemá schopnosť zistiť falošné novinky, napíšte nám niečo nepravdivé. Toto alebo s lepším príkladom by mohlo zahltiť siete.
6-mesačná prestávka na kontrolu štúdia
To, čo sa vyžaduje, je toVšetky laboratóriá AI pozastaviť aspoň na 6 mesiacov tréning systémov AI výkonnejších ako ChatGPT-4. Táto pauza by mala byť verejná a overiteľná a mala by zahŕňať všetkých kľúčových hráčov. Ak pauzu nemožno uzákoniť rýchlo, vlády by mali zintenzívniť a zaviesť moratórium.".
Všetky laboratóriá tento čas by mali využiť nezávislí odborníci implementovať súbor bezpečnostných protokolov, čo by sa v preklade dalo brať ako ďalší spôsob, ako povedať, že musíte písať zákony podobné slávnym zákonom robotiky.
Nie je to tak aj pre vlády?
Osobne ma zaráža bod, v ktorom hovorí, že vývojári AI musia paralelne spolupracovať s tvorcami politiky, aby urýchlili vývoj umelej inteligencie pre vládne systémy. To znamená, pomáhať vládam s vlastnou umelou inteligenciou byť schopný, niekoľkými slovami, ovládať umelé inteligencie. Rob to, čo hovorím, nie to, čo robím.
To, že list podpísal Elon Musk, ma neprekvapuje. Ukázalo sa, že spoluzakladal OpenAI a zdá sa, že po odchode zo spoločnosti ho úspech bolí. Vo zvyšku áno, je pravda, že umelá inteligencia, nech je akokoľvek inteligentná, v rozhodovaní vraj nie je o nič lepšia ako 7-ročné dieťa a môže byť pre nich ťažké odlíšiť pravdivé od nepravdivé informácie., takže cieľom falošných správ je možnosť a je potrebné konať. Čo sa týka všetkého ostatného, myslím si, že pokiaľ nedostanú kódy na odpálenie rakiet, veci nevyzerajú tak zle. Dúfam, že sa nemýlim.