Igen, mekkora kárt okozott a Skynet. Nem hiszem, hogy egy olyan műről beszélni, amely majdnem 40 éve (1984) jelent meg első epizódja, de négy évtizeddel ezelőtt nem volt mesterséges intelligencia a kis programokon kívül, amelyek tanultak egy kicsit és szabadjára engedték a fantáziát. Így született meg a Skynet figurája, egy program, amely magától tanult, és fejlődött és fejlődött, mígnem tudatosult önmagában, "megijedt" attól, hogy megtudja, hogy kikapcsolják, és rakéták kilövésével véget vetnek az emberiségnek. az USA és Oroszország között.. A jelenleg létező legfejlettebb, legalábbis ismert ChatGPT4, és fejlesztései megijesztenek vagy legalábbis bosszantóak.
De térjünk le egy reálisabb ponthoz. Az aláírók aggodalma a nyílt levél, beleértve Elon Muskot is, más aggályai vannak, vagy olyanok, amelyeknek nincs teljes űrlapja. Ő félelmük az ismeretlentől, az egyik leggyakoribb félelem, hogy az OpenAI és más alapítványok, programok és projektek úgy fejlesztik mesterséges intelligenciájukat, mintha versenyfutás lenne, hogy ki és mikor jut tovább, és ez eltérő eredményeket hozhat.
A ChatGPT 4 a reflektorfényben
Az OpenAI chatbot < 4-es verziójával a dolgok inkább „viccesnek” vagy „aranyosnak” tűntek, használd a kívánt szót. Kérdeznek tőle dolgokat, és ő válaszol; felkérik, hogy javítsa ki a kód egy részét, és ezt meg is teszi; megkérdezed tőle egy levél jelentését egy dalból vagy egy filmből, és ő elmagyarázza neked; de a ChatGPT 4 tovább ment. A válaszaid sokat fejlődtek, és még generálhatsz is hamis lehet.
Mert ez az egyik aggály, amit említenek: képzeljük el, hogy írok egy nagyon részletes cikket arról, hogy miért nem jutott el soha az ember a Holdra. Ezt a cikket sokszor meglátogatták, és mindenhol megosztják, bár egyes esetekben a kritika a cél. Később megkérjük a ChatGPT-t, hogy mi történt abban a pillanatban, hogy írjon nekünk egy cikket az eseményről, az általam leírtak alapján ír nekünk valamit, és mivel nem képes észlelni hamis hírek, írjon nekünk valami hamisat. Ez, vagy jobb példával, eláraszthatja a hálózatokat.
6 hónap szünet a vizsgálati kontrollhoz
Amire szükség van, az azMinden AI Labs legalább 6 hónapra szüneteltesse a ChatGPT-4-nél erősebb mesterséges intelligencia-rendszerek képzését. Ennek a szünetnek nyilvánosnak és ellenőrizhetőnek kell lennie, és minden kulcsfontosságú szereplőt magában kell foglalnia. Ha a szünetet nem lehet gyorsan életbe léptetni, a kormányoknak fokozniuk kell, és moratóriumot kell bevezetniük.”.
Minden laboratórium és a független szakértőknek ezt az időt ki kell használniuk biztonsági protokollokat valósítson meg, amelyet lefordítva úgy is lehetne értelmezni, mint egy másik kifejezést, hogy a robotika híres törvényeihez hasonló törvényeket kell írni.
Nem így van ez a kormányoknál is?
Ami engem személy szerint megdöbbent, az az, hogy azt mondja, hogy ezzel párhuzamosan az AI-fejlesztőknek együtt kell működniük a döntéshozókkal, hogy felgyorsítsák a mesterséges intelligencia fejlesztését a kormányzati rendszerek számára. Vagyis, saját mesterséges intelligenciájukkal segítik a kormányokat hogy néhány szóval irányítani lehessen a mesterséges intelligenciákat. Azt tedd, amit mondok, ne azt, amit teszek.
Nem lep meg, hogy a levelet Elon Musk írta alá. Kiderült, hogy társalapítója volt az OpenAI-nak, és úgy tűnik, hogy miután elhagyta a céget, fáj a sikere. A többire igen, igaz, hogy a mesterséges intelligencia, bármilyen intelligens is legyen, a döntéshozatalban állítólag semmivel sem jobb, mint egy 7 éves gyerek, és nehéz lehet megkülönböztetni az igazat. hamis információ. , tehát az álhírek lehetősége lehetséges, és lépéseket kell tenni. Minden mást illetően azt gondolom, hogy amíg nem kapják meg a rakétaindítási kódokat, addig a dolgok nem néznek ki olyan rosszul. Remélem nem tévedek.