Jā, cik lielu kaitējumu ir nodarījis Skynet. Es nedomāju, ka runas par darbu, kura pirmā sērija tika publicēta pirms gandrīz 40 gadiem (1984.), ir sabojāta, taču pirms četrām desmitgadēm nebija mākslīgā intelekta, izņemot mazas programmas, kas nedaudz iemācījās un ļāva vaļu jūsu iztēlei. Tā tika radīta Skynet figūra, programma, kas mācījās pati un pilnveidojās un pilnveidojās, līdz apzinājās sevi, "baidījās" uzzināt, ka tā tiks izslēgta un izbeigs cilvēci, kā to sauca, palaižot raķetes. starp ASV un Krieviju.. Visattīstītākais, kas pastāv šobrīd, vismaz tas, kas ir zināms, ir ChatGPT 4, un tā uzlabojumi ir biedējoši vai vismaz kaitinoši.
Bet pāriesim pie reālistiskāka punkta. Līguma parakstītāju bažas atklāta vēstule, tostarp Elonam Muskam, ir citas bažas vai tādas, kurām nav pilnas veidlapas. Viņš viņu bailes ir no nezināmā, vienas no visizplatītākajām bailēm, ir tas, ka OpenAI un citi fondi, programmas un projekti uzlabo savu mākslīgo intelektu, it kā tās būtu sacīkstes, lai noskaidrotu, kurš un kad tiks tālāk, un tas var dot atšķirīgus rezultātus.
ChatGPT 4 uzmanības centrā
Izmantojot OpenAI tērzēšanas robota versiju < 4, lietas šķita vairāk “smieklīgas” vai “jaukas”, izmantojiet jebkuru vārdu, kuru vēlaties. Viņi viņam jautā lietas, un viņš atbild; jums tiek lūgts izlabot koda sadaļu, un jūs to darāt; tu prasi viņam kādas dziesmas vai filmas vēstules nozīmi, un viņš tev to izskaidro; bet ChatGPT 4 ir gājusi tālāk. Jūsu atbildes ir daudz uzlabojušās, un jūs pat varat ģenerēt saturs, kas varētu būt nepatiess.
Jo šī ir viena no bažām, kas tiek minēta: iedomāsimies, ka es rakstu ļoti detalizētu rakstu par to, kāpēc cilvēks nekad nav sasniedzis Mēnesi. Šim rakstam ir daudz apmeklējumu, un tas tiek izplatīts visur, lai gan dažos gadījumos tas ir paredzēts, lai to kritizētu. Vēlāk mēs lūdzam ChatGPT, kas tajā brīdī notika, uzrakstīt mums rakstu par šo notikumu, tas mums uzraksta kaut ko, pamatojoties uz manis rakstīto, un, tā kā tam nav iespējas noteikt fake ziņas, uzrakstiet mums kaut ko nepatiesu. Tas vai ar labāku piemēru varētu pārpludināt tīklus.
6 mēnešu pārtraukums pētījuma kontrolei
Tas, kas ir vajadzīgs, ir tasVisas AI laboratorijas vismaz uz 6 mēnešiem pārtrauciet tādu AI sistēmu apmācību, kas ir jaudīgākas par ChatGPT-4. Šai pauzei ir jābūt publiskai un pārbaudāmai, un tajā jāiekļauj visi galvenie dalībnieki. Ja pauzi nevar ieviest ātri, valdībām būtu jāpastiprina un jāievieš moratorijs.".
Visas laboratorijas un neatkarīgiem ekspertiem vajadzētu izmantot šo laiku ieviest drošības protokolu kopumu, ko tulkotu varētu uztvert kā vēl vienu veidu, kā pateikt, ka jāraksta likumi līdzīgi slavenajiem robotikas likumiem.
Vai tas nav tas pats par valdībām?
Mani personīgi pārsteidz punkts, kurā viņš saka, ka paralēli AI izstrādātājiem ir jāsadarbojas ar politikas veidotājiem, lai paātrinātu mākslīgā intelekta attīstību valdības sistēmām. Proti, palīdzēt valdībām ar savu mākslīgo intelektu lai dažos vārdos varētu kontrolēt mākslīgo intelektu. Dariet to, ko es saku, nevis to, ko es daru.
Tas, ka vēstuli parakstījis Īlons Masks, mani nepārsteidz. Ir atklāts, ka viņš ir OpenAI līdzdibinātājs, un šķiet, ka pēc aiziešanas no uzņēmuma viņa panākumi sāp. Jā, tā ir taisnība, ka mākslīgais intelekts, lai cik inteliģents tas būtu, lēmumu pieņemšanā nav labāks par 7 gadus vecu bērnu, un viņiem var būt grūti atšķirt patieso no nepatiesa informācija. , tāpēc viltus ziņas ir iespējamas, un ir jārīkojas. Attiecībā uz visu pārējo, manuprāt, kamēr viņiem netiek doti raķetes palaišanas kodi, viss neizskatās tik slikti. Ceru, ka nekļūdos.