Kiek žalos padarė „Skynet“: „ChatGPT 4“ atviras laiškas ragina sustabdyti didelio masto AI eksperimentus

Sustabdyti ChatGPT 4

Taip, kiek žalos padarė „Skynet“. Nemanau, kad kalbėjimas apie kūrinį, kurio pirmasis epizodas buvo išleistas beveik prieš 40 metų (1984 m.), yra žalingas, tačiau prieš keturis dešimtmečius nebuvo dirbtinio intelekto, išskyrus mažas programas, kurios šiek tiek išmoko ir leidžia paleisti jūsų vaizduotę. Taip buvo sumanyta „Skynet“ figūrėlė – programa, kuri išmoko pati, tobulėjo ir tobulėjo, kol suvokė save, „išsigandusi“ sužinojusi, kad ji bus išjungta ir baigsis žmonija, kaip ji buvo žinoma, paleisdama raketas. tarp JAV ir Rusijos.. Pažangiausia, kas yra dabar, bent jau žinoma, yra ChatGPT4, o jo patobulinimai išgąsdino arba bent jau suerzino.

Bet pereikime prie realesnio taško. signatarų rūpestis atviras laiškas, įskaitant Eloną Muską, turi kitų rūpesčių arba tokių, kurie neturi visos formos. Jis jų baimė yra nežinomybės, viena iš labiausiai paplitusių baimių yra ta, kad OpenAI ir kiti fondai, programos ir projektai tobulina savo dirbtinį intelektą taip, tarsi būtų lenktyniaujama, kas ir kada pasieks toliau, o tai gali duoti skirtingų rezultatų.

„ChatGPT 4“ dėmesio centre

Naudojant < 4 OpenAI pokalbių roboto versiją, viskas atrodė labiau „juokinga“ arba „mieliška“, naudokite bet kurį žodį. Jie klausia jo dalykų, o jis atsako; jūsų prašoma pataisyti kodo skyrių ir jūs tai darote; klausiate jo laiško iš dainos ar filmo reikšmės ir jis jums tai paaiškina; bet „ChatGPT 4“ nuėjo toliau. Jūsų atsakymai labai patobulėjo ir netgi galite sukurti turinys, kuris gali būti klaidingas.

Nes tai yra vienas iš paminėtų rūpesčių: įsivaizduokime, kad aš rašau labai išsamų straipsnį apie tai, kodėl žmogus niekada nepasiekė mėnulio. Šis straipsnis yra daug kartų lankomas ir yra visur dalijamasi, nors kai kuriais atvejais jis skirtas kritikuoti. Vėliau mes prašome ChatGPT, kas atsitiko tą akimirką, parašyti mums straipsnį apie tą įvykį, jis parašo mums kažką pagal tai, ką parašiau, ir, kadangi neturi galimybės aptikti netikras naujienos, parašykite mums ką nors klaidingo. Tai arba geresnis pavyzdys gali užtvindyti tinklus.

6 mėnesių pertrauka tyrimo kontrolei

Ko reikia, taiVisos AI laboratorijos bent 6 mėnesiams pristabdyti AI sistemų, galingesnių nei ChatGPT-4, mokymą. Ši pauzė turėtų būti vieša ir patikrinama, joje turi būti visi pagrindiniai žaidėjai. Jei pauzės negalima greitai įvesti, vyriausybės turėtų imtis veiksmų ir paskelbti moratoriumą."

Visos laboratorijos ir nepriklausomi ekspertai turėtų išnaudoti šį laiką įdiegti saugos protokolų rinkinį, kuris išverstas galėtų būti suvokiamas kaip dar vienas būdas pasakyti, kad reikia rašyti įstatymus, panašius į garsiuosius robotikos dėsnius.

Argi ne tas pats ir vyriausybėms?

Man asmeniškai atrodo, kad jis sako, kad dirbtinio intelekto kūrėjai turi dirbti kartu su politikos formuotojais, kad paspartintų dirbtinio intelekto kūrimą vyriausybės sistemoms. Tai reiškia, padėti vyriausybėms jų pačių dirbtiniu intelektu gebėti, keliais žodžiais, valdyti dirbtinį intelektą. Daryk tai, ką sakau, o ne tai, ką darau.

Kad laišką pasirašė Elonas Muskas, manęs nestebina. Atskleista, kad jis įkūrė „OpenAI“ ir atrodo, kad pasitraukus iš įmonės jo sėkmė kenkia. Taip, tiesa, kad dirbtinis intelektas, kad ir koks protingas jis būtų, priimant sprendimus nėra geresnis už 7 metų vaiką ir kad jiems gali būti sunku atskirti tikrąjį nuo melaginga informacija. , todėl netikrų naujienų esmė yra galimybė ir reikia imtis veiksmų. Dėl viso kito, manau, kol jiems nesuteikiami raketos paleidimo kodai, viskas neatrodo taip blogai. Tikiuosi, neklystu.


Būkite pirmas, kuris pakomentuos

Palikite komentarą

Jūsų elektroninio pašto adresas nebus skelbiamas. Privalomi laukai yra pažymėti *

*

*

  1. Už duomenis atsakingas: AB Internet Networks 2008 SL
  2. Duomenų paskirtis: kontroliuoti šlamštą, komentarų valdymą.
  3. Įteisinimas: jūsų sutikimas
  4. Duomenų perdavimas: Duomenys nebus perduoti trečiosioms šalims, išskyrus teisinius įsipareigojimus.
  5. Duomenų saugojimas: „Occentus Networks“ (ES) talpinama duomenų bazė
  6. Teisės: bet kuriuo metu galite apriboti, atkurti ir ištrinti savo informaciją.