Kuinka paljon vahinkoa Skynet on tehnyt: ChatGPT 4:n avoin kirje vaatii lopettamaan laajamittaiset tekoälykokeet

Lopeta ChatGPT 4

Kyllä, kuinka paljon vahinkoa Skynet on tehnyt. En usko, että puhuminen teoksesta, joka julkaisi ensimmäisen jaksonsa melkein 40 vuotta sitten (1984), on pilaantunutta, mutta neljä vuosikymmentä sitten ei ollut tekoälyä muuta kuin pieniä ohjelmia, jotka oppivat vähän ja antoivat mielikuvituksesi valloilleen. Näin syntyi Skynet-hahmo, ohjelma, joka oppi itsestään ja kehittyi ja kehittyi, kunnes se tuli tietoiseksi itsestään, "pelättyi" kuullessaan, että se sammutetaan ja että ihmiskunta, kuten se tunnettiin, lopetetaan laukaisemalla ohjuksia. USA:n ja Venäjän välillä.. Edistyksellisin olemassa oleva, ainakin se, joka tiedetään, on ChatGPT4, ja sen parannukset ovat tulleet pelottamaan tai ainakin ärsyttämään.

Mutta mennään realistisempaan kohtaan. Allekirjoittajien huoli avaa kirje, mukaan lukien Elon Musk, on muita huolenaiheita tai yksi ilman täyttä muotoa. Hän heidän pelkonsa on tuntematonta, yksi yleisimmistä peloista on, että OpenAI ja muut säätiöt, ohjelmat ja projektit parantavat tekoälyään ikään kuin se olisi kilpailua siitä, kuka pääsee pidemmälle ja milloin, ja tämä voi antaa erilaisia ​​​​tuloksia.

ChatGPT 4 valokeilassa

OpenAI-chatbotin versiossa < 4 asiat vaikuttivat enemmän "hauskilta" tai "söpöiltä", käytä kumpaa sanaa haluat. He kysyvät häneltä asioita, ja hän vastaa; sinua pyydetään korjaamaan koodin osa ja teet niin; kysyt häneltä kappaleen tai elokuvan kirjeen merkitystä ja hän selittää sen sinulle; mutta ChatGPT 4 on mennyt pidemmälle. Vastauksesi ovat parantuneet paljon, ja voit jopa luoda sisältöä, joka voi olla väärää.

Koska tämä on yksi mainituista huolenaiheista: kuvitellaan, että kirjoitan hyvin yksityiskohtaisen artikkelin siitä, miksi ihminen ei ole koskaan saavuttanut kuuta. Tällä artikkelilla on useita käyntejä, ja se jaetaan kaikkialla, vaikka joissakin tapauksissa sen tarkoitus on kritisoida sitä. Myöhemmin pyydämme ChatGPT:tä, mitä tapahtui sillä hetkellä, kirjoittamaan meille artikkelin kyseisestä tapahtumasta, se kirjoittaa meille jotain kirjoittamani perusteella, ja koska sillä ei ole kykyä havaita fake uutiset, kirjoita meille jotain väärää. Tämä tai paremmalla esimerkillä saattaa tulvii verkot.

6 kuukauden tauko opiskelukontrolliin

Se mitä vaaditaanKaikki AI Labs keskeytä vähintään 6 kuukaudeksi ChatGPT-4:tä tehokkaampien tekoälyjärjestelmien koulutus. Tämän tauon tulee olla julkinen ja todennettavissa, ja sen tulee sisältää kaikki keskeiset toimijat. Jos taukoa ei voida toteuttaa nopeasti, hallitusten tulisi tehostaa toimintaa ja asettaa moratorio.".

Kaikki laboratoriot ja riippumattomien asiantuntijoiden tulisi käyttää tämä aika toteuttaa joukko suojausprotokollia, joka käännettynä voisi olla toinen tapa sanoa, että sinun on kirjoitettava lait, jotka ovat samanlaisia ​​​​kuin kuuluisat robotiikan lakit.

Eikö se ole sama hallituksille?

Minua henkilökohtaisesti hämmästyttää kohta, jossa hän sanoo, että samanaikaisesti tekoälykehittäjien on työskenneltävä poliittisten päättäjien kanssa nopeuttaakseen tekoälyn kehitystä hallituksen järjestelmiin. Tarkoittaen, auttaa hallituksia omalla tekoälyllään pystyä muutamalla sanalla hallitsemaan tekoälyä. Tee mitä sanon, älä mitä teen.

Se, että Elon Musk allekirjoitti kirjeen, ei yllätä minua. On paljastettu, että hän oli yksi OpenAI:n perustajista, ja näyttää siltä, ​​​​että hänen menestyksensä loukkaa yrityksestä lähtemisen jälkeen. Muilta osin on totta, että tekoälyn, olipa se kuinka älykkäitä tahansa, päätöksenteossa ei sanota olevan parempi kuin 7-vuotiaan lapsen, ja että heidän voi olla vaikeaa erottaa totuudesta. väärää tietoa. , joten valeuutiset ovat mahdollisia ja toimiin on ryhdyttävä. Kaiken muun osalta uskon, että niin kauan kuin heille ei anneta ohjuksen laukaisukoodeja, asiat eivät näytä niin pahalta. Toivottavasti en ole väärässä.


Ole ensimmäinen kommentti

Jätä kommentti

Sähköpostiosoitettasi ei julkaista. Pakolliset kentät on merkitty *

*

*

  1. Vastaa tiedoista: AB Internet Networks 2008 SL
  2. Tietojen tarkoitus: Roskapostin hallinta, kommenttien hallinta.
  3. Laillistaminen: Suostumuksesi
  4. Tietojen välittäminen: Tietoja ei luovuteta kolmansille osapuolille muutoin kuin lain nojalla.
  5. Tietojen varastointi: Occentus Networks (EU) isännöi tietokantaa
  6. Oikeudet: Voit milloin tahansa rajoittaa, palauttaa ja poistaa tietojasi.