Tekoälyn todelliset ja kuvitellut riskit (lausunto)

Tekoälymallit eivät pysty havaitsemaan poikkeavuuksia

Vähän aikaa sitten Pablinux-kumppanini Hän kertoi meille päälle kirje, jonka sietämätön Elon Musk ja muut persoonallisuudet kirjoittivat pyytäen taukoa tekoälyn tutkimukseen kunnes voidaan ryhtyä toimenpiteisiin sen mahdollisten haitallisten vaikutusten estämiseksi. Se antaa minulle tekosyyn puhua tekoälyn todellisista ja kuvitteellisista riskeistä.

Riskillä, että teen itsestäni typeryksen epäonnistuneilla Bill Gates -tyylisillä ennusteilla, aloitan sanomalla, että mielestäni suurin riski tällä hetkellä on kuplan puhkeaminen Tämä jättää dot-comsille lievän shokin.

Tekoälyn todelliset ja kuvitellut riskit

Olen samaa mieltä Pablinuxin kanssa siitä, että kirjeessä on enemmän keskiaikaista obskurantismia kuin tieteellistä päättelyä. Että jakaa edelleen ajatus siitä, että olisi laadittava lainsäädäntöä sen sisällön käytön sääntelemiseksi. Emme kuitenkaan voi kiistää, että kaikki tekniikka hämmensi ja pelotti ihmisiä, kunnes se tunnettiin hyvin.

Junan saapumisen projektio elokuvan alussa sai ihmiset pakenemaan huoneesta, ja vaikka siinä on paljon urbaania legendaa, radioversio Maailmojen sota Orson Welles aiheutti melkoisen paniikkia ihmisten keskuudessa, jotka uskoivat sen olevan totta.

Itse asiassa tämäntyyppinen ohjelmistosääntely ei ole mitään uutta. Monien maiden rahoitusalan sääntelyviranomaiset kieltävät ohjelmia, kuten Photoshopin, muokkaamasta seteleiden tai shekkien kuvia.

Vuonna 1994 Tom Clancy julkaisi Kunniavelkaa. Puolustusasioiden asiantuntijana pidetty Clancy ikuvitteli hyökkäyksen Yhdysvaltojen rahoitusjärjestelmää vastaan ​​manipuloimalla osakeyhtiöiden asiantuntijajärjestelmiä uskomaan, että kriisi on meneillään vapauttaa myyntiaallon, joka lopulta aiheutti kriisin.

Ennen kuin hylkäät sen fiktiona, muista, että samassa romaanissa, 7 vuotta ennen kaksoistorneja, Clancy odotti, että Yhdysvallat voisi joutua hyökkäyksiin kaupallisilla lentokoneilla.

Itse asiassa idea ei ole uusi. vuoden 1983 elokuva Sotapelit Se kertoi, kuinka teini-ikäinen hämmensi ohjuksen laukaisusta vastaavan tietokoneen ajattelemaan, että venäläiset hyökkäsivät.

Kuvitellaan, että kuulemme laukan lähestyvän. Ensimmäinen johtopäätöksemme on, että se on hevonen ja 9 kertaa 10:stä olemme oikeassa. Mutta aina on mahdollista, että se on seepra, joka pakeni eläintarhasta. Lääkärit, astronautit ja lentokoneiden lentäjät saavat tiukkaa koulutusta seeproja ajattelusta ja tietävät, mitä tehdä, jos poikkeavuus tapahtuu. Tekoälymalleja koulutetaan hevosia ajatellen.

ChatGPT:n käyttämän mallin kaltainen malli perustuu tietopohjassaan oleviin tietoihin. Mitä useammin tiedot toistetaan, sitä enemmän uskottavuutta se antaa.

Koska kaikkien saatavilla olevien tietojen tallentaminen vaatisi paljon tallennustilaa, se tallentaa vain sen, mikä on olennaista, ja rakentaa sen sitten uudelleen pyynnöstä käyttämällä rakennetta, joka näyttää tilastollisesti oleellisimmalta. Tästä syystä lainaan monta kertaa viittauksia, joita ei ole olemassa vain siksi, että tilastollisesti on todennäköistä, että on olemassa asiakirja, jolla on tämä otsikko ja joka sisältää kyseisen sisällön.

Seeproista ja koirista, jotka eivät hauku

Onko jokin muu seikka, johon haluat kiinnittää huomioni?
- Kummallinen tapaus koirasta yöllä.
- Koira ei tehnyt yöllä mitään.
Se oli se kummallinen tapaus.

Sir Arthur Conan Doyle

Toinen tekoälyjärjestelmien riskeistä on se, mitä ne eivät tee. Ja se on myös tärkeä asia pitää mielessä.

XNUMX-luvulla australialainen lääkäri arveli, että yleisin haavaumien syy oli bakteeri. Koska hänellä ei ollut loistavaa ansioluetteloa, he nauroivat hänelle päin naamaa, kunnes hänen todettiin olevan oikeassa. Kuten monet muutkin tieteelliset löydöt (planeettojen pyöriminen, se, että mitä enemmän taukoja pidät, sitä tuottavampi olet), ne ovat vastoin tämän hetken viisautta.

Mutta älykkyysmallit perustuvat tämän hetken viisauteen. Siinä tiedossa, jossa vallitsee yksimielisyys. Aivan kuten teknologian, autojen ja toimitusten jäätyminen ovat lisänneet lihavien määrää, keinotekoisen teknologian työkalujen saatavuus voi tehdä meistä laiskoja intellektuelleja ja tukahduttaa innovaatiot.

Kuten näette, on tarpeeksi huolenaiheita sen lisäksi, että pelkäätte joutuvansa koneiden orjuuteen. Ja että emme edelleenkään puhu lähdekoodin pääsystä ja käyttäjien yksityisyydestä.


Ole ensimmäinen kommentti

Jätä kommentti

Sähköpostiosoitettasi ei julkaista. Pakolliset kentät on merkitty *

*

*

  1. Vastaa tiedoista: AB Internet Networks 2008 SL
  2. Tietojen tarkoitus: Roskapostin hallinta, kommenttien hallinta.
  3. Laillistaminen: Suostumuksesi
  4. Tietojen välittäminen: Tietoja ei luovuteta kolmansille osapuolille muutoin kuin lain nojalla.
  5. Tietojen varastointi: Occentus Networks (EU) isännöi tietokantaa
  6. Oikeudet: Voit milloin tahansa rajoittaa, palauttaa ja poistaa tietojasi.