Fyrir nokkru síðan, Pablinux félagi minn Hann sagði okkur það á bréfið sem hinn óþolandi Elon Musk og aðrir persónuleikar skrifuðu þar sem þeir biðja um hlé á rannsóknum á gervigreind þar til hægt er að grípa til ráðstafana til að koma í veg fyrir hugsanleg skaðleg áhrif þess. Það gefur mér afsökun til að tala um raunverulega og ímyndaða áhættu gervigreindar.
Á hættu að gera sjálfan mig að fífli með misheppnuðum spám í Bill Gates-stíl byrja ég á því að segja að mínu mati Stærsta hættan núna er að bóla springi Það mun láta punktatölvurnar verða fyrir vægu áfalli.
Raunveruleg og ímynduð áhætta gervigreindar
Ég er sammála Pablinux um að bréfið hefur meiri miðaldaþekju heldur en vísindaleg rök. Það á sama tíma og þeir halda áfram að deila þeirri hugmynd að setja ætti lög til að setja reglur um notkun á efni þess. Við getum hins vegar ekki neitað því að öll tækni ruglaði og hræddi fólk þar til hún var vel þekkt.
Sýningin á komu lestar í upphafi kvikmyndatöku varð til þess að fólk flýði herbergið og þó að hún eigi sér mikla borgargoðsögn, útvarpsútgáfan af Heimsstyrjöldin eftir Orson Welles olli talsverðum skelfingu meðal fólks sem trúði því að þetta væri raunverulegt.
Reyndar er þessi tegund hugbúnaðarreglugerðar ekkert nýtt. Fjármálaeftirlitsyfirvöld í mörgum löndum banna forritum eins og Photoshop að breyta myndum af seðlum eða ávísunum.
Árið 1994 gaf Tom Clancy út Heiðursskuld. Talinn sérfræðingur í varnarmálum, Clancy iímyndað sér árás á fjármálakerfi Bandaríkjanna með því að hagræða sérfræðikerfum hlutabréfafyrirtækja til að trúa því að kreppa væri að eiga sér stað losaði sölubylgju sem loksins olli kreppunni.
Áður en þú vísar því á bug sem skáldskap, mundu að í sömu skáldsögu, 7 árum fyrir tvíburaturnana, sá Clancy fram á að Bandaríkin gætu orðið fyrir árásum með atvinnuflugvélum.
Reyndar er hugmyndin ekki ný. myndin frá 1983 Stríðsleikir Sagt var frá því hvernig unglingur ruglaði tölvunni sem sá um eldflaugaskotið og hélt að Rússar væru að gera árás.
Ímyndum okkur að við heyrum stökk nálgast. Fyrsta niðurstaða okkar er að þetta er hestur og 9 sinnum af 10 munum við hafa rétt fyrir okkur. En það er alltaf möguleiki á að það sé sebrahestur sem hafi sloppið úr dýragarðinum. Læknar, geimfarar og flugmenn fá stranga þjálfun í að hugsa um sebrahesta og vita hvað þeir eiga að gera ef frávik eiga sér stað. Gervigreindarlíkön eru þjálfuð með hesta í huga.
Líkan eins og það sem ChatGPT notar er byggt á fyrirliggjandi upplýsingum í þekkingargrunni þess. Því oftar sem upplýsingarnar eru endurteknar, því meiri trúverðugleiki er þeim úthlutað.
Þar sem vistun allra tiltækra upplýsinga myndi krefjast mikils geymslupláss, það vistar aðeins það sem skiptir máli og endurbyggir það síðan eins og beðið er um með því að nota það skipulag sem tölfræðilega virðist viðeigandi. Þess vegna vitna ég oft í tilvísanir sem eru ekki til bara vegna þess að tölfræðilega er líklegt að til sé skjal með þeim titli sem inniheldur það efni.
Um sebrahesta og hunda sem gelta ekki
Er eitthvað annað sem þú vilt vekja athygli mína á?
-Forvitnilegt atvik hundsins á nóttunni.
-Hundurinn gerði ekkert á nóttunni.
Það var hið forvitna atvik.
Sir Arthur Conan Doyle
Önnur af áhættunni sem gervigreindarkerfi hafa er það sem þau gera ekki. Og það er líka mikilvægt atriði sem þarf að hafa í huga.
Á tíunda áratugnum hélt ástralskur læknir að algengasta orsök sárs væri bakteríur. Þar sem hann var ekki með frábæra ferilskrá, hlógu þeir í andlitið á honum þar til rétt var sannað. Eins og margar aðrar vísindalegar uppgötvanir (snúningur pláneta, sú staðreynd að því fleiri hlé sem þú tekur, því afkastameiri ertu) eru þær andstæðar visku augnabliksins.
En greindarlíkön eru byggð á visku augnabliksins. Í þeirri þekkingu sem samstaða er um. Rétt eins og frystitækni, bílar og afhending hafa aukið fjölda offitusjúklinga, getur framboð gervitæknitækja gert okkur lata menntamenn og kæft nýsköpun.
Eins og þú sérð er nóg að hafa áhyggjur af fyrir utan að vera hræddur við að verða þrælaður af vélunum. Og að við tölum enn ekki um aðgang að frumkóðanum og friðhelgi notenda.
Vertu fyrstur til að tjá