Mõni aeg tagasi, mu Pablinuxi partner Ta ütles meile edasi kiri, mille talumatu Elon Musk ja teised isiksused kirjutasid, paludes tehisintellekti uurimisel peatada kuni on võimalik võtta meetmeid selle võimalike kahjulike mõjude vältimiseks. See annab mulle vabanduse rääkida tehisintellekti tegelikest ja kujuteldavatest riskidest.
Riskides end lolliks teha ebaõnnestunud Bill Gatesi stiilis ennustustega, ütlen alustuseks, et minu arvates suurim oht praegu on mulli lõhkemine See jätab dot-comsile kerge šoki.
Tehisintellekti tegelikud ja väljamõeldud riskid
Nõustun Pablinuxiga, et kirjas on rohkem keskaegset obskurantismi kui teaduslikku arutluskäiku. See jagades samas jätkuvalt ideed, et tuleks kehtestada õigusaktid, mis reguleeriksid selle sisu kasutamist. Siiski ei saa me eitada, et kogu tehnoloogia ajas inimesi segadusse ja hirmutas, kuni see oli üldtuntud.
Rongi saabumise projektsioon filmikunsti alguses pani inimesi ruumist põgenema ja kuigi sellel on palju linnalegendi, on raadioversioon Maailmasõda Orson Welles tekitas parajalt paanikat inimeste seas, kes uskusid, et see on tõeline.
Tegelikult pole seda tüüpi tarkvara reguleerimine midagi uut. Paljude riikide finantsjärelevalveasutused keelavad sellistel programmidel nagu Photoshop rahatähtede või tšekkide kujutisi redigeerida.
Aastal 1994 avaldas Tom Clancy Auvõlg. Kaitseküsimuste eksperdiks peetud Clancy ikujutas ette rünnakut USA finantssüsteemi vastu, manipuleerides aktsiaseltside ekspertsüsteemidega, et uskuda, et kriis on toimumas müügilaine vallandamine, mis lõpuks kriisi tekitas.
Enne selle väljamõeldisena ümberlükkamist pidage meeles, et samas romaanis, 7 aastat enne kaksiktorne, eeldas Clancy, et Ameerika Ühendriigid võivad kannatada kommertslennukite rünnakute all.
Tegelikult pole idee uus. 1983. aasta film Sõjamängud See jutustas, kuidas üks teismeline ajas raketi väljalaskmise eest vastutava arvuti segadusse ja arvas, et venelased ründavad.
Kujutagem ette, et kuuleme galoppi lähenemas. Meie esimene järeldus on, et see on hobune ja 9 korda 10-st on meil õigus. Kuid alati on võimalus, et tegemist on loomaaiast põgenenud sebraga. Arstid, astronaudid ja lennukipiloodid saavad sebradele mõeldes range väljaõppe, teades, mida teha, kui ilmneb anomaalia. Tehisintellekti mudeleid treenitakse hobustele mõeldes.
ChatGPT kasutatav mudel põhineb selle teadmistebaasi olemasoleval teabel. Mida rohkem kordi seda teavet korratakse, seda suurema usaldusväärsuse see omistab.
Kuna kogu saadaoleva teabe salvestamine nõuaks palju salvestusruumi, see salvestab ainult asjakohase ja ehitab selle seejärel uuesti üles, kasutades struktuuri, mis tundub statistiliselt kõige asjakohasem. Seetõttu tsiteerin palju kordi viiteid, mida pole olemas lihtsalt seetõttu, et statistiliselt on tõenäoline, et selle pealkirjaga dokument sisaldab seda sisu.
Sebradest ja koertest, kes ei haugu
Kas on veel mõni punkt, millele soovite mu tähelepanu juhtida?
- Kummaline juhtum koeraga öösel.
- Koer ei teinud öösel midagi.
See oli kurioosne juhtum.
Sir Arthur Conan Doyle
Teine tehisintellektisüsteemide risk on see, mida nad ei tee. Ja see on ka oluline punkt, mida meeles pidada.
XNUMX. aastatel arvas üks Austraalia arst, et kõige levinum haavandite põhjus on bakterid. Kuna tal polnud suurt CV-d, naerdi talle näkku, kuni selgus, et tal oli õigus. Nagu paljud teised teaduslikud avastused (planeetide pöörlemine, see, et mida rohkem pause teed, seda produktiivsem oled), on need vastuolus hetketarkusega.
Kuid luuremudelid põhinevad hetketarkusel. Nendes teadmistes, milles on üksmeel. Nii nagu külmutamine tehnoloogia, autod ja kohaletoimetamine on suurendanud rasvunud inimeste arvu, võib tehistehnoloogia tööriistade kättesaadavus muuta meid laiskadeks intellektuaalideks ja lämmatada innovatsiooni.
Nagu näete, on piisavalt asju, mille pärast muretseda, peale selle, et kardate end masinate orjastada. Ja et me ikkagi ei räägi ligipääsust lähtekoodile ja kasutajate privaatsusest.