Antaŭ iom da tempo, mia partnero Pablinux Li diris al ni pri la letero, kiun la neeltenebla Elon Musk kaj aliaj personecoj skribis petante paŭzon pri esplorado en Artefarita Inteligenteco ĝis mezuroj povas esti prenitaj por malhelpi ĝiajn eblajn malfavorajn efikojn. Tio donas al mi la pretekston por paroli pri la realaj kaj imagitaj riskoj de Artefarita Inteligenteco.
Kun la risko trompi min per malsukcesaj Bill Gates-stilaj prognozoj, mi komencas dirante, ke miaopinie la plej granda risko nun estas bobeleksplodo Tio lasos la punktokomojn ĝis milda ŝoko.
Indekso
La realaj kaj imagitaj riskoj de Artefarita Inteligenteco
Mi konsentas kun Pablinux, ke la letero havas pli mezepokan obskurantismon ol sciencan rezonadon. Tio dum daŭre kundividas la ideon ke leĝaro devus esti establita por reguligi la uzon de ĝia enhavo. Tamen ni ne povas nei, ke ĉiu teknologio konfuzis kaj timigis homojn ĝis ĝi estis konata.
La projekcio de la alveno de trajno ĉe la komenco de kinematografio igis homojn fuĝi de la ĉambro kaj, kvankam ĝi havas multe de urba legendo, la radioversio de Milito de la Mondoj de Orson Welles kaŭzis sufiĉe da paniko inter homoj kiuj kredis ke ĝi estis reala.
Fakte, ĉi tiu tipo de programara reguligo estas nenio nova. Financaj reguligaj aŭtoritatoj en multaj landoj malpermesas programojn kiel Photoshop redakti bildojn de monbiletoj aŭ ĉekoj.
En 1994 Tom Clancy publikigis Ŝuldo de honoro. Konsiderita fakulo pri defendaj aferoj, Clancy iimagis atakon kontraŭ la financa sistemo de Usono manipulante la spertajn sistemojn de la akciaj kompanioj por kredi ke krizo okazas. deĉenigante vendan ondon, kiu fine produktis la krizon.
Antaŭ ol forĵeti ĝin kiel fikcio, memoru, ke en tiu sama romano, 7 jarojn antaŭ la Ĝemelaj Turoj, Clancy antaŭvidis, ke Usono povus suferi atakojn per komercaj aviadiloj.
Fakte la ideo ne estas nova. la filmo de 1983 Militludoj Ĝi rakontis, kiel adoleskanto konfuzis la komputilon, kiu respondecas pri la misila lanĉo, por pensi, ke la rusoj atakas.
Ni imagu, ke ni aŭdas galopon alproksimiĝi. Nia unua konkludo estas, ke ĝi estas ĉevalo kaj 9 fojojn el 10 ni pravos. Sed, ĉiam ekzistas la ebleco, ke ĝi estas zebro, kiu eskapis el la zoo. Kuracistoj, astronaŭtoj kaj aviadilpilotoj ricevas striktan trejnadon pensante pri zebroj, sciante kion fari se anomalio okazas. Modeloj de artefarita inteligenteco estas trejnitaj kun ĉevaloj en menso.
Modelo kiel tiu uzata de ChatGPT baziĝas sur ekzistantaj informoj en sia sciobazo. Ju pli da fojoj tiu informo estas ripetita, des pli granda estas la kredindeco kiun ĝi atribuas.
Ĉar konservi ĉiujn disponeblajn informojn postulus multe da stokado, ĝi nur konservas tion, kio estas grava kaj poste rekonstruas ĝin laŭ la peto uzante la strukturon kiu statistike ŝajnas la plej grava. Tial, multfoje mi citas referencojn kiuj ne ekzistas nur ĉar statistike verŝajne estas dokumento kun tiu titolo kiu enhavas tiun enhavon.
Pri zebroj kaj hundoj, kiuj ne bojas
Ĉu estas iu alia punkto pri kiu vi volas atentigi mian atenton?
-La kurioza okazaĵo de la hundo nokte.
-La hundo faris nenion nokte.
Tio estis la kurioza okazaĵo.
Sinjoro Arthur Conan Doyle
Alia el la riskoj kiujn havas sistemoj de Artefarita Inteligenteco estas tio, kion ili ne faras. Kaj ĝi ankaŭ estas grava punkto por konsideri.
En la XNUMX-aj jaroj, aŭstralia kuracisto supozis ke la plej ofta kaŭzo de ulceroj estis bakterioj. Ĉar li ne havis bonegan resumon, ili ridis en lia vizaĝo ĝis li pruviĝis prava. Kiel multaj aliaj sciencaj malkovroj (la rotacio de la planedoj, la fakto ke ju pli da paŭzoj vi prenas, des pli produktiva vi estas) ili estas kontraŭaj al la saĝeco de la momento.
Sed, Inteligentaj modeloj baziĝas sur la saĝeco de la momento. En tiuj konoj en kiuj estas konsento. Same kiel frostigado de teknologio, aŭtoj kaj livero pliigis la nombron de grasuloj, la havebleco de Artefarita Teknologio-iloj povas igi nin maldiligentaj intelektuloj kaj sufoki novigon.
Kiel vi povas vidi, estas sufiĉe da aferoj por zorgi krom timi esti sklavigita de la maŝinoj. Kaj ke ni ankoraŭ ne parolas pri la aliro al la fontkodo kaj la privateco de la uzantoj.
Estu la unua por komenti