Kanina pa, partner ko sa Pablinux Sinabi niya sa amin sa ang liham na isinulat ng hindi matiis na Elon Musk at iba pang mga personalidad na humihingi ng paghinto sa pananaliksik sa Artipisyal na Katalinuhan hanggang sa magawa ang mga hakbang upang maiwasan ang mga posibleng masamang epekto nito. Iyon ay nagbibigay sa akin ng dahilan upang pag-usapan ang tunay at naisip na mga panganib ng Artificial Intelligence.
Sa panganib na gumawa ng tanga sa aking sarili sa mga nabigong hula sa istilo ng Bill Gates, sisimulan ko sa pagsasabi na sa aking opinyon ang pinakamalaking panganib sa ngayon ay isang bubble burst Iiwan nito ang mga dot-com sa isang banayad na pagkabigla.
Ang tunay at naisip na mga panganib ng Artipisyal na Katalinuhan
Sumasang-ayon ako sa Pablinux na ang sulat ay may higit na medieval obscurantism kaysa sa siyentipikong pangangatwiran. yun habang patuloy na nagbabahagi ng ideya na ang batas ay dapat na maitatag upang ayusin ang paggamit ng nilalaman nito. Gayunpaman, hindi natin maitatanggi na ang lahat ng teknolohiya ay nalilito at nakakatakot sa mga tao hanggang sa ito ay kilala.
Ang projection ng pagdating ng isang tren sa simula ng cinematography ay nagpalayas sa mga tao sa silid at, bagama't marami itong alamat sa lunsod, ang bersyon ng radyo ng Digmaan ng Mundo ni Orson Welles ay nagdulot ng kaunting takot sa mga taong naniniwalang ito ay totoo.
Sa katunayan, ang ganitong uri ng regulasyon ng software ay hindi bago. Ipinagbabawal ng mga awtoridad sa regulasyon sa pananalapi sa maraming bansa ang mga programa tulad ng Photoshop sa pag-edit ng mga larawan ng mga banknote o tseke.
Noong 1994 inilathala ni Tom Clancy Utang ng karangalan. Itinuring na isang dalubhasa sa mga isyu sa pagtatanggol, si Clancy inaisip ang isang pag-atake sa sistema ng pananalapi ng Estados Unidos sa pamamagitan ng pagmamanipula sa mga ekspertong sistema ng mga kumpanya ng stock upang maniwala na may nangyayaring krisis. pagpapakawala ng isang selling wave na sa wakas ay nagbunga ng krisis.
Bago ito i-dismiss bilang fiction, tandaan na sa parehong nobelang iyon, 7 taon bago ang Twin Towers, inasahan ni Clancy na ang Estados Unidos ay maaaring makaranas ng mga pag-atake gamit ang mga komersyal na eroplano.
Sa totoo lang hindi na bago ang ideya. ang 1983 na pelikula Mga laro sa digmaan Ikinuwento nito kung paano nilito ng isang teenager ang computer na namamahala sa paglulunsad ng missile sa pag-aakalang umaatake ang mga Ruso.
Isipin natin na may naririnig tayong gallop na papalapit. Ang aming unang konklusyon ay ito ay isang kabayo at 9 na beses sa 10 ay magiging tama kami. Ngunit, palaging may posibilidad na ito ay isang zebra na nakatakas mula sa zoo. Ang mga doktor, astronaut at mga piloto ng eroplano ay tumatanggap ng mahigpit na pagsasanay sa pag-iisip tungkol sa mga zebra, alam kung ano ang gagawin kung may mangyari na anomalya. Ang mga modelo ng artificial intelligence ay sinanay na nasa isip ang mga kabayo.
Ang isang modelong tulad ng ginagamit ng ChatGPT ay batay sa umiiral na impormasyon sa base ng kaalaman nito. Kung mas maraming beses na inuulit ang impormasyong iyon, mas malaki ang kredibilidad na itinalaga nito.
Dahil ang pag-save ng lahat ng magagamit na impormasyon ay mangangailangan ng maraming espasyo sa imbakan, nagse-save lamang ito ng kung ano ang nauugnay at pagkatapos ay muling itatayo ito ayon sa hinihiling gamit ang istraktura na sa istatistika ay tila pinaka-nauugnay. Kaya naman, maraming beses kong binabanggit ang mga sanggunian na hindi umiiral dahil lamang sa istatistika na malamang na mayroong isang dokumento na may pamagat na iyon na naglalaman ng nilalamang iyon.
Tungkol sa mga zebra at aso na hindi tumatahol
Mayroon bang iba pang punto na nais mong makuha ang aking pansin?
-Ang kakaibang pangyayari ng aso sa gabi.
-Walang ginawa ang aso sa gabi.
Iyon ang nakakagulat na pangyayari.
Sir Arthur Conan Doyle
Isa pa sa mga panganib na mayroon ang mga Artificial Intelligence system ay kung ano ang hindi nila ginagawa. At ito rin ay isang mahalagang punto na dapat tandaan.
Noong XNUMXs, inakala ng isang doktor sa Australia na ang pinakakaraniwang sanhi ng mga ulser ay bakterya. Dahil wala siyang magandang resume, nagtawanan sila sa kanyang mukha hanggang sa napatunayang tama siya. Tulad ng maraming iba pang mga siyentipikong pagtuklas (ang pag-ikot ng mga planeta, ang katotohanan na ang mas maraming mga break na iyong ginagawa, mas produktibo ka) sila ay salungat sa karunungan ng sandali.
Ngunit, ang mga modelo ng Intelligence ay batay sa karunungan ng sandali. Sa mga kaalaman kung saan mayroong pinagkasunduan. Kung paanong ang nagyeyelong teknolohiya, mga sasakyan at paghahatid ay nagpalaki ng bilang ng mga napakataba, ang pagkakaroon ng mga tool ng Artipisyal na Teknolohiya ay maaaring maging tamad tayong intelektwal at makapigil sa pagbabago.
Tulad ng nakikita mo, may sapat na mga bagay na dapat ikabahala upang matakot na maging alipin ng mga makina. At hindi pa rin namin pinag-uusapan ang pag-access sa source code at ang privacy ng mga user.