Bir muncha vaqt oldin, mening Pablinux sherigim U bizga aytdi haqida Chidab bo'lmas Ilon Mask va boshqa shaxslar sun'iy intellekt bo'yicha tadqiqotlarni to'xtatishni so'rab yozgan maktubi uning yuzaga kelishi mumkin bo'lgan salbiy oqibatlarini oldini olish uchun choralar ko'rilgunga qadar. Bu menga sun'iy intellektning haqiqiy va xayoliy xavflari haqida gapirish uchun bahona beradi.
Bill Geyts uslubidagi muvaffaqiyatsiz bashoratlar bilan o'zimni ahmoq qilish xavfi ostida, menimcha, shuni aytish bilan boshlayman. hozirda eng katta xavf - bu pufakchaning portlashi Bu dot-komlarni engil zarbaga olib keladi.
Sun'iy intellektning haqiqiy va xayoliy xavflari
Men Pablinux fikriga qo'shilaman, xat ilmiy fikrlashdan ko'ra ko'proq o'rta asr obskurantizmiga ega. Bu uning mazmunidan foydalanishni tartibga soluvchi qonunchilikni o'rnatish kerak degan fikrni baham ko'rishda davom etar ekan. Biroq, barcha texnologiyalar odamlarni ma'lum bo'lgunga qadar chalkashtirib yuborganini va qo'rqitayotganini inkor eta olmaymiz.
Kinematografiyaning boshida poyezdning kelishi haqidagi prognoz odamlarni xonadan qochib ketishga majbur qildi va garchi unda ko'p shahar afsonasi bo'lsa-da, radio versiyasi Dunyolar urushi Orson Uells tomonidan yozilgan, bu haqiqatga ishongan odamlar orasida biroz vahima qo'zg'atdi.
Aslida, ushbu turdagi dasturiy ta'minotni tartibga solish yangilik emas. Ko'pgina mamlakatlardagi moliyaviy tartibga solish organlari Photoshop kabi dasturlarga banknotlar yoki cheklar tasvirlarini tahrirlashni taqiqlaydi.
1994 yilda Tom Klansi nashr etildi Shon-sharaf qarzi Mudofaa masalalari bo'yicha ekspert hisoblangan Klensi iaktsiyadorlik kompaniyalarining ekspert tizimlarini inqiroz sodir bo'layotganiga ishontirish orqali AQSh moliya tizimiga hujum qilishni tasavvur qildi. oxir-oqibat inqirozni keltirib chiqaradigan savdo to'lqinini bo'shatish.
Uni fantastika deb rad etishdan oldin, esda tutingki, o'sha romanda, Egizak minoralardan 7 yil oldin, Klensi Qo'shma Shtatlar tijorat samolyotlari yordamida hujumlarga duch kelishi mumkinligini kutgan edi.
Aslida g'oya yangi emas. 1983 yil filmi Urush o'yinlari Unda o‘smir raketa uchirilishi uchun mas’ul kompyuterni ruslar hujum qilyapti, deb o‘ylab chalkashtirib yuborgani haqida hikoya qilingan.
Tasavvur qilaylik, biz yaqinlashib kelayotgan yugurish ovozini eshitamiz. Bizning birinchi xulosamiz shuki, bu ot va 9 tadan 10 marta biz to'g'ri bo'lamiz. Biroq, bu hayvonot bog'idan qochib ketgan zebra bo'lishi ehtimoli har doim mavjud. Shifokorlar, astronavtlar va samolyot uchuvchilari zebralar haqida o'ylash, anomaliya yuzaga kelganda nima qilish kerakligini bilish uchun qattiq tayyorgarlikdan o'tadilar. Sun'iy intellekt modellari otlarni hisobga olgan holda o'qitiladi.
ChatGPT tomonidan qo'llaniladigan model uning bilim bazasidagi mavjud ma'lumotlarga asoslanadi. Ushbu ma'lumot qanchalik ko'p takrorlansa, uning ishonchliligi shunchalik yuqori bo'ladi.
Mavjud barcha ma'lumotlarni saqlash juda ko'p saqlash joyini talab qilganligi sababli, u faqat tegishli bo'lgan narsani saqlaydi va keyin statistik jihatdan eng dolzarb bo'lib ko'rinadigan tuzilma yordamida so'ralganidek qayta quradi.. Shuning uchun, men ko'p marta mavjud bo'lmagan havolalarni keltiraman, chunki statistik ma'lumotlarga ko'ra, ushbu tarkibni o'z ichiga olgan hujjat mavjud.
Hurishmaydigan zebralar va itlar haqida
Mening e'tiborimni jalb qilmoqchi bo'lgan yana bir narsa bormi?
-Tunda itning qiziq voqeasi.
- Kechasi it hech narsa qilmadi.
Bu qiziq voqea edi.
Ser Artur Konan Doyl
Sun'iy intellekt tizimlarida mavjud bo'lgan xavflardan yana biri bu ular qilmaydigan narsalardir. Va bu ham yodda tutish kerak bo'lgan muhim nuqta.
XNUMX-yillarda avstraliyalik shifokor oshqozon yarasi paydo bo'lishining eng keng tarqalgan sababi bakteriyalar ekanligini taxmin qildi. U zo'r rezyumega ega bo'lmagani uchun, uning haqligi isbotlanmaguncha, ular uning yuziga kulishdi. Boshqa ko'plab ilmiy kashfiyotlar kabi (sayyoralarning aylanishi, qancha tanaffus qilsangiz, shunchalik samarali bo'lasiz) ular hozirgi zamon donoligiga ziddir.
Biroq, razvedka modellari hozirgi zamon donoligiga asoslanadi. Konsensus mavjud bo'lgan bilimlarda. Muzlatish texnologiyasi, avtomobillar va yetkazib berish semirish sonini ko'paytirgani kabi, Sun'iy texnologiya vositalarining mavjudligi bizni dangasa ziyolilarga aylantirishi va innovatsiyalarni bo'g'ishi mumkin.
Ko'rib turganingizdek, mashinalar tomonidan qul bo'lishdan qo'rqishning ustiga tashvishlanadigan narsalar etarli. Va biz hali ham manba kodiga kirish va foydalanuvchilarning maxfiyligi haqida gapirmayapmiz.
Birinchi bo'lib izohlang