Ha, Skynet qancha zarar keltirdi. Deyarli 40 yil oldin (1984) birinchi epizodini nashr etgan asar haqida gapirish yomon deb o'ylamayman, lekin bundan qirq yil oldin ozgina o'rganadigan va tasavvuringizni yo'qotadigan kichik dasturlardan tashqari sun'iy intellekt yo'q edi. Skynet figurasi shunday yaratilgan, u o'z-o'zidan o'rganilgan va o'z-o'zidan xabardor bo'lgunga qadar takomillashgan va takomillashgan, u o'chirilishini va raketalarni uchirish orqali insoniyatni yo'q qilishini bilishdan "qo'rqib ketgan". AQSh va Rossiya o'rtasida. . Hozirda mavjud bo'lgan eng ilg'or, hech bo'lmaganda ma'lum ChatGPT 4, va uning yaxshilanishi qo'rqitish yoki hech bo'lmaganda bezovta qilish uchun keldi.
Ammo keling, yanada realroq nuqtaga o'taylik. Shartnomani imzolagan shaxslarning tashvishi ochiq xat, shu jumladan, Ilon Maskning boshqa tashvishlari bor yoki to'liq shaklsiz. U ularning qo'rquvi noma'lum, eng keng tarqalgan qo'rquvlardan biri shundaki, OpenAI va boshqa fondlar, dasturlar va loyihalar o'zlarining sun'iy intellektlarini go'yo kim va qachon oldinga borishini ko'rish poygasi kabi takomillashtirmoqda va bu har xil natijalar berishi mumkin.
Indeks
ChatGPT 4 diqqat markazida
OpenAI chatbotining <4 versiyasida narsalar ko'proq "kulgili" yoki "yoqimli" bo'lib tuyuldi, qaysi so'zni afzal ko'rsangiz foydalaning. Undan biror narsa so'rashadi va u javob beradi; sizdan kod qismini tuzatish so'raladi va siz buni qilasiz; siz undan qo'shiq yoki filmdagi xatning ma'nosini so'raysiz va u sizga buni tushuntiradi; lekin ChatGPT 4 yanada uzoqlashdi. Javoblaringiz ancha yaxshilandi va siz hatto yaratishingiz mumkin noto'g'ri bo'lishi mumkin bo'lgan kontent.
Chunki bu ham tilga olinadigan tashvishlardan biridir: tasavvur qilaylik, men nima uchun odam hech qachon oyga etib bormaganligi haqida juda batafsil maqola yozdim. Ushbu maqola ko'plab tashriflarga ega va hamma joyda baham ko'riladi, garchi ba'zi hollarda uni tanqid qilish kerak. Keyinchalik, biz ChatGPT-dan o'sha paytda nima bo'lganini so'raymiz, o'sha voqea haqida maqola yozishni so'raymiz, u menga men yozgan narsalarga asoslanib biror narsa yozadi va uni aniqlash qobiliyatiga ega emas. soxta yangiliklar, bizga noto'g'ri narsa yozing. Bu yoki yaxshiroq misol bilan, tarmoqlarni suv bosishi mumkin.
O'qish nazorati uchun 6 oylik tanaffus
Talab qilinadigan narsa shuBarcha AI laboratoriyalari ChatGPT-6 dan kuchliroq AI tizimlarini o'qitishni kamida 4 oy davomida to'xtating. Bu pauza hammaga ochiq va tekshirilishi kerak va barcha asosiy oʻyinchilarni oʻz ichiga olishi kerak. Agar pauza tezda kuchga kirmasa, hukumatlar kuchayib, moratoriy joriy etishlari kerak.".
Barcha laboratoriyalar va mustaqil ekspertlar bu vaqtdan foydalanishlari kerak xavfsizlik protokollari to'plamini amalga oshirish, tarjima qilingan robototexnikaning mashhur qonunlariga o'xshash qonunlarni yozishingiz kerakligini aytishning yana bir usuli sifatida qabul qilinishi mumkin.
Hukumatlar uchun ham xuddi shunday emasmi?
Shaxsan meni hayratga soladigan narsa shuki, u parallel ravishda sunʼiy intellekt ishlab chiquvchilari hukumat tizimlari uchun sunʼiy intellektni rivojlantirishni tezlashtirish uchun siyosatchilar bilan hamkorlik qilishlari kerakligini aytadi. Demak, hukumatlarga o'zlarining sun'iy intellektlari bilan yordam berish bir necha so'z bilan aytganda, sun'iy intellektni boshqarish imkoniyatiga ega bo'lish. Men qilganimni emas, aytganimni qiling.
Xat Ilon Mask tomonidan imzolangani meni ajablantirmaydi. Ma'lum bo'lishicha, u OpenAI kompaniyasiga asos solgan va kompaniyani tark etganidan keyin uning muvaffaqiyati yomonlashayotganga o'xshaydi. Qolganlari uchun, ha, to'g'ri, sun'iy intellekt, ular qanchalik aqlli bo'lmasin, qaror qabul qilishda 7 yoshli boladan yaxshiroq emasligi va ular uchun haqiqatni farqlash qiyin bo'lishi mumkin. noto'g'ri ma'lumotlar. , shuning uchun soxta xabarlar ehtimoli va chora ko'rish kerak. Boshqa hamma narsada, menimcha, agar ularga raketa uchirish kodlari berilmasa, ishlar unchalik yomon ko'rinmaydi. Umid qilamanki, men adashmayman.
Birinchi bo'lib izohlang