Skynet хэр их хохирол учруулсан бэ: ChatGPT 4-ээр том хэмжээний хиймэл оюун ухааны туршилтуудыг зогсоохыг уриалсан нээлттэй захидал

Тийм ээ, Skynet ямар их хохирол учруулсан бэ. Бараг 40 жилийн өмнө (1984) анхны ангийг нь хэвлүүлсэн бүтээлийн тухай ярих нь муудах гэж бодохгүй байна, гэхдээ XNUMX жилийн өмнө бага зэрэг сурч, төсөөллийг тань хөдөлгөх жижиг хөтөлбөрөөс өөр хиймэл оюун ухаан гэж байгаагүй. Скайнетийн дүр төрх ийм л байсан, өөрөө өөрийгөө танин мэдэх хүртлээ сайжирч, сайжирч, унтарч, пуужин харваснаар хүн төрөлхтөн мөхөх гэж байгааг мэдээд "айсан". АНУ, Оросын хооронд.. Одоо байгаа хамгийн дэвшилтэт, наад зах нь мэдэгдэж байгаа нь юм ChatGPT 4, мөн түүний сайжруулалтууд нь айлгах эсвэл ядаж бухимдах болсон.

Гэхдээ илүү бодитой зүйл рүү орцгооё. гарын үсэг зурсан хүмүүсийн санаа зовоосон асуудал нээлттэй захидалЭлон Маск зэрэг бусад санаа зовоосон асуудал, эсвэл бүрэн хэлбэргүй нэг нь байна. Тэр Тэдний айдас нь үл мэдэгдэх зүйл юм, хамгийн түгээмэл айдасуудын нэг бол OpenAI болон бусад сан, хөтөлбөр, төслүүд хиймэл оюун ухаанаа сайжруулж байгаа нь хэн, хэзээ урагшлахыг харах уралдаан шиг болж байгаа бөгөөд энэ нь ялгаатай үр дүнд хүргэж болзошгүй юм.

ChatGPT 4 олны анхаарлын төвд байна

OpenAI чатботын < 4 хувилбарын хувьд бүх зүйл илүү "инээдтэй" эсвэл "хөөрхөн" мэт санагдсан тул дуртай үгээ ашиглана уу. Тэд түүнээс юм асуухад тэр хариулдаг; танаас кодын хэсгийг засахыг хүсэх ба та үүнийг хийх; чи түүнээс дуу, киноны захидлын утгыг асуухад тэр танд тайлбарлаж өгнө; гэхдээ ChatGPT 4 цааш явлаа. Таны хариултууд маш их сайжирсан бөгөөд та бүр үүсгэж болно худал байж болох контент.

Яагаад гэвэл энэ бол санаа зовоосон асуудлын нэг юм: би хүн яагаад саранд хүрч байгаагүй талаар маш дэлгэрэнгүй нийтлэл бичсэн гэж төсөөлье. Энэ нийтлэлийг олон удаа зочилдог бөгөөд хаа сайгүй хуваалцдаг боловч зарим тохиолдолд үүнийг шүүмжилдэг. Хожим нь бид ChatGPT-ээс тухайн үед юу болсныг асууж, тэр үйл явдлын талаар нийтлэл бичихийг хүссэн бөгөөд энэ нь миний бичсэн зүйл дээр тулгуурлан ямар нэгэн зүйл бичдэг бөгөөд үүнийг илрүүлэх чадваргүй тул хуурамч мэдээ, бидэнд худал зүйл бичээрэй. Энэ нь эсвэл илүү сайн жишээгээр сүлжээг үерлэж болзошгүй.

Хичээлийн хяналтанд 6 сарын завсарлага

Шаардлагатай зүйл бол тэр юмБүх AI лаборатори ChatGPT-6-ээс илүү хүчирхэг хиймэл оюун ухааны системийн сургалтыг дор хаяж 4 сар түр зогсоо. Энэ түр зогсолт нь нийтэд нээлттэй, шалгах боломжтой байх ёстой бөгөөд бүх гол тоглогчдыг багтаасан байх ёстой. Хэрэв түр зогсолтыг хурдан баталж чадахгүй бол засгийн газрууд эрчимжиж, моратори тогтоох хэрэгтэй.".

Бүх лабораториуд бие даасан шинжээчид энэ хугацааг ашиглах ёстой аюулгүй байдлын багц протоколуудыг хэрэгжүүлэх, гэж орчуулсан нь робот техникийн алдартай хуулиудтай төстэй хуулиудыг бичих ёстой гэж хэлэх өөр нэг арга гэж ойлгож болно.

Засгийн газруудад ч адилхан биш гэж үү?

Миний хувьд миний сэтгэлийг хөдөлгөж байгаа зүйл бол үүнтэй зэрэгцэн хиймэл оюун ухаан хөгжүүлэгчид төрийн тогтолцоонд зориулсан хиймэл оюун ухааныг хөгжүүлэхийн тулд бодлого боловсруулагчидтай хамтран ажиллах шаардлагатай гэж хэлсэн нь тэр юм. Гэж хэлэх, засгийн газруудад өөрсдийн хиймэл оюун ухаанаар туслах цөөн үгээр хэлбэл хиймэл оюун ухааныг удирдах чадвартай байх. Миний хийсэн зүйлийг биш миний хэлснийг хий.

Уг захидалд Элон Маск гарын үсэг зурсан нь намайг гайхшруулсангүй. Түүнийг OpenAI-г үүсгэн байгуулж байсан нь илчлэгдсэн бөгөөд компанийг орхисны дараа түүний амжилт муудаж байгаа бололтой. Бусад хүмүүсийн хувьд, тийм ээ, шийдвэр гаргахдаа ухаалаг байсан ч хиймэл оюун ухаан нь 7 настай хүүхдээс илүү байдаггүй гэж ярьдаг нь үнэн бөгөөд тэдний хувьд үнэнийг ялгахад хэцүү байдаг. худал мэдээлэл. , тиймээс худал мэдээлэл гарах магадлалтай тул арга хэмжээ авах шаардлагатай. Бусад бүх зүйлийн хувьд тэдэнд пуужин хөөргөх кодыг өгөхгүй л бол бүх зүйл тийм ч муу харагдахгүй гэж би бодож байна. Би буруугүй гэж найдаж байна.