Хэсэг хугацааны өмнө миний Pablinux хамтрагч Тэр бидэнд хэлсэн тухай Тэвчишгүй Илон Маск болон бусад хүмүүсийн бичсэн захидал, хиймэл оюун ухааны судалгааг түр зогсоохыг хүссэн. болзошгүй сөрөг үр дагавраас урьдчилан сэргийлэх арга хэмжээ авах хүртэл. Энэ нь надад Хиймэл оюун ухааны бодит болон төсөөлж буй эрсдлийн талаар ярих шалтаг өгч байна.
Билл Гейтсийн маягийн бүтэлгүй таамаглалаар өөрийгөө тэнэгтүүлэх эрсдэлтэй тул би ингэж хэлж байна. яг одоо байгаа хамгийн том эрсдэл бол хөөс хагарах явдал юм Энэ нь дот-комуудыг бага зэргийн цочролд хүргэх болно.
Хиймэл оюун ухааны бодит болон төсөөлж буй эрсдэлүүд
Энэ захидалд шинжлэх ухааны үндэслэлтэй гэхээсээ илүү дундад зууны үеийн бүдэг бадаг үзэлтэй гэдэгтэй би Паблинуктай санал нэг байна. Тэр агуулгын ашиглалтыг зохицуулах хууль тогтоомжийг бий болгох хэрэгтэй гэсэн санааг үргэлжлүүлэн хуваалцаж байна. Гэсэн хэдий ч бүх технологи нь сайн мэддэг болтол хүмүүсийг төөрөгдүүлж, айлгаж байсныг бид үгүйсгэж чадахгүй.
Кино урлагийн эхэн үед галт тэрэг ирэх тухай төсөөлөл нь хүмүүсийг өрөөнөөс зугтахад хүргэсэн бөгөөд хэдийгээр энэ нь хотын домог мэт боловч радио хувилбар нь Дэлхийн дайн Орсон Уэллес үүнийг бодит гэдэгт итгэсэн хүмүүсийн дунд бага зэрэг сандарсан.
Үнэн хэрэгтээ энэ төрлийн програм хангамжийн зохицуулалт нь шинэ зүйл биш юм. Олон орны санхүүгийн зохицуулах байгууллагууд Photoshop зэрэг программууд дээр мөнгөн тэмдэгт, чекийн зургийг засварлахыг хориглодог.
1994 онд Том Клэнси хэвлэгдсэн Хүндэтгэлийн өр. Батлан хамгаалахын асуудал хариуцсан мэргэжилтэн гэж тооцогддог Клэнси ИХямрал болж байна гэж хувьцаат компаниудын шинжээчдийн системийг залилан АНУ-ын санхүүгийн системд халдсан гэж төсөөлж байсан. эцэст нь хямралыг үүсгэсэн борлуулалтын давалгааг нээв.
Үүнийг уран зохиол гэж үгүйсгэхийн өмнө Клэнси Ихэр цамхаг барихаас 7 жилийн өмнө АНУ-ыг арилжааны нисэх онгоц ашиглан халдлагад өртөж болзошгүй гэж тэрхүү роман дээр төсөөлж байсныг санаарай.
Үнэндээ энэ санаа шинэ зүйл биш юм. 1983 оны кино Дайны тоглоомууд Өсвөр насны хүүхэд пуужин харвах компьютерийг оросууд дайрч байна гэж андуурч байсныг өгүүлсэн байна.
Бид давхих чимээ ойртож байна гэж төсөөлөөд үз дээ. Бидний эхний дүгнэлт бол морь бөгөөд 9-аас 10 удаа зөв байх болно. Гэхдээ энэ нь амьтны хүрээлэнгээс зугтсан тахө байх магадлал үргэлж байдаг. Эмч, сансрын нисгэгчид, онгоцны нисгэгчид гажиг тохиолдвол яахаа мэдэхийн тулд тахөний тухай бодож хатуу бэлтгэл хийдэг. Хиймэл оюун ухаантай загвар өмсөгчдийг морьдыг бодож сургадаг.
ChatGPT-ийн ашигладаг шиг загвар нь өөрийн мэдлэгийн санд байгаа мэдээлэл дээр суурилдаг. Энэ мэдээлэл олон удаа давтагдах тусам итгэл үнэмшил нэмэгддэг.
Боломжтой бүх мэдээллийг хадгалахад маш их зай шаардагдах тул Энэ нь зөвхөн хамааралтай зүйлээ хадгалж, дараа нь статистикийн хувьд хамгийн хамааралтай гэж үзсэн бүтцийг ашиглан хүсэлтийн дагуу дахин бүтээдэг.. Тиймээс, статистикийн хувьд тухайн агуулгыг агуулсан ийм гарчигтай баримт бичиг байгаа байх магадлалтай учраас би байхгүй лавлагааг олон удаа иш татдаг.
Хуцдаггүй тахө, нохойн тухай
Та миний анхаарлыг татахыг хүсч буй өөр зүйл байна уу?
-Шөнийн нохойны сонин явдал.
-Нохой шөнө юу ч хийгээгүй.
Сонирхолтой явдал байсан.
Сэр Артур Конан Дойл
Хиймэл оюун ухааны системүүдийн өөр нэг эрсдэл бол хийдэггүй зүйл юм. Мөн энэ нь бас анхаарах ёстой чухал цэг юм.
XNUMX-ээд онд Австралийн эмч шархлааны хамгийн түгээмэл шалтгаан нь бактери гэж таамаглаж байсан. Түүнд гайхалтай намтар байгаагүй тул тэд түүний зөвийг батлах хүртэл нүүрэн дээр нь инээлдсэн. Бусад олон шинжлэх ухааны нээлтүүдийн нэгэн адил (гаригуудын эргэлт, олон завсарлага авах тусам илүү бүтээмжтэй байдаг) эдгээр нь тухайн үеийн мэргэн ухаанд харшлах болно.
Гэхдээ тагнуулын загварууд нь тухайн үеийн мэргэн ухаан дээр суурилдаг. Зөвшилцөлд хүрсэн мэдлэгт. Технологи, автомашин, хүргэлтийг хөлдөөх нь таргалалтын тоог нэмэгдүүлсэнтэй адил Хиймэл технологийн хэрэгслүүдийн хүртээмж нь биднийг залхуу сэхээтнүүд болгож, инновацийг боомилдог.
Таны харж байгаагаар машинд боолчлогдохоос айхаас гадна санаа зовох зүйл хангалттай бий. Мөн бид эх код руу нэвтрэх, хэрэглэгчийн нууцлалын талаар ярихгүй хэвээр байна.
Сэтгэгдэл бичих эхний хүн бай