Жасалма интеллекттин реалдуу жана ойдон чыгарылган тобокелдиктери (пикир)

Бир аз мурун, менин Pablinux өнөктөшүм Ал бизге айткан боюнча чыдагыс Илон Маск жана башка инсандар Жасалма интеллект боюнча изилдөөлөрдү токтотууну суранып жазган каты анын мүмкүн болуучу терс таасирлерин алдын алуу боюнча чаралар көрүлгөнгө чейин. Бул мага Жасалма интеллекттин реалдуу жана ойдон чыгарылган тобокелдиктери жөнүндө айтууга шылтоо берет.

Билл Гейтс стилиндеги прогноздор менен өзүмдү акылсыз кылуу коркунучу алдында, мен өзүмдүн оюмча мындай деп баштайм азыр эң чоң коркунуч көбүктүн жарылуусу Бул дот-комдорду жеңил шок абалга калтырат.

Жасалма интеллекттин реалдуу жана ойдон чыгарылган тобокелдиктери

Мен Паблинюкстун катында илимий ой жүгүртүүгө караганда орто кылымдагы караңгылык бар дегенге кошулам. Ошол анын мазмунун пайдаланууну жөнгө салуу үчүн мыйзамдарды түзүү керек деген ойду бөлүшүүнү улантуу менен. Бирок, бардык технологиялар белгилүү болгонго чейин адамдарды чаташтырганын жана коркутканын тана албайбыз.

Кинематографиянын башталышында поезддин келүүсүнүн проекциясы адамдарды бөлмөдөн качып кетүүгө мажбур кылды жана анда шаардык легенда көп болсо да, радио версиясы Дүйнөлөрдүн согушу Орсон Уэллестин автору, бул чындык деп эсептеген адамдардын арасында бир аз дүрбөлөңгө түшкөн.

Чынында, программалык камсыздоону жөнгө салуунун бул түрү жаңы нерсе эмес. Көптөгөн өлкөлөрдүн каржылык жөнгө салуучу органдары Photoshop сыяктуу программаларга банкноттордун же чектердин сүрөттөрүн оңдоого тыюу салат.

1994-жылы Том Клэнси жарык көргөн Ар-намыс карызы. Коргонуу маселелери боюнча эксперт болуп эсептелген Клэнси ИАкционердик компаниялардын эксперттик системаларын кризис болуп жатат деп манипуляциялоо жолу менен Америка Кошмо Штаттарынын каржы системасына кол салууну элестеткен. акыры кризисти жараткан сатуу толкунун чыгарды.

Аны фантастика деп четке кагуудан мурун, ошол эле романда Эгиз мунаралардан 7 жыл мурун Клэнси Америка Кошмо Штаттары коммерциялык учактар ​​менен кол салууларга дуушар болушу мүмкүн деп күткөндүгүн эстен чыгарбаңыз.

Негизи идея жаңы эмес. 1983-жылкы тасма Согуш оюндары Анда өспүрүм ракета учурулган компьютерди орустар чабуул жасап жатат деп чаташтырганы баяндалган.

Келгиле, жакындап келе жаткан чабышты угуп жатабыз деп элестетели. Биздин биринчи корутундубуз - бул ат жана 9дон 10 жолу туура болот. Бирок, бул зоопарктан качып кеткен зебра болушу ыктымалдыгы ар дайым бар. Дарыгерлер, астронавттар жана учактын учкучтары зебралар жөнүндө ойлонуп, аномалия болуп калса эмне кылуу керектигин билип, катуу машыгуудан өтүшөт. Жасалма интеллект моделдери аттарды эске алуу менен үйрөтүлөт.

ChatGPT колдонгон моделге окшош модель анын билим базасындагы болгон маалыматка негизделген. Бул маалымат канчалык көп кайталанса, ошончолук ишеничтүү болот.

Бардык жеткиликтүү маалыматты сактоо үчүн көп сактоо мейкиндиги талап кылынат, ал тиешелүү нерсени гана сактап, андан соң статистикалык жактан эң актуалдуу болуп көрүнгөн структураны колдонуу менен талап кылынгандай калыбына келтирет. Ошондуктан, мен көп жолу жок шилтемелерди келтирем, анткени статистикалык жактан ошол мазмунду камтыган ошол аталыштагы документ бар болушу мүмкүн.

Үрбөгөн зебралар жана иттер жөнүндө

Менин көңүлүмдү бургуңуз келген башка жагдай барбы?
-Түнкү иттин кызык окуясы.
-Ит түндө эч нерсе кылган жок.
Кызык окуя болду.

Сэр Артур Конан Дойл

Жасалма интеллект системаларынын дагы бир коркунучу - алар жасабаган нерселер. Жана ошондой эле эстен чыгарбоо керек болгон маанилүү жагдай.

XNUMX-жылдары австралиялык дарыгер жаралардын эң көп таралган себеби бактериялар деп эсептеген. Анын чоң резюмеси болбогондуктан, анын тууралыгы далилденгенче жүзүнө күлүштү. Башка көптөгөн илимий ачылыштар сыяктуу (планеталардын айлануусу, канчалык көп тыныгуу алсаңыз, ошончолук жемиштүү болосуз) учурдун акылмандыгына карама-каршы келет.

Бирок, чалгындоо моделдери учурдун акылмандыгына негизделген. Ынтымак болгон билимдерде. Технологияларды, унааларды жана жеткирүүлөрдү тоңдургуч семиргендердин санын көбөйткөндөй эле, Жасалма технологиянын куралдарынын болушу бизди жалкоо интеллигенцияга айлантып, инновацияларды басышы мүмкүн.

Көрүнүп тургандай, машиналар кул болуп калуудан коркуп, анын үстүнө тынчсыздана турган нерселер жетиштүү. Жана биз дагы эле баштапкы кодго жетүү жана колдонуучулардын купуялуулугу жөнүндө сүйлөшпөйбүз.