Да, колику штету је направио Скајнет. Мислим да прича о делу које је своју прву епизоду објавила пре скоро 40 година (1984) није кварно, али пре четири деценије није било вештачке интелигенције осим малих програма који су мало научили и пустили машти на вољу. Тако је замишљена фигура Скајнета, програма који је сам учио и усавршавао се и усавршавао док није постао свестан себе, „уплашен“ да сазна да ће бити искључен и да ће лансирањем пројектила окончати човечанство какво је познато. између САД и Русије.. Најнапредније што сада постоји, барем се зна, јесте ЦхатГПТ 4, а његова побољшања су уплашила или, у најмању руку, изнервирала.
Али хајде да пређемо на реалнију тачку. Забринутост потписника отворено писмо, укључујући Елона Маска, имају друге бриге, или оне без пуног обрасца. Он њихов страх је од непознатог, један од најчешћих страхова је да ОпенАИ и друге фондације, програми и пројекти унапређују своју вештачку интелигенцију као да се трка ко ће даље и када, а то може дати различите резултате.
ЦхатГПТ 4 у центру пажње
Са верзијом < 4 ОпенАИ цхат бота, ствари су изгледале „смешније“ или „слатке“, користите реч коју желите. Питају га ствари и он одговара; од вас се тражи да исправите део кода и ви то урадите; питаш га за значење слова из песме или филма и он ти то објашњава; али ЦхатГПТ 4 је отишао даље. Ваши одговори су се много побољшали, а можете чак и да генеришете садржај који би могао бити лажан.
Јер ово је једна од забринутости која се помиње: хајде да замислимо да напишем веома детаљан чланак о томе зашто човек никада није стигао на Месец. Овај чланак има много посета и свуда се дели, иако је у неким случајевима то да се критикује. Касније тражимо од ЦхатГПТ-а шта се догодило у том тренутку, да нам напише чланак о том догађају, пише нам нешто на основу онога што сам написао и пошто нема могућност да детектује лажна вест, напиши нам нешто лажно. Ово, или са бољим примером, могло би да преплави мреже.
6 месеци паузе за контролу учења
Оно што се тражи је тоСве АИ лабораторије паузирајте најмање 6 месеци обуку АИ система моћнијих од ЦхатГПТ-4. Ова пауза треба да буде јавна и проверљива и да укључује све кључне актере. Ако се пауза не може брзо донети, владе би требало да се појачају и уведу мораторијум.".
Све лабораторије а независни стручњаци треба да искористе ово време да имплементирати скуп сигурносних протокола, што би се у преводу могло узети као други начин да се каже да морате писати законе сличне познатим законима роботике.
Зар није исто и за владе?
Оно што мене лично погађа је тачка у којој он каже да, паралелно, програмери вештачке интелигенције морају да раде са креаторима политике како би убрзали развој вештачке интелигенције за владине системе. Односно, помоћи владама сопственом вештачком интелигенцијом да могу, у неколико речи, да контролишу вештачку интелигенцију. Радите оно што кажем, а не оно што радим.
То што је писмо потписао Елон Муск ме не чуди. Откривено је да је он био суоснивач ОпенАИ-а, а чини се да му, након напуштања компаније, успех боли. У осталом, да, истина је да се за вештачку интелигенцију, ма колико била интелигентна, у доношењу одлука каже да није ништа боља од седмогодишњег детета и да ће им можда бити тешко да разликују истиниту од лажне информације. , тако да је поента лажних вести могућност и мора се предузети акција. За све остало, мислим да све док им се не дају шифре за лансирање пројектила, ствари не изгледају тако лоше. Надам се да не грешим.