Ооба, Skynet канча зыян келтирди. Дээрлик 40 жыл мурун (1984) биринчи эпизоду жарык көргөн чыгарма жөнүндө сөз кылуу жамандык деп ойлобойм, бирок мындан төрт он жыл мурун бир аз үйрөнүп, фантазияңды иштеткен кичинекей программалардан башка жасалма интеллект болгон эмес. Скайнеттин фигурасы ушинтип ойлоп табылган, бул программа өзүнөн өзү үйрөнүп, жакшырып, өркүндөтүлүп, ал өзүн тааныганга чейин, анын өчүрүлүп, адамзатты ракета учуруу менен жок кыларын билгенден "корккон". АКШ менен Россиянын ортосунда.. Азыр бар эң өнүккөн, жок дегенде, бул белгилүү ChatGPT 4, жана анын жакшыртуулары коркутуп же, жок эле дегенде, кыжырдантты.
Бирок, келгиле, бир кыйла реалдуу жагдайга кайрылалы. кол койгондордун тынчсыздануусу ачык кат, анын ичинде Илон Масктын башка кооптонуусу бар же толук формасы жок. Ал алардын коркуулары белгисиз, эң кеңири таралган кооптонуулардын бири OpenAI жана башка фонддор, программалар жана долбоорлор ким жана качан алдыга келерин көрүү жарышындай жасалма интеллекттерин өркүндөтүүдө жана бул ар кандай жыйынтыктарды бериши мүмкүн.
көрсөткүч
ChatGPT 4 көңүл чордонунда
OpenAI чатботунун <4 версиясы менен нерселер "күлкүлүү" же "сүйкүмдүү" болуп көрүндү, каалаган сөздү колдонуңуз. Алар андан бир нерсе сурашат, ал жооп берет; сизден коддун бир бөлүгүн оңдоону суранышат жана сиз муну жасайсыз; сен андан ырдагы же кинодогу каттын маанисин сурасаң, ал сага түшүндүрүп берет; бирок ChatGPT 4 андан ары кетти. Жоопторуңуз бир топ жакшырды, жадагалса түзө аласыз жалган болушу мүмкүн болгон мазмун.
Анткени бул айтылып жаткан кооптонуулардын бири: келгиле, мен адам эмне үчүн айга эч качан жетпегени жөнүндө абдан кеңири макала жаздым деп элестетип көрөлү. Бул макалада көптөгөн баруулар бар жана кээ бир учурларда аны сынга алуу үчүн болсо да, бардык жерде бөлүшүлгөн. Кийинчерээк, биз ChatGPTтен ошол учурда эмне болгонун сурайбыз, ал окуя жөнүндө макала жазуу үчүн, ал менин жазгандарымдын негизинде бизге бир нерсе жазат жана аны аныктоо мүмкүнчүлүгү жок болгондуктан жалган кабар, бизге жалган нерсе жаз. Бул, же жакшыраак мисал менен, тармактарды каптап кетиши мүмкүн.
Окуу-контролдоо учун 6 айлык тыныгуу
Эмне талап кылынатБардык AI лабораториялары ChatGPT-6ке караганда күчтүү AI системаларын окутууну кеминде 4 айга токтотуңуз. Бул тыныгуу жалпыга ачык жана текшериле турган жана бардык негизги оюнчуларды камтышы керек. Эгерде тыныгууну тез арада кабыл алуу мүмкүн болбосо, өкмөттөр күчөп, мораторий киргизиши керек.".
Бардык лабораториялар жана көз карандысыз эксперттер бул убакытты колдонууга тийиш коопсуздук протоколдорунун топтомун ишке ашыруу, которулган робототехниканын белгилүү мыйзамдарына окшош мыйзамдарды жазуу керек деп айтуунун дагы бир жолу катары кабыл алынышы мүмкүн.
Өкмөттөр үчүн да ушундай эмеспи?
Жеке мени таң калтырган нерсе, ал параллелдүү AI иштеп чыгуучулары мамлекеттик системалар үчүн жасалма интеллектти өнүктүрүүнү тездетүү үчүн саясатты иштеп чыгуучулар менен иштеши керек деп айткан учур. Башкача айтканда, өкмөттөргө өздөрүнүн жасалма интеллекти менен жардам берүү бир нече сөз менен айтканда, жасалма интеллект башкарууга жөндөмдүү болуу. Менин кылганымды эмес, айтканымды кыл.
Катка Илон Маск кол койгону мени таң калтырбайт. Анын OpenAIди негиздөөчүсү экени белгилүү болду жана компаниядан кеткенден кийин анын ийгилиги жабыркап жаткандай. Калгандары үчүн, ооба, жасалма интеллект канчалык акылдуу болсо да, чечим кабыл алууда 7 жаштагы баладан артык эмес деп айтылат жана алар үчүн чындыкты айырмалоо кыйын болушу мүмкүн. жалган маалымат. , андыктан фейк жаңылыктар болушу мүмкүн жана чара көрүлүшү керек. Калганынын бардыгына карабастан, менимче, аларга ракета учуруу коддору берилбесе, баары жаман көрүнбөйт. Мен жаңылган жокмун деп үмүттөнөм.
Комментарий биринчи болуп