Да, колко щети нанесе Skynet. Не мисля, че говоренето за произведение, публикувало първия си епизод преди почти 40 години (1984), е развалящо, но преди четири десетилетия нямаше изкуствен интелект освен малки програми, които учат малко и оставят въображението ви да се развихри. Ето как беше замислена фигурата на Скайнет, програма, която се учи сама и се подобрява и подобрява, докато не осъзнае себе си, „уплашена“ да научи, че ще бъде изключена и ще сложи край на човечеството, както беше известно, чрез изстрелване на ракети между САЩ и Русия.. Най-напредналият, който съществува сега, поне това е известно, е ЧатGPT4, а подобренията му започнаха да плашат или най-малкото да дразнят.
Но нека преминем към по-реалистична точка. Загрижеността на подписалите отворено писмо, включително Илон Мъск, имат други притеснения или такива без пълна форма. Той техният страх е от неизвестното, един от най-често срещаните страхове, е, че OpenAI и други фондации, програми и проекти подобряват своя изкуствен интелект, сякаш е надпревара кой ще стигне по-напред и кога, и това може да даде различни резултати.
ChatGPT 4 в светлината на прожекторите
С версия < 4 на чатбота OpenAI нещата изглеждаха по-„смешни“ или „сладки“, използвайте думата, която предпочитате. Питат го неща и той отговаря; от вас се иска да коригирате част от кода и вие го правите; питаш го за значението на буква от песен или филм и той ти го обяснява; но ChatGPT 4 отиде по-далеч. Отговорите ви са се подобрили много и дори можете да генерирате съдържание, което може да е невярно.
Тъй като това е едно от опасенията, които се споменават: нека си представим, че пиша много подробна статия за това защо човек никога не е достигал Луната. Тази статия има много посещения и се споделя навсякъде, въпреки че в някои случаи е за да я критикува. По-късно питаме ChatGPT какво се е случило в този момент, да ни напише статия за това събитие, той ни пише нещо въз основа на написаното от мен и тъй като няма способността да открива фалшиви новини, напиши ни нещо невярно. Това, или с по-добър пример, може да наводни мрежите.
6 месеца почивка за контрол на изследването
Това, което се изисква, е товаВсички AI Labs направете пауза за поне 6 месеца обучението на AI системи, по-мощни от ChatGPT-4. Тази пауза трябва да е публична и да може да се провери и да включва всички ключови играчи. Ако паузата не може да бъде въведена бързо, правителствата трябва да се засилят и да наложат мораториум.".
Всички лаборатории и независими експерти трябва да използват това време, за да внедрите набор от протоколи за сигурност, което преведено може да се приеме като друг начин да се каже, че трябва да пишете закони, подобни на известните закони на роботиката.
Не е ли същото и за правителствата?
Това, което ме поразява лично, е точка, в която той казва, че успоредно с това разработчиците на AI трябва да работят с политиците, за да ускорят развитието на изкуствения интелект за правителствените системи. тоест помагат на правителствата с техния собствен изкуствен интелект да може, с няколко думи, да контролира изкуствения интелект. Правете това, което казвам, а не това, което правя.
Това, че писмото е подписано от Илон Мъск, не ме изненадва. Беше разкрито, че той е съосновател на OpenAI и изглежда, че след като напусна компанията, успехът му е наранен. За останалото, да, вярно е, че за изкуствения интелект, колкото и интелигентен да е той, при вземането на решения се казва, че не е по-добър от 7-годишно дете и че може да му е трудно да разграничи истинския от невярна информация. , така че смисълът на фалшивите новини е възможност и трябва да се предприемат действия. За всичко останало мисля, че докато не им дадат кодовете за изстрелване на ракети, нещата не изглеждат толкова зле. Дано не греша.