Нещодавно мій партнер по Pablinux Він сказав нам на лист, який нестерпний Ілон Маск та інші особистості написали з проханням призупинити дослідження в галузі штучного інтелекту поки не будуть вжиті заходи для запобігання його можливих несприятливих наслідків. Це дає мені привід говорити про реальні та уявні ризики штучного інтелекту.
Ризикуючи зробити з себе дурня невдалими прогнозами в стилі Білла Гейтса, я починаю з того, що, на мою думку, найбільший ризик зараз – це лопнути бульбашка Це призведе доткомів до легкого шоку.
Справжні та уявні ризики штучного інтелекту
Я згоден з Паблінуксом, що в листі більше середньовічного мракобісся, ніж наукового обґрунтування. що продовжуючи поділяти ідею про те, що необхідно створити законодавство для регулювання використання його вмісту. Однак ми не можемо заперечувати, що всі технології бентежили й лякали людей, поки про них не стало добре відомо.
Проекція прибуття потяга на початку кінематографа змусила людей втекти з кімнати, і, хоча в ній багато міської легенди, радіоверсія Війна світів Орсона Уеллса викликав неабияку паніку серед людей, які вірили, що це справжнє.
Насправді цей тип регулювання програмного забезпечення не є новим. Органи фінансового регулювання в багатьох країнах забороняють таким програмам, як Photoshop, редагувати зображення банкнот або чеків.
У 1994 році Том Кленсі опублікував Борг честі Вважається експертом з питань оборони, Кленсі Іуявив атаку на фінансову систему Сполучених Штатів шляхом маніпулювання експертними системами фондових компаній, щоб переконати, що криза має місце розгорнувши хвилю продажів, яка зрештою спричинила кризу.
Перш ніж відкинути це як вигадку, згадайте, що в тому самому романі, за 7 років до Веж-близнюків, Кленсі передбачав, що Сполучені Штати можуть зазнати атак із використанням комерційних літаків.
Насправді ідея не нова. фільм 1983 року Ігри війни У ньому розповідалося, як підліток переплутав комп’ютер, відповідальний за запуск ракети, щоб він подумав, що росіяни атакують.
Уявімо, що ми чуємо наближення галопу. Наш перший висновок – це кінь, і в 9 випадках з 10 ми будемо праві. Але завжди є ймовірність, що це зебра втекла із зоопарку. Лікарі, астронавти та пілоти літаків проходять суворе навчання думати про зебр, знати, що робити, якщо виникає аномалія. Моделі штучного інтелекту навчаються з урахуванням коней.
Модель, подібна до тієї, яку використовує ChatGPT, базується на наявній інформації в його базі знань. Чим більше разів ця інформація повторюється, тим більшу довіру вона надає.
Оскільки для збереження всієї доступної інформації знадобиться багато місця для зберігання, він зберігає лише те, що є релевантним, а потім перебудовує його за запитом, використовуючи структуру, яка статистично здається найбільш релевантною. Тому багато разів я цитую посилання, яких не існує, лише тому, що статистично ймовірно, що існує документ із такою назвою, який містить такий вміст.
Про зебр і собак, які не гавкають
Чи є ще якийсь момент, на який ви хочете звернути мою увагу?
- Цікавий випадок із собакою вночі.
-Собака вночі нічого не робив.
Це був курйозний випадок.
Сер Артур Конан Дойл
Ще один із ризиків систем штучного інтелекту полягає в тому, що вони не роблять. І це теж важливий момент, про який слід пам’ятати.
У XNUMX-х роках австралійський лікар припустив, що найпоширенішою причиною виразки є бактерії. Оскільки він не мав чудового резюме, вони сміялися йому в обличчя, доки не було доведено, що він правий. Як і багато інших наукових відкриттів (обертання планет, той факт, що чим більше ви робите перерв, тим продуктивніше ви працюєте), вони суперечать мудрості моменту.
Але моделі інтелекту базуються на мудрості моменту. У тих знаннях, в яких є консенсус. Подібно до того, як технологія заморожування, автомобілі та доставка збільшили кількість хворих на ожиріння, доступність інструментів штучної технології може зробити нас ледачими інтелектуалами та придушити інновації.
Як бачите, є достатньо речей для занепокоєння, крім страху бути поневоленими машинами. І що ми все ще не говоримо про доступ до вихідного коду та конфіденційність користувачів.