Скільки шкоди завдав Skynet: відкритий лист закликає припинити широкомасштабні експерименти зі штучним інтелектом від ChatGPT 4

Зупиніть ChatGPT 4

Так, скільки шкоди завдав Skynet. Я не думаю, що говорити про твір, який опублікував свій перший епізод майже 40 років тому (1984), є спойлером, але чотири десятиліття тому не існувало штучного інтелекту, окрім невеликих програм, які трохи навчалися та дозволяли вашій уяві розгулятися. Ось як була задумана фігура Скайнет, програма, яка вчилася сама по собі, удосконалювалася й удосконалювалася, поки не усвідомила себе, «налякавшись», дізнавшись, що її вимкнуть і покінчать із людством, яким воно було відомо, запускаючи ракети. між США і Росією.. Найдосконаліший, який існує зараз, принаймні це відомо ЧатGPT4, і його вдосконалення почали лякати або, принаймні, дратувати.

Але давайте перейдемо до більш реалістичної точки зору. Занепокоєння підписантів ст відкритий лист, включно з Ілоном Маском, мають інші проблеми або не мають повної форми. Він їх страх перед невідомим, одне з найпоширеніших побоювань полягає в тому, що OpenAI та інші фонди, програми та проекти вдосконалюють свій штучний інтелект так, наче це змагання, хто й коли просунеться далі, і це може дати різні результати.

ChatGPT 4 у центрі уваги

З версією <4 чат-бота OpenAI все здавалося більш «смішним» або «милим», використовуйте будь-яке слово, яке вам більше подобається. Вони запитують його про речі, і він відповідає; вас просять виправити частину коду, і ви це робите; ви запитуєте його про значення букви з пісні чи фільму, і він пояснює вам це; але ChatGPT 4 пішов далі. Ваші відповіді значно покращилися, і ви навіть можете генерувати вміст, який може бути неправдивим.

Тому що це одна з проблем, які згадуються: уявімо, що я пишу дуже детальну статтю про те, чому людина ніколи не досягала Місяця. Ця стаття має багато відвідувань і поширюється скрізь, хоча в деяких випадках вона критикує її. Пізніше ми запитуємо ChatGPT, що сталося в той момент, написати нам статтю про цю подію, він пише нам щось на основі того, що я написав, і, оскільки він не має можливості виявити підроблені новини, напишіть нам щось неправдиве. Це, або кращий приклад, може затопити мережі.

Перерва на 6 місяців для контролю навчання

Що потрібно, це теУсі лабораторії ШІ призупинити принаймні на 6 місяців навчання систем штучного інтелекту, потужніших за ChatGPT-4. Ця пауза має бути загальнодоступною та доступною для перевірки та включати всіх ключових гравців. Якщо пауза не може бути прийнята швидко, уряди повинні активізуватись і запровадити мораторій.".

Всі лабораторії і незалежні експерти мають використати цей час, щоб реалізувати набір протоколів безпеки, що в перекладі можна сприйняти як інший спосіб сказати, що ви повинні писати закони, подібні до відомих законів робототехніки.

Хіба це не те саме для урядів?

Особисто мене вразив момент, коли він каже, що паралельно розробникам штучного інтелекту потрібно працювати з політиками, щоб прискорити розробку штучного інтелекту для державних систем. Інакше кажучи, допомагати урядам із власним штучним інтелектом вміти, одним словом, керувати штучним інтелектом. Роби те, що я кажу, а не те, що я роблю.

Те, що лист був підписаний Ілоном Маском, мене не дивує. Було виявлено, що він був співзасновником OpenAI, і, здається, після відходу з компанії його успіх зашкодив. З іншого боку, так, це правда, що штучний інтелект, яким би розумним він не був, у прийнятті рішень вважається не кращим за 7-річну дитину, і йому може бути важко відрізнити правду від неправдива інформація. , тому суть фейкових новин — це можливість і необхідно вжити заходів. Щодо всього іншого, я думаю, що поки їм не нададуть коди запуску ракет, усе виглядає не так погано. Сподіваюся, я не помиляюся.


Будьте першим, щоб коментувати

Залиште свій коментар

Ваша електронна адреса не буде опублікований. Обов'язкові для заповнення поля позначені *

*

*

  1. Відповідальний за дані: AB Internet Networks 2008 SL
  2. Призначення даних: Контроль спаму, управління коментарями.
  3. Легітимація: Ваша згода
  4. Передача даних: Дані не передаватимуться третім особам, за винятком юридичних зобов’язань.
  5. Зберігання даних: База даних, розміщена в мережі Occentus Networks (ЄС)
  6. Права: Ви можете будь-коли обмежити, відновити та видалити свою інформацію.