Skynet이 얼마나 많은 피해를 입혔는지: ChatGPT 4의 대규모 AI 실험 중단을 요구하는 공개 서한

채팅 중지GPT 4

예, Skynet이 얼마나 많은 피해를 입혔습니까? 거의 40년 전(1984년) 첫 번째 에피소드를 발표한 작품에 대해 이야기하는 것이 스포라고 생각하지 않지만, XNUMX년 전에는 조금 배우고 상상력을 마음껏 발휘할 수 있는 작은 프로그램 외에는 인공 지능이 없었습니다. 이렇게 스카이넷의 모습은 스스로 학습하고 스스로 자각할 때까지 개선되고 개선되는 프로그램으로, 미사일 발사로 알려졌듯이 꺼지고 인류가 멸망할 것이라는 사실을 알고 "두려워"했다. 미국과 러시아 사이.. 현재 존재하는 가장 진보된 것, 적어도 알려진 것은 채팅GPT 4, 그리고 그 개선 사항은 겁을 주거나 적어도 짜증나게 만들었습니다.

그러나 좀 더 현실적인 지점으로 들어가 봅시다. 서명국의 우려 공개 서한, Elon Musk를 포함하여 다른 문제가 있거나 완전한 양식이 없는 문제가 있습니다. 그 그들의 두려움은 미지의 것이다, 가장 일반적인 두려움 중 하나는 OpenAI 및 기타 재단, 프로그램 및 프로젝트가 마치 누가 언제 더 발전하는지를 보는 경주인 것처럼 인공 지능을 개선하고 있으며 이로 인해 서로 다른 결과가 나타날 수 있다는 것입니다.

주목받는 ChatGPT 4

OpenAI 챗봇 버전 < 4에서는 상황이 더 "재미있다"거나 "귀엽다"고 생각했습니다. 원하는 단어를 사용하세요. 그들은 그에게 무언가를 묻고 그는 대답합니다. 코드 섹션을 수정하라는 요청을 받았고 수정했습니다. 당신은 그에게 노래나 영화에 나오는 편지의 의미를 묻고 그는 그것을 당신에게 설명합니다; 그러나 ChatGPT 4는 더 나아갔습니다. 귀하의 답변이 많이 향상되었으며 거짓일 수 있는 내용.

이것이 언급된 우려 사항 중 하나이기 때문입니다. 인간이 달에 도달하지 못한 이유에 대해 매우 상세한 기사를 작성한다고 상상해 봅시다. 이 글은 방문수가 많고 모든 곳에 공유되지만 어떤 경우에는 그것을 비판하기 위한 것입니다. 나중에 우리는 그 순간에 무슨 일이 일어났는지 ChatGPT에 요청하고 그 사건에 대한 기사를 작성하도록 요청합니다. 가짜 뉴스, 우리에게 거짓을 쓰십시오. 이것은 또는 더 나은 예를 들면 네트워크를 넘칠 수 있습니다.

통제 연구를 위한 6개월의 휴식

요구되는 것은모든 AI 연구소 ChatGPT-6보다 강력한 AI 시스템 훈련을 최소 4개월 동안 일시 중지. 이 일시 중지는 공개적이고 검증 가능해야 하며 모든 주요 플레이어를 포함해야 합니다. 중단 조치를 신속하게 시행할 수 없다면 정부는 나서서 유예 조치를 취해야 합니다.".

모든 실험실 독립적인 전문가는 이 시간을 일련의 보안 프로토콜 구현, 로봇 공학의 유명한 법칙과 유사한 법칙을 작성해야 한다는 또 다른 표현으로 번역될 수 있습니다.

정부도 마찬가지 아닌가?

개인적으로 인상 깊었던 점은 AI 개발자가 정책 입안자와 협력하여 정부 시스템을 위한 인공 지능 개발을 가속화해야 한다는 점입니다. 즉 말하자면, 자체 인공 지능으로 정부 지원 한마디로 인공 지능을 제어할 수 있습니다. 내가 하는 것이 아니라 내가 말하는 것을 하십시오.

그 편지에 Elon Musk가 서명했다는 사실은 저를 놀라게 하지 않습니다. 그가 OpenAI를 공동 창업한 것으로 밝혀졌고, 회사를 떠난 후 그의 성공이 상처를 받고 있는 것 같습니다. 인공 지능이 아무리 지능적이라 할지라도 의사 결정에 있어 7세 어린이보다 나을 것이 없으며 그들이 참과 구별하기 어려울 수 있다는 것은 사실입니다. , 가짜뉴스일 가능성이 있으니 조치가 필요합니다. 다른 모든 것에 대해서는 미사일 발사 코드가 주어지지 않는 한 상황이 그렇게 나빠 보이지는 않는다고 생각합니다. 내가 틀리지 않았기를 바랍니다.


코멘트를 첫번째로 올려

코멘트를 남겨주세요

귀하의 이메일 주소는 공개되지 않습니다. 필수 필드가 표시되어 있습니다 *

*

*

  1. 데이터 책임자: AB Internet Networks 2008 SL
  2. 데이터의 목적 : 스팸 제어, 댓글 관리.
  3. 합법성 : 귀하의 동의
  4. 데이터 전달 : 법적 의무에 의한 경우를 제외하고 데이터는 제 XNUMX 자에게 전달되지 않습니다.
  5. 데이터 저장소 : Occentus Networks (EU)에서 호스팅하는 데이터베이스
  6. 권리 : 귀하는 언제든지 귀하의 정보를 제한, 복구 및 삭제할 수 있습니다.