인공 지능의 실제 및 상상 위험(의견)

인공 지능 모델은 이상을 감지할 수 없습니다.

얼마 전 제 Pablinux 파트너가 그는 우리에게 말했다참을 수 없는 Elon Musk와 다른 인물들이 인공 지능 연구를 중단하라고 쓴 편지 가능한 부작용을 방지하기 위한 조치를 취할 수 있을 때까지. 그것은 인공 지능의 실제 위험과 상상의 위험에 대해 이야기할 변명을 제공합니다.

실패한 빌 게이츠 스타일의 예측으로 나 자신을 바보로 만들 위험을 무릅쓰고 나는 내 생각에 다음과 같이 말하면서 시작합니다. 현재 가장 큰 위험은 버블붕괴 그것은 닷컴에 약간의 충격을 줄 것입니다.

인공 지능의 실제 위험과 상상의 위험

나는 편지가 과학적 추론보다 더 중세의 모호함을 가지고 있다는 Pablinux에 동의합니다. 저것 콘텐츠 사용을 규제하기 위해 법률을 제정해야 한다는 생각을 계속 공유하면서. 그러나 우리는 모든 기술이 잘 알려지기 전까지는 사람들을 혼란스럽게 하고 두렵게 한다는 사실을 부인할 수 없습니다.

영화 촬영 초기에 기차가 도착한다는 프로젝션은 사람들을 방에서 도망치게 만들었고, 도시 전설이 많이 있지만 라디오 버전의 세계의 전쟁 Orson Welles에 의해 그것이 진짜라고 믿었던 사람들 사이에서 상당한 공황을 일으켰습니다.

사실 이러한 유형의 소프트웨어 규제는 새로운 것이 아닙니다. 많은 국가의 금융 규제 당국은 Photoshop과 같은 프로그램에서 지폐나 수표의 이미지를 편집하는 것을 금지합니다.

1994년 톰 클랜시 출판 명예의 부채. 국방 문제의 전문가로 간주되는 Clancy i주식 회사의 전문가 시스템을 조작하여 위기가 발생하고 있다고 믿게 함으로써 미국의 금융 시스템에 대한 공격을 상상했습니다. 마침내 위기를 초래한 매도 물결을 일으켰습니다.

허구라고 치부하기 전에, 쌍둥이 빌딩보다 7년 앞서 같은 소설에서 Clancy는 미국이 상업용 항공기를 사용하여 공격을 받을 수 있다고 예상했음을 기억하십시오.

사실 아이디어는 새로운 것이 아닙니다. 1983년 영화 전쟁 게임 그것은 십대가 미사일 발사를 담당하는 컴퓨터를 러시아가 공격하고 있다고 생각하도록 어떻게 혼동했는지를 설명했습니다.

전속력으로 다가오는 소리가 들린다고 상상해 봅시다. 우리의 첫 번째 결론은 그것이 말이고 9번 중 10번은 우리가 옳을 것이라는 것입니다. 그러나 동물원에서 탈출한 얼룩말일 가능성은 항상 존재한다. 의사, 우주 비행사, 비행기 조종사는 얼룩말에 대해 생각하고 이상 현상이 발생하면 어떻게 해야 하는지 아는 엄격한 훈련을 받습니다. 인공 지능 모델은 말을 염두에 두고 훈련됩니다.

ChatGPT에서 사용하는 것과 같은 모델은 지식 기반의 기존 정보를 기반으로 합니다. 정보가 더 많이 반복될수록 더 큰 신뢰도를 부여합니다.

사용 가능한 모든 정보를 저장하려면 많은 저장 공간이 필요하므로, 관련 있는 항목만 저장한 다음 통계적으로 가장 관련성이 높은 것으로 보이는 구조를 사용하여 요청에 따라 재구성합니다.. 따라서 통계적으로 해당 콘텐츠가 포함된 해당 제목의 문서가 있을 가능성이 있기 때문에 존재하지 않는 참조를 여러 번 인용합니다.

짖지 않는 얼룩말과 개에 대하여

제가 주목하고 싶은 다른 점이 있습니까?
- 한밤중에 개에게 일어난 기묘한 사건.
- 개는 밤에 아무것도 하지 않았다.
그것은 호기심 많은 사건이었습니다.

아서 코난 도일 경

인공 지능 시스템이 가지고 있는 또 다른 위험은 그들이 하지 않는 것입니다. 그리고 명심해야 할 중요한 포인트이기도 합니다.

XNUMX년대에 호주의 한 의사는 궤양의 가장 흔한 원인이 박테리아라고 추측했습니다. 그는 훌륭한 이력서가 없었기 때문에 그가 옳았다는 것이 증명될 때까지 그의 얼굴을 비웃었습니다. 다른 많은 과학적 발견과 마찬가지로(행성의 회전, 더 많은 휴식을 취할수록 더 생산적이라는 사실) 그것들은 순간의 지혜에 위배됩니다.

그러나 인텔리전스 모델은 순간의 지혜를 기반으로 합니다. 합의가 있는 지식에서. 동결 기술, 자동차 및 배달이 비만의 수를 증가시킨 것처럼 인공 기술 도구의 가용성은 우리를 게으른 지식인으로 만들고 혁신을 억누를 수 있습니다.

보시다시피 기계의 노예가 되는 것을 두려워하는 것 외에도 걱정할 것이 충분합니다. 그리고 우리는 여전히 소스 코드에 대한 액세스와 사용자의 개인 정보 보호에 대해 이야기하지 않습니다.


코멘트를 첫번째로 올려

코멘트를 남겨주세요

귀하의 이메일 주소는 공개되지 않습니다. 필수 필드가 표시되어 있습니다 *

*

*

  1. 데이터 책임자: AB Internet Networks 2008 SL
  2. 데이터의 목적 : 스팸 제어, 댓글 관리.
  3. 합법성 : 귀하의 동의
  4. 데이터 전달 : 법적 의무에 의한 경우를 제외하고 데이터는 제 XNUMX 자에게 전달되지 않습니다.
  5. 데이터 저장소 : Occentus Networks (EU)에서 호스팅하는 데이터베이스
  6. 권리 : 귀하는 언제든지 귀하의 정보를 제한, 복구 및 삭제할 수 있습니다.