그들은 참신함을 위해 고전을 말합니다. 우리 시대의 XNUMX세기에 대해 쓰여진 우화는 인공 지능의 새로운 응용 프로그램의 한계가 무엇인지 이해하는 데 이상적입니다. 나는 플라톤의 동굴에 대한 유명한 우화를 각색한 것 이상도 이하도 아닌 "ChatGPT 동굴"을 언급하고 있습니다.
인공 지능 도구 사용에 반대하지 않습니다. 사실, 나는 그들이 일을 훨씬 더 쉽게 만든다는 것을 알았습니다. 그러나 한 귀하의 작업을 평가하기에 충분한 지식을 가진 사람들이 사용합니다.
예를 들어; ChatGPT에 WordPress 플러그인 작성을 요청할 수 있지만 PHP에 대한 지식이 부족하면 플러그인이 심각한 보안 문제를 일으킬 수 있습니다.
동굴의 알레고리
플라톤은 기원전 XNUMX세기에서 XNUMX세기 사이에 살았던 그리스의 철학자였습니다. 그는 자신의 생각을 신화와 알레고리의 형태로 표현했습니다. 그들 중 가장 잘 알려진 것은 동굴이었습니다.
에 게시 됨 공화국, 우화는 상상한다 동굴에 쇠사슬로 묶인 한 무리의 사람들, 그들 뒤에는 그들 앞에 있는 벽에 그림자를 드리우는 불이 있습니다. 그림자는 그들이 보는 유일한 것이며 그 너머에 있는 것을 무시하고 존재하는 유일한 것이라고 상상합니다.
수감자 중 한 명이 풀려나면 세상을 있는 그대로 볼 수 있고 동굴에서의 경험이 얼마나 제한적인지 깨닫게 됩니다.
플라톤 학자들에 따르면 이 우화는 우리 모두가 자신의 정보와 경험을 바탕으로 삶을 살고 있음을 강조합니다. 동굴의 그림자와 같은 정보와 경험. 죄수들처럼 진짜 현실이 있고 그것은 우리의 이해를 초월합니다.
ChatGPT의 동굴
ChatGPT와 그 경쟁업체는 팬과 비방자. 그러나 기사가 나올 때까지 아무도 실패에 대한 기술적인 설명을 하지 않았습니다. 출판 공상과학 작가 테드 창의 뉴요커에서
언어 모델의 결함을 설명하기 위해 Chang은 이미지 및 오디오 파일에서 발생하는 상황에 비유합니다.
디지털 파일의 기록 및 재생에는 두 단계가 필요합니다. 인코딩(이 시점에서 파일이 보다 압축된 형식으로 변환된 후 역 과정인 디코딩). 변환 프로세스를 무손실(복원된 파일이 원본과 동일함) 또는 손실(일부 정보가 영원히 손실됨)이라고 합니다. 손실 압축은 이미지, 비디오 또는 오디오 파일에 적용되며 대부분 눈에 띄지 않습니다. 그럴 때 압축 아티팩트라고 합니다. 압축 아티팩트는 이미지가 흐려지거나 오디오가 클랭킹되는 형태로 나타납니다.
Chang은 언어 모델을 참조하기 위해 웹의 퍼지 JPG를 비유로 사용합니다. 그리고 이것은 꽤 정확합니다. 둘 다 "중요한 것"만 유지하면서 정보를 압축합니다. 엘언어 모델은 대량의 텍스트 데이터에서 단어와 구 사이의 패턴과 관계에 대한 간단한 표현을 생성합니다.
그로부터 가능한 한 원본 텍스트와 내용 및 의미를 유사하게 만들기 위해 새로운 텍스트가 생성됩니다. 문제는 웹에 새로운 텍스트를 생성할 정보가 충분하지 않을 때입니다. 이것은 ChatGPT가 대학 수준의 에세이를 작성할 수 있지만 간단한 5자리 연산을 수행하지 못한다는 의미입니다.
Chang은 다음과 같이 결론을 내립니다.
대규모 언어 모델이 저작에 참여하는 것을 제한할 수 있더라도 웹 콘텐츠를 생성하는 데 사용해야 합니까? 이는 우리의 목표가 이미 웹에서 사용할 수 있는 정보를 재포장하는 것일 경우에만 의미가 있습니다. 일부 회사는 이를 위해 존재합니다. 일반적으로 콘텐츠 공장이라고 부릅니다. 아마도 언어 모델의 모호함은 저작권 침해를 피하는 방법으로 그들에게 유용할 것입니다. 하지만 일반적으로 콘텐츠 팩토리에 좋은 것은 정보를 찾는 사람들에게는 좋지 않다고 말하고 싶습니다. 이러한 유형의 재포장이 증가함에 따라 현재 온라인에서 원하는 것을 찾기가 어려워졌습니다.; 대규모 언어 모델에 의해 생성된 더 많은 텍스트가 웹에 게시될수록 웹 자체가 더 흐려집니다.
그리고 동굴의 죄수들처럼 우리의 경험은 현실이 우리에게 제공하는 것보다 훨씬 작을 것입니다.