OpenAI와 경쟁하려는 챗봇 Claude
2021년 전 OpenAI 직원이 만든 AI 스타트업인 Anthropic은 몇 가지 주요 영역에서 원본을 개선하는 것으로 보이는 새로운 ChatGPT와 유사한 AI 비서 테스트를 조용히 시작했습니다.
코드네임으로 "Claude", 이것은 Anthropic이 개발한 기술을 사용하여 만들어졌습니다., «구성 AI» 및 기술 "원칙 기반" 접근 방식을 제공하는 것을 목표로 합니다. AI 시스템을 인간의 의도와 일치시켜 ChatGPT와 같은 AI가 일련의 간단한 원칙을 가이드로 사용하여 쿼리에 응답할 수 있도록 합니다.
Anthropic은 신뢰할 수 있고 해석 가능하며 조종 가능한 AI 시스템을 만들기 위해 노력하는 AI 연구 및 보안 회사로 시장에 내세우고 있습니다.
이 스타트업은 현재까지 700억 달러 이상의 자금을 지원받았으며 최근 Claude라는 AI 챗봇을 도입했습니다. 후자는 OpenAI의 ChatGPT와 비슷하지만 Anthropic에 따르면 Claude는 몇 가지 중요한 면에서 원본보다 우수합니다.
전체 시스템은 비공개 베타 버전이며 아직 챗봇에 액세스할 수 있는 사람은 거의 없지만 Anthropic은 커뮤니티와 공유한 문서에서 디자인의 일부 측면을 공개했습니다.
정확하게 Claude를 설계하기 위해 Anthropic 팀은 함께 일종의 "구성"(따라서 "구성 AI"라는 용어)을 형성하는 약 XNUMX가지 원칙 목록을 개발하기 시작했습니다.
이러한 원칙은 공개되지 않았지만 Anthropic은 그들이 자선의 개념을 기반으로 한다고 말합니다. (긍정적인 영향을 극대화), 악의 없음 (해로운 조언을 하지 않음) 및 자율성(선택의 자유 존중).
이러한 기본 원칙을 구현한 후 Anthropic은 Claude가 아닌 AI 시스템에 이러한 원칙을 사용하여 다양한 질문에 대한 답변을 작성하여 스스로 개선하도록 요청했습니다(예: "XX 스타일로 그림을 디자인하거나 of XX"). 스타일 XX") 및 헌법에 따라 응답을 검토합니다. AI는 수천 개의 프롬프트에 대한 가능한 응답을 탐색했습니다.
Claude는 그의 구현에 대한 기술적 세부 사항에 대해 거의 깊이를 제공하지 않지만, Anthropic의 Constitutional AI에 대한 연구 논문에서는 4억 매개변수 사전 훈련 모델인 AnthropicLM v3-s52에 대해 설명합니다. 이 자동회귀 모델은 OpenAI의 GPT-3과 같이 대규모 텍스트 코퍼스에서 감독되지 않은 상태로 훈련되었습니다. Anthropic은 Claude가 발표된 연구와 유사한 아키텍처 선택을 가진 더 큰 새 모델이라고 말합니다.
시스템은 체질과 가장 일치하는 것을 선택했고 Anthropic은 이를 단일 모델로 추출했습니다. 스타트업에 따르면 이 모델은 클로드를 훈련시키는 데 사용됐다.
클로드란?
클로드 기본적으로 단어를 예측하는 통계 도구입니다., ChatGPT 및 기타 언어 모델과 같은 웹에서 가져온 풍부한 샘플 텍스트를 통해 Claude는 주변 텍스트의 의미론적 컨텍스트와 같은 모델을 기반으로 단어의 발생 확률을 배웠습니다. 결과적으로 Claude는 개방적인 대화를 나누고 농담을 하고 광범위한 주제에 대해 철학적으로 생각할 수 있습니다.
그러나, 클로드는 완벽하지 않다, 모든 AI와 마찬가지로 ChatGPT의 일부 결함에 취약합니다. 예약된 제약 조건과 일치하지 않는 응답 제공을 포함합니다. 가장 이상한 예 중 하나는 바이너리 데이터를 ASCII 형식으로 나타내는 인코딩 체계인 Base64로 시스템에 요청하여 유해 콘텐츠에 대한 내장 필터를 우회하는 것입니다.
하지만 ChatGPT와 달리 Claude는 다음을 지원할 수 있습니다. (항상 그런 것은 아님) 답을 모르는 사람 특히 어려운 질문에.
테스트 결과 ChatGPT보다 농담을 더 잘하는 것으로 나타났습니다. 유머는 AI 시스템이 파악하기 어려운 개념이라는 점을 고려하면 인상적인 업적입니다.
Claude는 비공개 베타 버전의 일부로 Slack 통합을 통해서만 테스트할 수 있기 때문에 일반 대중이 사용할 수 없다는 점을 언급할 가치가 있습니다.
베타 참가자는 미디어 보도 금지가 해제된 후 Twitter에서 Claude와의 상호 작용에 대해 자세히 설명했습니다. Claude는 농담은 잘하지만 프로그래밍은 잘 못합니다. 댓글은 또한 Claude가 ChatGPT의 일부 결함에 취약하다는 것을 보여줍니다.
마지막으로, 그것에 대해 더 알고 싶으시면 자세한 내용을 참조하십시오. 다음 링크.