최근에 오픈AI, 비영리 인공 지능 연구 회사 그것을 알렸다 출판을 통해 콘텐츠 조정 도구 여기에 언급된 새롭고 향상된(콘텐츠 조정 도구)는 더 정확하며 API 개발자가 애플리케이션을 보호하는 데 도움을 주기 위한 것입니다.
OpenAI 연구팀은 현재 모든 개발자가 사용할 수 있는 무료 콘텐츠 조정 도구에 대한 업데이트를 발표했습니다.
중재 끝점 애플리케이션 프로그래밍 인터페이스를 통해 OpenAI의 생성적 사전 훈련된 변압기 기반 분류기에 대한 액세스를 허용합니다. AI 모델이란 훈련을 받은 사람 원치 않는 콘텐츠 감지 앱에서 회사는 블로그 게시물에서 말했습니다. 이러한 분류기는 애플리케이션에서 불필요한 콘텐츠를 감지합니다.
회사에서 이 업데이트를 적용했습니다. 다양한 응용 분야에서 견고하게 수행, 소셜 네트워크, 메시징 시스템 및 AI 챗봇을 포함합니다.
입력 텍스트를 제공하면 중재 엔드포인트는 콘텐츠를 증오심 표현으로 분석합니다., 성적인 내용, 욕설 등은 필터링됩니다. 모든 콘텐츠 차단 (OpenAI API에 의해 생성됨) OpenAI 콘텐츠 정책에 위배됩니다.. 또한 엔드포인트는 유해한 인간 생성 콘텐츠를 제거하고 차단할 수도 있습니다.
엔드포인트는 다양한 애플리케이션에서 빠르고 정확하며 강력하도록 훈련되었습니다. 중요한 것은 이렇게 하면 제품이 대규모로 사용자에게 배포되는 경우에도 제품이 잘못된 것을 "말할" 가능성이 줄어듭니다. 결과적으로 AI는 교육과 같이 자신 있게 사용할 수 없는 민감한 환경에서 이점을 얻을 수 있습니다.
개선된 버전의 중재 엔드포인트 빠르고 정확하며 견고하도록 설계 AI 기반 챗봇, 메시징 시스템 및 소셜 네트워킹 사이트를 포함한 여러 유형의 애플리케이션에 걸쳐 있습니다.
중요하게도 OpenAI는 AI 모델이 잘못된 것을 "말"할 가능성을 크게 줄인다고 말했습니다. 이는 사람들이 이전에 기술 구현에 대해 주저했을 수 있는 교육 애플리케이션과 같은 보다 민감한 환경에서 AI를 사용할 수 있음을 의미합니다.
언급 할 가치가 있습니다. 이 도구는 OpenAI API에서 생성된 콘텐츠와 함께 사용할 때 무료입니다. 봇을 조정하는 것 외에도 OpenAI API가 아닌 사람이 생성하는 유해 콘텐츠를 차단할 수도 있습니다. 젊은이들이 자신의 감정과 의견을 공유할 수 있는 플랫폼을 제공하는 익명의 메시징 플랫폼 NGL은 OpenAI 도구를 사용하여 증오심 표현과 괴롭힘을 감지합니다. NGL은 이 도구가 최신 속어를 일반화할 수 있는 고유한 기능을 가지고 있어 예를 들어 십대들이 사용하는 언어의 발전과 일치하도록 허용한다고 말했습니다.
API가 아닌 트래픽의 경우 중재 엔드포인트에 수수료가 부과된다는 점도 언급하는 것이 중요합니다.
AI 생태계를 보다 안전하게 만들기 위한 OpenAI의 약속의 일환으로 OpenAI API에서 생성된 모든 콘텐츠를 무료로 조정할 수 있도록 이 엔드포인트를 제공합니다. 예를 들어, OpenAI API 클라이언트인 Inworld는 중재 엔드포인트를 사용하여 가상 AI 기반 캐릭터가 "스크립트를 유지"하도록 돕습니다. Inworld는 OpenAI 기술을 활용하여 핵심 제품인 기억에 남는 캐릭터를 만드는 데 집중할 수 있습니다.
OpenAI가 말했다 개발자는 문서를 참조하여 이미 사용을 시작할 수 있습니다. 또한 AI 기반 조정 영역에서 추가 연구에 영감을 줄 평가 데이터 세트와 함께 교육 및 성과 프로세스를 자세히 설명하는 문서를 발행했습니다.
최종적으로 그것에 대해 더 많이 알고 싶다면에서 세부 정보를 확인할 수 있습니다. 다음 링크.