OpenAI、新しいコンテンツ モデレーション API をリリースし、無料で使用できます 

最近 OpenAI、 非営利の人工知能研究会社 それを知らせた 出版物を通して コンテンツ管理ツール 新しく改善された (Content Moderation Tooling) は、より正確であり、API 開発者がアプリケーションを保護できるようにすることを目的としています。

OpenAI 研究チームは、すべての開発者が利用できるようになった無料のコンテンツ モデレート ツールの更新を発表しました。

モデレートエンドポイント アプリケーション プログラミング インターフェイスを介して、OpenAI のジェネレーティブな事前トレーニング済みトランスフォーマー ベースの分類子にアクセスできます。 AIモデルとは 訓練を受けた者 不要なコンテンツを検出する アプリでは、同社はブログ投稿で述べています。 これらの分類子は、アプリケーション内の不要なコンテンツを検出します。

会社はこの更新を課しました 幅広いアプリケーションで確実に機能する、ソーシャル ネットワーク、メッセージング システム、AI チャットボットなど。

入力テキストを提供したら、 モデレート エンドポイントはコンテンツをヘイトスピーチとして分析します、性的コンテンツ、虐待的な言葉などをフィルタリングします。 すべてのコンテンツをブロック (OpenAI API によって生成) OpenAI のコンテンツ ポリシーに反するもの. さらに、エンドポイントは、人間が生成した有害なコンテンツを削除してブロックすることもできます。

エンドポイントは、さまざまなアプリケーションで高速、正確、堅牢になるようにトレーニングされています。 重要なことは、これにより、ユーザーに大規模に展開された場合でも、製品が間違ったことを「言う」可能性が減少することです。 その結果、AI は、他の方法では自信を持って使用できなかった、教育などの機密性の高い環境で利点を引き出すことができます。

モデレーション エンドポイントの改良版 高速、正確、堅牢な設計 AI を活用したチャットボット、メッセージング システム、ソーシャル ネットワーキング サイトなど、複数のタイプのアプリケーションにわたって。

重要なことに、OpenAI は、AI モデルが間違ったことを「言う」可能性を大幅に減らすと述べています。 つまり、AI は、教育アプリケーションなど、以前はテクノロジの実装に抵抗があった可能性がある、より機密性の高い設定で使用できることを意味します。

言及する価値があります OpenAI API によって生成されたコンテンツで使用する場合、このツールは無料です。  ボットをモデレートするだけでなく、OpenAI API ではなく人間によって生成された有害なコンテンツをブロックすることもできます。 若者が自分の気持ちや意見を共有するためのプラットフォームを提供する匿名メッセージング プラットフォーム NGL は、OpenAI ツールを使用してヘイト スピーチや嫌がらせを検出します。 NGL によると、このツールには最新のスラングを一般化する独自の機能があり、たとえば XNUMX 代の若者が使用する言語の進化に対応させることができます。

また、API 以外のトラフィックの場合、モデレーション エンドポイントは料金の対象となることにも注意してください。

AI エコシステムをより安全にするという OpenAI の取り組みの一環として、OpenAI API によって生成されたすべてのコンテンツを無料で管理できるようにするために、このエンドポイントを提供しています。 たとえば、OpenAI API クライアントである Inworld は、モデレート エンドポイントを使用して、仮想 AI ベースのキャラクターが「スクリプトにとどまる」ようにします。 OpenAI テクノロジーを活用することで、Inworld はコア製品である記憶に残るキャラクターの作成に集中できます。

OpenAIは言った 開発者は、ドキュメントを参照することで、すでに使用を開始できます。 また、AI を活用したモデレーションの分野でのさらなる研究を刺激すると述べた評価データセットとともに、トレーニングとパフォーマンスのプロセスを詳述したドキュメントを公開しました。

最後に あなたがそれについてもっと知りたいなら、詳細はで確認できます 次のリンク。


コメントを最初に

コメントを残す

あなたのメールアドレスが公開されることはありません。 必須フィールドには付いています *

*

*

  1. データの責任者:AB Internet Networks 2008 SL
  2. データの目的:SPAMの制御、コメント管理。
  3. 正当化:あなたの同意
  4. データの伝達:法的義務がある場合を除き、データが第三者に伝達されることはありません。
  5. データストレージ:Occentus Networks(EU)がホストするデータベース
  6. 権利:いつでも情報を制限、回復、削除できます。