の開発はますます増えています 人工知能、このAIの複雑さは毎回増加しており、アプリケーションの分野でもあります。 すでに保健分野、行政、研究、サービスなどで利用されています。 しかし、これらのアルゴリズムはセキュリティに関しては絶対確実ではなく、潜在的な脅威もあります。 実際、AIが進歩するにつれて、ますます多くの脅威が検出されています。 そのため、カウンターフィットなどのツールの重要性があります。
それらは非常に重要なシステムであるため、安全な人工知能システムが必要です。 そしてこのために、私たちは監査とツールのための一連の基準を開発しなければなりません それらをより簡単に監査できる。 例として、前の段落で説明したこのMicrosoftツールがあります。
マイクロソフトは、作業をはるかに簡単にするこのツールを開発しました。これは、オープンソースライセンス（MITライセンス）とGitHubプラットフォームを介して行われているため、使用したいすべての人がアクセスできます。その開発に参加することができます。 カウンターフィット これにより、開発者は開発の初期段階で人工知能システムのセキュリティをテストできるため、重大な穴がないことを確認できます。
興味があるなら 彼女について知っている、あなたはあなたにアクセスすることができます GitHubのリポジトリ このリンクから。 そこにソースコードや情報があります。または、ダウンロードして複数のプラットフォームでテストすることもできます。 また、Pythonで記述されているため、Linuxでも問題なく使用できます。
このツールは、Microsoftのシステムを評価する必要があるため、Microsoft内で生まれました。 人工知能と機械学習 脆弱性を探しています。 もともとはシステムのテストを目的としていましたが、現在はAIの開発段階でも使用できます。
あなたがサイトで見ることができるように、 インストールする必要があります アナコンダパイソン ローカルでPythonスクリプトを使用できるようにします。 もうXNUMXつのオプションは、WebブラウザーからAzureShellを介して使用することです。