Counterfit: outil open source pour auditer l'IA

contrefaçon

Il y a de plus en plus de développements de intelligence artificielle, la complexité de cette IA augmente à chaque fois, ainsi que le domaine d'application. Il est déjà utilisé dans le secteur de la santé, les administrations publiques, la recherche, les services, etc. Mais ces algorithmes ne sont pas infaillibles en matière de sécurité, ils présentent également des menaces potentielles. En fait, à mesure que l'IA progresse, de plus en plus de menaces sont détectées. C'est pourquoi l'importance des outils comme le contre-ajustement.

Comme ce sont des systèmes assez critiques, des systèmes d'intelligence artificielle sûrs sont nécessaires. Et pour cela, une série de normes d'audits et d'outils pour pouvoir les auditer plus facilement. Un exemple est cet outil Microsoft que j'ai mentionné dans le paragraphe précédent.

Microsoft a développé cet outil qui facilitera grandement le travail, et il l'a fait sous licence open source (licence MIT) et via sa plateforme GitHub, afin qu'il soit accessible à tous ceux qui souhaitent l'utiliser, et aussi être capable de participer à son développement. contrefaçon Il permettra aux développeurs de tester la sécurité des systèmes d'intelligence artificielle à un stade précoce de développement, garantissant ainsi qu'il n'y a pas de trous critiques.

Si vous êtes intéressé savoir pour elle, vous pouvez accéder à votre référentiel sur GitHub à partir de ce lien. Vous y trouverez le code source, des informations, ou vous pouvez le télécharger et le tester sur plusieurs plates-formes. De plus, comme il est écrit en Python, vous pouvez également l'utiliser sans problème sous Linux.

L'outil est né au sein de Microsoft, en raison de leur propre besoin d'évaluer leurs systèmes de intelligence artificielle et apprentissage automatique à la recherche de vulnérabilités. Il était à l'origine destiné à tester des systèmes, mais il peut désormais également être utilisé pendant la phase de développement de l'IA.

Comme vous pouvez le voir sur le site, vous devrez installer Python anaconda en local pour pouvoir utiliser le script Python. Une autre option consiste à l'utiliser via Azure Shell à partir d'un navigateur Web.


Le contenu de l'article adhère à nos principes de éthique éditoriale. Pour signaler une erreur, cliquez sur c'est par ici !.

Soyez le premier à commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.

*

*

  1. Responsable des données : AB Internet Networks 2008 SL
  2. Finalité des données: Contrôle du SPAM, gestion des commentaires.
  3. Légitimation: votre consentement
  4. Communication des données: Les données ne seront pas communiquées à des tiers sauf obligation légale.
  5. Stockage des données: base de données hébergée par Occentus Networks (EU)
  6. Droits: à tout moment, vous pouvez limiter, récupérer et supprimer vos informations.