Il y a de plus en plus de développements de intelligence artificielle, la complexité de cette IA augmente à chaque fois, ainsi que le domaine d'application. Il est déjà utilisé dans le secteur de la santé, les administrations publiques, la recherche, les services, etc. Mais ces algorithmes ne sont pas infaillibles en matière de sécurité, ils présentent également des menaces potentielles. En fait, à mesure que l'IA progresse, de plus en plus de menaces sont détectées. C'est pourquoi l'importance des outils comme le contre-ajustement.
Comme ce sont des systèmes assez critiques, des systèmes d'intelligence artificielle sûrs sont nécessaires. Et pour cela, une série de normes d'audits et d'outils pour pouvoir les auditer plus facilement. Un exemple est cet outil Microsoft que j'ai mentionné dans le paragraphe précédent.
Microsoft a développé cet outil qui facilitera grandement le travail, et il l'a fait sous licence open source (licence MIT) et via sa plateforme GitHub, afin qu'il soit accessible à tous ceux qui souhaitent l'utiliser, et aussi être capable de participer à son développement. contrefaçon Il permettra aux développeurs de tester la sécurité des systèmes d'intelligence artificielle à un stade précoce de développement, garantissant ainsi qu'il n'y a pas de trous critiques.
Si vous êtes intéressé savoir pour elle, vous pouvez accéder à votre référentiel sur GitHub à partir de ce lien. Vous y trouverez le code source, des informations, ou vous pouvez le télécharger et le tester sur plusieurs plates-formes. De plus, comme il est écrit en Python, vous pouvez également l'utiliser sans problème sous Linux.
L'outil est né au sein de Microsoft, en raison de leur propre besoin d'évaluer leurs systèmes de intelligence artificielle et apprentissage automatique à la recherche de vulnérabilités. Il était à l'origine destiné à tester des systèmes, mais il peut désormais également être utilisé pendant la phase de développement de l'IA.
Comme vous pouvez le voir sur le site, vous devrez installer Python anaconda en local pour pouvoir utiliser le script Python. Une autre option consiste à l'utiliser via Azure Shell à partir d'un navigateur Web.