有越来越多的发展 人工智能，这种AI的复杂性每次都在增加，应用领域也在不断增加。 它已被用于卫生部门，公共管理，研究，服务等。 但是，这些算法在安全性方面并不是万无一失的，它们也有潜在的威胁。 实际上，随着AI的发展，越来越多的威胁被发现。 这就是为什么诸如反拟合之类的工具如此重要的原因。
由于它们是非常关键的系统，因此需要安全的人工智能系统。 为此，一系列的审计标准和工具 能够更轻松地对其进行审核。 我在上一段中提到的Microsoft工具就是一个例子。
微软已经开发了该工具，它将大大简化工作，并且它已经在开源许可（MIT许可）下并通过其GitHub平台进行了开发，因此所有希望使用它的人都可以使用它，并且能够参与其发展。 对抗 它将允许开发人员在开发的早期阶段测试人工智能系统的安全性，从而确保没有关键漏洞。
如果你有兴趣 了解她，您可以访问 GitHub上的存储库 从此链接。 您可以在此处找到源代码，信息，也可以在多个平台上下载并对其进行测试。 另外，由于它是用Python编写的，因此您也可以在Linux中使用它而不会出现问题。
该工具诞生于Microsoft内部，因为他们需要评估自己的系统。 人工智能和机器学习 寻找漏洞。 它最初用于测试系统，但现在也可以在AI开发阶段使用。
正如您在网站上看到的那样， 您将需要安装 蟒蛇蟒 在本地可以使用Python脚本。 另一个选择是从Web浏览器通过Azure Shell使用它。