对策:开源工具来审核AI

对抗

有越来越多的发展 人工智能,这种AI的复杂性每次都在增加,应用领域也在不断增加。 它已被用于卫生部门,公共管理,研究,服务等。 但是,这些算法在安全性方面并不是万无一失的,它们也有潜在的威胁。 实际上,随着AI的发展,越来越多的威胁被发现。 这就是为什么诸如反拟合之类的工具如此重要的原因。

由于它们是非常关键的系统,因此需要安全的人工智能系统。 为此,一系列的审计标准和工具 能够更轻松地对其进行审核。 我在上一段中提到的Microsoft工具就是一个例子。

微软已经开发了该工具,它将大大简化工作,并且它已经在开源许可(MIT许可)下并通过其GitHub平台进行了开发,因此所有希望使用它的人都可以使用它,并且能够参与其发展。 对抗 它将允许开发人员在开发的早期阶段测试人工智能系统的安全性,从而确保没有关键漏洞。

如果你有兴趣 了解她,您可以访问 GitHub上的存储库 从此链接。 您可以在此处找到源代码,信息,也可以在多个平台上下载并对其进行测试。 另外,由于它是用Python编写的,因此您也可以在Linux中使用它而不会出现问题。

该工具诞生于Microsoft内部,因为他们需要评估自己的系统。 人工智能和机器学习 寻找漏洞。 它最初用于测试系统,但现在也可以在AI开发阶段使用。

正如您在网站上看到的那样, 您将需要安装 蟒蛇蟒 在本地可以使用Python脚本。 另一个选择是从Web浏览器通过Azure Shell使用它。


本文内容遵循我们的原则 编辑伦理。 要报告错误,请单击 信息.

成为第一个发表评论

发表您的评论

您的电子邮件地址将不会被发表。 必填字段标有 *

*

*

  1. 负责资料:AB Internet Networks 2008 SL
  2. 数据用途:控制垃圾邮件,注释管理。
  3. 合法性:您的同意
  4. 数据通讯:除非有法律义务,否则不会将数据传达给第三方。
  5. 数据存储:Occentus Networks(EU)托管的数据库
  6. 权利:您可以随时限制,恢复和删除您的信息。