점점 더 많은 발전이 있습니다 인공 지능,이 AI의 복잡성은 매번 증가하고 응용 분야도 증가하고 있습니다. 이미 보건 분야, 공공 행정, 연구, 서비스 등에서 사용되고 있습니다. 그러나 이러한 알고리즘은 보안과 관련하여 완벽하지 않으며 잠재적 인 위협도 있습니다. 실제로 AI가 발전함에 따라 점점 더 많은 위협이 탐지되고 있습니다. 그렇기 때문에 카운터 핏과 같은 도구가 중요합니다.
매우 중요한 시스템이기 때문에 안전한 인공 지능 시스템이 필요합니다. 이를 위해 감사 및 도구에 대한 일련의 표준 더 쉽게 감사 할 수 있습니다.. 예를 들어 이전 단락에서 언급 한 Microsoft 도구입니다.
Microsoft는 작업을 크게 용이하게하는이 도구를 개발했으며 오픈 소스 라이선스 (MIT 라이선스)와 GitHub 플랫폼을 통해 수행했습니다. 따라서 사용하려는 모든 사람이 액세스 할 수 있으며 개발에 참여할 수 있습니다. 대응 이를 통해 개발자는 개발 초기 단계에서 인공 지능 시스템의 보안을 테스트 할 수 있으므로 중요한 허점이 없는지 확인할 수 있습니다.
관심이 있다면 그녀에 대해 알아, 당신은 당신의 GitHub의 저장소 이 링크에서. 여기에서 소스 코드, 정보를 찾거나 여러 플랫폼에서 다운로드하여 테스트 할 수 있습니다. 또한 Python으로 작성 되었기 때문에 Linux에서도 문제없이 사용할 수 있습니다.
이 도구는 모니터링 시스템을 평가해야하기 때문에 Microsoft 내에서 탄생했습니다. 인공 지능 및 기계 학습 취약점을 찾고 있습니다. 원래는 시스템 테스트 용 이었지만 이제는 AI 개발 단계에서도 사용할 수 있습니다.
사이트에서 볼 수 있듯이 당신은 설치해야 할 것입니다 아나콘다 파이썬 로컬에서 Python 스크립트를 사용할 수 있습니다. 또 다른 옵션은 웹 브라우저에서 Azure Shell을 통해 사용하는 것입니다.