Ngày càng có nhiều sự phát triển của trí tuệ nhân tạo, mức độ phức tạp của AI này mỗi lúc một tăng lên, và cả lĩnh vực ứng dụng. Nó đã được sử dụng trong lĩnh vực y tế, hành chính công, nghiên cứu, dịch vụ, v.v. Nhưng những thuật toán này không phải là tuyệt đối khi nói đến bảo mật, cũng có những mối đe dọa tiềm ẩn đối với chúng. Trên thực tế, khi AI ngày càng phát triển, ngày càng có nhiều mối đe dọa được phát hiện. Đó là lý do tại sao tầm quan trọng của các công cụ như counterfit.
Vì chúng là những hệ thống khá quan trọng nên cần có hệ thống trí tuệ nhân tạo an toàn. Và đối với điều này, một loạt các tiêu chuẩn đánh giá và các công cụ để có thể kiểm tra chúng dễ dàng hơn. Một ví dụ là công cụ này của Microsoft mà tôi đã đề cập trong đoạn trước.
Microsoft đã phát triển công cụ này sẽ tạo điều kiện thuận lợi cho công việc và nó đã làm như vậy theo giấy phép nguồn mở (giấy phép MIT) và thông qua nền tảng GitHub, để tất cả những ai muốn sử dụng nó đều có thể truy cập và có thể tham gia vào sự phát triển của nó. đối ứng Nó sẽ cho phép các nhà phát triển kiểm tra tính bảo mật của các hệ thống trí tuệ nhân tạo ở giai đoạn phát triển ban đầu, do đó đảm bảo rằng không có lỗ hổng nghiêm trọng nào.
Nếu bạn quan tâm biết về cô ấy, bạn có thể truy cập kho lưu trữ trên GitHub từ liên kết này. Ở đó, bạn sẽ tìm thấy mã nguồn, thông tin hoặc bạn có thể tải xuống và kiểm tra nó trên nhiều nền tảng. Ngoài ra, vì nó được viết bằng Python, bạn cũng có thể sử dụng nó trong Linux mà không gặp vấn đề gì.
Công cụ này được sinh ra trong Microsoft, do nhu cầu của họ để đánh giá hệ thống của họ trí tuệ nhân tạo và máy học tìm kiếm các lỗ hổng. Ban đầu nó được dành cho các hệ thống thử nghiệm, nhưng giờ đây nó cũng có thể được sử dụng trong giai đoạn phát triển AI.
Như bạn có thể thấy trên trang web, bạn sẽ cần phải cài đặt Trăn Anaconda trong địa phương để có thể sử dụng tập lệnh Python. Một tùy chọn khác là sử dụng nó thông qua Azure Shell từ trình duyệt web.