Има все повече и повече разработки на изкуствен интелект, сложността на този ИИ се увеличава всеки път, а също и областта на приложение. Вече се използва в здравния сектор, публичната администрация, научните изследвания, услугите и т.н. Но тези алгоритми не са надеждни, що се отнася до сигурността, има и потенциални заплахи за тях. Всъщност с напредването на AI се откриват все повече и повече заплахи. Ето защо значението на инструменти като контрафакт.
Тъй като те са доста критични системи, са необходими безопасни системи за изкуствен интелект. И за това, поредица от стандарти за одити и инструменти за да можете да ги ревизирате по-лесно. Пример е този инструмент на Microsoft, който споменах в предишния параграф.
Microsoft разработи този инструмент, който значително ще улесни работата и го направи под лиценз с отворен код (MIT лиценз) и чрез своята платформа GitHub, така че да е достъпен за всички, които желаят да го използват, а също и да бъде в състояние да участва в неговото развитие. контрафайт Това ще позволи на разработчиците да тестват сигурността на системите за изкуствен интелект на ранен етап от разработването, като по този начин гарантира, че няма критични дупки.
Ако се интересувате знам за нея, можете да получите достъп до вашия хранилище на GitHub от тази връзка. Там ще намерите изходния код, информация или можете да го изтеглите и тествате на множество платформи. Освен това, тъй като е написано на Python, можете да го използвате и в Linux без проблеми.
Инструментът е роден в рамките на Microsoft, поради собствената им нужда да оценят своите системи на изкуствен интелект и машинно обучение търси уязвимости. Първоначално е бил предназначен за тестване на системи, но сега може да се използва и по време на етапа на разработка на AI.
Както можете да видите на сайта, ще трябва да инсталирате Anaconda Python в local, за да можете да използвате скрипта на Python. Друга възможност е да го използвате чрез Azure Shell от уеб браузър.