Există din ce în ce mai multe evoluții ale inteligența artificială, complexitatea acestei IA crește de fiecare dată, precum și domeniul de aplicare. Este deja utilizat în sectorul sănătății, administrații publice, cercetare, servicii etc. Dar acești algoritmi nu sunt infailibili atunci când vine vorba de securitate, există și potențiale amenințări la adresa lor. De fapt, pe măsură ce AI avansează, sunt detectate tot mai multe amenințări. De aceea, importanța instrumentelor precum contrafacerea
Deoarece sunt sisteme destul de critice, sunt necesare sisteme sigure de inteligență artificială. Și pentru aceasta, o serie de standarde pentru audituri și instrumente pentru să le puteți audita mai ușor. Un exemplu este acest instrument Microsoft pe care l-am menționat în paragraful anterior.
Microsoft a dezvoltat acest instrument care va facilita foarte mult munca și a făcut-o sub o licență open source (licență MIT) și prin intermediul platformei sale GitHub, astfel încât să fie accesibil tuturor celor care doresc să-l folosească și, de asemenea, să fie capabil să participe la dezvoltarea sa. contracost Acesta va permite dezvoltatorilor să testeze securitatea sistemelor de inteligență artificială într-un stadiu incipient de dezvoltare, asigurându-se astfel că nu există găuri critice.
Dacă sunteți interesat știu despre ea, puteți accesa depozit pe GitHub din acest link. Acolo veți găsi codul sursă, informații sau îl puteți descărca și testa pe mai multe platforme. În plus, deoarece este scris în Python, îl puteți folosi și în Linux fără probleme.
Instrumentul s-a născut în cadrul Microsoft, datorită propriei nevoi de a-și evalua sistemele de inteligența artificială și învățarea automată căutând vulnerabilități. Acesta a fost inițial destinat testării sistemelor, dar acum poate fi utilizat și în etapa de dezvoltare a AI.
După cum puteți vedea pe site, va trebui să instalați Anaconda Python în local pentru a putea folosi scriptul Python. O altă opțiune este să o utilizați prin Azure Shell dintr-un browser web.