Egyre több a mesterséges intelligencia, ennek az AI-nek a bonyolultsága minden alkalommal növekszik, és az alkalmazási terület is növekszik. Már használják az egészségügyi szektorban, a közigazgatásban, a kutatásban, a szolgáltatásokban stb. De ezek az algoritmusok nem bolondbiztosak, ha a biztonságról van szó, lehetséges fenyegetések is vannak számukra. Valójában az AI előrehaladtával egyre több fenyegetést észlelnek. Ezért fontos az olyan eszközök fontossága, mint a hamisítás.
Mivel meglehetősen kritikus rendszerek, biztonságos mesterséges intelligencia rendszerekre van szükség. Ehhez egy sor szabvány az ellenőrzésekhez és az eszközökhöz könnyebben ellenőrizheti őket. Példa erre a Microsoft eszközre, amelyet az előző bekezdésben említettem.
A Microsoft kifejlesztette ezt az eszközt, amely nagyban megkönnyíti a munkát, és ezt nyílt forráskódú licenc (MIT licenc) alatt és a GitHub platformján keresztül tette meg, hogy mindenki számára elérhető legyen, aki használni szeretné, és hogy részt vehet a fejlesztésében. ellenpapír Lehetővé teszi a fejlesztők számára, hogy a fejlesztés korai szakaszában teszteljék a mesterséges intelligencia rendszerek biztonságát, biztosítva ezzel, hogy ne legyenek kritikus lyukak.
Ha érdekel tudjon róla, elérheti a tárház a GitHubon erről a linkről. Itt megtalálja a forráskódot, információkat, vagy letöltheti és tesztelheti több platformon. Ezen felül, mivel Python-ban van megírva, problémamentesen használhatja Linux alatt is.
Az eszköz a Microsofton belül született, abból a célból, hogy saját rendszereiket értékelniük kell mesterséges intelligencia és gépi tanulás sebezhetőségeket keres. Eredetileg rendszerek tesztelésére készült, de most már az AI fejlesztési szakaszában is használható.
Amint a webhelyen láthatja, telepítenie kell Anaconda Python a helyi nyelven, hogy képes legyen használni a Python szkriptet. Egy másik lehetőség az Azure Shell segítségével webböngészőből történő használata.