Det er mer og mer utvikling av kunstig intelligens, kompleksiteten til denne AI øker hver gang, og også anvendelsesområdet. Den brukes allerede i helsesektoren, offentlige administrasjoner, forskning, tjenester osv. Men disse algoritmene er ikke idiotsikre når det gjelder sikkerhet, det er også potensielle trusler mot dem. Når AI utvikler seg, blir det faktisk oppdaget flere og flere trusler. Det er derfor viktigheten av verktøy som counterfit.
Siden de er ganske kritiske systemer, er det nødvendig med sikre kunstige intelligenssystemer. Og for dette må vi utvikle en serie standarder for revisjon og verktøy for være i stand til å revidere dem lettere. Et eksempel er dette Microsoft-verktøyet som jeg nevnte i forrige avsnitt.
Microsoft har utviklet dette verktøyet som vil gjøre arbeidet ditt mye enklere, og det har gjort under en åpen kildekode-lisens (MIT-lisens) og gjennom GitHub-plattformen, slik at den er tilgjengelig for alle som ønsker å bruke den, og også for kunne delta i utviklingen. motutstyr Det vil tillate utviklere å teste sikkerheten til kunstig intelligenssystemer på et tidlig stadium av utviklingen, og dermed sikre at det ikke er noen kritiske hull.
Hvis du er interessert vet om henne, kan du få tilgang til din depot på GitHub fra denne lenken. Der finner du kildekoden, informasjonen, eller du kan laste ned og teste den på flere plattformer. I tillegg, siden den er skrevet i Python, kan du også bruke den i Linux uten problemer.
Verktøyet ble født i Microsoft på grunn av deres eget behov for å evaluere systemene deres for kunstig intelligens og maskinlæring leter etter sårbarheter. Den var opprinnelig ment for testing av systemer, men nå kan den også brukes under AI-utviklingsstadiet.
Som du kan se på nettstedet, du må installere Anaconda Python på lokalt for å kunne bruke Python-skriptet. Et annet alternativ er å bruke det gjennom Azure Shell fra en nettleser.