Counterfit: herramienta de código abierto para auditar la IA

counterfit

Cada vez hay más desarrollos de inteligencia artificial, cada vez se aumenta la complejidad de esta IA, y también el campo de aplicación. Ya está siendo usada en el sector sanitario, administraciones públicas, investigación, servicios, etc. Pero estos algoritmos no son infalibles en cuanto a seguridad, también hay posibles amenazas para ellos. De hecho, conforme la IA avanza, cada vez se están detectando más amenazas. Por eso la importancia de herramientas como counterfit.

Como son sistemas bastante críticos, se necesitan sistemas de inteligencia artificial seguros. Y para ello hay que desarrollar una serie de estándares para las auditorías y herramientas para poder auditarlos de forma más sencilla. Un ejemplo esta herramienta de Microsoft que he citado en el párrafo anterior.

Microsoft ha desarrollado esta herramienta que facilitará mucho el trabajo, y lo ha hecho bajo licencia de código abierto (licencia MIT) y a través de su plataforma GitHub, para que esté accesible para todos aquellos que deseen usarla, y también para poder participar en su desarrollo. counterfit permitirá a los desarrolladores probar la seguridad de los sistemas de inteligencia artificial en una fase temprana de desarrollo, y así asegurarse de que no presenta agujeros críticos.

Si te interesa conocer sobre ella, puedes acceder a su repositorio en GitHub desde este enlace. Allí encontrarás el código fuente, información, o la podrás descargar y probar en múltiples plataformas. Además, al estar escrita en Python, la puedes usar también en Linux sin problemas.

La herramienta nació en el seno de Microsoft, por la propia necesidad que tenían ellos mismos de evaluar sus sistemas de inteligencia artificial y aprendizaje automático en búsqueda de vulnerabilidades. En un inicio estaba dirigido para probar sistemas, pero ahora también se puede usar durante la etapa de desarrollo de la IA.

Como podrás ver en el sitio, necesitarás instalar Anaconda Python en local para poder usar el script Python. Otra opción es usarla a través de Azure Shell desde un navegador web.


El contenido del artículo se adhiere a nuestros principios de ética editorial. Para notificar un error pincha aquí.

Sé el primero en comentar

Deja tu comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

*

*

  1. Responsable de los datos: Miguel Ángel Gatón
  2. Finalidad de los datos: Controlar el SPAM, gestión de comentarios.
  3. Legitimación: Tu consentimiento
  4. Comunicación de los datos: No se comunicarán los datos a terceros salvo por obligación legal.
  5. Almacenamiento de los datos: Base de datos alojada en Occentus Networks (UE)
  6. Derechos: En cualquier momento puedes limitar, recuperar y borrar tu información.