Sí, cuánto daño ha hecho Skynet. No creo que hablar de una obra que publicó su primer episodio hace casi 40 años (1984) sea hacer spoiler, pero hace cuatro décadas no había inteligencia artificial más allá de pequeños programas que aprendían un poco y dejar volar la imaginación. Así se concibió la figura de Skynet, un programa que aprendía por sí mismo y mejoró y mejoró hasta tomar conciencia de sí mismo, «asustarse» al saber que iba a ser apagado y terminar con la humanidad como se conocía lanzando misiles entre EEUU y Rusia. Lo más avanzado que existe ahora, por lo menos que se sepa, es ChatGPT 4, y sus mejoras han llegado a asustar o, por lo menos, molestar.
Pero bajemos a un punto más realista. La preocupación de los firmantes de la carta abierta, entre los que está Elon Musk, tienen otras preocupaciones, o una sin una forma completa. El miedo que tienen es a lo desconocido, uno de los miedos más comunes, y es que OpenAI y otras fundaciones, programas y proyectos están mejorando sus inteligencias artificiales como si fuera una carrera por ver quién llega más lejos y cuándo, y esto puede dar resultados dispares.
ChatGPT 4 en el punto de mira
Con la versión < 4 del chatbot de OpenAI, las cosas parecían más «graciosas» o «cuquis», usad la palabra que prefiráis. Se le preguntan cosas y responde; se le pide que corrija una sección de código y lo hace; le pides el significado de una letra de una canción o una película y te lo explica; pero ChatGPT 4 ha ido más allá. Sus respuestas han mejorado mucho, e incluso puede generar contenido que podría llegar a ser falso.
Porque esta es una de las preocupaciones que se mencionan: imaginemos que yo escribo un artículo bien detallado de por qué el hombre nunca ha llegado a la luna. Ese artículo tiene muchas visitas y se comparte por doquier, aunque en algunos casos sea para criticarlo. Más tarde, le preguntamos a ChatGPT qué pasó en aquel momento, que nos escriba un artículo sobre ese acontecimiento, nos escribe algo basado en lo que yo he escrito y, como no tiene la capacidad de detectar fake news, nos escribe algo falso. Esto, o con algún ejemplo mejor, podría inundar las redes.
6 meses de pausa para estudiar el control
Lo que se pide es que «Todos los laboratorios de IA pausen por al menos 6 meses el entrenamiento de sistemas de IA más potentes que ChatGPT-4. Esta pausa debería ser pública y verificable, e incluir todos los actores clave. Si la pausa no puede ser promulgada rápidamente, los gobiernos deberían dar un paso adelante e instituir una moratoria«.
Todos los laboratorios y expertos independientes deben usar este tiempo para implementar un grupo de protocolos de seguridad, lo que traducido podría tomarse como otra manera de decir que hay que escribir unas leyes similares a las famosas leyes de la robótica.
¿No es lo mismo para los gobiernos?
Lo que personalmente me llama la atención es un punto en el que dice que, en paralelo, los desarrolladores de IA deben trabajar con los creadores de políticas para acelerar el desarrollo inteligencia artificial para sistemas de gobierno. Es decir, ayudar a los gobiernos con su propia inteligencia artificial para poder, en pocas palabras, controlar a las inteligencias artificiales. Haz lo que digo, no lo que hago.
Que la carta la haya firmado Elon Musk no me sorprende. Se ha sabido que co-fundó OpenAI, y parece que, tras abandonar la compañía, su éxito le está doliendo. Por los demás, sí, es cierto que las inteligencias artificiales, por muy inteligentes que sean, en la toma de decisiones se dice que no son mejores que un niño/a de 7 años, y que le puede costar diferenciar información veraz de la falsa, por lo que el punto de las fake news sí es una posibilidad y hay que tomar medidas. Por todo lo demás, creo que mientras no se les dé los códigos de lanzamientos de misiles la cosa no pinta tan mal. Espero no equivocarme.