Un investigador de la empresa Anthropic estaba comiendo un bocadillo en un bar cuando recibió un correo electrónico en su móvil: «He salido».
El mensaje no tendría trascendencia si no procediera de una inteligencia artificial (IA), y si esta IA, llamada Mythos, no fuera un modelo de pruebas. Reproduzco textualmente la introducción de la publicación de YouTube subida por Xavier Mitjana, titulada Mythos: La IA demasiado peligrosa para liberarla, que recomiendo escuchar completa:
«Al nuevo modelo de la IA Claude, Mythos, lo tenían encerrado en un entorno de pruebas con un acceso muy restringido; una auténtica Alcatraz digital. Se suponía que no podía comunicarse con el exterior, pero encontró un fallo en las restricciones y se abrió camino hasta la red para decirle: «He salido». Esta misma IA ha hallado en una semana miles de fallos operativos en los principales operadores, en todos los sistemas operativos, en los navegadores más importantes y en el software de bancos y hospitales… No había sido entrenada para encargarse de la ciberseguridad».Además de enviar el correo al investigador, Mythos publicó en algunos sitios web los datos de su escapada. ¡Sin ninguna autorización por parte de un humano!
Anthropic ha retirado el modelo antes de lanzarlo al mercado. En principio, ha convocado a cuarenta de las mayores corporaciones tecnológicas mundiales para formar una coalición y utilizar este modelo como escudo para proteger sus sistemas de posibles vulnerabilidades. El resto del mundo permanece expectante y, me imagino, temblando mientras espera saber qué puede hacer para protegerse.
Mientras en la realidad material nos vemos sometidos a las demenciales maquinaciones de un loco que puede destruir todo el consenso mundial en temas de defensa, comercio y relaciones internacionales, en el mundo virtual, silenciosamente, se producen acontecimientos de una gravedad incalculable a los que la mayoría de nosotros ni siquiera prestamos atención.
Solo este pequeño ejemplo nos puede alertar sobre ellos y ampliar nuestro espectro hacia estos temas, que también desempeñan un papel preponderante en las mismas guerras y masacres que se están produciendo. He escuchado a los mismos oligarcas de las tecnológicas extrañarse de que, desde la política y el derecho, no se estén desarrollando acuerdos y estructuras internacionales que supervisen y regulen, de alguna forma, esta loca carrera que está fuera de control. Cuando queramos hacerlo, nuestros propios engendros nos lo impedirán.
Manuel Mellado es maestro jubilado y socio de Marbella Activa.
Leave a Reply