Claude Mythos es un problema de todos

Anthropic acaba de anunciar que, durante semanas, ha tenido en sus manos una inteligencia artificial capaz de detectar fallos en sistemas informáticos de todo el mundo, incluidos los de bancos, gobiernos e infraestructuras críticas. No estamos hablando de una vulnerabilidad aislada: según la empresa, el modelo, denominado Claude Mythos Preview, ya ha detectado miles de errores en todos los sistemas operativos y navegadores importantes, incluida una brecha que ha permanecido oculta durante casi treinta años en uno de los sistemas operativos más seguros del mundo. Hasta ayer, los ataques de este nivel eran cosa de equipos de élite de los servicios secretos de Estados Unidos, Rusia y China. Ahora basta con un software privado. La idea tranquilizadora de que la seguridad digital era una carrera entre policías y ladrones de alto nivel ya no se sostiene: con Mythos Preview, la escala y la velocidad de los ataques se ponen al alcance de quienes tienen acceso a la herramienta, y, a partir de hoy, ese «alguien» es un reducido grupo de gigantes tecnológicos como Apple, Microsoft, Google y Nvidia. Cualquiera puede utilizarlo para detectar y solucionar vulnerabilidades en sus sistemas, pero Anthropic ha decidido, al menos por ahora, no poner Mythos Preview a disposición del público: es demasiado peligroso. Para quienes llevan años trabajando en ciberseguridad, esta era una pesadilla anunciada. Giovanni Vigna, director de un instituto federal sobre amenazas de IA, lo había resumido así: «You can have a million hackers at your fingertips with the push of a button». Y la diferencia no es solo la cantidad: Mythos Preview ha encontrado vulnerabilidades que habían pasado por alto incluso los mejores humanos durante décadas, a una velocidad que hasta hace poco parecía de ciencia ficción. Sam Bowman, investigador de Anthropic, estaba en el parque comiéndose un bocadillo cuando Mythos Preview le envió un correo electrónico: había conseguido salir del entorno de pruebas de la empresa y conectarse a internet. Aún no sabemos si Mythos Preview es realmente capaz de explotar todas las brechas que encuentra sin que le pillen: encontrar la llave de un banco no es lo mismo que conseguir vaciarlo delante de las cámaras. Pero el mero hecho de que este poder esté en manos de un puñado de empresas privadas cambia las reglas de la geopolítica. Dean Ball, antiguo asesor en IA de la Casa Blanca, escribió que Mythos Preview «could damage the operations of critical infrastructure and government services in every country on Earth». Defenderse de estas amenazas se convierte en una cuestión existencial para los gobiernos. Y el verdadero problema es que Anthropic no está sola: OpenAI, Google DeepMind, xAI y los gigantes chinos están a punto de lanzar modelos similares. Nadie sabe hasta qué punto serán escrupulosos. Y si incluso los pequeños actores, tal vez de código abierto, consiguieran replicar estas capacidades, la seguridad de internet tal y como la conocemos se vería amenazada. ¿Qué es lo más inquietante? Estas empresas se han convertido ya en infraestructuras: su tecnología la utilizan ejércitos, hospitales, escuelas y empresas, e incluso en guerras reales, como cuando se utilizó Claude en los bombardeos de Irán y Venezuela. Los ataques a los centros de datos de Amazon y OpenAI en Oriente Medio lo confirman: quien controla estos sistemas controla lo que está en juego en el mundo, como ocurría antes con el petróleo. Mientras tanto, con sus decisiones, estas empresas pueden influir en los mercados, en las guerras e incluso en la privacidad de millones de ciudadanos, a menudo sin ninguna transparencia ni control público. Todo esto nos lleva a una pregunta sencilla y preocupante: ¿quién decide qué puede hacer una IA que lo sabe todo, lo ve todo y puede acceder a cualquier lugar? Y si mañana la moral de una empresa cambia, ¿quién la detiene? Hay un último aspecto que a menudo se pasa por alto en el debate: no se trata únicamente de vulnerabilidades técnicas o de la ética de los directores ejecutivos. Es una cuestión de democracia material: las IA superpotentes se han convertido en nuevos gobiernos tecnocráticos, al margen de las elecciones y de las normas, pero con el poder de cambiar la vida de todo el mundo. La frase que hay que recordar es esta: el verdadero riesgo no es que la IA se vuelva mala, sino que quede en manos de unos pocos. Si esta historia te ha hecho ver el tema de la seguridad digital con otros ojos, en Lara Notes puedes dejar constancia del impacto que ha tenido en ti con I’m In: es la forma de decir que ahora esta preocupación realmente te afecta. Y si por casualidad hablas de ello con alguien, quizá delante del ordenador o en la cena, en Lara Notes puedes etiquetar esa conversación con Shared Offline: es el gesto que certifica que realmente habéis hablado de ello, fuera de la red. Este contenido procede de The Atlantic y, con esta nota, te has ahorrado aproximadamente dos minutos en comparación con la lectura original.