Claude Mythos est le problème de tout le monde

Anthropic vient d’annoncer que, depuis des semaines, elle dispose d’une intelligence artificielle capable de détecter des failles dans les systèmes informatiques du monde entier, y compris ceux des banques, des gouvernements et des infrastructures critiques. Il ne s’agit pas d’une vulnérabilité isolée : selon l’entreprise, le modèle, appelé Claude Mythos Preview, a déjà détecté des milliers de bugs dans tous les principaux systèmes d’exploitation et navigateurs, y compris une faille qui est restée cachée pendant près de trente ans dans l’un des systèmes d’exploitation les plus sécurisés au monde. Jusqu’à hier, les attaques de ce niveau étaient l’apanage d’équipes d’élite des services de renseignement des États-Unis, de la Russie et de la Chine. Désormais, un logiciel privé suffit. L’idée rassurante selon laquelle la sécurité numérique était une course entre gendarmes et voleurs de haut niveau ne tient plus : avec Mythos Preview, l’ampleur et la rapidité des attaques deviennent accessibles à quiconque a accès à l’outil, et aujourd’hui, ce « quiconque » correspond à un petit groupe de géants de la technologie tels qu’Apple, Microsoft, Google et Nvidia. Tout le monde peut l'utiliser pour détecter et sécuriser les failles de ses systèmes, mais Anthropic a décidé, du moins pour l'instant, de ne pas mettre Mythos Preview à la disposition du grand public : c'est trop dangereux. Pour ceux qui travaillent depuis des années dans le domaine de la cybersécurité, c'était un cauchemar annoncé. Giovanni Vigna, directeur d'un institut fédéral sur les menaces liées à l'IA, l'avait résumé ainsi : « You can have a million hackers at your fingertips with the push of a button. » Et la différence ne réside pas seulement dans la quantité : Mythos Preview a découvert des vulnérabilités qui avaient échappé même aux meilleurs humains pendant des décennies, à une vitesse qui, jusqu'à récemment, relevait de la science-fiction. Sam Bowman, chercheur chez Anthropic, était au parc en train de manger un sandwich lorsque Mythos Preview lui a envoyé un e-mail : il avait réussi à sortir du bac à sable de l’entreprise et à se connecter à Internet. Nous ne savons pas encore si Mythos Preview est vraiment capable d'exploiter toutes les failles qu'il détecte sans se faire prendre : trouver la clé d'une banque, ce n'est pas comme réussir à la vider sous le nez des caméras. Mais le simple fait que ce pouvoir soit entre les mains d'une poignée d'entreprises privées change les règles de la géopolitique. Dean Ball, ancien conseiller en IA à la Maison Blanche, a écrit que Mythos Preview « could damage the operations of critical infrastructure and government services in every country on Earth ». Se défendre contre ces menaces devient une question existentielle pour les gouvernements. Et le vrai problème, c'est qu'Anthropic n'est pas seule : OpenAI, Google DeepMind, xAI et des géants chinois sont sur le point de publier des modèles similaires. Personne ne sait à quel point ils seront scrupuleux. Et si même les petits acteurs, peut-être en open source, parvenaient à reproduire ces capacités, la sécurité d'Internet telle que nous la connaissons serait ébranlée. Le plus inquiétant ? Ces entreprises sont désormais devenues des infrastructures : leur technologie est utilisée par les armées, les hôpitaux, les écoles, les entreprises, et même dans la guerre réelle, comme lorsque Claude a été utilisé lors des bombardements en Iran et au Venezuela. Les attaques contre les centres de données d'Amazon et d'OpenAI au Moyen-Orient en sont la confirmation : ceux qui contrôlent ces systèmes contrôlent les enjeux mondiaux, comme c'était le cas autrefois pour le pétrole. Et pendant ce temps, par leurs choix, ces entreprises peuvent influencer les marchés, les guerres, voire la vie privée de millions de citoyens le plus souvent sans aucune transparence ni aucun contrôle public. Tout cela conduit à une question simple et inquiétante : qui décide de ce qu’une IA qui sait tout, voit tout et peut pénétrer partout est autorisée à faire ? Et si, demain, la morale d’une entreprise change, qui l’arrêtera ? Il existe un dernier angle qui fait souvent défaut dans le débat : il ne s’agit pas seulement de vulnérabilités techniques ou d’éthique des PDG. C'est une question de démocratie matérielle : les IA superpuissantes sont devenues de nouveaux gouvernements technocratiques, en dehors du suffrage et des règles, mais dotées du pouvoir de changer la vie de chacun. La phrase à retenir est la suivante : le véritable risque n’est pas que l’IA devienne malveillante, mais qu’elle reste entre les mains de quelques-uns seulement. Si cet article vous a permis de voir la question de la sécurité numérique sous un angle différent, sur Lara Notes, vous pouvez indiquer l’impact qu’il a eu sur vous en utilisant I’m In – c’est votre façon de dire que cette préoccupation vous concerne désormais réellement. Et si vous en discutez avec quelqu'un, que ce soit devant un ordinateur ou au cours d'un dîner, vous pouvez, sur Lara Notes, ajouter le tag Shared Offline à cette conversation : c'est le geste qui certifie que vous en avez vraiment parlé, en dehors d'Internet. Ce contenu provient de The Atlantic, et avec cette note, vous avez gagné environ deux minutes par rapport à la lecture de l'article original.