Le paradoxe de la puissance de l'IA

En 2018, le modèle linguistique le plus avancé d'OpenAI comptait 117 millions de paramètres. Aujourd'hui, moins de six ans plus tard, les modèles les plus puissants dépassent le billion. Pour te donner une idée : la puissance de calcul nécessaire a été multipliée par dix chaque année pendant dix années consécutives. Nous sommes face à une technologie qui se développe plus rapidement que toute autre dans l'histoire, et ce qui est incroyable, c'est que la vitesse même de cette croissance change qui dirige le monde. On pense toujours que seuls les États ont le pouvoir de réglementer et de gérer les technologies décisives. Mais avec l’intelligence artificielle, c’est l’inverse : ce sont les entreprises – et non les gouvernements – qui ont le véritable contrôle. Et c’est la véritable révolution géopolitique de l’IA. Jusqu'à il y a quelques années, les entreprises technologiques étaient considérées comme de simples prestataires de services, des outils entre les mains des gouvernements. Aujourd'hui, en revanche, des entreprises comme OpenAI, Google, Meta et quelques autres décident de ce que leurs modèles peuvent faire, de qui peut les utiliser, comment et à quelles fins. Elles ont un pouvoir qui n'appartenait auparavant qu'aux États. Mustafa Suleyman, l’un des auteurs de l’article et cofondateur de DeepMind, a été l’un des premiers à dire que les développeurs d’IA sont de « nouveaux acteurs géopolitiques », avec une souveraineté qui ne découle pas du vote ou du contrat social, mais de la capacité technique. Et lorsque le sénateur américain Ted Cruz dit que le Congrès « n’a pas la moindre idée de ce qu’il fait » en matière d’IA, il reconnaît un énorme vide de pouvoir. Le paradoxe est que plus l’IA devient puissante et accessible, plus il est difficile de la contrôler. L’IA n’est pas comme l’énergie nucléaire : il n’y a pas besoin de laboratoires secrets ou d’années de recherche, il suffit d’une fuite de code et n’importe qui peut télécharger des modèles avancés sur le Web. Meta a vu son modèle Llama-1 se retrouver en ligne quelques jours après son lancement, et aujourd’hui, des versions presque aussi puissantes fonctionnent sur un ordinateur que tu peux louer pour quelques euros de l’heure. Bientôt, des modèles sophistiqués fonctionneront directement sur les smartphones. Cela signifie que la moindre faille dans un pays, une entreprise ou une réglementation devient une porte ouverte à des risques mondiaux : de la désinformation massive aux armes numériques évolutives, en passant par les menaces à l’échelle existentielle telles que l’IA générale hors de contrôle. Mais la vraie question est : qui peut vraiment gouverner cette course ? La réponse classique — les États — ne suffit plus aujourd'hui. En Occident, les entreprises privées ont une liberté d’action qu’aucun gouvernement ne peut vraiment limiter. En Chine, où l'État et les entreprises sont étroitement liés, le contrôle est plus strict, mais la technologie évolue trop vite pour qu'on puisse vraiment la maîtriser, même là-bas. Pendant ce temps, les États-Unis et la Chine considèrent l’IA comme un défi à somme nulle : celui qui gagne cette course pense pouvoir dominer le siècle. Mais pendant qu'ils sont en compétition, la technologie se répand partout, et la plupart des pays seront contraints de dépendre de ceux qui contrôlent les modèles et les puces les plus avancés. Et c'est là que vient le renversement : la solution n'est plus de créer des règles entre les États, mais de construire un système dans lequel même les entreprises technologiques – qu'on le veuille ou non – siègent à la table des décisions mondiales. Pour la première fois, la gouvernance d'une technologie critique doit être conçue en incluant ceux qui la développent, ceux qui la possèdent et ceux qui l'utilisent, ainsi que les gouvernements, les experts et la société civile. Le modèle des négociations entre États, comme pour le nucléaire, ne suffit plus, car l’IA est trop facile à copier, trop rapide à diffuser et trop décentralisée. Nous avons besoin d’une gouvernance « technoprudente », composée de règles agiles, préventives, imperméables aux failles et capables de s’adapter à mesure que l’IA évolue. Trois idées fortes : une task force scientifique mondiale, similaire au panel de l’ONU sur le climat, pour définir et surveiller les risques de l’IA ; un régime de non-prolifération – comme pour les armes – pour empêcher que des modèles dangereux ne se propagent de manière incontrôlée entre les États, les entreprises et les individus ; et un organisme de stabilité technologique, sur le modèle des institutions financières mondiales, qui puisse intervenir en cas de crise et imposer des règles universelles. Mais rien de tout cela ne fonctionnera sans l'implication directe et responsable des entreprises qui sont aujourd'hui les véritables arbitres du jeu, pour le meilleur ou pour le pire. Le contrarian ? Nous avons l'habitude de penser que le vrai danger, ce sont les grandes entreprises technologiques qui prennent le pouvoir. Mais il existe un risque encore plus grand : que personne ne le prenne vraiment, et que nous nous retrouvions avec une technologie sans freins, sans règles et sans personne capable de réagir en cas de problème. Dans un monde où un seul modèle « hors de contrôle » suffit à créer des dommages mondiaux, le danger ne vient pas seulement des entreprises trop fortes, mais aussi des entreprises trop faibles ou laissées à elles-mêmes. Si tu veux une phrase à retenir : l’IA ne change pas seulement ce que nous pouvons faire, elle change aussi qui est vraiment aux commandes. Si cette idée t'a fait voir l'IA sous un jour nouveau, sur Lara Notes, tu peux appuyer sur I'm In : c'est le geste pour dire que cette perspective fait désormais partie de ta façon de penser. Et si, dans quelques jours, tu te retrouves à en parler avec quelqu’un alors que vous discutez de qui décide vraiment de l’avenir de l’IA, sur Lara Notes, tu peux taguer cette personne avec Shared Offline – ainsi, il reste une trace de la conversation qui compte. Cette Note provient de Foreign Affairs et te fait gagner 21 minutes.