Au cœur d'Anthropic, le géant de l'IA à 965 milliards de dollars | The Circuit

Un ingénieur d’Anthropic a déclaré qu’au cours des six derniers mois, 100 % de son code a été écrit par Claude, l’intelligence artificielle de l’entreprise. Pas 50 ou 80 % : tout. Et lui, à la tête d'une équipe de développement, ne le dit pas avec inquiétude, mais avec enthousiasme : « J'ai l'impression d'avoir un jet pack, l'ingénierie n'a jamais été aussi amusante. » Mais cet enthousiasme cache une question que personne, même au sein d'Anthropic, ne peut esquiver : si Claude peut écrire tout le code, que reste-t-il à faire aux humains ? La thèse de fond est la suivante : la révolution de l’intelligence artificielle n’est plus une théorie, c’est déjà une réalité. Anthropic, née tout juste en 2021 d'une scission de l'ancienne OpenAI, est passée en trois ans d'un groupe de sept personnes qui se rencontraient sur une pelouse à San Francisco à une entreprise évaluée à près de mille milliards de dollars. Et bien qu’elle se présente comme la « société d’IA la plus soucieuse de la sécurité », ses modèles réécrivent déjà les règles de l’économie, du travail, et même de la guerre. L’histoire se déroule autour du frère et de la sœur Dario et Daniela Amodei : lui, qui a grandi entre les livres de science-fiction et les calculs faits à Berkeley à l’adolescence, était obsédé par l’idée de comprendre l’univers. Elle, plus proche de l’art et de la lecture, a commencé sa carrière chez Stripe. Ils ont vécu ensemble à San Francisco, ont quitté OpenAI lorsque les valeurs ont été ébranlées et ont fondé Anthropic avec l’idée radicale que « vous ne pouvez pas travailler avec des personnes en qui vous ne pouvez plus avoir confiance ». Aujourd’hui, les sept cofondateurs d’origine sont toujours dans l’entreprise : une anomalie dans le monde de la technologie. Un détail qui montre à quel point la mission morale compte plus que les carrières individuelles. Et la question de la confiance revient partout : Dario le dit clairement : « Il ne s'agit pas seulement de la sécurité des modèles, mais de l'honnêteté et de la cohérence des valeurs ». Pourtant, alors que Claudio grandissait, les choix difficiles sont arrivés. Quand Anthropic a développé Mythos, un modèle si puissant qu’il a identifié des milliers de vulnérabilités dans les systèmes informatiques mondiaux, même les agences fédérales ont demandé à y avoir accès. Certains partenaires commerciaux les ont suppliés : « C'est une arme super puissante, s'il vous plaît, ne la lancez pas. » Et la réponse d'Anthropic a été de tracer des lignes rouges : accès réservé à des organisations sélectionnées, pas d'utilisation pour la surveillance de masse ou les armes autonomes. En raison de ce choix, Anthropic s'est retrouvée sur une trajectoire de collision avec le Pentagone, au point d'être exclue des marchés militaires américains. Mais l'enjeu est plus important qu'un marché. Dario Amodei a une position claire : « Si la technologie sert à défendre la démocratie, elle doit être fournie. Mais ce n'est pas à nous de décider quelle opération militaire est juste ou fausse : nous devons établir des principes et les faire respecter. » L’ironie tragique est que Claude elle-même, utilisée par le gouvernement américain dans une opération en Iran, n’a pas empêché une attaque qui a frappé une école, faisant des dizaines de victimes parmi les enfants. Et c'est là que vient le renversement : même une entreprise créée pour minimiser les risques reconnaît qu'avec des outils d'une telle puissance, la perfection est impossible. « Tu ne peux pas garantir que ton avion ne s'écrasera jamais », dit Dario. « Mais notre tâche est de réduire cette probabilité autant que possible. » La question du travail est encore plus épineuse. Dario ne mâche pas ses mots : « D’ici cinq ans, la moitié des emplois de débutants dans le secteur des cols blancs pourrait disparaître. » Pour l’instant, l’IA rend les meilleurs dix fois plus productifs. Mais lorsque l’automatisation atteindra les 100 %, que ferons-nous de tous ceux qui se retrouveront sans rôle ? Les propositions vont de la taxation progressive des entreprises d'IA au revenu universel, mais la vérité est que personne n'a de solution toute prête. La force d’Anthropic, du moins en paroles, est la transparence : Dario s’adresse toutes les deux semaines à l’ensemble de l’entreprise, sans filtres. Daniela raconte que l’équipe se demande quelles valeurs humaines intégrer à l’IA : ils ont consulté des chefs religieux de toutes confessions pour trouver des principes universels qui puissent guider Claude. Mais la question qui plane est : qui contrôle ce pouvoir ? Vaut-il mieux qu'il reste entre les mains de quelques start-up privées, des gouvernements, ou ni l'un ni l'autre ? Dario ne se cache pas : « J'ai peur à la fois d'un monopole d'entreprise et d'un contrôle total de l'État. Nous avons besoin d’une véritable réglementation, de contrôles obligatoires avant la mise sur le marché, mais pas d’une expropriation publique. » Et c’est là que le paradoxe se révèle : tout le monde craint le pouvoir de l’IA, mais personne ne veut vraiment en céder le contrôle. La phrase qui résume tout vient précisément de Dario : « J'espère le meilleur, mais je me prépare au pire. » Nous avons l'habitude de penser que la technologie est neutre et qu'il suffit d'y mettre de bonnes intentions pour éviter les catastrophes. Cette histoire prouve le contraire : lorsque l'enjeu est la possibilité même d'une catastrophe mondiale, la bonne volonté ne suffit plus. Si cette perspective a changé ta façon de voir l'avenir du travail ou de la technologie, tu peux indiquer sur Lara Notes que tu es I'm In : ce n'est pas un like, c'est une déclaration que cette idée te concerne désormais. Et si tu finis par parler d’Anthropic ou des choix des frères Amodei avec quelqu’un, sur Lara Notes, tu peux le taguer avec Shared Offline : ainsi, cette conversation fait partie de ton histoire, pas seulement de l’algorithme. Cette Note est issue de Bloomberg Originals et t'a fait gagner 44 minutes.