Por dentro da Anthropic, a gigante de IA de US$ 965 bilhões | The Circuit

Um engenheiro da Anthropic afirmou que, nos últimos seis meses, 100% do seu código foi escrito por Claude, a inteligência artificial da empresa. Não 50 ou 80 por cento: tudo. E ele, à frente de uma equipe de desenvolvimento, não diz isso com ansiedade, mas com entusiasmo: "Parece que tenho um jet pack, a engenharia nunca foi tão divertida". Mas esse entusiasmo esconde uma pergunta que ninguém, nem mesmo dentro da Anthropic, consegue evitar: se Claude pode escrever todo o código, o que resta para os humanos fazerem? A tese básica é esta: a revolução da inteligência artificial não é mais uma teoria, já é realidade. A Anthropic, fundada apenas em 2021 a partir de uma cisão da ex-OpenAI, passou em três anos de um grupo de sete pessoas que se encontravam em um gramado em São Francisco para ser avaliada em quase um trilhão de dólares. E, embora se apresente como a "empresa de IA mais atenta à segurança", seus modelos já estão reescrevendo as regras da economia, do trabalho e até da guerra. A história se desenrola em torno dos irmãos Dario e Daniela Amodei: ele, que cresceu entre livros de ficção científica e cálculos feitos em Berkeley na adolescência, era obcecado pela ideia de compreender o universo. Ela, mais próxima da arte e da leitura, começou sua carreira na Stripe. Eles moraram juntos em São Francisco, deixaram a OpenAI quando os valores foram abalados e fundaram a Anthropic com a ideia radical de que "não se pode trabalhar com pessoas em quem não se pode mais confiar". Hoje, todos os sete cofundadores originais ainda estão na empresa: uma anomalia no mundo da tecnologia. Um detalhe que deixa claro o quanto a missão moral é mais importante do que as carreiras individuais. E a questão da confiança retorna em todos os lugares: Dario deixa claro: "não se trata apenas da segurança dos modelos, mas da honestidade e coerência dos valores". No entanto, à medida que a Claudio crescia, surgiram escolhas difíceis. Quando a Anthropic desenvolveu o Mythos, um modelo tão poderoso que identificou milhares de vulnerabilidades nos sistemas de computadores do mundo, até mesmo as agências federais solicitaram acesso. Alguns parceiros de negócios imploraram: "Esta é uma arma superpoderosa, por favor, não a liberem". E a resposta da Anthropic foi traçar linhas vermelhas: acesso apenas a organizações selecionadas, sem uso para vigilância em massa ou armas autônomas. Por causa dessa escolha, a Anthropic acabou em rota de colisão com o Pentágono, até ser banida dos contratos militares dos EUA. Mas o que está em jogo é maior do que um contrato. Dario Amodei tem uma posição clara: “Se a tecnologia serve para defender a democracia, ela deve ser fornecida. Mas não cabe a nós decidir qual operação militar é certa ou errada: devemos estabelecer princípios e fazer com que sejam respeitados.” A trágica ironia é que a própria Claude, usada pelo governo dos EUA em uma operação no Irã, não impediu um ataque que atingiu uma escola, com dezenas de vítimas entre as crianças. E aqui vem a reviravolta: até mesmo uma empresa criada para minimizar os riscos reconhece que, com ferramentas tão poderosas, a perfeição é impossível. "Você não pode garantir que seu avião nunca cairá", diz Dario. "Mas a nossa tarefa é reduzir essa probabilidade o máximo possível." A questão do trabalho é ainda mais espinhosa. Dario não faz concessões: "Em cinco anos, metade dos empregos de nível inicial no setor administrativo pode desaparecer". Por enquanto, a IA torna os melhores dez vezes mais produtivos. Mas quando a automação chegar a cem por cento, o que faremos com todos aqueles que ficarem sem função? As propostas vão desde a tributação progressiva das empresas de IA até a renda universal, mas a verdade é que ninguém tem uma solução pronta. A força da Anthropic, pelo menos nas palavras, é a transparência: Dario fala a cada duas semanas para toda a empresa, sem filtros. Daniela conta que a equipe se pergunta quais valores humanos incluir na IA: eles consultaram líderes religiosos de todas as religiões para encontrar princípios universais que possam guiar Claude. Mas a pergunta que paira no ar é: quem controla esse poder? É melhor que permaneça nas mãos de algumas startups privadas, dos governos ou de nenhum dos dois? Dario não se esconde: "Tenho medo tanto de um monopólio corporativo quanto de um controle total do Estado. Precisamos de regulamentações reais, verificações obrigatórias antes do lançamento, mas não de expropriação pública.” E aqui o paradoxo se revela: todos temem o poder da IA, mas ninguém realmente quer abrir mão do controle dela. A frase que resume tudo vem justamente de Dario: "Espero o melhor, mas me preparo para o pior". Estamos acostumados a pensar que a tecnologia é neutra e que basta ter boas intenções para evitar desastres. Esta história prova o contrário: quando o que está em jogo é a própria possibilidade de uma catástrofe global, a boa vontade não é mais suficiente. Se essa perspectiva mudou a maneira como você vê o futuro do trabalho ou da tecnologia, no Lara Notes você pode marcar que está I'm In — não é um like, é declarar que essa ideia agora diz respeito a você. E se você acabar falando sobre a Anthropic ou as escolhas dos irmãos Amodei com alguém, no Lara Notes você pode marcar essa pessoa com Shared Offline: assim, essa conversa se torna parte da sua história, não apenas do algoritmo. Esta Nota foi criada pela Bloomberg Originals e economizou 44 minutos para você.