O Paradoxo do Poder da IA

Em 2018, o modelo de linguagem mais avançado da OpenAI tinha 117 milhões de parâmetros. Hoje, menos de seis anos depois, os modelos mais poderosos ultrapassam o trilhão. Para você ter uma ideia: o poder de computação necessário cresceu dez vezes a cada ano por dez anos consecutivos. Estamos diante de uma tecnologia que cresce mais rápido do que qualquer outra na história, e o incrível é que a própria velocidade desse crescimento está mudando quem está no comando do mundo. Sempre se pensa que apenas os Estados têm o poder de regular e gerenciar as tecnologias decisivas. Mas, com a inteligência artificial, é o contrário: são as empresas — não os governos — que têm o controle real. E esta é a verdadeira revolução geopolítica da IA. Até poucos anos atrás, as empresas de tecnologia eram consideradas simples prestadoras de serviços, ferramentas nas mãos dos governos. Hoje, no entanto, empresas como OpenAI, Google, Meta e algumas outras decidem o que seus modelos podem fazer, quem pode usá-los, como e para quais fins. Elas têm um poder que antes pertencia apenas aos Estados. Mustafa Suleyman, um dos autores do artigo e cofundador da DeepMind, foi um dos primeiros a dizer que os desenvolvedores de IA são "novos atores geopolíticos", com uma soberania que não deriva do voto ou do contrato social, mas da capacidade técnica. E quando o senador americano Ted Cruz diz que o Congresso "não tem a menor ideia do que está fazendo" em relação à IA, ele reconhece um enorme vácuo de poder. O paradoxo é que, quanto mais a IA se torna poderosa e acessível, mais difícil é controlá-la. A IA não é como a energia nuclear: não são necessários laboratórios secretos ou anos de pesquisa, basta um vazamento de código e qualquer pessoa pode baixar modelos avançados da web. A Meta viu seu modelo Llama-1 acabar online poucos dias após o lançamento, e hoje versões quase tão poderosas rodam em um computador que você pode alugar por alguns euros por hora. Em breve, modelos sofisticados rodarão diretamente em smartphones. Isso significa que a menor falha em um país, empresa ou regulamento se torna uma porta aberta para riscos globais — da desinformação em massa às armas digitais evolutivas e ameaças de escala existencial, como a AGI fora de controle. Mas a verdadeira questão é: quem pode realmente governar essa corrida? A resposta clássica — os Estados — hoje não é mais suficiente. No Ocidente, as empresas privadas têm uma liberdade de ação que nenhum governo consegue realmente limitar. Na China, onde o Estado e as empresas estão entrelaçados, o controle é mais rígido, mas a tecnologia corre rápido demais para que, mesmo lá, seja possível realmente colocar um freio. Enquanto isso, os Estados Unidos e a China tratam a IA como um desafio de soma zero: quem vencer esta corrida, pensa que pode dominar o século. Mas, enquanto eles competem, a tecnologia se espalha por toda parte, e a maioria dos países será forçada a depender de quem controla os modelos e chips mais avançados. E aqui vem a reviravolta: a solução não é mais criar regras entre os Estados, mas construir um sistema em que até as empresas de tecnologia — gostemos ou não — se sentem à mesa das decisões globais. Pela primeira vez, a governança de uma tecnologia crítica deve ser projetada com quem a desenvolve, quem a possui e quem a usa, juntamente com governos, especialistas e a sociedade civil. O modelo de negociações entre Estados, como no caso da energia nuclear, não é mais suficiente, porque a IA é muito fácil de copiar, muito rápida de disseminar e muito descentralizada. Precisamos de uma governança "tecnoprudente", composta por regras ágeis, preventivas, impermeáveis a falhas e capazes de se adaptar à medida que a IA evolui. Três ideias fortes: uma força-tarefa científica global, semelhante ao painel da ONU sobre o clima, para definir e monitorar os riscos da IA; um regime de não proliferação — como para as armas — para evitar que modelos perigosos se espalhem sem controle entre estados, empresas e indivíduos; e um órgão de estabilidade tecnológica, nos moldes das instituições financeiras globais, que possa intervir em crises e impor regras universais. Mas nada disso funcionará sem o envolvimento direto e responsável das empresas que hoje são as verdadeiras árbitras do jogo, para o bem ou para o mal. O contrarian? Estamos acostumados a pensar que o verdadeiro perigo são as grandes empresas de tecnologia que assumem o poder. Mas há um risco ainda maior: que ninguém realmente o assuma, e nos encontremos com uma tecnologia sem freios, sem regras e sem ninguém capaz de responder quando algo der errado. Em um mundo onde apenas um modelo "fora de controle" é suficiente para causar danos globais, o perigo não são apenas as empresas muito fortes, mas também as empresas muito fracas ou deixadas sozinhas. Se você quiser uma frase para lembrar: a IA não está apenas mudando o que podemos fazer — está mudando quem realmente está no comando. Se essa ideia fez você ver a IA sob uma nova luz, no Lara Notes você pode pressionar I'm In: é o gesto para dizer que essa perspectiva agora faz parte da sua maneira de pensar. E se, daqui a alguns dias, você estiver conversando com alguém sobre quem realmente decide o futuro da IA, no Lara Notes você pode marcar essa pessoa com Shared Offline — assim, fica um registro da conversa que importa. Esta Nota vem da Foreign Affairs e economiza 21 minutos do seu tempo.