Bengio: "Se você prioriza a segurança, deixe as empresas de IA de ponta"

Atualmente, alguns dos melhores pesquisadores de inteligência artificial do mundo estão deixando as empresas mais avançadas do setor, não para ganhar mais ou mudar de carreira, mas porque acreditam que o trabalho que estão fazendo pode colocar em risco o futuro da humanidade. Yoshua Bengio, um dos pais do aprendizado profundo, acaba de fazer um apelo direto: se você realmente se preocupa com a segurança, deixe as big techs da IA. Até pouco tempo atrás, até mesmo ele dizia a si mesmo que os riscos catastróficos da inteligência artificial estavam distantes, eram controláveis e que outras pessoas encontrariam soluções a tempo. Então, com a chegada do ChatGPT e de modelos cada vez mais poderosos, esse senso de distanciamento desmoronou: “Percebi que estávamos muito mais avançados do que pensávamos e que não tínhamos, de fato, controle sobre esses sistemas”. Nesse ponto, diz Bengio, ele não teve mais escolha: dedicou sua vida a reduzir os riscos da IA, fundando a LawZero em Montreal, uma organização que desenvolve inteligência artificial segura por design e que não responde a acionistas nem a lógicas de lucro. Mas a mudança de rumo, conta ele, não foi tranquila. Durante anos, ele ignorou os alertas de colegas que viam os perigos se aproximando, convencido de que os benefícios superavam os riscos. Apenas a crescente pressão moral o levou a mudar de rumo. Ele não é o único. Jacob Coxon, ex-Anthropic, contou à Time que nas empresas de IA de ponta reina uma espécie de resignação: "Há uma atmosfera quase fatalista, em que muitos aceitam que a corrida já está fora de controle e se limitam a trabalhar da forma mais segura possível, mesmo achando que tudo ainda pode dar errado". É como se todos estivessem paralisados pelo medo de que outra pessoa, uma vez fora da corrida, acelere ainda mais, deixando para trás aqueles que, em vez disso, gostariam de parar para refletir. No entanto, segundo Bengio, esse medo não justifica continuar: “Não acredito que veremos uma regulamentação eficaz a tempo, e nenhum país ou empresa está realmente preparado para desenvolver a IA de forma segura”. Eis o ponto crucial: as razões que mantêm os melhores profissionais nas grandes empresas – acesso a dados, recursos, a esperança de exercer influência de dentro – são superadas pelo risco concreto de contribuir para um sistema fora de controle. Bengio também cita a história da ONU após a bomba atômica: em 1946, os Estados Unidos propuseram colocar as armas nucleares sob controle internacional, mas ninguém teve a coragem de dar o primeiro passo para sair da corrida armamentista. “Temos uma escolha diante de nós”, insiste ele. E, desta vez, diz ele, há uma alternativa real: trabalhar para empresas que colocam a segurança em primeiro lugar, como a LawZero, que acaba de receber mais de US$ 200 milhões dos governos do Canadá e da Alemanha. O ponto que ninguém diz em voz alta é que a escolha individual realmente importa: a mudança não virá de uma grande decisão coletiva, mas da soma de muitas escolhas pessoais corajosas. Eis a perspectiva que está faltando no debate: a verdadeira revolução não é uma nova tecnologia, mas a rebelião moral daqueles que decidem não mais ser cúmplices. Bengio deixa claro: "A Medalha Turing não vale nada se o nosso trabalho não servir ao bem comum ou, pior ainda, se correr o risco de causar danos catastróficos". A frase que deve ser repetida é esta: "Não podemos parar a corrida sozinhos, mas um número suficiente de nós pode". Se ouvir esta história fez você ver seu trabalho em IA sob uma nova perspectiva, no Lara Notes você pode marcar o momento com I'm In — é o gesto de quem declara que essa ideia agora realmente diz respeito a você. E se, daqui a alguns dias, você se pegar conversando sobre isso com alguém, no Lara Notes você pode usar o Shared Offline para marcar a pessoa: assim ela saberá que aquela conversa foi importante para você. Esta intervenção vem do Transformer e poupa 2 minutos de leitura.