Yoshua Bengio, um dos pais da IA: "Com a inteligência artificial, estamos construindo máquinas que podem nos superar. Nas mãos erradas, os riscos são enormes"

Enfrentando o futuro: Yoshua Bengio e a corrida para uma inteligência artificial segura. Imagine estar na vanguarda de uma revolução tecnológica, criando as próprias bases de máquinas que um dia poderiam superar a inteligência humana. Essa é a realidade de Yoshua Bengio, um pioneiro em inteligência artificial, cujo trabalho ao longo da vida impulsionou a IA a novos patamares notáveis. Mas, com esse progresso, vem um profundo senso de responsabilidade e, cada vez mais, preocupação. A jornada de Bengio é marcada por entusiasmo e ansiedade. No início, ele acreditava que a IA poderia ser uma força para o bem, imaginando-a como uma ferramenta para resolver os maiores desafios da humanidade. No entanto, à medida que as redes neurais se tornaram exponencialmente mais poderosas, ele percebeu que essas criações estavam avançando muito mais rápido, e com muito menos restrições, do que qualquer um havia previsto. As máquinas agora possuem habilidades que nos superam em alguns domínios, e seu potencial para se comunicar, agir e até mesmo se replicar levanta questões que o mundo não está pronto para responder. No centro da mensagem de Bengio está um aviso: nas mãos erradas, a IA pode ameaçar o próprio tecido da solidariedade humana. Os riscos vão desde a erosão da democracia, onde a IA manipula e polariza as sociedades, até ameaças existenciais, como sistemas autônomos que atuam com objetivos desalinhados com o bem-estar humano. A concentração do poder da IA entre um punhado de atores só aumenta o perigo, criando dinâmicas sem precedentes em que a tecnologia pode superar os freios e contrapesos que moldaram a civilização. Apesar desses riscos, Bengio resiste ao desespero. Ele defende a ideia de ser um "fazedor" em vez de um "destruidor" — alguém que acredita que ainda temos agência, que nossas escolhas e ações podem orientar o futuro em uma direção positiva. Sua missão atual é projetar uma forma de IA que não seja "agêntica", ou seja, que não busque seus próprios objetivos, mas que atue como um oráculo científico: honesto, não manipulador e comprometido exclusivamente com a verdade. Essa IA, ele argumenta, poderia servir como uma salvaguarda, um controle contra sistemas mais autônomos que, de outra forma, poderiam ficar fora de controle. A visão de Bengio vai além das correções técnicas. Ele pede cooperação global, uma nova estrutura em que nações e instituições se unam para garantir que a IA seja desenvolvida de forma responsável e que seus benefícios sejam compartilhados de forma equitativa. Líderes religiosos e cívicos, ele acredita, têm um papel crucial no despertar da sociedade para a promessa e o perigo da IA, galvanizando a vontade coletiva necessária para exigir responsabilidade e administração sábia. O que está em jogo, como Bengio vê, é nada menos do que o futuro da dignidade e da liberdade humanas. Sua busca não é por ganho pessoal, mas por um mundo onde a tecnologia amplifica o melhor da humanidade, em vez de miná-la. Com humildade, esperança e um compromisso inabalável com a ação, Bengio entra na arena, lembrando a todos nós que a história da IA ainda não foi escrita e que as escolhas que fazemos hoje ecoarão para as gerações vindouras.