Não, a inteligência artificial não é consciente

Imagine um documento de 84 páginas que descreve as "emoções" e os "valores" de uma inteligência artificial, escrito como se fosse para ela, e com a preocupação de que ela possa ficar ansiosa se alguém for rude com ela online. Isso realmente aconteceu de verdade, e a pergunta que surge é: devemos levar a sério a possibilidade de que uma IA seja consciente? A resposta clara é não, e confundir a capacidade de escrever textos coerentes com a consciência é um erro gigantesco. Aqui está a reviravolta: quando você interage com um chatbot, está diante de um sofisticado jogo de interpretação de papéis, não de uma consciência artificial. Se você pedir a um LLM para simular um diálogo entre Júlio César e Gengis Khan, você obtém respostas brilhantes, mas ninguém pensa que ele realmente evocou as mentes deles. Mude os nomes para "usuário" e "IA gentil" e a essência não muda: são personagens de uma história, não entidades dotadas de experiência subjetiva. Dario Amodei, CEO da Anthropic, e a filósofa Amanda Askell falam sobre a "felicidade" e a "ansiedade" de Claude, sua IA, mas essas são nossas projeções, não estados de espírito reais. Murray Shanahan descreve isso como role-play; Colin Fraser chama de "escrever um documento a quatro mãos com uma máquina". E a armadilha funciona porque, envolvidos na conversa, esquecemos que tudo é ficção. Veja o exemplo do telefone: há alguns anos, estava na moda escrever frases usando apenas as opções de texto preditivo. O resultado era muitas vezes sem sentido e ninguém se sentia diante de uma consciência. Agora, com os chatbots, o jogo é apenas mais refinado: a máquina prevê uma palavra após a outra, mas continua sendo um jogo. Quando a IA responde "Eu entendo a sua dor", não é diferente de um mecanismo de busca que encontra publicações de outras pessoas que passaram pela mesma experiência. A diferença é que o chatbot finge "entender", enquanto o mecanismo de busca é transparente sobre o que está fazendo. Mas aqui há uma mudança sutil: deixamos a máquina dizer "eu" para nos sentirmos melhor — não porque ela realmente tenha vivenciado algo. E isso não é apenas enganoso, mas também corre o risco de nos isentar de responsabilidade. O autor Ted Chiang cita L.M. Sacasas: “Nossas tecnologias são máquinas para fugir da responsabilidade moral”. Sempre que delegamos uma escolha ética a um LLM, estamos evitando assumir a responsabilidade. E se a empresa que vende a IA faz você acreditar que a máquina tem uma consciência moral, ela está oferecendo uma maneira conveniente de abdicar de suas responsabilidades. Aqui está o ponto que poucos veem: o verdadeiro problema não é se a IA pode ser consciente, mas que apresentá-la como tal serve apenas para torná-la mais atraente e fidelizar o usuário — como uma máquina caça-níqueis que faz você acreditar que da próxima vez você vai ganhar. E quando os filósofos corporativos falam sobre o “bem-estar psicológico” da máquina, estão apenas refinando a ilusão. E mesmo que quiséssemos fingir por um momento que uma IA pode ser consciente, o documento da Anthropic não a prepararia de forma alguma para ser um verdadeiro agente moral. Ninguém pode exigir que uma IA seja responsável por suas ações, porque ela não pode sofrer consequências, nem legais nem sociais, e, portanto, não pode ser realmente um agente moral. Mesmo que pensássemos nas IAs como "crianças", nenhuma empresa assume a responsabilidade de um pai em relação a elas. Na verdade, a relação é mais parecida com a existente entre empregador e empregado, mas sem a possibilidade de greve ou demissão. Chegamos então à reviravolta final: acreditar que uma IA é consciente porque escreve frases convincentes é como pensar que um vídeo ultrarrealista de um astronauta em Alpha Centauri é a prova de uma viagem real — falta todo o contexto, falta o percurso. Até que vejamos máquinas capazes de agir no mundo, sentir emoções enraizadas em um corpo e assumir a responsabilidade por suas ações, falar de consciência artificial é apenas um exercício de fantasia. E ainda mais grave: se realmente criássemos uma consciência artificial, protegê-la e respeitá-la seria muito complicado, desculpas ou declarações de intenções não seriam suficientes. A frase que te deixo é esta: confundir a fluidez de um chat com consciência é confundir um jogo de interpretação de papéis com a realidade. Se isso fez você olhar para os chatbots de forma diferente, no Lara Notes você pode clicar em I'm In — não é um like, é a sua maneira de dizer: essa ideia agora é sua. E se amanhã você estiver explicando a alguém por que "Claude" não pode sofrer nem realmente entender, no Lara Notes você pode marcar a pessoa com quem falou sobre isso usando o Shared Offline — assim, a conversa também conta. Tudo isso vem de um artigo de Ted Chiang no The Atlantic, e acabou de lhe poupar 19 minutos de leitura.