Como proteger a autonomia humana na era da IA

Você já se perguntou se realmente escolhe o que pensa? Nos anos 80, em Lund, alguns pesquisadores fizeram um experimento brilhante: mostravam às pessoas duas fotos, perguntando qual elas achavam mais atraente. Depois, com um truque, devolviam a foto que o participante NÃO havia escolhido, e a maioria nem percebia. Na verdade, explicavam com segurança por que aquela era a sua favorita. Um golpe certeiro na ideia de que somos os donos absolutos de nossas escolhas. A verdade? A autonomia humana não é aquela fortaleza intocável que imaginamos. Crescemos com a convicção de que ser autônomo significa viver "sem influências externas", como se a nossa vontade fosse um poço puro e isolado do resto do mundo. Mas, como dizia Castoriadis, esta é uma fantasia filosófica: a autonomia não é um muro que nos separa, mas um processo que é construído continuamente e que depende do contexto em que vivemos. As histórias que contamos a nós mesmos sobre a autonomia têm efeitos concretos: elas orientam as leis, a política, a maneira como julgamos os outros e a nós mesmos. Mas hoje, com a IA em toda parte, essa visão precisa ser atualizada. Estamos cercados por sistemas que não se limitam a sugerir: eles configuram diretamente o ambiente em que tomamos decisões, muitas vezes antes mesmo de percebermos. Pense nos algoritmos das redes sociais: eles não te convencem com uma frase, mas reescrevem em tempo real o que você vê, o que parece importante, até mesmo as escolhas que você acha que faz. Isso não é apenas um passo adiante na manipulação: é um salto de espécie na gestão da nossa autonomia. Veja a teoria da autopoiese de Francisco Varela: todo organismo vive porque se renova continuamente, distinguindo-se do ambiente sem nunca se separar completamente dele. Isso vale para as células, vale para nós — e hoje também vale para a maneira como nossa mente se entrelaça com a tecnologia. Não existe mais um "eu" puro, mas apenas um processo de negociação entre cérebro, corpo, ambiente e agora também a IA. Alguns temem que essa visão "biológica" ou "ecológica" da autonomia nos tire a capacidade de realmente escolher. Mas o maior risco é outro: continuar acreditando que somos soberanos absolutos, enquanto, na realidade, a própria estrutura em que pensamos, desejamos e decidimos é projetada, muitas vezes sem que percebamos. E se a sua autonomia já tivesse sido "comutada" como a foto no experimento de Lund? Não precisamos mais de proclamações sobre a liberdade interior: precisamos repensar o ambiente que torna a liberdade possível. É aí que entra a proposta radical: proteger não apenas a privacidade ou o cérebro, mas o contexto cognitivo em que amadurecem a atenção, o julgamento e a capacidade crítica. O Chile, em 2021, chegou a incluir a proteção da integridade mental em sua Constituição, tratando os dados neurais como um órgão do corpo. É o nascimento de um novo direito: habeas cogitationem, o direito de não ser manipulado no pensamento. Porque a verdadeira autonomia não é a ausência de influências, mas a capacidade de se orientar em meio a elas, de permanecer atuante mesmo em ambientes projetados para desviar nossa atenção e nossas escolhas. Mas atenção: isso não significa voltar ao paternalismo, nem decidir de cima o que é certo pensar. Significa, em vez disso, construir ambientes digitais que deixem espaço para a incerteza, a aprendizagem, a discussão e que tornem as influências transparentes, em vez de escondê-las na velocidade automática de um feed. E esta é uma responsabilidade coletiva, a ser dividida entre cidadãos, empresas, legisladores e usuários. A verdadeira questão não é mais "quão livre você é por dentro?", mas "até que ponto o ambiente em que você pensa ainda permite que você seja livre?". Estamos em uma época em que a diferença entre guiar a sua autonomia e falar sobre ela depois de já ter perdido o controle não é mais filosófica, mas prática. A frase que fica: a autonomia não é uma propriedade a ser preservada, mas um processo frágil que deve ser repensado e protegido no mundo que a torna possível. Se você ficou impressionado com a ideia de que a verdadeira autonomia é uma questão de ambiente e não de vontade, no Lara Notes você pode declará-la com I'm In — escolha se é uma descoberta, uma convicção ou algo que você viveu na pele. E se amanhã você estiver contando a alguém sobre o experimento de Lund, no Lara Notes você pode marcar esse momento com Shared Offline: assim, resta a memória não apenas do que você ouviu, mas também da conversa que surgiu a partir disso. Esta jornada sobre as ilusões da autonomia vem da NOEMA e fez você economizar 23 minutos.