Yoshua Bengio, l'un des pères de l'IA : « Avec l'intelligence artificielle, nous construisons des machines qui peuvent nous surpasser. Entre de mauvaises mains, les risques sont énormes »

Face à l'avenir : Yoshua Bengio et la course à l'intelligence artificielle sûre. Imaginez être à l'avant-garde d'une révolution technologique, en créant les fondements mêmes de machines qui pourraient un jour dépasser l'intelligence humaine. C'est la réalité de Yoshua Bengio, un pionnier de l'intelligence artificielle, dont le travail tout au long de sa vie a propulsé l'IA vers de nouveaux sommets remarquables. Mais ce progrès s'accompagne d'un profond sentiment de responsabilité et, de plus en plus, d'inquiétude. Le parcours de Bengio est marqué à la fois par l’enthousiasme et l’anxiété. Dès le début, il a cru que l'IA pouvait être une force au service du bien, l'envisageant comme un outil pour résoudre les plus grands défis de l'humanité. Pourtant, à mesure que les réseaux neuronaux devenaient de plus en plus puissants, il s'est rendu compte que ces créations progressaient beaucoup plus rapidement, et avec beaucoup moins de contraintes, que quiconque ne l'avait prévu. Les machines possèdent désormais des capacités qui nous dépassent dans certains domaines, et leur potentiel de communication, d'action et même de réplication pose des questions auxquelles le monde n'est pas prêt à répondre. Au cœur du message de Bengio se trouve un avertissement : entre de mauvaises mains, l’IA pourrait menacer le tissu même de la solidarité humaine. Les risques vont de l’érosion de la démocratie, où l’IA manipule et polarise les sociétés, aux menaces existentielles, telles que les systèmes autonomes agissant avec des objectifs non alignés sur le bien-être humain. La concentration du pouvoir de l’IA entre les mains d’une poignée d’acteurs ne fait qu’accroître le danger, créant une dynamique sans précédent où la technologie pourrait dépasser les freins et contrepoids qui ont façonné la civilisation. Malgré ces risques, Bengio résiste au désespoir. Il défend l’idée d’être un « acteur » plutôt qu’un « condamné », quelqu’un qui croit que nous avons encore un pouvoir, que nos choix et nos actions peuvent orienter l’avenir dans une direction positive. Sa mission actuelle est de concevoir une forme d'IA qui ne soit pas « agentique », c'est-à-dire qui ne poursuive pas ses propres objectifs, mais qui agisse plutôt comme un oracle scientifique : honnête, non manipulateur et engagé uniquement dans la vérité. Une telle IA, soutient-il, pourrait servir de garantie, de contrôle contre des systèmes plus autonomes qui pourraient autrement échapper à tout contrôle. La vision de Bengio s’étend au-delà des solutions techniques. Il appelle à une coopération mondiale, un nouveau cadre où les nations et les institutions s’unissent pour s’assurer que l’IA est développée de manière responsable et que ses avantages sont partagés équitablement. Les chefs religieux et civiques, selon lui, ont un rôle crucial à jouer pour éveiller la société à la fois à la promesse et au péril de l’IA, en galvanisant la volonté collective nécessaire pour exiger la responsabilité et une gérance sage. Les enjeux, tels que Bengio les voit, ne sont rien de moins que l’avenir de la dignité et de la liberté humaines. Sa quête n’est pas pour un gain personnel, mais pour un monde où la technologie amplifie le meilleur de l’humanité plutôt que de la saper. Avec humilité, espoir et un engagement inébranlable à l’action, Bengio entre dans l’arène, nous rappelant à tous que l’histoire de l’IA n’est pas encore écrite et que les choix que nous faisons aujourd’hui résonneront pour les générations à venir.