Yoshua Bengio, uno de los padres de la IA: «Con la inteligencia artificial, estamos construyendo máquinas que pueden superarnos. En las manos equivocadas, los riesgos son enormes»

De cara al futuro: Yoshua Bengio y la carrera hacia una inteligencia artificial segura. Imagina estar a la vanguardia de una revolución tecnológica, creando los cimientos de máquinas que algún día podrían superar la inteligencia humana. Esa es la realidad de Yoshua Bengio, un pionero en inteligencia artificial, cuyo trabajo de toda la vida ha impulsado la IA a nuevas y notables alturas. Pero este progreso conlleva un profundo sentido de la responsabilidad y, cada vez más, de la preocupación. El viaje de Bengio está marcado por la emoción y la ansiedad. Al principio, creía que la IA podría ser una fuerza para el bien, imaginándola como una herramienta para resolver los mayores desafíos de la humanidad. Sin embargo, a medida que las redes neuronales se hicieron exponencialmente más poderosas, se dio cuenta de que estas creaciones avanzaban mucho más rápido, y con muchas menos restricciones, de lo que nadie había previsto. Las máquinas ahora poseen habilidades que nos superan en algunos dominios, y su potencial para comunicarse, actuar e incluso replicarse plantea preguntas que el mundo no está preparado para responder. En el corazón del mensaje de Bengio hay una advertencia: en las manos equivocadas, la IA podría amenazar el tejido mismo de la solidaridad humana. Los riesgos van desde la erosión de la democracia, donde la IA manipula y polariza a las sociedades, hasta amenazas existenciales, como sistemas autónomos que actúan con objetivos desalineados con el bienestar humano. La concentración del poder de la IA entre un puñado de actores no hace sino aumentar el peligro, al crear dinámicas sin precedentes en las que la tecnología podría superar los controles y equilibrios que han dado forma a la civilización. A pesar de estos riesgos, Bengio se resiste a la desesperación. Defiende la idea de ser un «hacedor» en lugar de un «condenado», alguien que cree que todavía tenemos capacidad de acción, que nuestras elecciones y acciones pueden dirigir el futuro en una dirección positiva. Su misión actual es diseñar una forma de IA que no sea «agéntica», es decir, que no persiga sus propios objetivos, sino que actúe como un oráculo científico: honesto, no manipulador y comprometido únicamente con la verdad. Una IA de este tipo, argumenta, podría servir como salvaguarda, un control contra sistemas más autónomos que de otro modo podrían descontrolarse. La visión de Bengio va más allá de las soluciones técnicas. Pide una cooperación global, un nuevo marco en el que las naciones y las instituciones se unan para garantizar que la IA se desarrolle de manera responsable y que sus beneficios se compartan de manera equitativa. Los líderes religiosos y cívicos, cree, tienen un papel crucial en despertar a la sociedad tanto a la promesa como al peligro de la IA, galvanizando la voluntad colectiva necesaria para exigir responsabilidad y una administración sabia. Lo que está en juego, según Bengio, es nada menos que el futuro de la dignidad y la libertad humanas. Su objetivo no es el beneficio personal, sino un mundo en el que la tecnología amplifique lo mejor de la humanidad en lugar de socavarla. Con humildad, esperanza y un compromiso inquebrantable con la acción, Bengio entra en la arena, recordándonos a todos que la historia de la IA aún no está escrita y que las decisiones que tomemos hoy repercutirán en las generaciones venideras.