Bengio: «Si dais prioridad a la seguridad, dejad las empresas de IA de vanguardia»

Algunos de los mejores investigadores de inteligencia artificial del mundo están dejando hoy en día las empresas más avanzadas del sector no para ir a ganar más dinero o para cambiar de carrera, sino porque creen que el trabajo que están haciendo puede poner en riesgo el futuro de la humanidad. Yoshua Bengio, uno de los padres del aprendizaje profundo, acaba de lanzar un llamamiento directo: si realmente te preocupa la seguridad, deja las grandes empresas tecnológicas de la IA. Hasta hace poco, incluso él se decía a sí mismo que los riesgos catastróficos de la inteligencia artificial estaban lejos, eran controlables y que otros encontrarían las soluciones a tiempo. Luego, con la llegada de ChatGPT y de modelos cada vez más potentes, ese sentimiento de distancia se vino abajo: «Me di cuenta de que estábamos mucho más adelantados de lo que pensábamos y de que no controlábamos realmente esos sistemas». En ese momento, dice Bengio, ya no tuvo otra opción: dedicó su vida a reducir los riesgos de la IA y fundó LawZero en Montreal, una organización que desarrolla inteligencia artificial segura por diseño y que no responde a accionistas ni a lógicas de beneficio. Pero el cambio de rumbo, cuenta, no fue indoloro. Durante años, ignoró las señales de alarma de compañeros que veían venir los peligros, convencido de que los beneficios superaban los riesgos. Solo la creciente presión moral le llevó a cambiar de rumbo. No es el único. Jacob Coxon, exmiembro de Anthropic, ha contado en Time que en las empresas de IA de vanguardia reina una especie de resignación: «Hay una atmósfera casi fatalista, en la que muchos aceptan que la carrera ya está fuera de control y se limitan a trabajar de la forma más segura posible, aunque piensen que todo puede acabar mal de todos modos». Es como si todos estuvieran paralizados por el miedo de que, una vez fuera de la carrera, alguien más acelere aún más, dejando atrás a quienes, por el contrario, querrían detenerse a reflexionar. Sin embargo, según Bengio, este temor no justifica seguir adelante: «No creo que veamos una regulación eficaz a tiempo, y ningún país ni empresa está realmente preparado para desarrollar la IA de forma segura». Aquí está el quid de la cuestión: las razones que mantienen a los mejores dentro de las grandes empresas –el acceso a los datos, los recursos, la esperanza de influir desde dentro– se ven superadas por el riesgo real de contribuir a un sistema fuera de control. Bengio también cita la historia de la ONU tras la bomba atómica: en 1946, Estados Unidos propuso someter las armas nucleares a un control internacional, pero nadie tuvo el valor de dar el primer paso para abandonar la carrera armamentística. «Tenemos una elección ante nosotros», insiste. Y esta vez, afirma, existe una alternativa real: trabajar para empresas que anteponen la seguridad, como LawZero, que acaba de recibir más de 200 millones de dólares de los Gobiernos de Canadá y Alemania. Lo que nadie dice en voz alta es que la elección individual realmente importa: el cambio no vendrá de una gran decisión colectiva, sino de la suma de muchas decisiones personales valientes. Esta es la perspectiva que falta en el debate: la verdadera revolución no es una nueva tecnología, sino la rebelión moral de quienes deciden dejar de ser cómplices. Bengio lo dice claramente: «La medalla Turing no vale nada si nuestro trabajo no sirve al bien común o, peor aún, si corre el riesgo de causar daños catastróficos». La frase que hay que repetir es esta: «No podemos detener la carrera por nuestra cuenta, pero si somos suficientes, sí podemos». Si escuchar esta historia te ha hecho ver tu trabajo en la IA bajo una luz diferente, en Lara Notes puedes marcar el momento con I'm In: es el gesto de quien declara que esta idea ahora te concierne de verdad. Y si dentro de unos días te encuentras hablando de ello con alguien, en Lara Notes puedes usar Shared Offline para etiquetar a esa persona: así sabrá que esa conversación fue importante para ti. Esta intervención procede de Transformer y te ahorra 2 minutos de lectura.