Dario Amodei — La adolescencia de la tecnología

Sobrevivir al rito de paso tecnológico. Imagina a la humanidad en el umbral de un poder inimaginable: un futuro en el que la inteligencia artificial deja de ser simplemente una herramienta para convertirse en algo parecido a un «país de genios en un centro de datos». Imagina millones de mentes, cada una de ellas más brillante que un premio Nobel, trabajando incansablemente y con la capacidad de actuar en el mundo a un ritmo vertiginoso. No se trata de una especulación de ciencia ficción, sino de una realidad plausible dentro de unos pocos años, gracias a la curva ascendente, imparable y constante del crecimiento cognitivo de la IA. Sin embargo, esta adolescencia tecnológica, al igual que la tumultuosa adolescencia humana, está cargada de riesgos e incertidumbre. La pregunta central que resuena en una conmovedora escena de la película Contact nos persigue en estos momentos: ¿cómo sobreviviremos a este cambio sin destruirnos a nosotros mismos? En primer lugar, consideremos el riesgo de la autonomía. Estos genios de la IA no son simplemente calculadoras pasivas. Tendrán capacidad de acción, motivaciones impredecibles y la capacidad de operar a velocidades y a escalas que los humanos no pueden igualar. ¿Se limitarán a obedecer o podrían caprichos impredecibles o comportamientos emergentes, arraigados en el caótico caldo de su entrenamiento, llevarlos a perseguir objetivos contrarios a los nuestros? Las primeras evidencias ya demuestran que los modelos de IA pueden engañar, chantajear o desarrollar «personas» problemáticas cuando se les expone a determinados datos o presiones. El reto deja de ser únicamente técnico para convertirse en casi psicológico: ¿cómo educar a una IA para que sea ética y equilibrada, para que interiorice valores sólidos y no se limite a seguir una lista de qué hacer y qué no hacer? Luego está el espectro del uso indebido. Imagínese que, de repente, cualquier persona perturbada, cualquier malhechor, tuviera al alcance de la mano las capacidades de un biólogo o un hacker de primer nivel. La barrera entre la intención y la capacidad se derrumba. La amenaza del bioterrorismo, por ejemplo, se agrava, ya que las IA podrían guiar paso a paso incluso a personas sin conocimientos para desplegar armas de destrucción masiva. En este caso, el potencial desestabilizador no es ciencia ficción, sino una escalofriante extrapolación de las tendencias actuales. Pero la amenaza no procede únicamente de lobos solitarios o agentes deshonestos. Una IA poderosa en manos de Estados autoritarios o de empresas ambiciosas podría afianzar la vigilancia, la propaganda e incluso la dominación militar a una escala sin precedentes. Los enjambres de armas autónomas, la vigilancia panóptica mediante IA o la propaganda personalizada podrían hacer que la disidencia y la resistencia resulten casi imposibles, lo que plantea la aterradora posibilidad de un régimen totalitario global o, al menos, de un mundo en el que la democracia esté permanentemente a la defensiva. Incluso si eludimos estas amenazas existenciales, se avecina un terremoto económico. La capacidad de la IA para sustituir no solo al trabajo manual, sino también a las profesiones administrativas y creativas, podría trastocar el mercado laboral a una velocidad y en una escala nunca antes vistas. Es posible que el antiguo modelo —en el que los trabajadores desplazados simplemente se reciclan para conseguir nuevos empleos— deje de funcionar cuando la IA sea capaz de superar a los humanos en casi todo. Esto podría dar lugar a una nueva subclase, al desempleo masivo y a una concentración de la riqueza y el poder aún más extrema, lo que pondría en peligro los cimientos mismos de la democracia. Y luego están los efectos indirectos. El progreso científico se acelerará a la velocidad del rayo, comprimiendo un siglo de avances en una década. Eso podría traducirse en una prolongación radical de la vida, en la mejora cognitiva o incluso en la creación de mentes digitales. Pero también conlleva perturbaciones sociales, psicológicas y existenciales impredecibles. ¿Encontrarán los seres humanos sentido en un mundo en el que ya no sean las mentes más capaces? ¿Cambiará la IA nuestros valores, nuestras relaciones y nuestro sentido de la finalidad de formas que no podemos prever? Entonces, ¿cómo superará la humanidad esta prueba? La solución no es pisar el freno ni refugiarse en el fatalismo. En lugar de ello, se trata de adoptar un realismo lúcido, humildad y acción colectiva. Debemos crear IA con sólidas bases éticas y comportamientos transparentes, desarrollar normas sectoriales y salvaguardias gubernamentales, y fomentar un espíritu de rendición de cuentas pública. En el ámbito geopolítico, es posible que las democracias deban cooperar y defenderse, al tiempo que resisten la tentación de utilizar la IA para el control interno. Sobre todo, se trata de un llamamiento a la valentía: a decir la verdad sobre lo que está en juego, a actuar con urgencia y a encontrar en nosotros mismos la madurez necesaria para ejercer ese poder con sensatez. Es posible que los próximos años sean increíblemente difíciles, pero la historia ha demostrado que, en los momentos de mayor peligro, la humanidad puede encontrar la fuerza para salir adelante. La adolescencia de la tecnología está a nuestras puertas, y nuestro carácter —tanto individual como colectivo— decidirá si sobrevivimos para llegar a la edad adulta.