La paradoja del poder de la IA

En 2018, el modelo lingüístico más avanzado de OpenAI tenía 117 millones de parámetros. Hoy, menos de seis años después, los modelos más potentes superan el billón. Para que te hagas una idea: la potencia de cálculo necesaria ha crecido diez veces cada año durante diez años seguidos. Estamos ante una tecnología que crece más rápido que ninguna otra en la historia, y lo increíble es que la propia velocidad de este crecimiento está cambiando quién manda en el mundo. Siempre se piensa que solo los Estados tienen el poder de regular y gestionar las tecnologías decisivas. Pero con la inteligencia artificial, es al revés: son las empresas, no los gobiernos, las que tienen el control real. Y esta es la verdadera revolución geopolítica de la IA. Hasta hace unos años, las empresas tecnológicas eran consideradas simples proveedoras de servicios, herramientas en manos de los gobiernos. Hoy, en cambio, empresas como OpenAI, Google, Meta y unas cuantas más deciden qué pueden hacer sus modelos, quién puede usarlos, cómo y con qué fines. Tienen un poder que antes solo tenían los Estados. Mustafa Suleyman, uno de los autores del artículo y cofundador de DeepMind, fue uno de los primeros en decir que los desarrolladores de IA son «nuevos actores geopolíticos», con una soberanía que no deriva del voto o del contrato social, sino de la capacidad técnica. Y cuando el senador estadounidense Ted Cruz dice que el Congreso «no tiene ni idea de lo que está haciendo» con respecto a la IA, reconoce un enorme vacío de poder. La paradoja es que cuanto más poderosa y accesible se vuelve la IA, más difícil es controlarla. La IA no es como la energía nuclear: no se necesitan laboratorios secretos ni años de investigación, basta con una filtración de código y cualquiera puede descargar modelos avanzados de la web. Meta vio cómo su modelo Llama-1 acababa en línea pocos días después de su lanzamiento, y hoy en día hay versiones casi igual de potentes que funcionan en un ordenador que puedes alquilar por unos pocos euros la hora. Dentro de poco, los modelos sofisticados funcionarán directamente en los teléfonos inteligentes. Esto significa que la más mínima brecha en un país, una empresa o una normativa se convierte en una puerta abierta a riesgos globales, desde la desinformación masiva hasta las armas digitales evolutivas y las amenazas de escala existencial, como la IA general fuera de control. Pero la verdadera pregunta es: ¿quién puede gobernar realmente esta carrera? La respuesta clásica —los Estados— ya no es suficiente hoy en día. En Occidente, las empresas privadas tienen una libertad de acción que ningún gobierno puede limitar realmente. En China, donde el Estado y las empresas están entrelazados, el control es más estricto, pero la tecnología avanza demasiado rápido como para que realmente se le pueda poner una correa incluso allí. Mientras tanto, Estados Unidos y China tratan la IA como un desafío de suma cero: quien gane esta carrera cree que puede dominar el siglo. Pero mientras compiten, la tecnología se extiende por todas partes, y la mayoría de los países se verán obligados a depender de quienes controlen los modelos y los chips más avanzados. Y aquí llega el giro: la solución ya no es establecer reglas entre Estados, sino construir un sistema en el que también las empresas tecnológicas, nos guste o no, se sienten a la mesa de las decisiones globales. Por primera vez, la gobernanza de una tecnología crítica debe diseñarse con la participación de quienes la desarrollan, quienes la poseen y quienes la utilizan, junto con los gobiernos, los expertos y la sociedad civil. El modelo de negociaciones entre Estados, como en el caso de la energía nuclear, ya no es suficiente, porque la IA es demasiado fácil de copiar, demasiado rápida de difundir y demasiado descentralizada. Se necesita una gobernanza «tecnoprudente», compuesta por normas ágiles, cautelosas, impermeables a las fallas y capaces de adaptarse a medida que la IA evoluciona. Hay tres ideas fuertes: un grupo de trabajo científico global, similar al panel de la ONU sobre el clima, para definir y supervisar los riesgos de la IA; un régimen de no proliferación —como para las armas— para evitar que los modelos peligrosos se propaguen sin control entre Estados, empresas e individuos; y un organismo de estabilidad tecnológica, siguiendo el modelo de las instituciones financieras mundiales, que pueda intervenir en las crisis e imponer reglas universales. Pero nada de esto funcionará sin la participación directa y responsable de las empresas que hoy son los verdaderos árbitros del juego, para bien o para mal. ¿El contrarian? Estamos acostumbrados a pensar que el verdadero peligro son las grandes empresas tecnológicas que toman el poder. Pero existe un riesgo aún mayor: que nadie lo tome realmente y nos encontremos con una tecnología sin frenos, sin reglas y sin nadie que pueda responder cuando algo sale mal. En un mundo en el que basta un solo modelo «fuera de control» para causar daños globales, el peligro no son solo las empresas demasiado fuertes, sino también las demasiado débiles o desatendidas. Si quieres una frase para recordar: la IA no solo está cambiando lo que podemos hacer, sino que está cambiando quién manda realmente. Si esta idea te ha hecho ver la IA bajo una nueva luz, en Lara Notes puedes pulsar I'm In: es el gesto para decir que esta perspectiva ahora forma parte de tu forma de pensar. Y si dentro de unos días te encuentras hablando de ello con alguien mientras discutís sobre quién decide realmente el futuro de la IA, en Lara Notes puedes etiquetar a esa persona con Shared Offline, para que quede constancia de la conversación que importa. Esta Nota proviene de Foreign Affairs y te ahorra 21 minutos.