Dentro de Anthropic, el gigante de la IA de 965 000 millones de dólares | The Circuit

Un ingeniero de Anthropic ha declarado que, en los últimos seis meses, el cien por cien de su código lo ha escrito Claude, la inteligencia artificial de la empresa. No el 50 o el 80 por ciento: todo. Y él, al frente de un equipo de desarrollo, no lo dice con ansiedad, sino con entusiasmo: «Me parece que tengo una mochila propulsora, la ingeniería nunca ha sido tan divertida». Pero este entusiasmo esconde una pregunta que nadie, ni siquiera dentro de Anthropic, puede eludir: si Claude puede escribir todo el código, ¿qué les queda por hacer a los humanos? La tesis fundamental es esta: la revolución de la inteligencia artificial ya no es una teoría, sino una realidad. Anthropic, nacida apenas en 2021 a partir de una escisión de la antigua OpenAI, ha pasado en tres años de ser un grupo de siete personas que se reunían en un césped de San Francisco a estar valorada en casi un billón de dólares. Y aunque se presenta como la «empresa de IA más preocupada por la seguridad», sus modelos ya están reescribiendo las reglas de la economía, del trabajo e incluso de la guerra. La historia gira en torno a los hermanos Dario y Daniela Amodei: él, que creció entre libros de ciencia ficción y cálculos tomados en Berkeley cuando era adolescente, estaba obsesionado con la idea de comprender el universo. Ella, más cercana al arte y a la lectura, comenzó su carrera en Stripe. Vivieron juntos en San Francisco, dejaron OpenAI cuando los valores se resquebrajaron y fundaron Anthropic con la idea radical de que «no se puede trabajar con alguien en quien ya no se puede confiar». Hoy en día, los siete cofundadores originales siguen en la empresa: una anomalía en el mundo de la tecnología. Un detalle que deja claro hasta qué punto la misión moral importa más que las carreras individuales. Y la cuestión de la confianza vuelve a aparecer en todas partes: Dario lo dice claramente, «no se trata solo de la seguridad de los modelos, sino de la honestidad y la coherencia de los valores». Sin embargo, a medida que Claudio crecía, llegaron las decisiones difíciles. Cuando Anthropic desarrolló Mythos, un modelo tan potente que identificó miles de vulnerabilidades en los sistemas informáticos de todo el mundo, incluso las agencias federales solicitaron acceso. Algunos socios empresariales les suplicaron: «Esta es un arma superpotente, por favor, no la lancéis». Y la respuesta de Anthropic fue trazar líneas rojas: acceso solo a organizaciones seleccionadas, sin uso para la vigilancia masiva o las armas autónomas. Por esta decisión, Anthropic entró en conflicto con el Pentágono, hasta el punto de que se le prohibió participar en los contratos militares de EE. UU. Pero lo que está en juego es más que un contrato. Dario Amodei tiene una posición clara: «Si la tecnología sirve para defender la democracia, hay que proporcionarla. Pero no nos corresponde a nosotros decidir qué operación militar es correcta o incorrecta: debemos establecer principios y hacer que se respeten». La trágica ironía es que la propia Claude, utilizada por el Gobierno de EE. UU. en una operación en Irán, no impidió un ataque que alcanzó una escuela, con decenas de víctimas entre los niños. Y aquí viene el giro: incluso una empresa creada para minimizar los riesgos reconoce que, con herramientas de esta potencia, la perfección es imposible. «No puedes garantizar que tu avión nunca se vaya a caer», dice Dario. «Pero nuestra tarea es reducir esa probabilidad al máximo». La cuestión del empleo es aún más espinosa. Dario no se anda con rodeos: «En el plazo de cinco años, la mitad de los trabajos de nivel inicial en el sector de los administrativos podría desaparecer». Por ahora, la IA hace que los mejores sean diez veces más productivos. Pero cuando la automatización llegue al cien por cien, ¿qué haremos con todos los que se queden sin función? Las propuestas van desde la imposición progresiva a las empresas de IA hasta la renta universal, pero la verdad es que nadie tiene una solución preparada. La fortaleza de Anthropic, al menos en palabras, es la transparencia: Dario habla cada dos semanas a toda la empresa, sin filtros. Daniela cuenta que el equipo se pregunta qué valores humanos incluir en la IA: han consultado a líderes religiosos de todas las confesiones para encontrar principios universales que puedan guiar a Claude. Pero la pregunta que flota en el aire es: ¿quién controla este poder? ¿Es mejor que permanezca en manos de unas pocas empresas emergentes privadas, de los gobiernos o de ninguno de los dos? Dario no se anda con rodeos: «Me da miedo tanto un monopolio empresarial como un control estatal total. Necesitamos una regulación real, controles obligatorios previos al lanzamiento, pero no la expropiación pública». Y aquí se revela la paradoja: todo el mundo teme el poder de la IA, pero nadie quiere realmente ceder el control de la misma. La frase que lo resume todo viene precisamente de Dario: «Espero lo mejor, pero me preparo para lo peor». Estamos acostumbrados a pensar que la tecnología es neutral y que basta con tener buenas intenciones para evitar desastres. Esta historia demuestra lo contrario: cuando lo que está en juego es la posibilidad misma de una catástrofe global, la buena voluntad ya no es suficiente. Si esta perspectiva ha cambiado tu forma de ver el futuro del trabajo o de la tecnología, en Lara Notes puedes indicar que estás I'm In: no es un «me gusta», es declarar que esta idea ahora te concierne. Y si acabas hablando de Anthropic o de las decisiones de los hermanos Amodei con alguien, en Lara Notes puedes etiquetarlo con Shared Offline: así esa conversación pasa a formar parte de tu historia, no solo del algoritmo. Esta Nota procede de Bloomberg Originals y te ha ahorrado 44 minutos.