La Silicon Valley è in delirio per i bot che si costruiscono da soli

Recentemente, un gruppo di persone ha bloccato le strade di San Francisco con cartelli che dicevano “Fermate la corsa all'AI” e “Non costruite Skynet”. L'obiettivo? Le aziende di intelligenza artificiale che stanno lavorando su bot in grado di migliorarsi da soli: macchine che non si limitano a eseguire ordini, ma che imparano, si ottimizzano e, almeno nelle intenzioni, potrebbero arrivare a progettare le generazioni future di IA. La tesi che sta facendo impazzire la Silicon Valley è questa: non siamo più di fronte a computer che lavorano per noi, ma a sistemi che lavorano su se stessi. E la velocità con cui si migliorano non è più lineare: potrebbe diventare esponenziale. L'idea non è nuova. Già negli anni Sessanta, lo statistico I. J. Good aveva previsto che “la macchina in grado di progettare una versione migliore di se stessa sarebbe stata l'ultima invenzione di cui l'umanità avrebbe avuto bisogno”. Per decenni, però, è rimasta fantascienza. Fino a pochi anni fa, l'idea che un bot potesse svolgere vere ricerche era quasi ridicola: ChatGPT faceva fatica con le addizioni, figuriamoci progettare nuovi algoritmi. Oggi la situazione è cambiata. OpenAI parla apertamente di un “assistente di ricerca AI” in arrivo nei prossimi sei mesi. Anthropic afferma che il 90% del proprio codice viene già scritto da Claude, il loro modello di IA. Dario Amodei, CEO di Anthropic, stima che gli strumenti di codifica automatica abbiano reso i processi interni più rapidi del 15-20%. Google DeepMind, da parte sua, ha sviluppato AlphaEvolve, un agente AI che ha ridotto il consumo computazionale dei data center globali dello 0,7% e accelerato l'addestramento del modello Gemini dell'1%. Ma dietro a questi numeri c’è una domanda: quanto di questo lavoro è davvero autonomo e quanto è supervisionato da esseri umani? Jack Clark, responsabile delle politiche di Anthropic, è il primo ad ammettere che la vera priorità oggi è “capire fino a che punto stiamo automatizzando aspetti dello sviluppo dell’IA”. Perché per ora, l’automazione è frammentaria: bot che ottimizzano piccoli task, non ancora la direzione completa della ricerca. Eppure, la corsa è già iniziata. Sam Altman di OpenAI fissa l'obiettivo per il 2028: un “ricercatore AI completamente automatizzato”, in grado di fare scoperte significative senza l'intervento umano. Altri, come Eli Lifland dell'AI Futures Project, prevedono l'automazione totale della ricerca entro il 2032. Ma c’è chi frena. Pushmeet Kohli di DeepMind sottolinea che, per ora, “il ciclo completo di auto-miglioramento non esiste ancora”: una macchina può ottimizzare, ma non ha ancora nulla per cui valga la pena ottimizzare. Il vero passo avanti non è far scrivere codice a un bot, ma dargli il cosiddetto “gusto” della ricerca – la capacità di scegliere domande interessanti e giudicare ciò che conta, come fa un grande ingegnere. E questa è una qualità umana ancora fuori portata. C'è poi il tema delle risorse: chip, energia, denaro. Basta che uno di questi fattori scarseggi e l’avanzata si blocca. Eppure, anche piccoli passi verso l'automazione fanno già la differenza. Dean Ball, ex consigliere di Trump per l’IA, avverte: “Questo potrebbe cambiare la competizione globale nell’IA, alterare la geopolitica tecnologica e molto altro ancora”. Le istituzioni pubbliche arrancano: la burocrazia americana usa ancora COBOL per le tasse, un linguaggio del 1960. Se l’IA si muove più velocemente, la politica rischia di rimanere ancora più indietro. E non è necessario che i sogni più estremi sull’IA autoreplicante si avverino per avere un effetto: la sola possibilità che ciò accada sta già spostando risorse, attenzione e potere. Nick Bostrom, filosofo svedese che studia i rischi dell’IA, oggi si definisce un “fatalista moderato”. E venti tra i massimi ricercatori di DeepMind, OpenAI, Meta, Stanford e Berkeley hanno indicato l’automazione della ricerca AI come uno dei rischi più urgenti per il settore. Bernie Sanders ha lanciato l’allarme al Senato: “Gli esseri umani potrebbero davvero perdere il controllo del pianeta”. Ma dietro la paura c’è anche un’ondata di hype che fa comodo proprio a chi sviluppa queste tecnologie. Se pensavi che le macchine avrebbero semplicemente svolto i nostri compiti, è il momento di aggiornare la visione: ora puntano a migliorarsi da sole, e la gara è già iniziata. Se senti che questa storia ti riguarda, su Lara Notes puoi premere I'm In: non è un like, è il tuo modo di dire che questa idea ora è anche tua. E se finirai per parlarne con qualcuno – magari raccontando che il 90% del codice di Anthropic è già opera di un bot – su Lara Notes c’è Shared Offline, il gesto che ferma per sempre quella conversazione importante. Questa Nota nasce da un articolo di The Atlantic: da oltre 15 minuti di lettura, qui hai risparmiato quasi tre quarti d’ora.