Bengio: "Se date priorità alla sicurezza, lasciate le aziende di IA all'avanguardia"

Alcuni dei migliori ricercatori di intelligenza artificiale al mondo oggi stanno lasciando le aziende più avanzate del settore non per andare a guadagnare di più o per cambiare carriera, ma perché credono che il lavoro che stanno facendo possa mettere a rischio il futuro dell'umanità. Yoshua Bengio, uno dei padri del deep learning, ha appena lanciato un appello diretto: se davvero hai a cuore la sicurezza, lascia le big tech dell'IA. Fino a poco tempo fa, perfino lui si raccontava che i rischi catastrofici dell'intelligenza artificiale erano lontani, gestibili, e che altri avrebbero trovato le soluzioni in tempo. Poi, con l'arrivo di ChatGPT e di modelli sempre più potenti, quel senso di distacco è crollato: “Mi sono reso conto che eravamo molto più avanti di quanto pensassimo e che non avevamo davvero il controllo di questi sistemi”. A quel punto, dice Bengio, non aveva più scelta: ha dedicato la sua vita a ridurre i rischi dell'IA, fondando LawZero a Montreal, un'organizzazione che sviluppa intelligenza artificiale sicura per progettazione e che non risponde ad azionisti o logiche di profitto. Ma la svolta, racconta, non è stata indolore. Per anni ha ignorato gli allarmi dei colleghi che vedevano arrivare i pericoli, convinto che i benefici superassero i rischi. Solo la crescente pressione morale lo ha spinto a cambiare rotta. Non è l'unico. Jacob Coxon, ex Anthropic, ha raccontato su Time che nelle aziende AI di frontiera regna una sorta di rassegnazione: “C'è questa atmosfera quasi fatalista, dove molti accettano che la corsa sia ormai fuori controllo e si limitano a lavorare nel modo più sicuro possibile, anche se pensano che tutto possa comunque andare storto”. È come se tutti fossero bloccati dalla paura che qualcun altro, una volta fuori dalla corsa, acceleri ancora di più, lasciando indietro chi invece vorrebbe fermarsi a riflettere. Eppure, secondo Bengio, questa paura non giustifica il proseguire: “Non credo che vedremo una regolamentazione efficace in tempo, e nessun Paese o azienda è davvero preparato a costruire l'IA in modo sicuro”. Ecco il punto cruciale: le ragioni che trattengono i migliori talenti all'interno delle grandi aziende – accesso a dati, risorse, la speranza di esercitare un'influenza dall'interno – vengono superate dal rischio concreto di contribuire a un sistema ormai fuori controllo. Bengio cita anche la storia dell'ONU dopo la bomba atomica: nel 1946 gli Stati Uniti proposero di mettere le armi nucleari sotto controllo internazionale, ma nessuno ebbe il coraggio di fare il primo passo fuori dalla corsa agli armamenti. “Abbiamo una scelta davanti a noi”, insiste. E questa volta, dice, c'è una vera alternativa: lavorare per realtà che mettono la sicurezza al primo posto, come LawZero, che ha appena ricevuto più di 200 milioni di dollari dai governi di Canada e Germania. Il punto che nessuno dice ad alta voce è che la scelta individuale conta davvero: il cambiamento non arriverà da una grande decisione collettiva, ma dalla somma di molte scelte personali coraggiose. Ecco la prospettiva che manca nella discussione: la vera rivoluzione non è una nuova tecnologia, ma la ribellione morale di chi decide di non essere più complice. Bengio lo dice chiaro: “La medaglia Turing non vale niente se il nostro lavoro non serve il bene comune o, peggio, se rischia di fare danni catastrofici”. La frase da ripetere è questa: “Non possiamo fermare la corsa da soli, ma abbastanza di noi sì”. Se ascoltare questa storia ti ha fatto vedere il tuo lavoro nell'IA sotto una luce diversa, su Lara Notes puoi segnare il momento con I'm In — è il gesto di chi dichiara che questa idea ora ti riguarda davvero. E se tra qualche giorno ti ritrovi a parlarne con qualcuno, su Lara Notes puoi usare Shared Offline per taggare la persona: così saprà che quella conversazione, per te, contava. Questo intervento arriva da Transformer e ti fa risparmiare 2 minuti di lettura.