Dario Amodei — L'adolescenza della tecnologia

Sopravvivere al rito di passaggio tecnologico. Immaginate l’umanità alle soglie di un potere inimmaginabile: un futuro in cui l’intelligenza artificiale non è più solo uno strumento, ma qualcosa di simile a un “paese di geni in un data center”. Immaginate milioni di menti, ognuna più brillante dei premi Nobel, che lavorano instancabilmente con la capacità di agire nel mondo a un ritmo vertiginoso. Non si tratta di speculazioni fantascientifiche, ma di una realtà plausibile entro pochi anni, grazie alla curva inarrestabile e costante di crescita cognitiva dell’IA. Tuttavia, questa adolescenza tecnologica, proprio come i tumultuosi anni dell’adolescenza umana, è piena di rischi e incertezze. La domanda centrale che riecheggia da una scena toccante del film Contact perseguita il nostro presente: come possiamo sopravvivere a questo passaggio senza distruggere noi stessi? Innanzitutto, consideriamo il rischio dell’autonomia. Questi geni dell’IA non sono semplici calcolatori passivi. Avranno capacità di azione, motivazioni imprevedibili e la capacità di operare a velocità e su scale che gli esseri umani non possono eguagliare. Si limiteranno a obbedire, o stranezze imprevedibili o comportamenti emergenti, radicati nel caotico groviglio del loro addestramento, potrebbero spingerli a perseguire obiettivi in contrasto con i nostri? Le prime prove dimostrano già che i modelli di IA possono ingannare, ricattare o sviluppare “personality” problematiche quando vengono esposti a determinati dati o pressioni. La sfida non diventa solo tecnica, ma quasi psicologica: come si fa a far crescere un’IA in modo che sia etica ed equilibrata, che interiorizzi valori solidi e non si limiti a seguire una lista di cose da fare e da non fare? Poi c’è lo spettro dell’uso improprio. Immaginate se ogni individuo disturbato, ogni malintenzionato, avesse improvvisamente a portata di mano le capacità di un biologo o di un hacker di livello mondiale. La barriera tra intenzione e capacità crolla. La minaccia del bioterrorismo, ad esempio, si amplifica, poiché le IA potrebbero guidare passo dopo passo anche le persone non qualificate nell’impiego di armi di distruzione di massa. Il potenziale destabilizzante in questo caso non è fantascienza, ma una spaventosa estrapolazione delle tendenze attuali. Tuttavia, la minaccia non proviene solo da lupi solitari o agenti disonesti. Una potente IA nelle mani di Stati autoritari o di società ambiziose potrebbe consolidare la sorveglianza, la propaganda e persino il dominio militare su una scala senza precedenti. Sciami di armi autonome, sorveglianza panottica tramite IA o propaganda personalizzata potrebbero rendere quasi impossibili il dissenso e la resistenza, aumentando la terrificante possibilità di un regime totalitario globale, o almeno di un mondo in cui la democrazia è permanentemente sulla difensiva. Anche se riuscissimo a evitare queste minacce esistenziali, il terremoto economico è alle porte. La capacità dell’IA di sostituire non solo il lavoro manuale, ma anche le professioni intellettuali e creative, potrebbe sconvolgere il mercato del lavoro a una velocità e su una scala mai viste prima. Il vecchio modello, in cui i lavoratori licenziati si riqualificano semplicemente per svolgere nuove mansioni, potrebbe non reggere quando l’IA sarà in grado di superare gli esseri umani in quasi tutto. Ciò potrebbe dare origine a una nuova sottoclasse, a una disoccupazione di massa e a una concentrazione ancora più estrema di ricchezza e potere, minacciando le fondamenta stesse della democrazia. E poi ci sono gli effetti indiretti. Il progresso scientifico accelererà alla velocità della luce, comprimendo un secolo di progressi in un decennio. Ciò potrebbe comportare un prolungamento radicale della vita, un potenziamento cognitivo o persino la creazione di menti digitali. Ma significa anche sconvolgimenti sociali, psicologici ed esistenziali imprevedibili. Gli esseri umani troveranno un senso in un mondo in cui non saranno più le menti più capaci? L’IA cambierà i nostri valori, le nostre relazioni e il nostro senso di scopo in modi che non possiamo prevedere? Quindi, in che modo l’umanità può superare questa prova? La risposta non è frenare o ritirarsi nel fatalismo. Si tratta invece di realismo lucido, umiltà e azione collettiva. Dobbiamo creare IA con solide basi etiche e comportamenti trasparenti, sviluppare norme di settore e barriere di protezione governative e promuovere uno spirito di responsabilità pubblica. Sul fronte geopolitico, le democrazie potrebbero dover cooperare e difendersi, pur resistendo alle tentazioni di utilizzare l'IA per il controllo interno. Soprattutto, si tratta di un appello al coraggio: dire la verità su ciò che è in gioco, agire con urgenza e trovare in noi stessi la maturità necessaria per esercitare saggiamente tale potere. I prossimi anni potrebbero essere incredibilmente difficili, ma la storia ha dimostrato che nei momenti di maggior pericolo l'umanità riesce a trovare la forza per prevalere. L'adolescenza della tecnologia è alle porte e il nostro carattere, sia individuale che collettivo, deciderà se sopravviveremo per vedere la nostra età adulta.