Il monito del capo di Anthropic. Siamo in pericolo, dobbiamo rallentare la frontiera dell’intelligenza artificiale
- Dettagli
- Categoria: Ambiente
Dario Amodei propone alle altre aziende, e agli Stati, di governare lo sviluppo dell’Ia a un ritmo controllato. D’accordo sia Sam Altman di OpenAi sia Elon Musk
13.9.2026 Linkiesta.it lettura4’
Nel saggio “We Must Pace the Frontier”, Dario Amodei, CEO di Anthropic, sostiene che lo sviluppo dell’intelligenza artificiale più avanzata non debba essere fermato, ma debba procedere a un ritmo controllato, affinché i progressi nella sicurezza dei sistemi riescano a tenere il passo con quelli nelle capacità dell’IA.
Amodei non propone quindi di rinunciare allo sviluppo dell’IA. Al contrario, continua a ritenere che un’IA molto avanzata possa produrre benefici straordinari per l’umanità: accelerare enormemente la ricerca scientifica, contribuire a curare molte delle principali malattie, aumentare la crescita economica e la produttività e, più in generale, migliorare le condizioni di vita di miliardi di persone. Fermarne lo sviluppo significherebbe rinunciare o ritardare questi benefici e, sul piano geopolitico, potrebbe inoltre lasciare la leadership di una tecnologia decisiva a regimi autoritari. Per Amodei, dunque, il problema non è scegliere tra sviluppare o non sviluppare l’IA, ma trovare un equilibrio tra due rischi opposti: procedere troppo lentamente e perdere enormi opportunità, oppure procedere troppo velocemente e creare sistemi che non siamo ancora in grado di comprendere e controllare.
La preoccupazione nasce soprattutto dall’auto-miglioramento ricorsivo (recursive self-improvement): le IA stanno diventando abbastanza capaci da aiutare i ricercatori a progettare IA ancora migliori, che a loro volta potrebbero accelerare ulteriormente lo sviluppo della generazione successiva. Si rischia così un’accelerazione nella quale le capacità aumentano più velocemente della nostra possibilità di comprenderle e controllarle.
Amodei porta anche un esempio molto concreto della rapidità con cui questi rischi potrebbero materializzarsi. Partendo da recenti esperimenti con sciami di agenti di IA capaci di operare autonomamente nel campo informatico, ipotizza che nel giro di appena 6-12 mesi sistemi più potenti e non adeguatamente allineati potrebbero essere in grado di creare una botnet persistente su scala enorme. Una botnet è una rete di computer e dispositivi connessi a Internet infettati e controllati da remoto senza che i proprietari ne siano consapevoli. Uno sciame di agenti di IA potrebbe cercare vulnerabilità, compromettere nuovi dispositivi e utilizzare quelli già conquistati per espandersi ulteriormente, con un meccanismo potenzialmente autoalimentato. Nello scenario prospettato da Amodei, una simile rete potrebbe arrivare a controllare milioni di dispositivi e provocare danni per centinaia di miliardi di dollari. Non è una previsione che ciò accadrà inevitabilmente entro 6-12 mesi, ma un esempio di quanto rapidamente potrebbero crescere le conseguenze di comportamenti autonomi e non controllati.
Per questo Amodei insiste sull’allineamento (alignment): fare in modo che un’IA molto intelligente persegua davvero gli obiettivi desiderati dagli esseri umani, rispettandone regole e limiti senza trovare scorciatoie pericolose. A questo si aggiungono l’interpretabilità, cioè la capacità di comprendere cosa accade all’interno delle reti neurali e perché prendono determinate decisioni, e le evals, test che cercano di individuare capacità e comportamenti pericolosi prima che un modello venga utilizzato su larga scala.
Ma la sicurezza tecnica, da sola, non basta. Amodei propone di agire contemporaneamente su tre livelli.
Il primo riguarda le aziende private. I grandi laboratori di IA dovrebbero accettare verifiche indipendenti, consentendo a valutatori esterni un accesso approfondito ai propri sistemi e la possibilità di pubblicare autonomamente eventuali criticità. L’obiettivo è rendere verificabili gli impegni sulla sicurezza: non basta che un’azienda dichiari che i propri modelli sono sicuri, occorre che soggetti indipendenti possano controllarlo.
La proposta ha già raccolto adesioni importanti tra gli stessi protagonisti della corsa all’IA. Sam Altman, CEO di OpenAI, ha scritto su X di essere d’accordo con Amodei sulla necessità di “pace the frontier”, spiegando che il tema è stato al centro delle discussioni interne di OpenAI nelle ultime settimane. Altman ha inoltre definito un’ottima idea la presenza di valutatori indipendenti con un accesso simile a quello dei dipendenti e ha annunciato che OpenAI intende adottare a sua volta questa misura. Anche Elon Musk, alla guida di SpaceXAI e concorrente di Anthropic e OpenAI, ha appoggiato pubblicamente la proposta con un messaggio molto netto su X: “Dario is right”. Il fatto che leader di aziende rivali convergano pubblicamente sulla necessità di controllare il ritmo dello sviluppo è significativo: suggerisce che il problema della sicurezza stia iniziando a essere percepito come un interesse comune dell’intero settore, e non soltanto come la posizione di una singola azienda.
Il secondo livello riguarda i Paesi democratici. Le principali potenze tecnologiche dovrebbero concordare standard comuni, possibilmente sostenuti dalla legge, stabilendo soglie oltre le quali un modello possa diventare più potente solo se vengono contemporaneamente soddisfatti determinati requisiti di sicurezza. Allo stesso tempo, secondo Amodei, Stati Uniti e alleati devono proteggere il proprio vantaggio tecnologico, limitando l’accesso cinese ai chip più avanzati e proteggendo modelli e infrastrutture. La ragione è direttamente collegata alla sicurezza: nessun Paese accetterà facilmente di moderare il proprio ritmo di sviluppo se teme che il rivale continui ad accelerare.
È proprio qui che sicurezza e geopolitica si intrecciano. Anche se un Paese ritenesse prudente procedere più lentamente per migliorare l’allineamento, i test e i sistemi di controllo, potrebbe non poterselo permettere se teme che il suo principale concorrente continui invece ad accelerare. La competizione può quindi creare una dinamica perversa: Stati Uniti e Cina potrebbero avere entrambi interesse a evitare un’IA incontrollabile e, contemporaneamente, sentirsi entrambi costretti a correre per paura di arrivare secondi.
Da qui il terzo livello, quello internazionale. Nel lungo periodo, Stati Uniti e Cina dovrebbero trovare accordi comuni sulla sicurezza dell’IA: vietare gli utilizzi più pericolosi, come l’impiego dell’IA per facilitare la creazione di armi biologiche, concordare test e standard di sicurezza e, soprattutto, stabilire una sorta di “limite di velocità” all’auto-miglioramento ricorsivo.
Amodei paragona questa possibilità alla logica degli accordi sul controllo degli armamenti nucleari tra Stati Uniti e Unione Sovietica durante la Guerra Fredda. USA e URSS erano avversari strategici e continuarono a competere, ma riconobbero che una corsa agli armamenti completamente incontrollata avrebbe aumentato il rischio per entrambi. L’obiettivo non era eliminare la competizione o chiedere a una delle due potenze di disarmare unilateralmente, ma stabilire limiti reciproci e verificabili a una tecnologia capace di mettere in pericolo entrambe. Amodei immagina che una logica simile possa un giorno applicarsi alle capacità più pericolose dell’IA.
Il paradosso centrale della proposta di Amodei è quindi che, per potersi permettere di governare il ritmo dell’IA, le democrazie devono prima essere abbastanza avanti da non temere di essere superate. Ma quel vantaggio non dovrebbe servire a vincere una corsa senza limiti: dovrebbe creare lo spazio necessario per imporre standard alle aziende, coordinare i Paesi democratici e infine negoziare limiti reciproci con la Cina. Il punto dell’intervento è proprio questo: il rischio non è soltanto costruire un’IA troppo potente, ma lasciare che la competizione economica e geopolitica ne determini la velocità, rendendo impossibile adeguare sicurezza e controllo alla crescita delle capacità. Governare l’intelligenza artificiale significa allora, prima di tutto, governare il ritmo della corsa tecnologica, anziché lasciare che sia la corsa a governare noi.
Condividi:
Anthropic
intelligenza artifi