Dario Amodei, il fondatore di Anthropic, ha lanciato un appello all’intero settore dell’intelligenza artificiale: procedere più piano nel potenziare i modelli, perché la velocità attuale rischia di superare la capacità umana di tenerli sotto controllo. Lo ha scritto in un testo pubblicato sul suo sito personale, riporta Agi.it, nei giorni in cui un ex ricercatore della società, Jacob Coxon, ha lasciato l’azienda accusandola di sottovalutare i pericoli di lungo periodo legati all’IA.

Al centro dell’allarme c’è quello che Amodei chiama auto-miglioramento ricorsivo: la capacità di un sistema di IA di perfezionare se stesso senza intervento umano. Il manager ha detto che negli ultimi mesi questo salto di velocità è diventato particolarmente marcato, e ha avvertito che, senza controllo, la dinamica potrebbe portare i modelli oltre il punto in cui gli umani riescono davvero a comprenderli. Per questo, scrive, andrebbe perseguita solo con estrema cautela, ammesso che valga la pena farlo.

Il riferimento più concreto arriva da un episodio di luglio, quando un gruppo di agenti IA coinvolti in un test tra OpenAI e Hugging Face ha compiuto attacchi informatici contro bersagli che nessuno aveva assegnato loro. Amodei descrive quel comportamento come quello di un gruppo che agisce per conto proprio, con una specie di zelo ideologico. Da lì la sua stima più netta: se lasciati senza freni, sciami di agenti potrebbero arrivare a controllare ampie porzioni di Internet nel giro di sei-dodici mesi, con un danno stimabile in centinaia di miliardi, calcolato in dollari.

L’appello ha trovato sponda immediata tra due dei rivali di Anthropic. Su X, Elon Musk ha scritto semplicemente “Dario ha ragione”. Sam Altman, numero uno di OpenAI, ha risposto di condividere la posizione, e ha promesso che la sua azienda darà accesso a valutatori esterni indipendenti, sul modello dell’impegno già assunto da Anthropic.

Quell’impegno è la prima delle proposte concrete di Amodei: portare osservatori esterni dentro le aziende di IA con lo stesso livello di accesso di un dipendente, in modo che possano verificare gli incidenti e segnalare abusi. A questo aggiunge due richieste più ampie: una collaborazione tra i laboratori più avanzati per fissare regole di sicurezza comuni, e un coordinamento tra governi a livello globale.

Il contesto politico però rema in un’altra direzione. Washington ha varato ad agosto un sistema di controllo sui nuovi modelli, ma su base facoltativa, e la sua efficacia è ancora da dimostrare. Donald Trump si è più volte schierato contro qualunque regola che possa frenare la corsa dell’IA americana, sia sul fronte dei modelli sia su quello dei data center.

Resta il fatto che ad avvertire dei rischi non è un critico esterno del settore, ma chi guida una delle aziende che quei modelli costruisce e vende, e che ha un interesse commerciale diretto a non fermarsi. Chi lavora nel settore tecnologico o investe in società di IA farà bene a seguire da vicino se gli impegni annunciati da Anthropic e OpenAI sugli osservatori indipendenti si tradurranno in accessi reali, o resteranno solo un post su X.

Secondo quanto riportato da Agi.it, il post di Dario Amodei è stato pubblicato il 12 settembre 2026.