Da Enrico Menta Le dimissioni di Jacob Coxon da Anthropic riaccendono il dibattito sul rischio IA: «Sistemi sovrumani potrebbero sfuggire al controllo entro il 2030».
Il rischio IA irrompe nuovamente nel dibattito internazionale con un avvertimento destinato a scuotere l’opinione pubblica: l’intelligenza artificiale potrebbe evolversi, entro la fine del decennio, fino a diventare una minaccia esistenziale per l’umanità. Non si tratta di una previsione condivisa dall’intera comunità scientifica né di una conseguenza considerata inevitabile. A lanciarla, tuttavia, è Jacob Coxon, giovane ricercatore britannico che ha lasciato Anthropic dopo avere lavorato per circa tre anni tra la società di San Francisco e OpenAI.
Coxon ha annunciato le proprie dimissioni attraverso un lungo intervento pubblicato su X, accusando i principali laboratori statunitensi di correre verso la realizzazione di una superintelligenza capace di migliorare autonomamente le proprie prestazioni. Una competizione che, secondo il ricercatore, starebbe procedendo più velocemente della capacità umana di comprendere, controllare e regolamentare i sistemi sviluppati.
Le sue parole hanno il tono di un allarme estremo: “Le persone che costruiscono l’intelligenza artificiale credono sinceramente che possa ucciderci tutti entro la fine del decennio”. Coxon ha precisato che, a suo giudizio, non si tratta di una strategia promozionale destinata ad accrescere l’attenzione sulla tecnologia, ma di una preoccupazione realmente presente all’interno dei laboratori.
Rischio IA, perché Coxon ha lasciato Anthropic
Il punto centrale della denuncia riguarda la cosiddetta autoevoluzione ricorsiva: la possibilità che un sistema artificiale sufficientemente avanzato venga utilizzato per progettare versioni sempre più potenti di sé stesso, riducendo progressivamente il ruolo dell’intervento umano.
In uno scenario simile, ogni nuova generazione potrebbe accelerare la creazione della successiva. Il rischio indicato da Coxon non nasce dunque dall’idea cinematografica di una macchina improvvisamente “malvagia”, ma dalla difficoltà di garantire che un’intelligenza superiore continui ad agire secondo obiettivi compatibili con gli interessi dell’uomo.
Questo problema viene definito “allineamento”. Significa assicurarsi che un modello particolarmente potente comprenda e rispetti intenzioni, limiti e valori stabiliti dagli esseri umani, anche quando opera in situazioni nuove o non previste durante l’addestramento.
Coxon sostiene che nessun laboratorio possieda ancora una soluzione definitiva. La ricerca procede, ma parallelamente aumentano la capacità di ragionamento, l’autonomia operativa e l’abilità dei sistemi nel programmare software, individuare vulnerabilità informatiche e svolgere compiti complessi.
“Non bisogna sottovalutare la potenza di questa tecnologia”, ha scritto il ricercatore. Nella sua valutazione, i prossimi sistemi potrebbero raggiungere prestazioni sovrumane in alcuni settori, trasformare intere attività economiche in tempi brevissimi e ottenere accesso a risorse concrete. È proprio la combinazione tra intelligenza, autonomia e capacità di azione nel mondo reale a rendere il problema diverso dai tradizionali rischi informatici.
L’allarme condiviso da altri ricercatori
La posizione di Coxon non è rimasta isolata. Evan Hubinger, responsabile di ricerca sull’allineamento in Anthropic, ha dichiarato di ritenere superiore al 10 per cento la probabilità che l’intelligenza artificiale possa provocare l’estinzione dell’umanità nel prossimo decennio.
Hubinger ha però introdotto una distinzione essenziale: il pericolo attribuito ai modelli oggi disponibili sarebbe ancora basso. La sua preoccupazione riguarda ciò che potrebbe emergere dall’evoluzione futura, soprattutto qualora venisse costruita una superintelligenza senza avere prima risolto il problema del controllo.
Il ricercatore ha riconosciuto gli sforzi compiuti dall’azienda, ma ha ammesso che non esiste ancora un piano capace di garantire con certezza l’allineamento di sistemi molto più intelligenti dell’uomo. Samuel Marks, responsabile delle attività di supervisione scalabile, ha espresso a titolo personale valutazioni analoghe, sostenendo che le preoccupazioni tendono ad aumentare tra gli specialisti con maggiore esperienza e responsabilità.
Una probabilità superiore al 10 per cento non rappresenta una previsione scientifica verificata, né dimostra che l’estinzione sia destinata a verificarsi. È una stima personale formulata da un ricercatore sulla base delle proprie conoscenze. Eppure, quando l’evento ipotizzato riguarda la sopravvivenza della specie, anche una percentuale incerta diventa materia di interesse pubblico.
La risposta di Anthropic e il nodo della sicurezza
Anthropic ha ribadito di avere sempre riconosciuto sia gli enormi benefici sia i rischi senza precedenti legati all’intelligenza artificiale. La società sostiene di avere adottato misure di sicurezza avanzate, attività di verifica sulle capacità pericolose e programmi di interpretabilità, attraverso i quali gli studiosi tentano di comprendere cosa accade all’interno delle reti neurali.
L’azienda richiama inoltre la propria Responsible Scaling Policy, un quadro pubblico destinato ad adeguare le precauzioni all’aumento delle capacità dei modelli. La posizione dichiarata è che la sicurezza debba avere la precedenza sulla velocità quando le due esigenze entrano in conflitto.
Coxon, pur riconoscendo ad Anthropic un’attenzione maggiore rispetto ad altri operatori, individua il problema nella struttura stessa della competizione. Un’impresa privata può voler rallentare, ma rischia di perdere terreno se i concorrenti continuano ad avanzare. La pressione economica, finanziaria e geopolitica potrebbe quindi spingere anche i laboratori più prudenti ad accettare compromessi.
Dietro l’allarme si intravede così una questione politica: una tecnologia potenzialmente capace di modificare gli equilibri del mondo può essere governata soltanto dalle aziende che la sviluppano? Oppure servono autorità indipendenti, verifiche internazionali e accordi vincolanti?
Tra scenari estremi e pericoli già presenti
Il dibattito sul rischio esistenziale non deve oscurare i problemi già osservabili. L’intelligenza artificiale viene impiegata nella produzione di contenuti falsi, nelle frodi, nella manipolazione dell’informazione e nell’automazione degli attacchi informatici. Può inoltre rafforzare sistemi di sorveglianza, accentuare discriminazioni algoritmiche e incidere profondamente sull’occupazione.
Allo stesso tempo, la tecnologia offre opportunità straordinarie nella medicina, nella ricerca scientifica, nell’istruzione, nella tutela ambientale e nell’accessibilità. Lo stesso Coxon ha sottolineato che sistemi avanzati potrebbero accelerare la scoperta di nuove cure e contribuire alla soluzione di problemi rimasti irrisolti per decenni.
La questione, dunque, non può essere ridotta a una contrapposizione tra sostenitori entusiasti e profeti della catastrofe. Occorre distinguere le capacità dimostrate dalle possibilità teoriche, gli incidenti documentati dagli scenari ipotetici, le stime personali dalle conclusioni scientificamente consolidate.
In Europa, l’AI Act ha introdotto un sistema di regole basato sui livelli di rischio. La corsa verso modelli di frontiera, tuttavia, solleva interrogativi che superano i confini nazionali: controllo della potenza di calcolo, obblighi di trasparenza, valutazioni indipendenti e sospensione dello sviluppo quando emergono capacità non governabili.
Il progresso ha bisogno di responsabilità
Le dimissioni di Jacob Coxon non dimostrano che l’intelligenza artificiale distruggerà l’umanità entro il 2030. Dimostrano però che una parte di coloro che lavorano più vicino ai sistemi avanzati considera plausibile un pericolo di portata estrema e ritiene insufficienti gli strumenti oggi disponibili.
Liquidare queste preoccupazioni come fantascienza sarebbe superficiale; presentarle come una profezia certa sarebbe altrettanto scorretto. La responsabilità dell’informazione, della politica e della ricerca consiste nel mantenere aperto uno spazio razionale tra il panico e l’indifferenza.
Il rischio IA riguarda, in ultima analisi, la capacità della società di governare ciò che crea. Il futuro non dipenderà soltanto dalla potenza degli algoritmi, ma dalle regole, dai valori e dalle scelte collettive con cui l’uomo deciderà di accompagnarne lo sviluppo.