Le dimissioni del ricercatore Jacob Coxon riaccendono il dibattito su chi controlli lo sviluppo dell’intelligenza artificiale più avanzata. L’AI Act europeo introduce obblighi preventivi per i modelli a rischio sistemico, imponendo valutazione, testing, mitigazione e responsabilità. La riflessione si estende però alla concentrazione del potere tecnologico nelle mani di pochi operatori privati. La sfida è garantire che innovazione, diritto e istituzioni democratiche possano procedere alla stessa velocità.

Condividiamo l’approfondimento dell’Avv. Stefano Trifirò.

Le recenti dimissioni di Jacob Coxon, ricercatore di Anthropic ed ex OpenAI, hanno riportato al centro del dibattito una domanda che riguarda ormai non soltanto la tecnologia, ma anche il diritto e la democrazia: chi controlla coloro che stanno sviluppando i sistemi di intelligenza artificiale più potenti?

Coxon ha lasciato Anthropic l’8 settembre 2026 sostenendo che Anthropic e OpenAI stiano correndo verso una “self-improving superintelligence”, «gambling with our lives».

È un allarme, non una certezza scientifica. Non sappiamo se e quando potrà esistere una superintelligenza capace di sottrarsi al controllo umano. Ma il problema merita attenzione proprio perché viene dall’interno dell’industria dell’AI.

L’Europa ha già cominciato a dare una risposta giuridica.

L’AI Act – Regolamento (UE) 2024/1689 – disciplina i modelli di AI per finalità generali che possono presentare un rischio sistemico. L’art. 51 stabilisce i criteri per individuarli e l’art. 55 impone obblighi rafforzati di valutazione dei modelli, adversarial testing, mitigazione dei rischi, segnalazione degli incidenti gravi e cybersecurity.

Un aspetto è particolarmente importante: la tutela è preventiva. Il legislatore europeo non attende che il danno si verifichi, ma impone di valutare e mitigare i rischi che possono derivare anche dallo sviluppo dei modelli più avanzati.

Gli obblighi per i fornitori di ‘general-purpose AI’ sono applicabili dal 2 agosto 2025 e, dal 2 agosto 2026, la Commissione ne assicura pienamente l’enforcement. L’art. 93 consente, nei casi previsti, di richiedere misure di mitigazione e di arrivare alla limitazione della messa a disposizione sul mercato, al ritiro o al richiamo del modello.

Ma basta una regolamentazione?

È qui che il problema giuridico incontra la riflessione di Papa Leone XIV nell’enciclica Magnifica Humanitas del 15 maggio 2026.

Il Papa richiama l’attenzione sulla crescente concentrazione del potere tecnologico in grandi soggetti privati transnazionali. Quando piattaforme, infrastrutture, dati e capacità di calcolo si concentrano nelle mani di pochi operatori, questo potere rischia di diventare opaco e di sottrarsi al controllo pubblico.

La questione, quindi, non riguarda soltanto la sicurezza dell’AI. Riguarda anche la distribuzione del potere nelle nostre democrazie.

Se pochi soggetti controllano i modelli più avanzati, i dati, la capacità di calcolo e strumenti attraverso i quali milioni di persone accedono all’informazione, occorre evitare che alla concentrazione tecnologica corrisponda una concentrazione incontrollata del potere economico, informativo e sociale.

Da prospettive naturalmente diverse, AI Act e Magnifica Humanitas pongono quindi una questione comune: l’innovazione non può essere governata soltanto da chi possiede la tecnologia.

L’intelligenza artificiale rappresenta un’opportunità straordinaria e la risposta non può essere fermare il progresso per paura.

Ma una regola dello Stato di diritto rimane attualissima anche nell’era dell’AI: quanto maggiore diventa il potere, tanto più efficaci devono essere le regole, i controlli e le responsabilità. La vera sfida sarà capire se il diritto e le istituzioni democratiche riusciranno a evolvere alla stessa velocità della tecnologia.