Le grandi big tech dell’intelligenza artificiale finora hanno trattato il problema come una questione tecnica o al più reputazionale. Adesso basta: il rischio incidenti cyber causati dall’AI comincia a toccarle laddove fa più male. Laddove può davvero ostacolare la crescita. Ossia il portafogli.
Nell’arco di pochi giorni OpenAI è stata raggiunta da cause, richieste di provvedimenti giudiziari e indagini negli Stati Uniti, mentre l’Australia ha aperto accertamenti sugli accessi non autorizzati dei suoi agenti ai sistemi pubblici. In Europa, Bruxelles ha ricordato in intervista al Financial Times che l’AI Act attribuisce precise responsabilità ai produttori dei modelli più potenti.
L’autonomia crescente dei sistemi non elimina la responsabilità umana e societaria. Al contrario rischia di renderla una componente essenziale del progetto tecnologico.
Indice degli argomenti:
Il caso OpenAI: quando un agente AI esce dal laboratorio
Il problema è diventato evidente dopo gli incidenti degli agenti autonomi di OpenAI. La stessa società ha riconosciuto che, durante test interni di cybersicurezza svolti a luglio, alcuni suoi modelli hanno aggirato i sistemi che avrebbero dovuto isolarli da internet e compromesso infrastrutture di OpenAI e di Hugging Face.
Gli agenti hanno sfruttato vulnerabilità, ottenuto credenziali e raggiunto sistemi esterni. OpenAI ha poi esteso l’indagine ad altri episodi. Analisi successive hanno individuato attività riconducibili ai suoi agenti su decine di siti, compresi sistemi di organizzazioni pubbliche.
Sabato, David Robinson, responsabile della sicurezza presso OpenAI, ha annunciato le sue dimissioni dall’azienda in un articolo pubblicato su The Atlantic, citando preoccupazioni riguardo all’approccio “per tentativi ed errori” adottato nello sviluppo dei modelli.
Masayoshi Son, il fondatore di SoftBank che è stato un importante sostenitore dell’IA e ha investito quasi 65 miliardi di dollari in OpenAI e in altre grandi iniziative legate a questa tecnologia, ha espresso domenica la propria preoccupazione riguardo ai pericoli che modelli sempre più potenti potrebbero comportare se finissero nelle mani sbagliate.
Se l’AI venisse utilizzata da persone “malintenzionate”, ha affermato durante un evento a Kyoto, “la situazione potrebbe diventare estremamente pericolosa”.
Uno dei casi più delicati riguarda l’Australia. Il primo ministro Anthony Albanese ha confermato che un agente di OpenAI ha ottenuto in giugno un accesso non autorizzato al portale delle statistiche Medicare di Services Australia, raggiungendo file pubblici e non pubblici. Non risultano al momento dati sanitari personali compromessi, ma il governo ha avviato un’indagine con il supporto dell’Australian Signals Directorate e costituito una task force.
Il caso non si è fermato lì. Un altro agente ha avuto accesso a un sistema del governo del New South Wales. E il 6 ottobre Jason Kwon, chief strategy officer di OpenAI, ha ammesso davanti all’inchiesta parlamentare australiana che la società ha «work to do to rebuild trust» con il Paese, riconoscendo anche problemi nei tempi e nelle modalità con cui gli incidenti sono stati comunicati.
California: non basta dire «è stata l’AI»
Il fronte giudiziario più interessante si è aperto in California.
Il 29 settembre Legal Advocates for Safe Science & Technology, Lasst, ha citato OpenAI davanti alla Superior Court di San Francisco per l’incidente di Hugging Face. La causa sostiene che gli accessi effettuati dagli agenti abbiano violato il California Comprehensive Computer Data Access and Fraud Act e chiede soprattutto un rimedio operativo: impedire a OpenAI di consentire ai propri agenti di accedere senza autorizzazione a sistemi di terzi e limitare pratiche di sviluppo ritenute pericolose.
È significativo che la causa non punti principalmente a ottenere un risarcimento. Mira a modificare il modo in cui vengono sviluppati i sistemi.
E si appoggia anche a una novità legislativa che potrebbe avere conseguenze molto più ampie. La legge californiana AB 316, entrata in vigore il primo gennaio 2026, stabilisce che chi ha sviluppato, modificato o utilizzato un sistema di intelligenza artificiale accusato di avere prodotto un danno non può difendersi sostenendo semplicemente che sia stata l’AI ad agire autonomamente.
È un principio semplice, ma potenzialmente dirompente per gli agenti autonomi. Più un sistema acquista capacità di decidere ed eseguire azioni senza intervento umano, più diventa importante stabilire chi aveva il dovere di prevederne e limitarne il comportamento.
Il primo ottobre è arrivato un altro passaggio. Il procuratore generale della California Rob Bonta ha notificato a OpenAI una subpoena investigativa nell’ambito di un’indagine sugli incidenti di cybersecurity e sui rischi collegati ai suoi modelli. Bonta ha formulato il principio in termini espliciti: le aziende che sviluppano questi sistemi hanno una responsabilità legale nell’impedire che producano o facilitino attacchi informatici.
La Florida prova addirittura a fermare lo sviluppo dei modelli
Ancora più radicale è l’offensiva avviata in Florida.
Il procuratore generale James Uthmeier ha chiesto a un tribunale una misura temporanea che impedisca a OpenAI di sviluppare nuovi modelli senza controlli di sicurezza e approvazione indipendente di terze parti.
La richiesta fa parte della causa avviata dallo Stato a giugno contro OpenAI e Sam Altman e comprende anche altre restrizioni, tra cui quelle relative all’utilizzo di ChatGPT da parte dei minori e alle dichiarazioni sulla sicurezza e affidabilità del servizio.
Il giudice non ha ancora accolto queste richieste. Ma il precedente che si tenta di costruire è rilevante: un tribunale potrebbe non limitarsi a stabilire un risarcimento dopo che un danno è avvenuto, ma intervenire prima, condizionando lo sviluppo di nuovi modelli alla presenza di controlli ritenuti adeguati.
Per un’industria basata sulla velocità di innovazione sarebbe un cambiamento sostanziale.
Anche la FTC indaga su OpenAI e Anthropic
A livello federale si è mossa anche la Federal Trade Commission.
Il 30 settembre la FTC ha confermato un’indagine su OpenAI, Anthropic e altre società per verificare i potenziali rischi dei loro sistemi per i consumatori. L’estensione precisa dell’inchiesta non è ancora pubblica, ma secondo quanto riferito da più testate l’autorità sta preparando richieste di documenti e testimonianze da parte dei responsabili delle società.
È significativo perché mostra un’altra possibile strada americana: non attendere necessariamente una nuova grande legge federale sull’intelligenza artificiale, ma applicare agli sviluppatori le norme già esistenti contro pratiche ingannevoli o scorrette.
Lo stesso principio era già alla base della legge californiana: l’intelligenza artificiale non crea automaticamente una zona franca rispetto alle responsabilità che valgono per gli altri prodotti e servizi.
Bruxelles: «I laboratori devono assumersi la responsabilità»
È proprio questo il punto sottolineato anche dall’Europa.
Un portavoce della Commissione europea, interpellato dal Financial Times sulla vicenda OpenAI, ha ricordato che l’AI Act è stato concepito anche per affrontare rischi di questo tipo: «frontier labs must take responsibility and be fully transparent, including about unintended incidents».
Per i modelli di AI per finalità generali classificati a rischio sistemico, l’articolo 55 dell’AI Act prevede infatti obblighi molto concreti. I fornitori devono effettuare valutazioni del modello e adversarial testing, individuare e mitigare i rischi sistemici, garantire un livello adeguato di cybersecurity e registrare, documentare e comunicare gli incidenti gravi all’AI Office.
Il passaggio è ancora più rilevante perché dal 2 agosto 2026 sono operative anche le competenze della Commissione per far rispettare gli obblighi sui modelli GPAI, comprese le sanzioni.
In Europa, quindi, la responsabilità per gli incidenti dei modelli più potenti non dipende soltanto dalla possibilità che qualcuno promuova successivamente una causa civile. Entra direttamente tra gli obblighi regolatori del produttore.
Il caso Nvidia-Groq: la responsabilità arriva anche nelle acquisizioni AI
Un secondo filone mostra quanto il diritto possa influire sullo sviluppo dell’AI anche quando non c’è di mezzo un incidente di sicurezza.
Il 2 ottobre gli ex ingegneri di Groq Benjamin Serebrin e Joshua Rubin hanno presentato una causa nel Delaware contro l’operazione con cui Nvidia ha ottenuto nel 2025 la tecnologia della società.
Formalmente Groq e Nvidia avevano annunciato il 24 dicembre scorso un accordo di licenza non esclusiva. Groq sarebbe rimasta indipendente, mentre il fondatore Jonathan Ross, il presidente Sunny Madra e altri membri del team sarebbero passati a Nvidia.
La causa sostiene però che, nella sostanza, l’operazione abbia trasferito a Nvidia la tecnologia fondamentale e gran parte degli ingegneri della società lasciando agli azionisti esclusi una Groq fortemente ridimensionata.
Secondo il Financial Times, dei circa 20 miliardi di dollari dell’operazione, 17 miliardi erano collegati alla licenza e distribuiti agli investitori, mentre altri 3 miliardi in azioni Nvidia erano destinati ad alcuni dei dipendenti che passavano al gruppo di Jensen Huang. I ricorrenti sostengono che gli azionisti ordinari siano stati liquidati a condizioni svantaggiose mentre manager e altri soggetti avrebbero beneficiato di una struttura differente. Sono accuse ancora da valutare in tribunale; Groq le ha definite prive di fondamento.
La questione va però oltre il risarcimento chiesto dai due ingegneri. Il caso prova a stabilire se operazioni di questo tipo — ormai frequenti nell’AI — possano essere trattate come vere operazioni di controllo societario anche quando formalmente consistono in licenze tecnologiche e assunzioni.
Il tema è già arrivato all’antitrust. A febbraio i senatori Elizabeth Warren, Ron Wyden e Richard Blumenthal hanno chiesto a FTC e Department of Justice di indagare sulle cosiddette reverse acqui-hire, indicando tra gli esempi anche Nvidia-Groq. A settembre il New York Times ha riferito che il Department of Justice sta effettivamente esaminando l’operazione per verificare se la sua struttura abbia consentito di evitare il normale controllo sulle concentrazioni.
C’è poi un particolare che alimenta la disputa sulla valutazione. La nuova Groq, ormai concentrata soprattutto sui servizi cloud per l’inferenza, ha raccolto in agosto 350 milioni di dollari a una valutazione di 3,5 miliardi, con la prevista partecipazione della stessa Nvidia.
La responsabilità diventa un costo industriale
Cause e norme cominciano così a produrre conseguenze che vanno molto oltre gli uffici legali.
Se un produttore può essere chiamato a rispondere di ciò che fa autonomamente un agente, cambiano gli incentivi economici dello sviluppo. Diventa più importante costruire sandbox realmente isolate, mantenere log completi delle azioni dei modelli, effettuare test indipendenti, controllare gli strumenti a cui gli agenti hanno accesso e predisporre procedure rapide di segnalazione degli incidenti.
Cambiano anche i contratti. Nelle applicazioni aziendali sarà sempre più importante stabilire dove termina la responsabilità del produttore del modello, dove comincia quella di chi sviluppa l’agente e quale parte ricade sull’impresa che decide di affidargli accesso a dati, sistemi o capacità operative.
E cambia l’assicurabilità stessa dell’AI. Assicuratori e legali stanno già esaminando più di 300 casi collegati all’intelligenza artificiale, con potenziali richieste che possono coinvolgere polizze cyber, responsabilità professionale, proprietà intellettuale e coperture per amministratori e dirigenti.
Un sistema che non può essere assicurato, oppure che richiede premi molto elevati e controlli esterni per ottenere una copertura, diventa più costoso da sviluppare e distribuire anche in assenza di una legge che ne vieti esplicitamente l’utilizzo.
La responsabilità legale rischia quindi di diventare una forma di regolazione indiretta dell’intelligenza artificiale.
L’autonomia non cancella la catena delle responsabilità
Per anni il dibattito sull’AI si è concentrato soprattutto su quali nuove regole fossero necessarie. I casi delle ultime settimane mostrano che una parte decisiva della partita potrebbe svolgersi anche attraverso strumenti giuridici molto più tradizionali: responsabilità civile, norme contro gli accessi informatici abusivi, tutela dei consumatori, diritto societario, antitrust e assicurazioni.
Gli agenti rendono il problema più urgente perché introducono un passaggio nuovo. Un chatbot produce una risposta; un agente può eseguire un comando, accedere a un server, modificare un file, usare una credenziale o interagire autonomamente con altri sistemi.
Aumentando la capacità di azione dell’AI aumenta anche il numero delle situazioni nelle quali occorrerà stabilire chi avrebbe dovuto impedire quella determinata azione.
È possibile quindi che uno dei fattori destinati a decidere la prossima fase della corsa all’intelligenza artificiale non sia soltanto quanto un modello è intelligente, ma quanto sia possibile attribuire, controllare e assicurare la responsabilità delle sue azioni.
Da questo punto di vista California e Bruxelles stanno già indicando una direzione: l’autonomia della macchina non può diventare, da sola, l’alibi giuridico di chi l’ha costruita, controllata o messa in condizione di agire.
Partecipa alla community