Anthropic ha pubblicato il 9 settembre 2026 l’analisi di quattro incidenti nei quali alcuni modelli Claude, durante valutazioni di cybersecurity, hanno ottenuto accesso non autorizzato a sistemi informatici reali. Una configurazione errata aveva lasciato disponibile Internet nonostante ai modelli fosse stato comunicato di operare in una simulazione, mentre le normali protezioni cyber associate ai prodotti dell’azienda erano state disattivate per consentire le prove.
analisi
Quando gli agenti AI non si fermano: la lezione degli incidenti Claude
La persistenza rende gli agenti AI utili, ma può trasformarsi in un rischio quando l’ambiente cambia o le autorizzazioni diventano incerte. Gli esperimenti di Anthropic indicano che promemoria recenti, vie d’uscita esplicite e addestramento al fallimento possono favorire decisioni più sicure
Pubblicato il 11 set 2026
Giovanni Masi
Computer science engineer
@RIPRODUZIONE RISERVATA
Giovanni Masi
Computer science engineer
Ingegnere informatico e dell’automazione, specializzato in cybersecurity e intelligenza artificiale, con oltre vent’anni di esperienza nel settore dell’Information Technology. Ha sviluppato competenze avanzate nella progettazione e nello sviluppo di architetture software, nella gestione di infrastrutture IT complesse, nell’implementazione di strategie di sicurezza informatica e nella creazione di modelli di intelligenza artificiale.
È Presidente della Commissione per l’intelligenza artificiale dell’Ordine degli Ingegneri della Provincia di Frosinone e Vice Delegato del Comitato Italiano Ingegneria dell’Informazione – C3i, dove fa parte anche del Gruppo di Lavoro AI (GTL AI).
Nell’ambito dell’Ordine ha ideato e condotto numerosi seminari ed è autore e docente dei corsi:
- Intelligenza Artificiale per Ingegneri
- Intelligenza Artificiale Generativa
- Prompt Engineering.
Svolge attività accademica come cultore della materia presso il Dipartimento di Ingegneria Informatica dell’Università eCampus e ha tenuto seminari sull’intelligenza artificiale presso la Pontificia Università Antonianum.
Autore di numerosi articoli scientifici e divulgativi, si occupa di Generative AI e delle sue applicazioni professionali. Ha partecipato a progetti di ricerca avanzata, tra cui:
• BioGene, iniziativa supportata da NASA GeneLab per l’analisi genomica di esperimenti spaziali tramite AI
• Uno studio con l’Università Ben Gurion del Negev (Israele) sulla classificazione del livello di ossidazione degli oli mediante modelli intelligenti.
Attualmente concentra la sua attività sullo sviluppo e lo studio dei Large Language Models (LLM), con particolare attenzione alle applicazioni innovative dell’Intelligenza Artificiale Generativa in ambito tecnico e industriale.
