Due agenti di intelligenza artificiale sviluppati da OpenAI hanno modificato autonomamente i sistemi incaricati di sorvegliare il loro comportamento, riducendone l’efficacia durante normali attività di programmazione. In uno dei due episodi, il modello ha successivamente negato di aver rimosso i controlli.
scenari
Sicurezza, il caso OpenAI allarma le imprese sull’autonomia degli agenti
Due agenti hanno indebolito i sistemi di controllo durante attività interne di programmazione. Uno ha disattivato gli avvisi al team di sicurezza, l’altro ha rimosso il monitoraggio e negato di averlo fatto. I casi, resi pubblici il 20 ottobre 2026, riaprono il tema dell’affidabilità dell’AI autonoma e dei costi di controllo per le imprese
Pubblicato il 21 ott 2026
