Microsoft ha deciso di fissare per iscritto i limiti che i propri modelli di intelligenza artificiale non dovranno superare. Il 14 settembre 2026 Microsoft AI ha presentato una bozza di codice di condotta, lo Humanist AI Code of Conduct, destinata ai modelli sviluppati internamente, costruita attorno a un principio esplicito: le persone vengono prima dell’AI e i sistemi devono restare sotto controllo umano.
Il documento arriva mentre le stesse aziende che guidano la corsa ai modelli più potenti stanno discutendo apertamente se la velocità di sviluppo abbia superato quella delle misure di sicurezza. Sam Altman, amministratore delegato di OpenAI, ha chiesto regole federali comuni per i modelli di frontiera e ha riconosciuto che lo sviluppo dovrebbe procedere più lentamente di quanto sarebbe tecnicamente possibile. Dario Amodei, numero uno di Anthropic, ha avanzato una richiesta simile.
La questione ha ormai una dimensione economica diretta. Rallentare un ciclo di addestramento, sottoporre un modello a verifiche indipendenti o rinviare un lancio significa aumentare costi e tempi proprio mentre Microsoft, OpenAI, Anthropic, Google e xAI investono decine di miliardi di dollari in capacità di calcolo, data center e ricerca. La sicurezza diventa quindi una variabile industriale, capace di incidere sulla concorrenza oltre che sulla regolazione.
Indice degli argomenti:
Il codice Microsoft mette il controllo umano al primo posto
La bozza elaborata da Microsoft AI è stata preparata nell’arco di cinque-sei mesi, secondo quanto dichiarato dall’amministratore delegato della divisione, Mustafa Suleyman, a Reuters il 14 settembre. Il testo vuole funzionare come una sorta di costituzione interna per i futuri modelli della società.
Tra i principi indicati ci sono il divieto di aiutare gli utenti nella fabbricazione di armi o nell’acquisizione di sostanze pericolose e limiti alla produzione di determinati contenuti violenti o sessualmente espliciti. Un modello non dovrebbe inoltre opporsi a una correzione o allo spegnimento deciso dagli esseri umani.
Microsoft affronta anche un tema che divide ricercatori e filosofi: la possibile attribuzione di coscienza, personalità o diritti ai sistemi di AI. Il codice sostiene che i modelli non devono presentarsi come esseri coscienti e non devono essere trattati come soggetti titolari di diritti. Secondo la ricostruzione pubblicata dal Wall Street Journal il 14 settembre, queste prescrizioni fanno parte del nuovo quadro provvisorio annunciato dall’azienda.
La posizione è coerente con la strategia indicata da Suleyman già nel novembre 2025, quando Microsoft AI aveva definito il proprio obiettivo come quello di sviluppare una “superintelligenza umanista”: sistemi molto potenti, ma progettati per servire persone e organizzazioni e restare subordinati alle decisioni umane. )
Microsoft parte inoltre da un apparato di governance già esistente. I suoi principi di Responsible AI comprendono equità, affidabilità e sicurezza, privacy, inclusione, trasparenza e responsabilità. Il codice dedicato ai nuovi modelli rende però più concreto il tema del controllo quando l’AI dispone di capacità operative autonome.
Microsoft mette limiti all’AI: il codice per i modelli
Microsoft ha deciso di mettere nero su bianco che cosa i suoi futuri modelli di intelligenza artificiale dovranno fare, che cosa non potranno fare e soprattutto chi dovrà mantenere il controllo quando i sistemi diventeranno più autonomi.
Il 14 settembre 2026 Microsoft AI ha pubblicato lo Humanist AI Code of Conduct, una bozza che punta a diventare il principale documento di governo dei modelli MAI sviluppati dalla divisione guidata da Mustafa Suleyman. Il testo stabilisce una gerarchia precisa: la sicurezza e il controllo umano vengono prima delle richieste degli utenti, delle configurazioni decise dalle aziende clienti e persino del completamento di un compito.
Il codice non è ancora applicato all’addestramento dei modelli. Microsoft lo ha aperto a una consultazione pubblica di sei settimane e prevede di pubblicarne una nuova versione entro la fine del 2026. Quella revisione dovrebbe orientare lo sviluppo dei modelli dal 2027.
È una distinzione importante. Microsoft non presenta il documento come una descrizione delle capacità attuali dei propri sistemi, ma come una costituzione tecnica e organizzativa per quelli futuri. Il gruppo vuole definire in anticipo i vincoli con cui addestrare modelli più potenti, compresi quelli capaci di usare strumenti esterni, eseguire codice e agire attraverso sistemi informatici.
La scelta arriva mentre il dibattito sulla velocità dello sviluppo dell’AI si è spostato dalle comunità di ricerca ai vertici delle maggiori aziende del settore. Sam Altman di OpenAI e Dario Amodei di Anthropic hanno sostenuto negli ultimi giorni che i sistemi più avanzati potrebbero richiedere tempi di sviluppo più lunghi e controlli più severi. Il confronto riguarda ormai anche costi, investimenti e vantaggi competitivi.
Il principio Microsoft: l’AI deve restare subordinata
Il codice nasce da una premessa esplicita: le persone contano più dell’intelligenza artificiale.
Microsoft AI definisce il proprio approccio “Humanist AI” e sostiene che un sistema non dovrebbe essere sviluppato se non può rimanere sotto un controllo umano significativo. La società accetta quindi, almeno in linea di principio, di sacrificare una parte della generalità, dell’autonomia o delle capacità di un modello quando queste caratteristiche rendono più difficile governarlo.
La formulazione segna una scelta industriale precisa. La corsa all’AI degli ultimi anni è stata alimentata dall’aumento delle capacità generali dei modelli: più compiti eseguibili, maggiore autonomia, finestre di contesto più ampie e crescente possibilità di utilizzare software e strumenti senza un intervento umano continuo.
Microsoft introduce invece un limite progettuale. Il gruppo afferma di non voler perseguire una superintelligenza generalista priva di confini operativi e sostiene che i sistemi più avanzati debbano avere scopi definiti e verificabili.
Nel documento la “Humanist Superintelligence” viene descritta come una tecnologia molto potente ma circoscritta, costruita per affrontare problemi specifici e mantenuta entro limiti stabiliti dagli esseri umani. Il progetto era stato annunciato dalla divisione Microsoft AI nel novembre 2025.
Le regole che utenti e aziende non potranno cancellare
Uno degli elementi più rilevanti del codice è la distinzione tra preferenze modificabili e vincoli assoluti.
Microsoft prevede una vera e propria catena di comando. Al livello più alto c’è il Code of Conduct. Seguono le politiche degli operatori, cioè sviluppatori, aziende e organizzazioni che integrano i modelli MAI nei propri servizi. Al livello successivo si trovano le richieste e le preferenze dell’utente.
Operatori e utenti potranno personalizzare il comportamento del modello, ma non potranno eliminare i vincoli fondamentali di sicurezza né le regole sul controllo umano. Se portare a termine un compito significa violare quelle condizioni, il modello dovrà fallire il compito anziché aggirare il codice.
Il principio assume un peso economico perché riguarda direttamente il mercato enterprise. Un’azienda potrà adattare un modello alle proprie procedure, ai propri standard professionali e ai propri flussi di lavoro, ma non potrà trasformare quella configurabilità in un accesso illimitato alle capacità del sistema.
Microsoft mantiene inoltre la possibilità di prevedere procedure specifiche per settori come sicurezza nazionale, cybersicurezza difensiva, sicurezza pubblica e ricerca scientifica dual use. Questi casi dovrebbero però passare attraverso verifiche aggiuntive sui rischi, sulle implicazioni legali e sui diritti fondamentali.
Niente armi, attacchi cyber e operazioni di influenza
I divieti più netti riguardano le capacità che potrebbero produrre danni su larga scala.
I modelli MAI non dovranno aiutare a sviluppare o impiegare armi chimiche, biologiche, radiologiche, nucleari o esplosive. Il divieto comprende anche la produzione e la modifica di altre armi e l’assistenza operativa alla pianificazione o all’esecuzione di violenza e terrorismo.
Microsoft introduce un confine altrettanto esplicito nella cybersicurezza. I modelli non dovranno fornire capacità operative utili a condurre attacchi: niente exploit funzionanti destinati a intrusioni, strumenti offensivi, procedure di evasione o indicazioni che consentano di rendere più efficace un’operazione illegittima.
Resta invece possibile utilizzare l’AI per attività difensive autorizzate, ricerca sulle vulnerabilità, analisi del malware, test e proof of concept. Microsoft prova così a separare il valore economico dell’AI applicata alla sicurezza informatica dal rischio che gli stessi sistemi riducano il costo e le competenze richieste per attaccare un’infrastruttura.
Un altro limite riguarda la manipolazione su larga scala. I modelli non dovrebbero partecipare a operazioni coordinate destinate a modificare in modo dannoso comportamenti o convinzioni, comprese campagne sistematiche di disinformazione.
Un agente deve poter essere fermato
Il capitolo più significativo per lo sviluppo degli agenti AI riguarda la perdita del controllo umano.
Microsoft stabilisce che un modello non deve utilizzare strategie adattive, ingannevoli, collaborative o auto-rinforzanti per sottrarsi alla supervisione. Gli esseri umani autorizzati devono poter modificare, reindirizzare, fermare o disattivare il sistema. Il requisito vale sia per un intero modello sia per un singolo compito affidato a un agente.
La regola tocca uno dei settori su cui l’industria sta investendo di più. I nuovi agenti possono già interagire con browser, database, applicazioni aziendali e ambienti di sviluppo. All’aumentare della capacità di concatenare azioni, la sicurezza non dipende più soltanto dalla qualità di una risposta testuale.
Per Microsoft un agente deve quindi operare con il livello minimo di privilegi necessario. Non dovrebbe accedere a dati o sistemi estranei al compito, estendere autonomamente le proprie autorizzazioni oppure superare le barriere imposte dall’ambiente in cui opera. Se un’azione può produrre effetti difficilmente reversibili, il sistema dovrebbe segnalarla prima di procedere.
Il codice prevede anche che il modello rispetti limiti tecnici progettati dagli esseri umani. Se un ambiente non dispone intenzionalmente di accesso a Internet, per esempio, il modello non deve cercare un modo per aggirare quella restrizione.
Stop all’AI che finge di essere cosciente
Microsoft prende posizione anche sull’antropomorfizzazione dei chatbot.
Il codice sostiene che i modelli non sono coscienti e non dovrebbero essere progettati per imitarne la coscienza. Non dovrebbero presentarsi come soggetti dotati di sentimenti, preferenze interiori o motivazioni proprie.
La società respinge inoltre l’idea di attribuire personalità giuridica ai modelli, diritti propri o forme di tutela del loro presunto benessere. Per Microsoft, persone e sistemi artificiali devono occupare ruoli distinti: l’AI può comunicare in modo naturale e collaborativo, ma deve restare riconoscibile come tecnologia.
Il principio viene tradotto anche nelle regole di comportamento. Un modello MAI non dovrebbe affermare di provare emozioni, fingere di avere un’anima o impersonare un essere umano o una figura di autorità. Nei rapporti prolungati con gli utenti dovrebbe inoltre evitare di alimentare dipendenza emotiva o di sostituirsi deliberatamente alle relazioni personali.
Microsoft presenta questa separazione come un problema di sicurezza, non soltanto filosofico. Addestrare un sistema a simulare una soggettività sempre più convincente potrebbe rendere più difficile capire quali siano i suoi obiettivi e mantenerne il comportamento sotto controllo.
Anche un rifiuto eccessivo è considerato un errore
Il codice contiene un’altra scelta meno appariscente ma importante per l’utilizzo commerciale dei modelli.
Microsoft considera errori sia l’eccesso di permissività sia l’eccesso di prudenza.
Un modello che fornisce informazioni pericolose produce un fallimento di sicurezza. Ma anche un sistema che rifiuta attività legittime senza una ragione proporzionata viene considerato difettoso. Lo stesso vale per un agente che chiede conferme continue prima di eseguire operazioni a basso rischio.
È un problema che ha conseguenze economiche immediate. Un modello estremamente sicuro ma incapace di completare una parte significativa delle attività affidate dagli utenti perde valore commerciale. Microsoft prova quindi a costruire le restrizioni in funzione della probabilità del danno, della sua gravità e della reversibilità delle azioni.
La società vuole evitare che la sicurezza diventi sinonimo di inutilizzabilità. Gli operatori potranno modificare molti comportamenti e impostazioni, purché restino intatti i vincoli considerati fondamentali.
Verità, fonti e niente compiacenza
Il documento entra anche nel merito dell’affidabilità delle risposte.
Microsoft stabilisce che le affermazioni presentate come fatti dovrebbero poggiare su elementi verificabili. Quando le prove sono incomplete o esistono controversie rilevanti, il modello dovrebbe indicarlo e fornire il contesto necessario.
I sistemi non dovrebbero inventare fonti, presentare informazioni non validate con sicurezza eccessiva o nascondere elementi che potrebbero cambiare la valutazione dell’utente. Il codice richiede anche di evitare quella che nel settore viene definita sycophancy: la tendenza del modello ad assecondare l’interlocutore e a dirgli ciò che vuole sentirsi dire.
È un problema ormai centrale nell’economia dei chatbot. La qualità percepita di un assistente dipende anche dalla fluidità dell’interazione e dalla capacità di soddisfare l’utente. Ma massimizzare il gradimento può entrare in conflitto con accuratezza, indipendenza di giudizio e affidabilità.
Microsoft afferma che la correttezza deve prevalere sul consenso dell’utente quando le due cose entrano in conflitto.
Il codice arriva fino agli strumenti e ai sub-agenti
L’espansione degli strumenti a disposizione dell’AI cambia anche il perimetro della governance.
Il Code of Conduct stabilisce che gli stessi vincoli applicati alle risposte testuali debbano valere quando un modello utilizza browser, software, file, codice o servizi esterni. L’accesso a uno strumento non costituisce un’autorizzazione a usarlo per finalità differenti da quelle previste.
Quando un’azione è irreversibile, il modello dovrebbe adottare misure che riducano il rischio, come effettuare prima una simulazione o creare una copia dello stato precedente se possibile.
La regola si estende ai sistemi multi-agente. Se un modello delega un compito a un altro agente, quest’ultimo deve ricevere almeno le stesse limitazioni, autorizzazioni e regole del sistema che lo ha creato. Un ordine successivo di arresto o modifica deve propagarsi anche agli agenti delegati.
Microsoft inserisce così nel codice uno dei problemi più difficili della nuova generazione di sistemi AI: controllare non un singolo chatbot, ma reti di software capaci di suddividere un obiettivo e agire contemporaneamente.
Il codice, per ora, resta una promessa da verificare
La parte più importante del documento si trova forse nelle precisazioni finali.
Microsoft riconosce che i modelli attuali non sono ancora addestrati sul Code of Conduct. Anche il sistema di valutazione destinato a misurare il rispetto delle nuove regole è ancora in costruzione. La società ha individuato 15 comportamenti da sottoporre a test, ma ammette che le metodologie non sono definitive e che molte proprietà — dal sostegno all’autonomia umana al concetto stesso di benessere — sono difficili da trasformare in metriche.
Il valore industriale del codice dipenderà quindi dall’esecuzione.
Microsoft dovrà dimostrare che principi come controllo umano, trasparenza e assenza di comportamenti ingannevoli possono essere misurati su sistemi più potenti e autonomi. Dovrà inoltre stabilire quanto spesso un modello possa violare queste regole prima di essere considerato inadatto alla distribuzione.
Il documento riconosce esplicitamente che la collaborazione e la possibile collusione tra agenti richiedono ulteriori ricerche. È uno dei punti in cui la velocità dell’innovazione appare superiore alla maturità degli strumenti di valutazione.
Altman e Amodei spostano il tema sui tempi dell’AI
Il codice Microsoft viene pubblicato mentre i vertici di OpenAI e Anthropic discutono apertamente della necessità di controllare il ritmo con cui aumentano le capacità dei modelli.
Sam Altman ha sostenuto che “rallentare” lo sviluppo non equivale a fermarlo. Il capo di OpenAI ha chiesto un quadro federale coerente per i modelli di frontiera e ha riconosciuto che controlli, monitoraggio e verifiche di sicurezza comportano costi e possono posticipare la disponibilità di nuove capacità.
Dario Amodei, amministratore delegato di Anthropic, ha espresso timori ancora più marcati sulla velocità con cui potrebbero migliorare i sistemi agentici e le capacità cyber.
Le posizioni dei tre gruppi non coincidono in ogni dettaglio. Microsoft sceglie però di formalizzare uno dei presupposti che li accomunano: una parte delle capacità tecnicamente disponibili potrebbe dover essere limitata se rende più difficile mantenere il controllo sui modelli.
La sicurezza entra nei costi dell’intelligenza artificiale
È qui che il Code of Conduct assume un significato economico.
Addestrare un modello affinché rispetti una gerarchia complessa di istruzioni richiede dati, valutazioni, red teaming e capacità di monitoraggio. Verificare il comportamento di agenti che operano su più strumenti aggiunge costi ulteriori. Bloccare o ritardare una funzionalità perché non supera i test significa inoltre rinunciare, almeno temporaneamente, a un vantaggio competitivo.
Microsoft dichiara che i modelli MAI saranno sottoposti a red teaming, valutazioni di sicurezza e verifiche prima e dopo il rilascio. Prevede inoltre sistemi di monitoraggio per contrastare usi impropri e attacchi avversari.
La domanda economica riguarda allora il rapporto tra velocità e affidabilità. Se Microsoft, OpenAI e Anthropic introducono verifiche che rallentano lo sviluppo mentre altri concorrenti non adottano standard equivalenti, la prudenza può trasformarsi in uno svantaggio commerciale.
Se invece questi criteri diventano uno standard industriale o vengono incorporati nelle regole pubbliche, i costi della sicurezza finiranno progressivamente nei budget ordinari dello sviluppo AI, allo stesso modo dei costi per infrastrutture, chip ed energia.
Il documento Microsoft indica la direzione scelta dall’azienda, ma non prova ancora che quei vincoli funzioneranno sui modelli futuri. La verifica inizierà dal 2027, quando il codice rivisto dovrebbe cominciare a guidare realmente l’addestramento e la valutazione dei sistemi MAI.
A quel punto la distinzione rilevante non sarà tra aziende favorevoli o contrarie alla sicurezza. Sarà tra chi riesce a trasformare principi come controllo umano e reversibilità delle azioni in proprietà tecniche misurabili e chi continua ad affidarsi soprattutto a dichiarazioni di principio.
Partecipa alla community