AI Act e manifattura: i tre pilastri per essere conformi

L’EU AI Act è in vigore dal 2024 e i suoi obblighi si applicano progressivamente: le disposizioni sui sistemi ad alto rischio — categoria che include buona parte delle applicazioni di intelligenza artificiale in ambito industriale — diventeranno vincolanti nel 2026. Per molte PMI manifatturiere italiane, il tempo per adeguarsi si sta assottigliando. Eppure pochissime hanno già una strategia chiara.

Ne abbiamo parlato con Stefano D’Andria, CEO e architect lead di NexFabric, startup italiana che ha sviluppato una piattaforma di AI industriale progettata sin dall’inizio per rispettare i requisiti del regolamento europeo. Non come misura correttiva a posteriori, ma come scelta fondante dell’architettura. Il loro proof of concept è già in corso in uno stabilimento produttivo ad Avezzano.

Perché le “scatole nere” sono un problema normativo

«L’errore più comune che vedo fare a molte startup e vendor di intelligenza artificiale è l’adozione di modelli predittivi opachi», dice D’Andria. «Nel contesto industriale, l’EU AI Act impone standard di trasparenza, tracciabilità e supervisione umana molto rigidi, soprattutto quando i sistemi toccano la sicurezza e i processi critici di produzione. Se un algoritmo suggerisce un’azione senza spiegare perché, l’azienda non è conforme e si espone a enormi rischi normativi e operativi.»

Il problema non è solo giuridico. Un sistema opaco che decide al posto dell’operatore crea dipendenza tecnologica, impedisce la crescita professionale del personale e, in caso di errore, non consente di risalire alla causa. È esattamente il tipo di sistema che il regolamento europeo vuole eliminare dai contesti ad alto rischio — e l’industria manifatturiera rientra esplicitamente in questa categoria.

I tre pilastri per costruire un’AI industriale conforme

Secondo D’Andria, la conformità all’EU AI Act non è un problema burocratico da risolvere alla fine dello sviluppo: è una scelta architettonica da fare all’inizio. Tre sono i pilastri fondamentali.

1. Trasparenza algoritmica e Explainable AI

«Non basta fornire un output o una chat predittiva», spiega D’Andria. «Il sistema deve generare un workflow causale tracciabile, dove ogni indicazione data all’operatore è supportata da verifiche fisiche e logiche comprensibili. L’uomo deve poter ricostruire e giustificare ogni decisione presa.»

L’Explainable AI — o AI spiegabile — è uno dei requisiti centrali dell’EU AI Act per i sistemi ad alto rischio. Non si tratta solo di fornire log tecnici: il regolamento richiede che le spiegazioni siano comprensibili per le persone coinvolte nel processo decisionale, inclusi gli operatori di linea. Un sistema che produce un output senza percorso verificabile non supera questo test, indipendentemente dalla sua accuratezza predittiva.

In pratica, questo significa progettare il sistema intorno a una sequenza di passaggi logici verificabili — non intorno alla massimizzazione di una metrica di performance. Un cambio di prospettiva radicale per molte architetture di machine learning tradizionale.

2. Human-in-the-loop strutturato

«L’AI Act europeo premia i sistemi che mantengono l’operatore umano al centro del controllo – sottolinea D’Andria – lasciando l’ultima parola e la validazione all’operatore. In questo modo si azzera il rischio di automazione cieca.»

Il concetto di human-in-the-loop nel contesto dell’EU AI Act non è una genericità: il regolamento distingue tra sistemi che permettono “significative possibilità di controllo umano” e sistemi che le simulano. Perché un sistema superi il test normativo, l’operatore deve poter effettivamente comprendere, contestare e sovrascrivere le indicazioni del sistema — non solo cliccare “conferma” su una schermata.

Sul piano pratico, questo si traduce in un’interfaccia progettata per il confronto e non per la delega. Ogni suggerimento del sistema deve essere accompagnato dalle evidenze che lo supportano, così che l’operatore possa valutarlo con cognizione di causa.

3. Sovranità tecnologica e architettura aperta

«Adeguarsi alle normative non deve diventare un fardello burocratico insostenibile per le PMI», afferma D’Andria. «Sviluppare un’architettura aperta, che non vincoli l’imprenditore a un unico ecosistema chiuso, permette di integrarsi rapidamente nei macchinari esistenti garantendo la conformità normativa fin dal primo giorno di installazione — come stiamo dimostrando nel nostro proof of concept sul campo ad Avezzano.»

Il vendor lock-in è uno dei rischi più sottovalutati nell’adozione di AI industriale. Un’azienda che costruisce la propria operatività attorno a un sistema proprietario chiuso non solo dipende dal fornitore per ogni aggiornamento e personalizzazione, ma si trova anche in una posizione difficile quando il regolamento richiede documentazione tecnica, audit di conformità o modifiche architetturali. Un’architettura aperta e modulare permette invece di adattarsi all’evoluzione normativa senza dover ripartire da zero.

Il caso reale: il proof of concept ad Avezzano con la prima applicazione verticale NexCut dedicata al taglio laser

NexFabric non descrive questi principi in astratto: il sistema è attualmente in fase di proof of concept presso Soluzioni Markaurelio S.r.l. ad Avezzano, con la prima applicazione verticale NexCut dedicata al taglio laser.

Gli indicatori misurati nel progetto — riduzione del tempo di setup tra il 50 e il 70%, autonomia operativa per nuovi operatori in 2–4 settimane — non sono solo KPI di efficienza: sono la dimostrazione che un sistema conforme all’EU AI Act può essere anche più performante di uno opaco, non meno.

La piattaforma è sviluppata in Italia da Nexus Horizon Capital S.r.l. e distribuita globalmente da NexFabric Global Ltd (Dublino). È stata presentata alla China International Industry Fair di Shanghai e questa settimana è a EuroBLECH di Hannover (20–23 ottobre), la fiera mondiale di riferimento per la lavorazione della lamiera.

Il messaggio per le PMI italiane

La tentazione, di fronte a una normativa complessa come l’EU AI Act, è rimandare. Aspettare che le linee guida siano più chiare, aspettare che i competitor si muovano per primi, aspettare che ci sia più certezza sulle sanzioni. È una strategia rischiosa per due motivi.

Il primo è normativo: le scadenze non si spostano e i sistemi già in uso alla data di entrata in vigore degli obblighi dovranno essere conformi. Adeguare retroattivamente un’architettura non trasparente è molto più costoso e complesso che progettarla correttamente fin dall’inizio.

Il secondo è competitivo: le aziende manifatturiere europee che adottano oggi sistemi AI conformi acquisiscono un vantaggio che i concorrenti extra-europei — con sistemi progettati senza pensare all’EU AI Act — faticano a colmare. La sovranità tecnologica, in questo contesto, non è solo un valore etico. È un vantaggio competitivo misurabile.

«Nei prossimi cinque anni puntiamo a portare questa tecnologia a un numero crescente di aziende manifatturiere», conclude D’Andria, «senza perdita di know-how e senza dipendenza da scatole nere esterne. Il futuro dell’AI industriale europea si costruisce adesso, nelle scelte architetturali che si fanno oggi.»