L’edge AI è una tecnologia che promette di rivoluzionare molti settori. Le applicazioni immaginabili sono ulteriormente potenziate dalla diffusione dell’Internet of Things (IoT), dalla disponibilità di infrastrutture di calcolo distribuite basate sull’uso di GPU parallele, e dalla diffusione del 5G che è in grado di garantire connettività veloce, stabile e sicura per i dispositivi IoT.
Spieghiamo cos’è l’edge AI, come funziona e quali sono i suoi vantaggi, citando alcuni casi d’uso e chiarendo la relazione tra cloud ed edge computing. Infine, i droni come esempio di applicazione potenziata dall’edge AI e dal 5G.
Cos’è edge AI?
Con il termine edge artificial intelligence – edge AI nel seguito – ci si riferisce alla combinazione tra edge computing e artificial intelligence (AI) che rende possibile l’elaborazione di dati in tempo reale attraverso l’utilizzo di risorse computazionali locali, slegate dall’infrastruttura cloud e fisicamente in prossimità del punto di acquisizione del dato, garantendo una minore latenza nella computazione, minori costi di trasmissione e elaborazione, e maggiore sicurezza informatica.
Si chiama edge AI perché l’esecuzione degli algoritmi di AI avviene direttamente sui dispositivi periferici IoT (che si trovano, appunto, ai margini della rete – at the edge) e che generano i dati elaborati dagli algoritmi. Stante la portata globale di Internet, quando parliamo di margine della rete possiamo intendere qualunque luogo, vicino o lontano (un impianto, un ospedale, una fabbrica, ecc.), e quando ci riferiamo ad un dispositivo periferico IoT intendiamo un qualunque dispositivo (un semaforo, un drone, una macchina, un sensore ambientale, un endpoint, ecc.).
Edge AI, come funziona?
L’edge AI sfrutta la capacità di calcolo dei dispositivi IoT per elaborare e analizzare i dati direttamente alla fonte, in prossimità del punto di acquisizione.
I dispositivi IoT con capacità di AI sono interconnessi tramite architetture edge ed effettuano operazioni di calcolo ottimizzate per eseguire gli algoritmi di machine/deep learning, in condizioni di latenza ridotta. Questo è particolarmente utile per applicazioni time sensitive perché consente di raccogliere, elaborare e analizzare i dati e poi implementare soluzioni nel modo più veloce possibile.
Una volta elaborati i dati, il risultato dell’elaborazione può essere inviato ad un data center centrale o in cloud per ulteriori elaborazioni più gravose, che richiedono maggiori risorse computazionali.
Quali sono i benefici di edge AI?
Sono molti i benefici derivanti dall’impiego di tecnologie edge. Nel seguito, proviamo a riportarne alcuni, commentandoli brevemente.
- Applicazioni più intelligenti – grazie all’uso di reti neurali opportunamente addestrate e ottimizzate è possibile realizzare applicazioni AI più potenti e più flessibili in grado di essere impiegate in svariati contesti.
- Risparmio di tempo – poiché i dati vengono elaborati “at the edge”, piuttosto che in cloud si ha una riduzione nella latenza relativa al tempo di elaborazione e un conseguente aumento della velocità di risposta.
- Riduzione dei costi – portando l’elaborazione all’edge, le applicazioni possono essere eseguite con minori risorse computazioni (CPU, GPU, memoria). Ciò porta a una diminuzione dei carichi di lavori del cloud, con conseguente alleggerimento dell’utilizzo della rete. Inoltre, si ha anche una diminuzione dei costi legati all’utilizzo della banda Internet, in quanto si evita la trasmissione di dati grezzi da un dispositivo ad un data center per l’elaborazione.
- Riduzione dei consumi energetici – i dispositivi IoT periferici intelligenti sono in grado di operare a bassa potenza e di eseguire i calcoli di AI limitando notevolmente il consumo di energia. Nel tempo anche le loro dimensioni saranno sempre più ridotte, minimizzando ulteriormente il loro impatto ambientale.
- Maggiore privacy e sicurezza – la raccolta e lo spostamento dei dati nel cloud ai fini dell’elaborazione comportano degli inevitabili rischi legati alla cyber security e alla privacy. Abilitando l’elaborazione in locale di grandi quantità di dati, l’edge AI riduce il rischio di intercettazione durante la trasmissione ed evita che i dati possano essere persi o usati impropriamente dai sistemi cloud che li ricevono.
- Maggiore disponibilità e affidabilità delle applicazioni – il decentramento e l’elaborazione in locale e offline si traducono in una maggiore disponibilità e affidabilità delle applicazioni IA, ad esempio in contesti mission-critical e industriali per scopi di produzione.
- Maggiore accuratezza e miglioramento dei modelli – i modelli di intelligenza artificiale disponibili all’edge diventano nel tempo più accurati man mano che vengono addestrati sui dati stessi che non riescono ad elaborare.
Edge nell’Hype Cycle di Gartner
Nell’Artificial Intelligence Hype Cycle di Gartner, l’edge AI è riportata nel punto del grafico chiamato Peak of Inflated Expectations: c’è molto interesse da parte delle aziende e del mercato verso questo trend tecnologico. Le sperimentazioni sul campo hanno portato a dei casi iniziali di successo, ma anche a tanti fallimenti. E ciò genera delle elevate aspettative nei confronti di un suo uso massivo a livello industriale e di mercato. Uso massivo che, secondo le previsioni di Gartner, non si concretizzerà prima di almeno cinque anni, quando si raggiungerà il punto che nel grafico è chiamato Plateau of Productivity.
Casi di utilizzo
Al di là delle previsioni di Gartner, proviamo a illustrare brevemente i settori che possono beneficiare dell’edge AI e le applicazioni più promettenti di questo tipo di tecnologia.
Smart Manufacturing – il manufacturing è il settore che per primo ha visto l’impiego dell’edge AI. Una delle applicazioni più diffuse riguarda il monitoraggio attraverso dei sensori intelligenti (Industrial IoT – IIoT), del corretto funzionamento dei macchinari industriali e apparecchiature di produzione ai fini della manutenzione predittiva e ottimizzazione della produzione.
Videosorveglianza e sistemi di controllo del territorio – in questo caso parliamo dell’utilizzo di sistemi di riconoscimento facciale per elaborare localmente immagini e video catturati da telecamere distribuite sul territorio, ad esempio in un contesto urbano, a scopi di videosorveglianza e sicurezza. Infatti, grazie al riconoscimento e la classificazione di oggetti, è possibile identificare situazioni di pericolo, monitorare e controllare ambienti all’interno di uno stabilimento, oppure individuare persone all’interno di spazi aperti (es. piazze) o chiuse (es. uffici).
Smart city – sensori ambientali, telecamere, semafori e lampioni intelligenti, sono solo alcuni esempi di dispositivi IoT che è possibile dispiegare in un territorio urbano per migliorare il vivere quotidiano e i servizi alla cittadinanza, salvaguardando anche l’ambiente. Citiamo in tal senso, applicazioni di infotainment relativi al passaggio dei bus alla fermata, la regolazione dell’illuminazione nei luoghi pubblici al passaggio delle persone, o applicazioni di traffic management grazie alle quali è possibile gestire i flussi di traffico in modo intelligente adeguando il funzionamento dei semafori per evitare ingorghi e facilitare il transito dei mezzi di trasporto pubblico o di soccorso.
Veicoli a guida autonoma – già oggi le macchine moderne sono equipaggiate con dei sensori in grado di raccogliere dati per prendere consapevolezza dell’ambiente circostante. L’elaborazione di tali dati avviene grazie ad algoritmi di AI installati sull’hardware a bordo del veicolo, che consentono di riconoscere ostacoli lungo il percorso, correggere la guida e seguire dei percorsi specifici per arrivare ad una determinata destinazione.
Assistenti virtuali – chi di noi non conosce Amazon Alexa o Google Nest? Entrambi sono esempi di assistenti virtuali che vengono realizzati combinando edge AI e il cloud. I dispositivi IoT con cui gli utenti interagiscono in locale, grazie all’edge AI operano in tempo reale e sono in grado di abilitare un’interazione efficace in condizioni di latenza ridotta. La continua comunicazione tra l’edge e il cloud, poi, garantisce all’assistente virtuale di apprendere continuamente sfruttando le funzionalità centralizzate AI disponibili sul cloud. Il tutto in modo trasparente all’utente finale.
Digital Health – l’edge AI potrebbe rivoluzionare il settore della sanità portando ad un alto livello le prestazioni e i servizi ai pazienti. Ad esempio, in ambito ospedaliero, sfruttando applicazioni di analisi dati video e interfacce conversazionali AI, un operatore potrebbe prestare assistenza da remoto ai pazienti, con grande vantaggi sia per il paziente che beneficerebbe di un servizio veloce e puntuale sia per l’operatore che potrebbe agire in totale sicurezza, soprattutto nei casi in cui siano presenti dei rischi di infezione biologica. In ambito assistenza domiciliare abbiamo altrettanti benefici. Infatti, grazie all’uso di dispositivi IoT indossabili (wearable) e sistemi di telemedicina è possibile monitorare da remoto la salute dei pazienti e garantire la tempestività degli interventi senza sovraccaricare il sistema sanitario locale.
Smart retail – in ambito retail l’intelligenza artificiale è già sfruttata per rendere più efficaci processi legati alla vendita al dettaglio e al customer engagement soprattutto attraverso le piattaforme social o le app per smartphone e tablet. L’edge AI in ambito retail consente la realizzazione di varie applicazioni. Ad esempio, attraverso i sistemi di computer vision è possibile riconoscere i clienti all’interno di un negozio e dunque, offrire loro un’esperienza di acquisto personalizzata sulla base delle loro preferenze facilitando anche l’intervento dei commessi. Oppure, grazie a sistemi evoluti di lettura dei codici a barre, è possibile velocizzare le operazioni di pagamento alle casse o verificare la presenza in un prodotto in magazzino. Infine, l’edge AI può essere efficacemente utilizzata a scopi logistici, favorendo il monitoraggio delle merci, automatizzando le procedure di approvvigionamento degli scaffali attraverso meccanismi gestione di ordini automatici.
Che ruolo gioca il cloud computing nell’edge computing?
Molti esperti di settore sostengono che l’edge computing è destinato a far tramontare il cloud computing. Altri si limitano a sottolineare come l’edge computing in realtà decongestioni il cloud, decentralizzando alcune operazioni di elaborazione ai margini della rete e sfruttando il cloud solo per le operazioni più complesse.
Per comprendere bene la differenza tra edge computing e cloud computing, bisogna pensare che i dati sono generati ormai sempre più spesso fuori dal cloud. Il cloud mette a disposizione grandi risorse di calcolo e memoria, ma la lontananza dai dati può generare problemi di latenza operativa, unitamente alle condizioni in cui non è disponibile una connessione Internet per permettere lo scambio dei dati tra i sistemi centralizzati e quelli periferici. Tuttavia, realisticamente, per quanto i dispositivi IoT siano sempre più potenti e performanti, è difficile allo stato attuale della tecnologia pensare a un sistema edge AI del tutto autonomo dal cloud dal punto di vista funzionale. L’elaborazione delle informazioni per essere efficace necessita, comunque, di alcune risorse che sono tipicamente disponibili in un data center centralizzato. E questo vale in particolare per le operazioni basate sul Deep Learning che richiedono enormi quantità di dati e di risorse computazionali per completare i processi di apprendimento e analisi per cui sono sviluppati.
La chiave nella progettazione di un’infrastruttura IT distribuita che sfrutti efficacemente l’AI risiede, dunque, nel trovare il giusto equilibro tra l’uso dell’edge computing e il cloud computing. Si tratta di bilanciare la rapidità e la connettività offerta dall’edge computing, con la potenza elaborativa e la capacità di storage offerte dal cloud computing, tenendo in considerazione anche aspetti legati a cyber security e privacy dei dati, in conformità con le normative relative al trattamento dei dati.
Pertanto, un dispositivo IoT dotato di capacità di edge AI dovrà essere in grado di operare in maniera selettiva sui dati trasmettendo al cloud solo in un momento successivo il risultato delle elaborazioni e eventuali altri dati necessari per le successive elaborazioni, quelle più onerose appunto. Tale approccio consente di ottimizzare notevolmente l’impiego di banda e di storage e riduce in maniera significativa i costi, considerando che i servizi in cloud sono quasi sempre basati su un modello di pricing pay-per-use scalabile in funzione delle risorse effettivamente impiegate.
Edge AI, droni e 5G
I droni sono dei velivoli privi di pilota che vengono comandati a distanza. Generalmente sono utilizzati per operazioni di sorveglianza e monitoraggio delle infrastrutture critiche, essendo equipaggiati con sensori e telecamere ma soprattutto in virtù della loro capacità di raggiungere praticamente ogni luogo.
I droni rappresentano un settore in cui l’edge AI può giocare un ruolo cruciale. Infatti, questi dispositivi molto spesso vengono impiegati in luoghi remoti dove non è presente la connessione a Internet e, dunque, per operare efficacemente sono solitamente equipaggiati con sensori e telecamere intelligenti con funzionalità di egde AI. Stiamo parlando, ad esempio, di videocamere e fotocamere ad altissima qualità e risoluzione, di scansioni infrarosso, sensoristica varia in grado di percepire diversi parametri dall’ambiente in tempo reale. La disponibilità di capacità di edge AI rende possibile l’esecuzione di algoritmi in grado di elaborare informazioni per supportare il drone stesso e il pilota nella sua missione garantendo livelli di sicurezza anche in contesti complessi come quelli urbani.
Anche per i droni valgono le stesse considerazioni fatte in precedenza in merito al fatto che ad oggi non è possibile, ancora, immaginare che la computazione necessaria al dispositivo per avere un comportamento completamente autonomo, sia possibile tutta on-board al dispositivo stesso. E ciò, nonostante i grandi e recenti progressi di hardware e software che forniscono sempre maggiori capacità di calcolo, consumi energetici sempre più ridotti, e dimensioni fisiche dei dispositivi di calcolo sempre più limitate. Nel caso specifico dei droni, però, il cloud non è in grado di fornire sufficiente banda e affidabilità per trasportare i dati grezzi ottenuti dai sensori a bordo del drone, e la stessa infrastruttura di rete non può garantire le latenze necessarie perché questi dati possano essere elaborati prontamente a livello di back-end per prendere decisioni di navigazione e comunicarle al drone in tempo utile.
Il ruolo della rete mobile 5G
In questo scenario, allora, si inserisce la rete mobile 5G con la sua capacità di offrire trasmissioni dati a larghissima banda, bassa latenza, e alta affidabilità. Caratteristiche sufficienti per garantire il trasporto dei dati grezzi dal drone ai sistemi di back-end e per abilitare modalità di pilotaggio Beyond Visual Line of Sight (BVLoS), ovvero la capacità di un pilota di controllare il drone senza avere necessariamente contatto visivo con esso. Il 5G permetterà di abbattere i costi e di dare vita a nuove applicazioni e modelli di business modificando così il settore dei droni. Per esempio, la rete 5G potrà consentire la trasmissione di flussi video catturati dal drone con le telecamere montate a bordo durante un’operazione di volo, via Internet fino ad una stazione di controllo dove risiede fisicamente un pilota. Allo stesso tempo, il medesimo canale di trasmissione potrà essere sfruttato per inviare i comandi di pilotaggio dal pilota in remoto al drone. Tutto ciò consente di disaccoppiare l’area di operatività del drone e la stazione di controllo, che potrebbero essere disposti in luoghi geograficamente distinti.
In questo modo, in un futuro ormai prossimo, possiamo immaginare che il fornitore del dispositivo drone non sia necessariamente lo stesso soggetto che fornisce il servizio di pilotaggio. L’utente finale potrà scegliere un fornitore di droni vicino, ma poi rivolgersi ad un servizio di pilotaggio remoto che tramite la rete 5G può controllare il drone acquistato o noleggiato. Il 5G potrà facilitare anche la realizzazione di scenari in cui un alto numero di droni svolgeranno operazioni, ad esempio di trasporto merci e/o persone, in aree urbane densamente popolate. In questo contesto, diventerà importante gestire opportunamente il traffico dei droni nello spazio aereo realizzando anche dei meccanismi non solo di controllo remoto ma anche di orchestrazione tra i dispositivi stessi, nel rispetto delle normative e dei regolamenti.
