Le allucinazioni sono un problema per gli utenti da quando i chatbot di intelligenza artificiale sono diventati di uso comune, oltre due anni fa. Amazon sta usando la matematica per risolvere uno dei problemi più intrattabili dell’intelligenza artificiale: la sua tendenza a inventare risposte e a ripeterle con sicurezza.
Le allucinazioni hanno indotto persone e aziende a esitare prima di affidare ai chatbot AI domande importanti. E si verificano con qualsiasi modello di AI, da quelli sviluppati da OpenAI e Meta Platforms a quelli dell’azienda cinese DeepSeek.
Ora, l’unità di cloud computing di Amazon.com si rivolge al “ragionamento automatico” per fornire una prova matematica che le allucinazioni dei modelli di AI possono essere fermate, almeno in alcune aree. Lo strumento di AWS per le allucinazioni dell’intelligenza artificiale è chiamato Automated Reasoning Checks e mira a fornire garanzie di verità ai clienti.
In poche parole, il ragionamento automatizzato mira a utilizzare prove matematiche per assicurare che un sistema si comporti o meno in un certo modo. È in qualche modo simile all’idea che i modelli di AI possano “ragionare” attraverso i problemi, ma in questo caso viene utilizzato per verificare che i modelli stessi forniscano risposte accurate.
Secondo alcuni analisti, in questo modo Amazon Web Services potrebbe sbloccare accordi con le aziende in materia di AI per un valore di milioni di dollari.
Cosa si intende per ragionamento automatico
Il ragionamento automatico è un ramo dell’AI che fa parte dell’“AI simbolica”, un campo che affonda le sue radici addirittura nella logica matematica di Socrate e Platone, risalente a 2.000 anni fa, secondo il vicepresidente di AWS e scienziato Byron Cook. Si tratta di una disciplina relativamente oscura che conta solo circa 3.000 praticanti in tutto il mondo, dichiara Cook.
L’AI simbolica è l’uso della logica matematica per codificare la conoscenza nei sistemi di AI in modo strutturato e utilizza un processo decisionale basato su regole per raggiungere le conclusioni, spiega Cook. È diversa dall’apprendimento automatico (machine learning), che consiste nell’insegnare a una macchina a dedurre modelli da grandi quantità di dati.
A dimostrazione della sua fiducia nel ragionamento automatizzato, Amazon ha assunto la maggior parte degli esperti specializzati in questo campo negli ultimi dieci anni, tra cui 97 stagisti con dottorato l’anno scorso e centinaia in totale, dichiara Cook.
Perché Amazon trova così utile la matematica per risolvere il problema delle allucinazioni
La risposta è perché una prova matematica offre una garanzia che un programma o un software funziona nel modo previsto.
La prima applicazione del ragionamento automatizzato per AWS è stata la sicurezza informatica, afferma Cook, dove la tecnologia ha aiutato a “dimostrare la correttezza” della crittografia dell’azienda per i clienti commerciali. Questo tipo di prova ha fatto sì che un numero sempre maggiore di dati e applicazioni dei clienti venisse spostato nel cloud di Amazon, ha aggiunto Cook.
La tecnologia AI è ancora inaffidabile
Per AWS e i suoi colleghi, vendere l’AI alle aziende è stata una sfida. La tecnologia è rimasta relativamente inaffidabile. Questo ha fatto sì che molti chief information officer (CIO) affermassero di non poter cedere il controllo delle decisioni aziendali chiave alla tecnologia, che potrebbe fornire risposte completamente sbagliate e inventate. Inoltre, è importante che l’AI sia corretta quando le aziende devono dimostrare che i loro investimenti nell’AI stanno generando profitti.
Per utilizzare lo strumento AWS, i clienti devono innanzitutto impostare una serie di criteri che fungano da verità assoluta. Potrebbe trattarsi della guida interna di un’azienda sui benefici per i dipendenti o delle informazioni sui prodotti per il personale del servizio clienti. I controlli automatici del ragionamento funzionano anche con Bedrock Guardrails, il prodotto di AWS con protezioni di tipo enterprise-friendly come i filtri e il blocco dei contenuti inappropriati.
Secondo Matt Wood, responsabile commerciale per la tecnologia e l’innovazione dell’azienda, PricewaterhouseCoopers sta utilizzando Automated Reasoning Checks per aiutare a fermare le allucinazioni dei clienti in settori regolamentati come quello farmaceutico e delle scienze biologiche.
Quando si commercializzano nuovi farmaci, ad esempio, i clienti devono assicurarsi di non incorrere nelle normative che regolano ciò che può essere pubblicizzato. Senza i controlli automatici del ragionamento, l’intelligenza artificiale potrebbe essere incline ad aiutare i clienti a raggiungere l’obiettivo di generare pubblicità, senza rispettare i requisiti normativi, afferma Wood.
Automated Reasoning Checks, le limitazioni
Al di là delle aree in cui le politiche o le regole possono essere chiaramente definite, tuttavia, lo strumento di ragionamento automatico di AWS è più limitato, secondo Rowan Curran, analista specializzato in AI presso la società di ricerche di mercato e consulenza informatica Forrester.
Tuttavia, al di là delle aree in cui è possibile definire chiaramente le politiche o le regole, lo strumento di ragionamento automatico di AWS è più limitato, secondo Rowan Curran, analista specializzato in AI presso la società di ricerche di mercato e consulenza informatica Forrester.
“Si tratta di un lavoro più impegnativo a monte, ma meno impegnativo quando succede qualcosa di terribile e l’applicazione espone i dati dell’azienda o fa un’offerta a un cliente che costa milioni di dollari”, dichiara.
Per ridurre al massimo le allucinazioni, le aziende dovrebbero anche utilizzare strumenti come la retrieval-augmented generation, o RAG, che è un metodo per collegare i modelli di AI con fonti di dati esterne, e il fine-tuning, un metodo per personalizzare un modello linguistico di grandi dimensioni con dati privati o aziendali.
Approfondimento
Cos’è il ragionamento automatico per AWS?
Il ragionamento automatico è un settore dell’informatica che si concentra sulla fornitura di garanzie riguardo a ciò che un sistema o un programma può o non può fare, basandosi su prove matematiche. Utilizzando strumenti logici come teoremi e deduzioni, esso affronta problemi logici in matematica, scienza e calcolo. I computer, attraverso il ragionamento automatico, risolvono sfide complesse utilizzando gli stessi strumenti utilizzati dagli esseri umani. Gli strumenti di ragionamento automatico cercano di rispondere a domande su un programma o una formula logica attraverso tecniche matematiche, aiutando a verificare la veridicità di affermazioni o espressioni.
Quali problemi può risolvere il ragionamento automatico?
Il ragionamento automatico è utilizzato da scienziati e sviluppatori per dimostrare che la progettazione o l’implementazione di un sistema rispetta le specifiche e funziona come previsto. Questo obiettivo è raggiunto attraverso dimostrazioni in logica formale supportate da teoremi matematici. Inoltre, il ragionamento automatico può essere impiegato per verificare che sistemi di configurazione di reti, accesso e autorizzazioni funzionino correttamente. Il processo inizia con la presentazione di un problema al sistema, che poi calcola e convalida le ipotesi fino a esaurire tutte le opzioni.
Esempio di problema per il ragionamento automatico
Per illustrare il ragionamento automatico, consideriamo il problema “I gatti vivono sulla terra?” e le seguenti affermazioni: “I gatti sono mammiferi” e “I mammiferi vivono sulla terra”. Il sistema di ragionamento automatico determina la veridicità dell’enunciazione utilizzando la deduzione logica (sillogismo), confermando che i gatti vivono sulla terra.
Limitazioni del ragionamento automatico
Il ragionamento automatico non è in grado di fare previsioni o generalizzazioni. Ad esempio, può dedurre che “Fluffy ha i peli” se “I gatti hanno i peli” e “Fluffy è un gatto”. Tuttavia, non può generalizzare che “Tutti i mammiferi vivono sulla terra” basandosi solo su “I gatti sono mammiferi” e “I gatti vivono sulla terra”. Questo tipo di applicazioni è comune nei dimostratori di teoremi, che richiedono supervisione umana.
Quali sono alcuni casi d’uso del ragionamento automatico?
Il ragionamento automatico trova applicazione in vari settori grazie alla sua capacità di formulare inferenze logiche. Può essere utilizzato per dimostrare proprietà di sicurezza, conformità e disponibilità in architetture su larga scala. Alcuni casi d’uso includono:
- Modellazione matematica: risolvere problemi e verificare dimostrazioni matematiche applicando formule algebriche.
- Verifica dell’hardware: aiutare ingegneri a creare prodotti affidabili e scoprire difetti potenziali.
- Convalida del software: garantire che le applicazioni siano sicure e funzionino correttamente.
- Modellazione del ragionamento umano: configurare l’accesso alle risorse tramite policy di sicurezza.
Quali sono alcuni strumenti e tecniche di ragionamento automatico?
Diverse metodologie permettono ai sistemi di emulare la deduzione umana:
- Logica classica: filosofia matematica che fornisce modelli di base per il ragionamento logico.
- Logica proposizionale: sistema logico che costruisce relazioni tra proposizioni vere o false.
Qual è la differenza tra ragionamento automatico e intelligenza artificiale?
Il ragionamento automatico è una specifica disciplina dell’intelligenza artificiale che applica la deduzione logica ai sistemi informatici. L’AI, in generale, insegna ai computer a pensare come esseri umani, includendo sottodiscipline come deep learning e machine learning. A differenza di altre tecnologie AI come l’elaborazione del linguaggio naturale, il ragionamento automatico si basa su prove logiche per analizzare comportamenti di sistema.
Qual è la differenza tra ragionamento automatico e deep learning?
Il ragionamento automatico dimostra proprietà di un programma o sistema utilizzando modelli logici, mentre il deep learning effettua previsioni attraverso modelli statistici su grandi set di dati. Il deep learning simula il cervello umano con reti neurali multiple per applicazioni complesse.
Il ragionamento automatico equivale al machine learning?
Il ragionamento automatico e il machine learning sono distinti. Il machine learning addestra i computer a fare previsioni basate su grandi campioni di dati, mentre il ragionamento automatico fornisce prove basate su verità matematiche. Ad esempio, il machine learning viene utilizzato per identificare attività fraudolente nel settore bancario, mentre il ragionamento automatico deduce risultati basati su prove matematiche.
Contro le allucinazioni anche Microsoft e Google
Anche i concorrenti di Amazon, Microsoft e Google, offrono strumenti che mirano a ridurre la probabilità di allucinazioni per i clienti aziendali. Le future versioni degli strumenti di AWS per la riduzione delle allucinazioni includeranno una combinazione di tecniche come il RAG e il ragionamento automatico, ha dichiarato Cook.
Jason Gelman, direttore della gestione dei prodotti di Vertex AI di Google, ha dichiarato che l’azienda non utilizza il ragionamento automatico. Ma l’accuratezza del modello – e una qualche forma di mitigazione delle allucinazioni – è un imperativo per gli agenti AI. “Se le fondamenta sono deboli, non si può costruire sopra di esse”, ha detto.
Ma è possibile eliminare del tutto le allucinazioni? Secondo Cook, il ragionamento automatico dice che questo problema è “indecidibile”. “Non riusciremo mai a risolverlo al cento per cento”, sentenzia, ma è possibile realizzare strumenti che forniscano risposte corrette.
