Meta ha presentato Cicero, un modello di intelligenza artificiale che ha imparato a collaborare con le persone e costruire rapporti giocando al gioco di strategia Diplomacy, in cui i giocatori controllano le forze armate di varie potenze europee negli anni precedenti alla prima guerra mondiale. Cicero ha imparato a comunicare con più giocatori contemporaneamente per costruire un rapporto e raggiungere i loro obiettivi condivisi. Meta afferma che è la prima AI a giocare a Diplomacy a livello umano.
I sistemi di intelligenza artificiale che imparano a giocare non sono una novità. Quest’anno ricorrono i 25 anni da quando DeepBlue di IBM ha sconfitto il grande maestro di scacchi Garry Kasparov.
Il compito di Cicerone, tuttavia, differisce da giochi come gli scacchi. La diplomazia richiede ai giocatori di comprendere le motivazioni e le prospettive delle persone – oltre a fare piani, adattare le strategie e usare il linguaggio per convincere le persone a formare alleanze – qualcosa che l’AI ha precedentemente trovato difficile.
Secondo il team AI di Meta, Cicero ha raggiunto prestazioni di livello umano giocando alla versione web di Diplomacy. Ha accumulato più del doppio del punteggio medio dei giocatori umani, classificandosi tra i primi 10% dei partecipanti che hanno giocato più di una partita.
In definitiva, il team spera che le abilità di Cicero possano essere tradotte in applicazioni pratiche per il mondo reale, qualcosa che non è fattibile per i computer che giocano a scacchi o Go.
“Ciò che è veramente eccitante di una tecnologia come Cicero è come potrebbe svolgere un piccolo ruolo nelle nostre vite un giorno, aiutandoci a collaborare, connetterci e imparare, nel mondo fisico e nel metaverso”, ha dichiarato Joe Spisak, direttore della gestione dei prodotti presso Meta AI.
“A differenza di giochi come Chess and Go, la diplomazia è un gioco sulle persone piuttosto che sui pezzi”, secondo Meta. “Se un agente non riesce a riconoscere che qualcuno sta probabilmente bluffando o che un altro giocatore vedrebbe una certa mossa come aggressiva, perderà rapidamente la partita. Allo stesso modo, se non parla come un vero person – mostrando empatia, costruendo relazioni e parlando con cognizione di causa del gioco – non troverà altri giocatori disposti a lavorarci.
Per ottenere il modello di intelligenza artificiale per giocare, i ricercatori di intelligenza artificiale di Meta hanno sviluppato nuove tecniche per il ragionamento strategico e l’elaborazione del linguaggio naturale. Usando queste tecniche, Cicero può dedurre che più avanti nel gioco avrà bisogno del supporto di un particolare giocatore, e quindi elaborare una strategia per conquistare il favore di quella persona.
Powering Cicero è un modello di dialogo controllabile abbinato a un motore di ragionamento strategico.
Meta spiega come funziona il modello: “In ogni punto del gioco, Cicero guarda il tabellone di gioco e la sua cronologia delle conversazioni, e modella come è probabile che gli altri giocatori agiscano. Quindi utilizza questo piano per controllare un modello linguistico in grado di generare un dialogo libero, informando gli altri attori dei suoi piani e proponendo azioni ragionevoli per gli altri attori che si coordinano bene con loro.
Come funziona Cicero
Usando lo stato della scacchiera e il dialogo corrente, Cicero fa una previsione iniziale di ciò che tutti faranno. Il modello perfeziona quindi tale previsione e quindi utilizza tali previsioni per formare un intento per se stesso e il suo partner.
Genera diversi messaggi dei candidati in base allo stato del consiglio, al dialogo e alle sue intenzioni. Quindi filtra il messaggio del candidato per ridurre le sciocchezze, massimizzare il valore e garantire la coerenza con i nostri intenti.
Meta ha utilizzato diversi meccanismi di filtraggio, tra cui classificatori addestrati a distinguere tra testo umano e generato dal modello per “garantire che il nostro dialogo sia sensato, coerente con lo stato attuale del gioco e i messaggi precedenti e strategicamente valido.
Un documento che delinea Cicero dai ricercatori di Meta afferma che la società ha implementato filtri aggiuntivi per “rilevare il linguaggio tossico e l’euristica per frenare i cattivi comportamenti, tra cui la ripetizione e i messaggi fuori tema”.
A dire il vero, il modello – e il suo filtraggio – non è perfetto. Meta dice che Cicero a volte genera un dialogo incoerente che può minare i suoi obiettivi.
Ad esempio, mentre gioca nei panni dell’impero austro-ungarico, l’agente AI si contraddice chiedendo all’Italia di prendere Venezia.
“Mentre la nostra suite di filtri mira a rilevare questo tipo di errori, non è perfetta”, ha detto Meta.
Meta ha reso open source il modello, con i codici per Cicero disponibili tramite GitHub.
