I chatbot possono “allucinare” più spesso di quanto molti si rendano conto. Quando riassumono fatti, ChatGPT inventa circa il 3% delle volte, secondo la ricerca della startup Vectara. Il tasso di un sistema Google è del 27%. Quando la startup OpenAI ha svelato il suo chatbot ChatGPT, alla fine dello scorso anno, milioni di persone sono rimaste stupite dal modo in cui rispondeva alle domande, scriveva poesie e discuteva quasi qualsiasi argomento in maniera umana. Tuttavia, la maggior parte delle persone ha tardato a rendersi conto che questo nuovo tipo di chatbot spesso inventa le cose.
Ai generativa
Chatbot: una ricerca rivela nuovi particolari sulle “allucinazioni”
Un nuovo studio condotto dalla startup Vectara svela nuovi dettagli: l’allucinazione, ovvero la tendenza a inventare dati o informazioni, affligge anche i sistemi più avanzati, con tassi di errore che variano dal 3% al 27%. Ecco come OpenAI, Google e gli altri stanno cercando di porvi rimedio
Pubblicato il 6 nov 2023
Pierluigi Sandonnini
giornalista
