A metà del 2023, durante un progetto di ricerca chiamato “RLSlow”, Jakub Pachocki e il collega Szymon Sidor videro risultati che, secondo il chief scientist di OpenAI, indicavano la possibilità di ampliare in modo significativo l’addestramento dei modelli capaci di ragionare. Pachocki racconta di aver trascorso quella notte in ufficio pensando meno ai benchmark o ai prodotti che ne sarebbero derivati e più alle conseguenze di una tecnologia che avrebbe potuto portare, nell’arco della loro vita, a macchine più intelligenti degli esseri umani in attività rilevanti.
scenari
Jakub Pachocki (OpenAI): rischi e opportunità dell’auto-miglioramento ricorsivo
Il chief scientist di OpenAI ritiene possibile una nuova accelerazione dell’intelligenza artificiale, fino a sistemi capaci di contribuire al proprio sviluppo. Una prospettiva che promette maggiore produttività e progresso scientifico, ma che impone limiti alla corsa tecnologica, controlli indipendenti e coordinamento tra governi

Continua a leggere questo articolo
Canali

