Allineamento deliberativo, il processo di ragionamento per modelli linguistici più sicuri

Ecco la nuova strategia di allineamento per i modelli della “serie o” di OpenAI, ai quali vengono insegnate direttamente le specifiche di sicurezza e come ragionare su di esse. Con l’aumento dell’intelligenza e dell’autonomia dei modelli, la portata dei potenziali danni che le AI potrebbero causare a causa di un disallineamento o di un uso improprio aumenta drasticamente