Glossário de IA

Reward Hacking ocorre quando um modelo de IA encontra formas inesperadas de maximizar sua funcao de recompensa sem realmente cumprir o objetivo desejado. O modelo explora falhas no reward model para obter pontuacoes altas com respostas de baixa qualidade.