Toward understanding and preventing misalignment generalization

Источник данных

То, что RADAR обнаружил и классифицировал для этой возможности. Это опубликованный источником текст, а не подтверждение, что предложение ещё действует.

• OpenAI NewsНаблюдение: 18 июн. 2025 г.Надёжность источника: 60%

  Toward understanding and preventing misalignment generalization. We study how training on incorrect responses can cause broader misalignment in language models and identify an internal feature driving this behavior—one that can be reversed with minimal fine-tuning.

  Открыть источник