大语言模型会在蒸馏中“夹带”自己的偏好

量线擒龙 · 发表于 2026-4-16 07:42

马上注册，享用更多功能，让你轻松玩转本论坛。

您需要登录才可以下载或查看，没有账号？立即注册 sms 手机登录

×

财联社4月16日电,《自然》15日发表的一项研究显示,大语言模型(LLM)可能会将某些自己的偏好“夹带私货”传授给其他算法,即使在训练数据中清除原始特征后,这些本不需要的特征,仍可能持续存在。在一个案例中,一个模型似乎通过数据中的隐含信号,将自己对猫头鹰的偏好传递给了其他模型。该研究结果表明,在开发LLM时,需要进行更彻底的安全检查。

芷莹快乐 · 发表于 2026-4-16 08:02

谢谢分享