#refusal
-
过度拒绝税:为什么"安全"的 LLM 会悄悄丢掉你的数据
在 memory/extraction pipeline 里,过度谨慎的模型不会大声拒绝——它会默默丢掉那些敏感但真实的事实。为什么会这样,中性对齐模型加上解除职责的 prompt 如何修好它,以及那个没人预料到的成本真相。
在 memory/extraction pipeline 里,过度谨慎的模型不会大声拒绝——它会默默丢掉那些敏感但真实的事实。为什么会这样,中性对齐模型加上解除职责的 prompt 如何修好它,以及那个没人预料到的成本真相。