#llm
-
让 AI 伴侣回复更像人的三个杠杆
为每个任务选择合适的模型,让模型判断何时行动,再打磨它生成的内容:这是我们提升对话质量时拉动的三个彼此独立的杠杆,以及把它们串起来的一条规则。
-
过度拒绝税:为什么"安全"的 LLM 会悄悄丢掉你的数据
在 memory/extraction pipeline 里,过度谨慎的模型不会大声拒绝——它会默默丢掉那些敏感但真实的事实。为什么会这样,中性对齐模型加上解除职责的 prompt 如何修好它,以及那个没人预料到的成本真相。
为每个任务选择合适的模型,让模型判断何时行动,再打磨它生成的内容:这是我们提升对话质量时拉动的三个彼此独立的杠杆,以及把它们串起来的一条规则。
在 memory/extraction pipeline 里,过度谨慎的模型不会大声拒绝——它会默默丢掉那些敏感但真实的事实。为什么会这样,中性对齐模型加上解除职责的 prompt 如何修好它,以及那个没人预料到的成本真相。