分类 AI研究 下的文章

在 AI 中转站或模型网关中,我们通常会同时接入多个上游渠道,并通过优先级、权重、分组、模型映射等策略做调度。但在开启 NewAPI 的“渠道亲和性”之后,你可能会遇到一个看似反直觉的问题:

某个渠道已经失败,甚至已经被关闭了,但请求仍然不断命中旧渠道;新启用的高优先级、高权重渠道没有马上生效。

这并不一定是调度系统失效,而是“渠道亲和性”本身的设计结果:它会优先复用上一次成功的渠道,从而提升同一会话、同一缓存键、同一请求来源的稳定性。本文会解释这个机制的工作方式,并给出一套脱敏后的推荐配置,帮助你在稳定性和故障切换之间取得平衡。

阅读剩余部分

前言

OpenAI 近日罕见发表论文,系统性分析了大型语言模型产生“幻觉”的原因。论文指出,当前主流训练和评估方式更倾向于奖励模型的猜测行为,而不是鼓励其在不确定时承认“我不知道”,这直接导致了模型自信地生成错误答案。研究建议,未来应调整评估指标,对自信错误加大惩罚力度,并鼓励模型表达不确定性,以降低幻觉发生率。此外,OpenAI 正在重组模型行为团队,持续推进相关研究。

Claude早就在文档里写了让ai表达不知道的例子,同样的提示词拿给其他集成ai的ide,确实有奇效。具体参见Anthropic官网 (https://docs.anthropic.com/zh-CN/docs/test-and-evaluate/strengthen-guardrails/reduce-hallucinations)

阅读剩余部分