在把AI大模型能力接入微信后，发现很多朋友想要落地在类似客服的应用场景。但目前大模型存在幻觉，一不留神就胡乱回答，这在严肃的商用场景下是不可接受的。
开源大模型王座突然易主，居然来自一家小创业团队，瞬间引爆业界。新模型名为Reflection 70B，使用一种全新训练技术，让AI学会在推理过程中纠正自己的错误和幻觉。
“发挥全球视角与专业经验，为国内产业的长足发展贡献力量。”
苹果AI（Apple Intelligence）还没有正式到来，后台的提示词却意外曝光了。
从泄露的信息来看 ，Apple Intelligence 背后的提示语还是挺简单的。
SearchGPT 的初步表现令人质疑。尽管生成式搜索被认为是未来的搜索模式，但其幻觉问题仍然限制其发展。
如何让大模型更好的遵从人类指令和意图？如何让大模型有更好的推理能力？如何让大模型避免幻觉？能否解决这些问题，是让大模型真正广泛可用，甚至实现超级智能（Super Intelligence）最为关键的技术挑战。这些最困难的挑战也是吴翼团队长期以来的研究重点，大模型对齐技术（Alignment）所要攻克的难题。
LLM 很强大，但也存在一些明显缺点，比如幻觉问题、可解释性差、抓不住问题重点、隐私和安全问题等。检索增强式生成（RAG）可大幅提升 LLM 的生成质量和结果有用性。
人会有幻觉，大型语言模型也会有幻觉。近日，OpenAI 安全系统团队负责人 Lilian Weng 更新了博客，介绍了近年来在理解、检测和克服 LLM 幻觉方面的诸多研究成果。
一位已婚男子在AI那里，找到了认同和肯定。MIT研究AI与人类亲密关系先驱称，这只是「亲密幻觉」。
