RAG效果要提升，先搞定高质量Context Pruning
RAG效果要提升，先搞定高质量Context PruningContext Pruning如何结合rerank，优化RAG上下文？
来自主题: AI技术研报
9475 点击 2025-11-28 10:05
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
Context Pruning如何结合rerank，优化RAG上下文？
基准测试（Benchmarks）在人工智能的发展进程中扮演着至关重要的角色，构成了评价生成式模型（Generative Models）性能的事实标准。对于从事模型训练与评估的AI研究者而言，GSM8K、MMLU等数据集的数据质量直接决定了评估结论的可靠性。
就在前两天，深圳一家名为 Inspire Curve 的创企设计出的 AI 概念相机，获得了有“设计界奥斯卡”美誉的 iF 设计奖。从媒体报道给出的信息看，两款产品的共通之处是将 AI 生图模型引入拍摄过程，让用户在 AI 的帮助下，一键“出片”。
长期以来，多模态代码生成（Multimodal Code Generation）的训练严重依赖于特定任务的监督微调（SFT）。尽管这种范式在 Chart-to-code 等单一任务上取得了显著成功 ，但其 “狭隘的训练范围” 从根本上限制了模型的泛化能力，阻碍了通用视觉代码智能（Generalized VIsioN Code Intelligence）的发展 。
当前机器人领域，基础模型主要基于「视觉-语言预训练」，这样可将现有大型多模态模型的语义泛化优势迁移过来。但是，机器人的智能确实能随着算力和数据的增加而持续提升吗？我们能预测这种提升吗？
同样是语义相似度结合时效性做rerank，指数衰减、高斯衰减、线性衰减怎么选？ 假设你要在一个新闻应用中落地语义检索功能，让用户搜索雷军的投资版图盘点时，能自动关联顺为资本、小米战投等核心关联信息。
大语言模型（LLM）的「炼丹师」们，或许都曾面临一个共同的困扰：为不同任务、不同模型手动调整解码超参数（如 temperature 和 top-p）。这个过程不仅耗时耗力，而且一旦模型或任务发生变化，历史经验便瞬间失效，一切又得从头再来。
厦门大学和腾讯合作的最新论文《FlashWorld: High-quality 3D Scene Generation within Seconds》获得了海内外的广泛关注，在当日 Huggingface Daily Paper 榜单位列第一，并在 X 上获得 AK、Midjourney 创始人、SuperSplat 创始人等 AI 大佬点赞转发。
对抗样本（adversarial examples）的迁移性（transferability）—— 在某个模型上生成的对抗样本能够同样误导其他未知模型 —— 被认为是威胁现实黑盒深度学习系统安全的核心因素。尽管现有研究已提出复杂多样的迁移攻击方法，却仍缺乏系统且公平的方法对比分析：（1）针对攻击迁移性，未采用公平超参设置的同类攻击对比分析；（2）针对攻击隐蔽性，缺乏多样指标。
在北京时间凌晨举办的英伟达 GTC 大会上，黄仁勋用一系列人类历史创新的剪影开场，并把英伟达与 AI 创新直接拔高定调为「下一个阿波罗时刻」。除了展示下一代超级芯片 Vera Rubin，黄仁勋还大谈 6G、量子计算，机器人和自动驾驶，同时宣布要投资新的巨头，舞台大屏上英伟达的「合作」对象名单可以说是密密麻麻。