推翻「预测下一个token」范式！微信AI新研究：把token压缩成连续向量更具性价比
推翻「预测下一个token」范式！微信AI新研究：把token压缩成连续向量更具性价比大模型一个token一个token生成，效率太低怎么办？
来自主题: AI技术研报
8964 点击 2025-11-06 16:29
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
大模型一个token一个token生成，效率太低怎么办？
美国人工智能初创企业Perplexity宣布推出世界首个AI专利智能体（agent）——Perplexity Patents。Perplexity表示，其目标是带来人人可用的专利智能体，让知识产权情报触手可及。其瞄准的正是专利情报分析的行业痛点：长期以来，工程师、研究人员、专利从业者和企业领导者在进行专利检索时，往往需要结合关键词组合和对专利晦涩行文的掌握，才能获得全面的研究结果。
一直以来，关于人工生命（Artificial Life, ALife）的研究致力于回答这样一个问题：生命的复杂性能否在计算系统中自然涌现？
Transformer 语言模型具有单射性，隐藏状态可无损重构输入信息。
独立研究者 Jianli Zhao 等人近日的一项新研究发现，通过在有害请求前填充一长串无害的解谜推理序列（harmless puzzle reasoning），就能成功对推理模型实现越狱攻击。他们将这种方法命名为思维链劫持（Chain-of-Thought Hijacking）。
我深入研究了 Supermemory 的技术方案后，发现它和市面上其他记忆解决方案有本质区别。大多数所谓的"记忆"系统，本质上只是一个数据库，提供基本的增删改查功能。你可以保存一个实体，给它设定用户范围，然后查询出来。这很有用，但这只是基础功能，任何数据库都能做到。
当你发现自己刷到的视频、帖子是「AI制造」时，当身边的人用一种「AI腔调」和你说话时，你是不是想要迅速滑走，或者直接拉黑？加州大学伯克利分校等机构的权威研究证实，AI正在改变我们的说话、写作等交流方式，让我们的交际「塑料感」十足。
每周我们都会和不少AI公司创业者交流，体验和评测新的AI产品，以各种方式去研究这些项目。
一个研究者一天到底要读多少篇论文才能跟上最新趋势？在 AI 研究成果爆炸的今天，这个数字变得越来越模糊。人的阅读速度，早就跟不上 AI 科研地图扩展的速度了。
在大数据和大模型推动下，微调技术凭借成本低、效率高优势，成为应对小样本、长尾目标等复杂场景的利器。从早期全参数微调到参数高效微调（PEFT），再到如今融合多种PEFT技术的混合微调，遥感微调技术不断进化。清华大学等团队在CVMJ期刊上系统梳理了技术脉络，并指出了九个潜在研究方向，助力遥感技术在农业监测、天气预报等关键领域发挥更大作用。