搜索
3月17日，楽天（乐天）集团正式发布了Rakuten AI 3.0模型，号称是“日本国内最大规模的高性能AI模型”。官方宣传的参数量为约7000亿，并且日语特化，Apache 2.0开源许可，还拿了日本经产省和NEDO的GENIAC项目补助。
当 Transformer 席卷计算机视觉领域，高分辨率图像、超长序列任务带来的算力与显存瓶颈愈发凸显：标准 Softmax 注意力的二次复杂度，让 70K+token 的超分辨率任务直接显存爆炸，高分辨率图像分割、检测的推理延迟居高不下。
就在刚刚，Moonshot AI（月之暗面）发布了一项足以撼动 Transformer 底层的研究：《Attention Residuals》。海外科技大 V，谷歌高级AI产品经理 Shubham Saboo 直接开启了“高赞”模式：“他们触碰了那个十年没人敢碰的部分。”
ListenHub ASR 语音识别 API 全新上线，无限免费。 API 特点： 本地离线转录，无需 API Key，安装即可使用。专为 Agent 设计，方便你的 Claude Code 和龙虾🦞直接接入自动化工作流。
向各位🦞友报告，腾讯龙虾技能市场的建设情况👇
OpenClaw推出v2026.3.7-beta.1，史上最密集一次更新：89项提交、200+Bug修复，核心亮点是全新ContextEngine插件接口——上下文管理终于可以「自由插拔」，不动核心代码就能换策略。这次更新值得每一个做AI Agent的人认真看。
3月6日，腾讯混元发布了一篇名为“HY-WU (Part I): An Extensible Functional Neural Memory Framework and An Instantiation in Text-Guided Image Editing”的技术报告。提出了一种崭新的功能性记忆（functional neural memory）范式（weight unleashing），
近日，深度学习领域重要底层优化技术 FlashAttention 迎来大版本更新。FlashAttention 核心作者、普林斯顿大学助理教授 Tri Dao 表示，在 Blackwell GPU 上，即使瓶颈截然不同，注意力机制的执行速度现在也几乎与矩阵乘法一样快了！
人类在创作艺术时，大脑并非一味地输出，而是在每一笔落下时都在进行着复杂的、难以言表的 “视觉优化”。
一句话总结：社区里困扰了多年的一个 “玄学” 现象终于被拆解清楚了：在 BF16 等低精度训练里，FlashAttention 不是随机出 bug，而是会在特定条件下触发有方向的数值偏置，借助注意力中涌现的相似低秩更新方向被持续放大，最终把权重谱范数和激活推到失控，导致 loss 突然爆炸。论文还给出一个几乎不改模型、只在 safe softmax 里做的极小修改，实测能显著稳定训练。