不用额外缓存！英伟达开源大模型记忆压缩方案，128K上下文提速2.7倍
不用额外缓存！英伟达开源大模型记忆压缩方案，128K上下文提速2.7倍提高大模型记忆这块儿，美国大模型开源王者——英伟达也出招了。
来自主题: AI技术研报
8781 点击 2026-01-14 15:29
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
提高大模型记忆这块儿，美国大模型开源王者——英伟达也出招了。
预测到次贷危机的「大空头」Michael Burry看到数万亿美元涌入AI基础设施，产生深深的怀疑。他预言：英伟达的优势并不持久，可能很快就会被对手战胜。而且，如今全球AI算力已经达到1500万H100 GPU当量，即将引爆严重能源危机！
GRPO 是促使 DeepSeek-R1 成功的基础技术之一。最近一两年，GRPO 及其变体因其高效性和简洁性，已成为业内广泛采用的强化学习算法。
英文达杰出科学家Jim Fan表示，我正全身心投入一个单一使命：为机器人解决「Physical Turing Test」（物理图灵测试）。 这是AI的下一个挑战，甚至可能是「终极挑战」。
目前最新的消费级 GPU，还是去年在 CES 上正式发布的 RTX 50 系列。其中必然有内存全球大涨价的原因，当前市场的内存成本，一周之内就能涨价 50%-100%，并且多个分析机构表示，涨价会持续到 2027 年。
刚开年，马斯克就到账了200亿美金！（是谁听到了金币的声音~
今天，马斯克旗下AI创企xAI宣布，已经完成规模200亿美元（约合人民币1396.8亿元）的E轮融资。本轮融资获得超额认购，远远超过原定的150亿美元目标。xAI本轮融资的投资方阵容豪华。英伟达和思科作为战略投资方，将持续支持xAI快速扩展算力基础设施
CES巨幕上，老黄的PPT已成中国AI的「封神榜」。DeepSeek与Kimi位列C位之时，算力新时代已至。
「每隔 10 到 15 年，计算行业就会革新一次，每次都会催生出新形态的平台。现在，有两个转变在同时进行：应用将会构建于 AI 之上，你构建软件的方式也将改变。」
Meta腾出CoWoS排产「让路」，加上台积电的积极扩产，2026年谷歌把TPU的「算力水龙头」拧到最大，预期产能飙升至430万颗，猛攻英伟达CUDA护城河。