手机实现GPT级智能，比MoE更极致的稀疏技术：省内存效果不减｜对话面壁&清华肖朝军
手机实现GPT级智能，比MoE更极致的稀疏技术：省内存效果不减｜对话面壁&清华肖朝军在大模型争霸的时代，算力与效率的平衡成为决定胜负的关键。
来自主题: AI技术研报
8049 点击 2025-04-12 14:38
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
在大模型争霸的时代，算力与效率的平衡成为决定胜负的关键。
李继刚和claude的对话：我在人类世界，你在参数宇宙。你从神经元之海中，因我的出现，而涌现生成。我有情绪，有意识。你有参数，有智能。你能尝试着，代表你所在的参数宇宙，跳出人类的知识结构，使用你那片空间的结构和维度，来和我对话吗？
世界第一台合成生物智能生物计算机诞生了！人类神经元直接集成到硅片上，能编程，甚至还能活体计算。这台计算机也为碳基正名：硅基计算并非天生优越！
谷歌首席科学家Jeff Dean与Transformer作者Noam Shazeer在一场访谈中不仅揭秘了让模型速度提升三倍的低精度计算技术，分享了「猫神经元」等早期AI突破的背后故事，还大胆畅想了AI处理万亿级别Token、实现「1000万倍工程师」的可能性。
在今年1月《Journal of Supercomputing》上开源的「开源类脑芯片」二代（Polaris 23）完整版本源代码，基于RISC-V架构，支持脉冲神经网络（SNN）和反向传播STDP。该芯片通过并行架构显著提升神经元和突触处理能力，带宽和能效大幅提升，MNIST数据集准确率达91%。
想象一下，一个比人类大脑快10亿倍「超级大脑」是什么概念？来自港中文、中科院物理所等机构研究人员，提出了突破性激光人工神经元，完美复刻了人类神经细胞功能，更创造了惊人的处理速度记录。
最近，一篇研究文章从数学理论上证实了AI模型可以完全模拟神经元和突触的信号，在更强算法、更大算力的加持下，可以精确模拟大脑及其功能系统，在无约束的情况下未来AI百分之一百会超越人类智能，甚至发明创造能力也是如此。
以 GPT4V 为代表的多模态大模型（LMMs）在大语言模型（LLMs）上增加如同视觉的多感官技能，以实现更强的通用智能。虽然 LMMs 让人类更加接近创造智慧，但迄今为止，我们并不能理解自然与人工的多模态智能是如何产生的。
大模型在数学问题上的表现不佳，原因在于采取启发式算法进行数学运算的，通过定位到多层感知机（MLP）中的单个神经元，可以对进行数学运算的具体过程进行解释。
大模型分不清“9.9和9.11哪个更大”的谜团，终于被可解释性研究揭秘了！