苹果也在蒸馏大模型，给出了蒸馏Scaling Laws
苹果也在蒸馏大模型，给出了蒸馏Scaling Laws蒸馏模型的性能可以量化估算了。
来自主题:
AI资讯
7930 点击 2025-02-14 15:41
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
蒸馏模型的性能可以量化估算了。
已读乱回的智能客服，逼疯当代人
7B大小的视频理解模型中的新SOTA，来了！
没有治理的人工智能？一场等待发生的灾难。我们经常听说数据治理和人工智能是矛盾的，一个注重控制，另一个注重速度和创新。但如果我告诉你数据治理实际上是一个人工智能加速器呢？
可穿戴设备新发展周期，完成AI从“功能附加”到“核心能力重构”的转变。
让DeepSeek代替Claude思考，缝合怪玩法火了。原因无它：比单独使用DeepSeek R1、Claude Sonnet 3.5、OpenAI o1模型的效果更好。DeepClaude应用本身100%免费且开源，在GitHub上已揽获3k星星（当然API要用自己的）。
三星发布Galaxy S25系列，强调AI功能和数据安全。
DeepSeek掀起的算力热潮还在持续。中国电信昨日宣布推出了息壤智算一体机-DeepSeek版，在硬件层面以华为昇腾芯片为基础，提供8卡、16卡、32卡等多种规格型号。此前，京东云也发布DeepSeek大模型一体机，支持华为昇腾、海光、寒武纪、摩尔线程、天数智芯等国产AI加速芯片。《科创板日报》了解到，华鲲振宇也推出了DeepSeek大模型一体机方案。
近日，微软和剑桥大学公布推理新方法：多模态思维可视化MVoT。新方法可以边推理，边「想象」，同时利用文本和图像信息学习，在实验中比CoT拥有更好的可解释性和稳健性，复杂情况下甚至比CoT强20%。还可以与CoT组合，进一步提升模型性能。
以大语言模型为代表的AI在智力方面已经逐渐逼近甚至超过人类，但能否像人类一样有痛苦、快乐这样的感知呢？近日，谷歌团队和LSE发表了一项研究，他们发现，LLM能够做出避免痛苦的权衡选择，这也许是实现「有意识AI」的第一步。
2025 年普遍被认为是智能体爆发元年，AI 应用将出现井喷式增长。然而，在大家纷纷将目光投向智能体的同时，另一个 AI 领域也可能迎来它的「ChatGPT 时刻」。
Gemini的提示词注入防线，又被黑客给攻破了。
判断哪些是凑热闹的供应商
继昨天决定免费之后，百度刚刚又发布一则重磅消息——下一代文心模型，决定开源！而且官宣内容只有一句话（字少事大的感觉）：我们将在未来几个月中陆续推出文心大模型4.5系列，并于6月30日起正式开源。
2025年了，马上我的公众号两周年就要到了。
不知道是不是因为今年是禧年（天主教圣年，会有重大宗教活动）的缘故，不少宗教类 App 近期频频出现在笔者视野中，既有白鲸出海之前关注过的 Hallow，也有不少新面孔。
史上最大规模视觉语言数据集：1000亿图像-文本对！
在人类探索自然奥秘的征途中，科学工具的革新始终是突破认知边界的核心驱动力。2024年诺贝尔化学奖的颁发，标志着人工智能（AI）正式登上科学研究的核心舞台——三位获奖者通过AI驱动的蛋白质结构预测与设计，破解了困扰生物学半个世纪的难题，并实现了“从无到有”的蛋白质创新设计。
涌现（Emergence），是生成式AI浪潮的一个关键现象：当模型规模扩大至临界点，AI会展现出人类一般的智慧，能理解、学习甚至创造。
脑机接口技术炙手可热，马斯克的Neuralink更是吸引了全球目光。然而其侵入式方案的风险不容忽视。Meta AI则另辟蹊径，近日推出了非侵入式的Brain2Qwerty深度学习模型，它能通过分析脑电图或脑磁图「读」出人们在键盘上输入的文字。
去的这个春节，用AI占卜成为热潮，AI占卜成为家庭互动的新娱乐活动。在当下城市里，用AI占卜，也是年轻人宣泄压力的隐秘出口。蛇年除夕夜，AI占卜占领了重庆人陈洛的合家欢时刻。
“春节回来，咨询融科的客户多了很多很多。”DeepSeek爆红后，其研发团队所在的北京融科资讯中心也意外火了起来。投资界获悉，DeepSeek北京办公室还将迎来一位新邻居——此前华为租下数千平方米面积，正在装修。
近日，斯坦福、UC伯克利等多机构联手发布了开源推理新SOTA——OpenThinker-32B，性能直逼DeepSeek-R1-32B。其成功秘诀在于数据规模化、严格验证和模型扩展。
大模型不再是“力大飞砖”。
流媒体的AI故事怎么讲
苹果或发布带屏HomePod智能家居新品。
破除“AI迷信”
一个简单的笑脸😀可能远不止这么简单？最近，AI大神Karpathy发现，一个😀竟然占用了多达53个token！这背后隐藏着Unicode编码的哪些秘密？如何利用这些「隐形字符」在文本中嵌入、传递甚至「隐藏」任意数据。更有趣的是，这种「数据隐藏术」甚至能对AI模型进行「提示注入」！
最近，DeepSeek 很热，是个好 AI，但不是每个人都能用上。
