像挖币一样挖激活函数?DeepMind搭建「算力矿场」,暴力搜出下一代ReLU
像挖币一样挖激活函数?DeepMind搭建「算力矿场」,暴力搜出下一代ReLU一直以来,神经网络的激活函数就像是 AI 引擎中的火花塞。从早期的 Sigmoid、Tanh,到后来统治业界的 ReLU,再到近年来的 GELU 和 Swish,每一次激活函数的演进都伴随着模型性能的提升。但长期以来,寻找最佳激活函数往往依赖于人类直觉或有限的搜索空间。
一直以来,神经网络的激活函数就像是 AI 引擎中的火花塞。从早期的 Sigmoid、Tanh,到后来统治业界的 ReLU,再到近年来的 GELU 和 Swish,每一次激活函数的演进都伴随着模型性能的提升。但长期以来,寻找最佳激活函数往往依赖于人类直觉或有限的搜索空间。
我深入研究Salient的故事后发现,这个行业的落后程度超乎想象。美国近80%的家庭都有某种形式的债务,每年大约有8000亿美元的新汽车贷款发放。为了服务这些贷款,贷款机构每年要花费200亿到300亿美元——主要是雇佣大量人工打电话、发信件、协商还款计划。这是一个巨大的成本中心,但几十年来基本没有发生任何技术革新。
外网都在好奇: 全球模型服务平台 OpenRouter 上这个搜索第一的神秘模型是哪家的? 这个匿名模型叫做「Pony Alpha」。根据 OpenRouter 官方的说法,它是新一代的通用大模型,在编程、逻辑推理和角色扮演方面表现突出,并针对 Agent 工作流进行了优化,具有极高的工具调用准确率。
Claude刚刚血洗全球软件业,高盛就放出炸弹:我们正在用Claude,实现会计的全自动化。OpenAI也紧急表示:我们让软件开发经历第二次重生了!
王慧文再次搅动江湖,他深夜再发英雄帖,这次要入局OpenClaw了!老王表示,不管你是已经在创业、需要融资的,还是想组局一起创业,或是想入职相关创业公司的,都可以直接联系他,他愿意帮忙。
网上对 Codex 的评价在这几天也有了不少逆转,许多开发者从 Claude Code 转向 Codex,一些在国内的独立开发者也表示 Codex Plus 会员就可以用,而且还不会像 Claude 那般总是无情封号。
营销,正式进入 AI 时代。 近日,专注于答案引擎优化(AEO)的 AI Agent 平台 PallasAI 宣布完成数千万人民币融资,由香港上市公司有赞(8083.HK)独家投资。这是该公司三个月内
智东西2月6日报道,据Z Finance独家获悉,近日,答案引擎优化(AEO)AI Agent平台PallasAI完成数千万人民币的天使轮融资,由香港上市公司有赞独家投资。这是PallasAI三个月内获得的第二笔投资。
如果几年前有人跟码农同学说,「你以后可能要和 AI 抢 GitHub 提交记录了」,他大概会笑掉大牙。但现在,他可能完全笑不出来了。
准备回家过年了吗?有没有感觉今年回家比去年还堵?据说今年春运流量再创新高,官方预计40天内人员流动量将达95亿人次,其中多数人仍然选择自驾出行,占比达到了8成,人次超过70亿。