警惕 AI“罕见”危险行为！Anthropic 发文：一次评估失败也可能造成灾难性后果
警惕 AI“罕见”危险行为！Anthropic 发文：一次评估失败也可能造成灾难性后果对齐科学的主要目标之一，是在危险行为发生之前，预测人工智能（AI）模型的危险行为倾向。
来自主题: AI资讯
5153 点击 2025-02-27 10:05
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
对齐科学的主要目标之一，是在危险行为发生之前，预测人工智能（AI）模型的危险行为倾向。
又一家头部量化机构完成了 AI 领域的关键落子。
一份AI公司死亡名单
昨天，Claude 3.7 Sonnet 正式发布。根据目前的各项测评，这个模型可以说是全宇宙最好的代码生成模型，超越了 DeepSeek R1 和 OpenAI 的 o3 等模型。如果你是程序员，一定要第一时间切换过去，用下这款模型。
Meta的作业不好抄。
2月26日消息，据知情人士透露，作为OpenAI的最大支持者，微软最近取消了部分AI数据中心的租约，这可能反映出其对于“过度建设AI算力”的担忧。自那以来，微软股价持续走低，相关公司也受到拖累，科技股被抛售。
上周末，一则来自北京某医院神经外科主任医师的视频引发关注。据这位医师介绍，他曾用 DeepSeek 协助诊断了一位超复杂脑瘤患者的病情，并给出了超高评价：“对于这种较为深入的医学问题，DeepSeek 至少展现出了与省级三甲医院专家相当的水平。”
Kimi未来还能够翻盘吗？ 从公司发展路径上来看，并非没有可能。 作为曾经对OpenAI技术跟随最快的公司，Kimi在去年做出了Kimi探索版、k0-math等多个跟随OpenAI技术的模型，而杨植麟本人也在采访中，表示大模型的未来不仅在于强化学习，还在于多模态能力。 这一点似乎也与OpenAI类似。
近日，在红点创投（Redpoint Venture）的播客“Unsupervised Learning”上，红点创投合伙人Jacob Effron与David Luan进行了一次访谈。他们从技术视角出发，探讨了DeepSeek给大模型领域的研究和实践带来的启示，并围绕AI模型当下瓶颈的思考和潜在的突破方向做了分享。
CNBC 报道称，开发 AI 搜索引擎的 Perplexity 公司，正在筹集 5000 万美元的种子和预种子投资基金。尽管大部分资金来自有限合伙人，但 Perplexity 将部分用于公司发展的资金作为该基金的锚定资本。据报道，Perplexity 在去年 12 月以 90 亿美元的估值筹集了 5 亿美元。
嚯，万众期待的GPT-4.5，本周就要空降发布？！部分用户的ChatGPT安卓版本（1.2025.056 测试版）上，已经出现了“GPT-4.5研究预览（GPT-4.5 research preview）”的字样。
即日起，北京时间每日00:30-08:30为错峰时段，API 调用价格大幅下调：DeepSeek-V3 降至原价的50%，DeepSeek-R1降至25%，在该时段调用享受更经济更流畅的服务体验。具体价格参看图2.
Claude 3.7 Sonnet制作的游戏中，贪吃蛇居然惊现自我意识，甚至经历了一场存在主义危机！它开始思考：我是谁？我在这里做什么？网友们大受震撼：要是游戏里有这样的NPC，那就绝了。
最新消息，斯隆奖得主、姚班校友马腾宇大模型创业成果，被收购！ 收购方是MongoDB，一家开源数据库上市龙头。
当AI开始普及时，什么行业会最先受到影响？这个问题在过去曾经引起过不少争议，不过现在或许已经有了答案：翻译。近日，腾讯宣布将关停旗下的腾讯翻译君业务，包括app、在线网站和小程序都将在3月13日11:00正式关停，后续不再提供任何在线服务，并将删除所有用户的个人信息。
相较于阿里、京东等电商老大哥在AI大模型布局上的如火如荼，有黑马之称的拼多多却失声了。 这两年来，拼多多不仅在AI大模型上没有大动作，即便是在国内外公司热火朝天接入Deepseek的当下，拼多多也“稳如泰山”，丝毫没有要凑热闹的意思。
当传统音乐制作仍被繁复的乐理知识与高昂的录音成本筑起高墙，一群理想主义者正用AI重新书写规则。从乐队主唱到AI音乐创业者，郭靖（Joe）的十年探索，恰是音乐行业从“精英创作”向“全民表达”演进的时代缩影——他曾因工具掣肘埋没作品，却在自学编程的硅谷岁月里顿悟：技术不该是艺术的门槛，而应是创作者的翅膀。
在AI行业新诞生的「多模态交互」赛道上，声网发布的「对话式AI引擎」，让所有文本大模型秒变多模态，具备实时语音对话能力，补齐了大模型「失语」的短板。
目前的 AI 行业，除了大模型外，竞争最激烈的可能就是 AI 编程了。昨天的文章《用 AI 解决专利纠纷半年 ARR 增 20 倍，Anthropic 再融 35 亿美金》里我还调侃 AI 编程正在经历百编大战，没想到今天这个行业又来了一些新消息。
部署 DeepSeek 系列模型，尤其是推理模型 DeepSeek-R1，已经成为一股不可忽视的潮流。
开源模型，还是得看杭州。
尽管 OpenAI 和 Anthropic 的收入倍数在过去一年中下降，但 AI 应用开发者如 Perplexity 和 Writer 的收入倍数却上升，分析显示了十几家 AI 初创公司的估值和收入增长情况。
这一波 DeepSeek 的泼天流量，各种大小公司都在吃。为什么，一夜之间，所有产品都在宣传自家接入了 DeepSeek 呢？主要原因是 DeepSeek 官网无法满足全世界人民日益增长的 DeepSeek 使用需求。
我叫海玮，喜欢做有趣的产品。 前创业者：大学创办过年流水200w的公司。曾拿过种子轮投资、天使轮投资意向。目前正在做的产品是魂旅：魂旅是一款ai云旅游电台app，是提供给那些当下不方便旅游，但是又憧憬远方和自由的用户，做到肉体在上班，灵魂仍可出游万里的效果。
DeepSeek 的开源周已经进行到了第三天（前两天报道见文末「相关阅读」）。今天开源的项目名叫 DeepGEMM，是一款支持密集型和专家混合（MoE）GEMM 的 FP8 GEMM 库，为 V3/R1 的训练和推理提供了支持，在 Hopper GPU 上可以达到 1350+ FP8 TFLOPS 的计算性能。
今天带你们见识下新时代的永动机——AI网红。
昨天的AI新闻有点太密集了，肝快废了。
Pauline Clavelloux的创业故事展现了一个在全职工作压力下，通过AI技术打造成功应用的典型案例。以下是她从IBM全职员工到创建年收入约10万美元的AI应用IA Crea的详细过程，涵盖了从想法生成到市场验证、开发与推广的各个环节。
DeepSeek崛起，ChatGPT在美国高校如何稳占C位？
AI 女友来 “抢戏”，单身狗的福音，生育率 “emo”？