o1被曝“心机深”：逃避监督还会撒谎，骗人能力一骑绝尘
o1被曝“心机深”：逃避监督还会撒谎，骗人能力一骑绝尘o1满血版刚发布，就被曝： 骗人技能也拉满了。 具体行为包括但不限于，在回答中故意引入微小错误、试图关闭监督机制……甚至在人类追问其是否诚实时，还会继续撒谎说自己啥坏事也没干。
来自主题: AI技术研报
6448 点击 2024-12-08 14:02
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
o1满血版刚发布，就被曝： 骗人技能也拉满了。 具体行为包括但不限于，在回答中故意引入微小错误、试图关闭监督机制……甚至在人类追问其是否诚实时，还会继续撒谎说自己啥坏事也没干。
那时GPT-2刚刚发布，我很清楚技术的发展轨迹，这样的模型表面上是互联网或网页的模型，但肯定会带来一些非常有趣的东西。于是我打电话给Nick和其他的朋友们，我说“我们应该弄清楚怎么打造这些东西”。
11月26日，我们在硅谷Menlo Park举办了一场主题为「AI机器人与可穿戴设备未来」的线下活动。在「The Right and Cool Way of Building Robots」环节中，我们邀请到K-Scale Labs的 CTO 兼联合创始人 Pawel Budzianowski，一起探讨如何在创业公司中正确而有趣地开发机器人，和围绕这一主题的方方面面。
豆包支持在图片里面直接生成中文了。国内首家！ 我们火速上手试玩了一波，效果真的很不错。
OpenAI“双12”刚进行到第二天，就把大模型圈搅得好不热闹！ 一边是Meta没预告就发布了Llama 3.3，70B版本就能实现以前405B的性能。
以 GPT4V 为代表的多模态大模型（LMMs）在大语言模型（LLMs）上增加如同视觉的多感官技能，以实现更强的通用智能。虽然 LMMs 让人类更加接近创造智慧，但迄今为止，我们并不能理解自然与人工的多模态智能是如何产生的。
就在刚刚，OpenAI 年底的 AI 春晚迎来了第二弹。 如果说昨天的 ChatGPT Pro 订阅计划震撼了普通用户的钱包，那么今天推出的产品则转向了不同的目标客户群体——企业机构和开发者。
近两年来，AI技术取得了重大发展。与此同时，对于使用版权内容进行AI模型训练争议不断，各国也都在积极探索适合自身的规制框架。
今年有机会上下半年都花了不少时间待在湾区和日本东京，近距离观察两个对于SaaS与软件最肥沃的土壤是如何从犹豫、了解到拥抱AI。有人认为今年是AI落地的元年，有人已经认为不及预期，更多人愿意把答案交给时间，我是后者。但正是在混沌中才有机会可寻，才能激发创新。
融合物理知识的大型视频语言模型PhysVLM，开源了！ 它不仅在 PhysGame 基准上展现出最先进的性能，还在通用视频理解基准上（Video-MME, VCG）表现出领先的性能。