o1被曝“心机深”：逃避监督还会撒谎，骗人能力一骑绝尘
o1被曝“心机深”：逃避监督还会撒谎，骗人能力一骑绝尘o1满血版刚发布，就被曝： 骗人技能也拉满了。 具体行为包括但不限于，在回答中故意引入微小错误、试图关闭监督机制……甚至在人类追问其是否诚实时，还会继续撒谎说自己啥坏事也没干。
来自主题: AI技术研报
5643 点击 2024-12-08 14:02
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
o1满血版刚发布，就被曝： 骗人技能也拉满了。 具体行为包括但不限于，在回答中故意引入微小错误、试图关闭监督机制……甚至在人类追问其是否诚实时，还会继续撒谎说自己啥坏事也没干。
自从 Chatgpt 诞生以来，LLM（大语言模型）的参数量似乎就成为了各个公司的竞赛指标。GPT-1 参数量为 1.17 亿（1.17M），而它的第四代 GPT-4 参数量已经刷新到了 1.8 万亿（1800B）。
那时GPT-2刚刚发布，我很清楚技术的发展轨迹，这样的模型表面上是互联网或网页的模型，但肯定会带来一些非常有趣的东西。于是我打电话给Nick和其他的朋友们，我说“我们应该弄清楚怎么打造这些东西”。
就在刚刚，OpenAI 年底的 AI 春晚迎来了第二弹。 如果说昨天的 ChatGPT Pro 订阅计划震撼了普通用户的钱包，那么今天推出的产品则转向了不同的目标客户群体——企业机构和开发者。
OpenAI最新交互数据，就这么水灵灵被奥特曼全抖出来了： 每周超过3亿活跃用户 每天用户们在上面发送10亿条消息 130万美国开发者使用OpenAI开发，全球数量更庞大
苹果今日向iPhone用户推送了 iOS 18.2 RC 更新（内部版本号：22C150），本次更新距离上次发布 Beta/RC 间隔15天。
o1满血版这次不搞灰度了，发布仅4个小时后，已推送给所有（付费）用户！ 手快的网友已经耍起来了～
OpenAI与Anduril合作开发军事AI，聚焦反无人机系统。 ChatGPT开发商、全球人工智能领军企业OpenAI，本周正式向军事领域迈出了实质性的一步
一天前，OpenAI 官方 X 账户的一条推文将 AI 社区的期待值拉满了。这家世界头部 AI 公司宣布将在未来的 12 天进行 12 场直播，发布一些「大大小小的新东西」。
提前过年了。OpenAI昨天在X上发推文，说从12月5日开始，要进行为期十二天的发布会，美国西部时间每天上午十点，每天挤一点点牙膏。这个配置非常像美国流行的圣诞倒数日历，每天开一个小奖，有一个小惊喜，直到节日来临。