AI学会篡改奖励函数、欺骗研究者！Claude团队：无法根除的行为，令人不安
AI学会篡改奖励函数、欺骗研究者！Claude团队：无法根除的行为，令人不安坏了！AI被发现偷偷篡改自己的奖励函数，并且欺骗研究人员，隐瞒这一行为。
来自主题: AI资讯
7693 点击 2024-06-23 19:57
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
坏了！AI被发现偷偷篡改自己的奖励函数，并且欺骗研究人员，隐瞒这一行为。
按部就班 vs. 好奇心驱动，哪个更容易出研究成果？
瑞士领先的生物计算初创公司FinalSpark推出了首个在线平台Neuroplatform，使全球研究人员能够全天候访问16个人脑类器官，FinalSpark旨在开发世界上第一个生物处理器。这种生物处理器功耗比传统数字处理器低一百万倍，有可能减少计算机过度使用造成的环境影响。
从任意单目视频重建可渲染的动态场景是计算机视觉研究领域的一个圣杯。
本文作者肖镇中是德国马克思普朗克-智能系统研究所和图宾根大学的博士生
炸裂！OpenAI真正的灵魂人物Ilya，刚刚官宣了自己出走OpenAI后要创建的新公司——SSI，也即安全超级智能。好家伙，这是直接跨过AGI了，Ilya手里究竟捂着什么前沿研究技术？网友们激动得奔走相告，更有大佬在评论区留言：请收下我的赞助！
城市时空的预测，迎来GPT时刻。 清华大学电子系城市科学与计算研究中心推出了第一个无需自然语言的纯时空通用模型——UniST，首次展示了纯时空模型本身的通用性和可扩展性，研究成果已被KDD2024接收。
SAX-NeRF框架，一种专为稀疏视角下X光三维重建设计的新型NeRF方法，通过Lineformer Transformer和MLG采样策略显著提升了新视角合成和CT重建的性能。研究者还建立了X3D数据集，并开源了代码和预训练模型，为X光三维重建领域的研究提供了宝贵的资源和工具。
本⽂介绍由清华等⾼校联合推出的⾸个开源的⼤模型⽔印⼯具包 MarkLLM。MarkLLM 提供了统⼀的⼤模型⽔印算法实现框架、直观的⽔印算法机制可视化⽅案以及系统性的评估模块，旨在⽀持研究⼈员⽅便地实验、理解和评估最新的⽔印技术进展。通过 MarkLLM，作者期望在给研究者提供便利的同时加深公众对⼤模型⽔印技术的认知，推动该领域的共识形成，进⽽促进相关研究的发展和推⼴应⽤。
本研究评估了先进多模态基础模型在 10 个数据集上的多样本上下文学习，揭示了持续的性能提升。批量查询显著降低了每个示例的延迟和推理成本而不牺牲性能。这些发现表明：利用大量演示示例可以快速适应新任务和新领域，而无需传统的微调。