社交平台Bluesky近期爆火，有人认为它可能取代X（原Twitter）。 作为新晋的社交平台，Bluesky在上周已突破2000万用户。在过去一周，Bluesky每天都有将近100万的新用户注册。特别是在美国大选结果揭晓后，大量的用户离开马斯克的X，转向Bluesky。
之前领导OpenAI安全团队的北大校友翁荔（Lilian Weng），离职后第一个动作来了。当然是发～博～客。这次的博客一如既往万字干货，妥妥一篇研究综述，翁荔本人直言写起来不容易。主题围绕强化学习中奖励黑客（Reward Hacking）问题展开，即Agent利用奖励函数或环境中的漏洞来获取高奖励，而并未真正学习到预期行为。
“我女儿上小学二年级，整天沉迷一款AI剧情聊天软件，学习成绩一落千丈。”
Meta最近开源了多个AI项目，包括图像分割模型SAM 2.1、多模态语言模型Spirit LM、自学评估器和改进的跨语言句子编码器Mexma等，提升了AI在图像处理和语音识别领域的能力，进一步推动了AI研究的进展。
获评2024年度模型风险管理产品。
企业AI的基本技术架构也已经达成共识：强大的AI模型+图技术加持的RAG+Agent搭建+安全护栏。
近年来，代码语言模型（Language Models for Code，简称 CodeLMs）逐渐成为推动智能化软件开发的关键技术，应用场景涵盖智能代码生成与补全、漏洞检测与修复等。
利用概念激活向量破解大模型的安全对齐，揭示LLM重要安全风险漏洞。
2024 年，AI 大模型从「以分计价」跨入「以厘计价」的时代。
大模型的发展呈现出追风逐日般的速度，但与之相伴的安全问题，也是频频被曝光。
