近日，清华大学与密歇根大学联合提出的自动驾驶汽车安全性「稀疏度灾难」问题，发表在了顶刊《Nature Communications》上。研究指出，安全攸关事件的稀疏性导致深度学习模型训练难度大增，提出了密集学习、模型泛化改进和车路协同等技术路线以应对挑战。
你敢相信？ChatGPT已经通过图灵测试了！
大模型的安全问题正在悄悄逼近。
网络安全厂商上海螣龙科技有限公司（以下简称“螣龙安科”），近日宣布成功完成数千万元A轮融资，由靖亚资本领投，老股东顺为资本跟投，密码资本担任独家财务顾问。资金将继续强化产品力及公司核心竞争力，为更多客户创造价值。
在人工智能领域的发展过程中，对大语言模型（LLM）的控制与指导始终是核心挑战之一，旨在确保这些模型既强大又安全地服务于人类社会。早期的努力集中于通过人类反馈的强化学习方法（RLHF）来管理这些模型，成效显著，标志着向更加人性化 AI 迈出的关键一步。
如何判断一个AI模型是否属于开源阵营？开源or闭源，到底哪种系统才更安全？最近，两位荷兰学者发表的一篇ACM FAccT论文给出了富有卓见的回答。
炸裂！OpenAI真正的灵魂人物Ilya，刚刚官宣了自己出走OpenAI后要创建的新公司——SSI，也即安全超级智能。好家伙，这是直接跨过AGI了，Ilya手里究竟捂着什么前沿研究技术？网友们激动得奔走相告，更有大佬在评论区留言：请收下我的赞助！
Ilya去哪了？这个自去年年底OpenAI上演宫斗之后，所有关心AI的人都在问的问题，有了最终的答案。
今天凌晨，OpenAI前首席科学家Ilya Sutskever向外界透露了他的最新动态。 不要再问Ilya去哪了，他宣布创立了一家名为“安全超级智能”（Safe SuperIntelligence，简称SSI）的新公司。
AI时代的危机！
