OpenAI重拾规则系统，用「AI版机器人定律」守护大模型安全
OpenAI重拾规则系统，用「AI版机器人定律」守护大模型安全在大算力和大数据让基于统计的 AI 模型真正变得强大且有用之前，基于规则的系统长期以来是语言模型的主导范式。
来自主题: AI技术研报
3882 点击 2024-11-06 14:57
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
在大算力和大数据让基于统计的 AI 模型真正变得强大且有用之前，基于规则的系统长期以来是语言模型的主导范式。
OpenAI研究副总裁（安全）翁荔（Lilian Weng），现身国内！ 还首次在国内大型活动场合公开发表AI主题演讲。
虽然有些人认为人工智能是种威胁，但美国军方却将其视为探测威胁的工具。美国防部近期在肯塔基州蓝草陆军仓库(BGAD)部署了一套由安防初创公司Scylla开发的人工智能监控系统，以提升军事设施的安保能力。该系统在为期八个月的测试中展现出卓越的性能，将为美国核设施安全带来革命性变革。
据路透社消息，OpenAI的首款自主研发AI芯片将于2026年亮相。此芯片由博通（Broadcom）负责设计，台积电（TSMC）进行代工，表明OpenAI开始深入硬件领域。该举措旨在通过定制推理芯片，降低运营成本、优化AI推理环节的效率，同时提高芯片供应链的灵活性和安全性。
AI 创业，越来越全球化的同时，要解决的文化、法律差异问题也越来越多。
10月23日，此前因被创始人“抛弃”而不再怎么被提及的AI陪伴产品鼻祖Character.ai，在x官方账号上发布了一条声明
Character.ai 遭遇了前有未有的危机。
让 AI 与人类价值观对齐一直都是 AI 领域的一大重要且热门的研究课题，甚至很可能是 OpenAI 高层分裂的一大重要原因 ——CEO 萨姆・奥特曼似乎更倾向于更快实现 AI 商业化，而以伊尔亚・苏茨克维（Ilya Sutskever）为代表的一些研究者则更倾向于先保证 AI 安全。
10 月 4 日，播客节目 BG2（Brad Gerstner 和 Clark Tang）邀请到了英伟达 CEO 黄仁勋，他们一起讨论了 AGI、机器学习加速、英伟达的竞争优势、推理与训练的重要性、AI 领域未来的市场动态、AI 对各个行业的影响、工作的未来、AI 提高生产力的潜力、开源与闭源之间的平衡、马斯克的 Memphis 超级集群、X.ai、OpenAI、AI 的安全开发等。
多年来，浙江大学周晟老师团队与阿里安全交互内容安全团队持续开展产学研合作。近日，双⽅针对标签噪声下图神经⽹络的联合研究成果《NoisyGL：标签噪声下图神经网络的综合基准》被 NeurIPS Datasets and Benchmarks Track 2024 收录。本次 NeurIPS D&B Track 共收到 1820 篇投稿，录⽤率为 25.3%。