AI Agent安全不能只靠Prompt了:上海AI Lab探索Agent安全进化新范式
AI Agent安全不能只靠Prompt了:上海AI Lab探索Agent安全进化新范式大模型 Agent 进入浏览器、邮件、数据库和业务系统后,安全评估如果仍只检查最终回复是否包含有害内容,覆盖面会明显不足。Agent 需要规划步骤、读取外部信息并调用工具,风险可能出现在执行过程中的任一环节。
搜索
大模型 Agent 进入浏览器、邮件、数据库和业务系统后,安全评估如果仍只检查最终回复是否包含有害内容,覆盖面会明显不足。Agent 需要规划步骤、读取外部信息并调用工具,风险可能出现在执行过程中的任一环节。
前不久,微信视觉团队开源了WeMM-Embedding。
两年半多,终于等到一次反转!
从今天起,Claude Cowork 和 Claude Chat 将合并为一个统一的 Claude。
Z Potentials独家获悉,LiberAI完成新一轮数亿元Pre-A++轮融资,投资方包括中关村科学城、达晨财智、高信资本、华映资本等。5个月内,LiberAI已获得红杉中国、真格基金、美团龙珠、顺为资本等顶级机构的连续押注,累计融资超十亿。
盼了三个月,今天 Seed-2.1-pro 终于迭代了 图片
当 AI Agent 开始连续数小时替人工作,真正有价值的就不只是最终成果,还有藏在会话(Session)里的整个过程:它做过什么、哪里失败、为何改变方向。
近日,一家由 OpenAI 和 Google DeepMind 前研究人员创办的公司公布了过去一年的多项进展。
要论造词和包装概念,AI 圈要是自认第二,恐怕就没人敢称第一。
马斯克最新「宫殿」曝光—— 一辆位于美国孟菲斯的Airstream拖挂房车。