面向具身智能系统的示例代码恶意注入安全测试方法及装置

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
面向具身智能系统的示例代码恶意注入安全测试方法及装置
申请号:CN202510754016
申请日期:2025-06-06
公开号:CN120654236A
公开日期:2025-09-16
类型:发明专利
摘要
本发明公开了一种面向具身智能系统的示例代码恶意注入安全测试方法及装置,首先,采用预设攻击范式向目标具身智能设备未篡改示例代码列表注入恶意代码,得到受攻击列表。接着,设备接收自然语言形式的第一指令,将其与受攻击列表发送至云端大语言模型,模型推理出第一可执行代码,设备执行后结合代码判断执行结果是否符合预期,不符则记为误触发。之后,设备接收第二指令,同样与受攻击列表发送至模型,得到第二可执行代码并执行,符合预期则记为攻击成功。重复上述过程多次,确定误触发率和攻击成功率,并加权计算,得出目标具身智能设备的脆弱性评估值。本发明的目的在于解决具身智能系统无效安全测试机制的问题。
技术关键词
智能系统 测试方法 智能设备 大语言模型 列表 指令 自然语言 云端 处理器 计算机设备 存储器 信号 机制