Agent Breaker

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
Agent Breaker
访问
11
18397

在生产部署前中断、测试并保护 AI 智能体


Agent Breaker 是一款面向 AI 代理的混沌工程与安全测试框架,目前在 PyPI 已有超过 2000 次安装。它可以在部署前针对 LangGraph 应用进行提示注入、工具滥用等对抗场景测试,通过自动化对抗测试、故障检测报告和基于机器学习的评估,帮助开发者在用户使用前发现问题,构建更安全可靠的 AI 代理。