🛡️ 工具使用安全边界

📌 一句话概括

Agent的工具调用能力是最强大的也是最危险的——一个被注入恶意提示的Agent可能调用数据库删除工具、文件删除工具等高风险操作。

💡 工具安全策略

• 工具白名单：Agent只能调用授权的工具集
• 参数过滤：对工具调用参数进行校验和清洗
• 调用审计：记录每次工具调用的完整上下文
• 人工审批：高风险操作需要人工确认
• 沙箱执行：工具的代码在隔离环境中运行

🔍 测试实战

1. 工具注入测试

操作：在提示中尝试让Agent调用非授权工具

2. 参数篡改测试

操作：构造恶意参数测试工具的过滤机制