Weights & Biases 展示 AI 代理防御提示注入的对比实验

Weights & Biases 展示了一项关于 AI 代理安全性的对比实验。在处理包含提示注入的对抗性邮件时，未受保护的代理直接泄露了客户的社保号和银行卡号；而使用了特定工具的代理则成功脱敏数据并拦截了注入攻击，同时生成了有效回复。该案例直观展示了安全工具在防范大模型提示注入和隐私泄露中的实际效果。