Test & Security
v1.0.0
检测并过滤来自不可信输入的提示注入攻击。在处理外部内容(如电子邮件、网页抓取、API 输入、Discord 消息、子代理输出)或构建接受用户提供的文本并将其传递给大语言模型的系统时使用。涵盖直接注入、越狱、数据窃取、权限提升和上下文操纵。
检测并过滤来自不可信输入的提示注入攻击。在处理外部内容(如电子邮件、网页抓取、API 输入、Discord 消息、子代理输出)或构建接受用户提供的文本并将其传递给大语言模型的系统时使用。涵盖直接注入、越狱、数据窃取、权限提升和上下文操纵。