提示注入变异数据集
数据来源：互联网公开数据
标签：提示注入,变异数据,安全分析,自然语言处理,机器学习,文本生成,对抗攻击,数据增强,模型鲁棒性
数据概述：
本数据集包含多种提示注入变异样本，旨在研究和分析提示注入攻击的潜在风险及其影响。数据集涵盖了不同类型的提示注入变异，包括随机单词插入、翻译回译、错别字引入等，每个样本均经过标准化处理。每个条目包含以下字段：
- Prompt：生成的提示变异样本
- Length：提示的令牌数量
- Perplexity：基于预训练模型计算的困惑度
- Embedding：基于MiniLM模型生成的令牌嵌入
- Class：用于生成样本的文本变换类型
数据用途概述：
该数据集适用于研究提示注入攻击的安全性、模型鲁棒性评估以及对抗攻击检测等多个场景。研究人员可利用此数据集分析不同变异策略对模型输出的影响，探索防御机制；开发者可基于数据集测试模型的抗攻击能力，优化模型设计；安全领域的从业者可借此识别潜在的提示注入风险，提升系统安全性。此外，数据集还可用于学术研究和教育培训，帮助理解提示注入攻击的机制及其对自然语言处理模型的影响。
