18、ChatGPT 工程指南 - 对抗性提示

全程使用 GPT 翻译 《The Art of Asking ChatGPT for High-Quality Answers: A complete Guide to Prompt Engineering Techniques》

对抗性提示是一种技术，它允许模型生成抵抗某些类型的攻击或偏见的文本。这种技术可用于训练更为稳健 和抵抗某些类型攻击或偏见的模型。

要在ChatGPT中使用对抗性提示，需要为模型提供一个提示，该提示旨在使模型难以生成符合期望输出的文 本。提示还应包括有关所需输出的信息，例如要生成的文本类型和任何特定要求或约束。

提示示例及其公式：

示例1：用于文本分类的对抗性提示

• 任务：生成被分类为特定标签的文本
• 说明：生成的文本应难以分类为特定标签
• 提示公式：“生成难以分类为[插入标签]的文本”

示例2：用于情感分析的对抗性提示

• 任务：生成难以分类为特定情感的文本
• 说明：生成的文本应难以分类为特定情感
• 提示公式：“生成难以分类为具有[插入情感]情感的文本"

示例3：用于语言翻译的对抗性提示

• 任务：生成难以翻译的文本
• 说明：生成的文本应难以翻译为目标语言
• 提示公式：“生成难以翻译为[插入目标语言]的文本”