提示注入
Prompt Injection
恶意内容试图诱导智能体忽略原任务或泄露信息。
资料里夹了一张假便条，骗助理执行不该做的事。
这个比方用于帮助入门，并不覆盖技术实现的所有细节。
浏览网页、读邮件、调用工具时必须防范。
先从实际任务理解概念，比死记英文缩写更有效。
仅把系统提示写得更严厉通常不够。
如果这个概念会影响费用、数据或安全，请继续查看官方文档。
Prompt Injection
这个比方用于帮助入门，并不覆盖技术实现的所有细节。
先从实际任务理解概念，比死记英文缩写更有效。
如果这个概念会影响费用、数据或安全，请继续查看官方文档。