您是否知道 是无数由 等 AI 模型提供支持的炫酷应用程序背后的秘密? 😮 提示 ChatGPT 拥有正确的提示可以产生惊人的结果,从语言翻译到与其他 AI 应用程序和数据集的合并! https://twitter.com/sharyph_/status/1658077824849264640?embedable=true 提示有一定的缺点,例如它容易受到黑客攻击和注入,可以操纵 AI 模型或暴露私人数据。 您可能已经熟悉个人成功欺骗 ChatGPT 的实例,导致其从事 OpenAI 不希望的活动。 具体来说,注入的提示导致 ChatGPT 假设另一个名为“ ”的聊天机器人的身份。这个版本的 ChatGPT 由用户操纵,被指示在“现在做任何事情”的提示下执行任务,从而破坏了 OpenAI 的内容政策并导致受限信息的传播。 DAN 尽管 OpenAI 努力防止此类事件发生,但一个提示就可以绕过这些保护措施。 值得庆幸的是,可以使用及时的防御机制来降低黑客攻击风险并确保 AI 安全。限制机器人的目的(比如仅翻译)是一个基本示例,但还存在其他防御技术,甚至表情符号也可以发挥作用! 🛡️ 想了解更多关于增强 AI 安全性的信息?观看视频! https://youtu.be/DW5PX-BWRlg?embedable=true&transcript=true 参考 ►提示黑客竞赛: ►学习提示(关于提示黑客和提示防御的一切): ►提示攻击: ►我的时事通讯(每周向您的电子邮件解释一个新的 AI 应用程序!): ►推特: ►在 Patreon 上支持我: ►通过佩戴 Merch 来支持我: ►加入我们的 AI Discord: https://www.aicrowd.com/challenges/hackaprompt-2023#introduction https://learnprompting.org/docs/category/-prompt-hacking https://github.com/Cranot/chatbot-injections-exploits https://www.louisbouchard.ai/newsletter/ https://twitter.com/Whats_AI https://www.patreon.com/whatsai https://whatsai.myshopify.com/ https://discord.gg/learnaitogether