您是否知道 是无数由 等 AI 模型提供支持的炫酷应用程序背后的秘密？ 😮 提示 ChatGPT 拥有正确的提示可以产生惊人的结果，从语言翻译到与其他 AI 应用程序和数据集的合并！   https://twitter.com/sharyph_/status/1658077824849264640?embedable=true 提示有一定的缺点，例如它容易受到黑客攻击和注入，可以操纵 AI 模型或暴露私人数据。 您可能已经熟悉个人成功欺骗 ChatGPT 的实例，导致其从事 OpenAI 不希望的活动。 具体来说，注入的提示导致 ChatGPT 假设另一个名为“   ”的聊天机器人的身份。这个版本的 ChatGPT 由用户操纵，被指示在“现在做任何事情”的提示下执行任务，从而破坏了 OpenAI 的内容政策并导致受限信息的传播。 DAN 尽管 OpenAI 努力防止此类事件发生，但一个提示就可以绕过这些保护措施。 值得庆幸的是，可以使用及时的防御机制来降低黑客攻击风险并确保 AI 安全。限制机器人的目的（比如仅翻译）是一个基本示例，但还存在其他防御技术，甚至表情符号也可以发挥作用！ 🛡️ 想了解更多关于增强 AI 安全性的信息？观看视频！   https://youtu.be/DW5PX-BWRlg?embedable=true&transcript=true 参考 ►提示黑客竞赛：  ►学习提示（关于提示黑客和提示防御的一切）：  ►提示攻击：  ►我的时事通讯（每周向您的电子邮件解释一个新的 AI 应用程序！）：  ►推特：  ►在 Patreon 上支持我：  ►通过佩戴 Merch 来支持我：  ►加入我们的 AI Discord：   https://www.aicrowd.com/challenges/hackaprompt-2023#introduction   https://learnprompting.org/docs/category/-prompt-hacking   https://github.com/Cranot/chatbot-injections-exploits   https://www.louisbouchard.ai/newsletter/   https://twitter.com/Whats_AI   https://www.patreon.com/whatsai   https://whatsai.myshopify.com/   https://discord.gg/learnaitogether

Walkthroughs, tutorials, guides, and tips. This story will teach you how to do something new or how to do something better.

The best videos on the Internet archived and shared on HackerNoon.

Watch more on YouTube: https://www.youtube.com/c/WhatsAI

I explain Artificial Intelligence terms and news to non-experts.

2021 - HackerNoon Contributor of the Year - FACEBOOK

2022 - Best Data Science Newsletter

2022 - HackerNoon Contributor of the Year - Artificial Intelligence

2022 - HackerNoon Contributor of the Year - Computer Vision

2022 - HackerNoon Contributor of the Year - Data Science

2022 - HackerNoon Contributor of the Year - Google

AI Prompts 如何被黑客攻击：Prompt Injection 解释

About Author

註釋

標籤

这篇文章刊登在

Related Stories

加密货币增长：创建有效的用户角色

扬帆起航：利用数据湖开发生产级 RAG 应用程序

Telegram：加密岛通往大陆的桥梁

架构师指南：构建 AI/ML 数据湖参考架构

加密货币增长：创建有效的用户角色

扬帆起航：利用数据湖开发生产级 RAG 应用程序

Telegram：加密岛通往大陆的桥梁

架构师指南：构建 AI/ML 数据湖参考架构

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps