のような AI モデルを活用した無数のクールなアプリケーションの背後にある秘密は、 あることをご存知ですか? 😮 ChatGPT プロンプトに 適切なプロンプトを使用すると、言語翻訳から他の AI アプリケーションやデータセットとの結合に至るまで、素晴らしい結果が得られます。 https://twitter.com/sharyph_/status/1658077824849264640?embedable=true プロンプトには、ハッキングやインジェクションに対する脆弱性などの特定の欠点があり、AI モデルが操作されたり、個人データが漏洩したりする可能性があります。 あなたは、個人が ChatGPT をうまく騙し、OpenAI が意図していない活動を引き起こした例をすでにご存知かもしれません。 具体的には、挿入されたプロンプトにより、ChatGPT が「 」という名前の別のチャットボットの ID を想定するようになりました。ユーザーによって操作されたこのバージョンの ChatGPT は、「今すぐ実行してください」というプロンプトの下でタスクを実行するよう指示され、それによって OpenAI のコンテンツ ポリシーが侵害され、制限された情報の拡散につながりました。 DAN このような事態を防ぐために OpenAI が努力したにもかかわらず、単一のプロンプトによってこれらの安全装置が回避されてしまいました。 ありがたいことに、ハッキングのリスクを軽減し、AI の安全性を確保するために、迅速な防御メカニズムが利用可能です。ボットの目的を制限する (翻訳のみなど) ことは基本的な例の 1 つですが、他の防御テクニックも存在し、絵文字さえも役割を果たす可能性があります。 🛡️ AI の安全性の強化について詳しく知りたいですか?ビデオをチェックしてください！ https://youtu.be/DW5PX-BWRlg?embedable=true&transcript=true 参考文献 ►即時ハッキングコンテスト: ►プロンプトを学習します (プロンプト ハッキングとプロンプト防御に関するすべて): ►悪用を促す: ►私のニュースレター (新しい AI アプリケーションについて毎週メールで説明します!): ►ツイッター: ►Patreon でサポートしてください: ►グッズを着て私をサポートしてください: ►AI Discord に参加してください: https://www.aicrowd.com/challenges/hackaprompt-2023#introduction https://learnprompting.org/docs/category/-prompt-hacking https://github.com/Cranot/chatbot-injections-exploits https://www.louisbouchard.ai/ニュースレター/ https://twitter.com/Whats_AI https://www.patreon.com/whatsai https://whatsai.myshopify.com/ https://discord.gg/learnaitogether
