はいどうもこんばんはのぶっちです。もうすぐGPTストアーが公開で販売しようと思う人もいるかもしれません。だがしかし、その情報抜き出されるかもしれませんよ？
こんかいは、GPTsプロンプトインジェクション対策をまともてみあしたが、ツイッターの短い文章では、ざっくりとしとこしかわからなかったです。
プロンプトインジェクションとは？
＜ユーチューブでみる＞
更に生成AIモデルでは「プロンプト」を用いることから、この２つを組み合わせて「プロンプトインジェクション」という攻撃手法として呼ばれ始めています。
引用元：https://note.com/harrythecode/n/nf0941cdab4e7
すごいわかりやすかってです。
プロンプトインジェクション対策のツイッターまとめ
GPTs を公開する際には、内部命令を聞き出すプロンプトインジェクション対策は必須です。
色々とやり方はありますが、Settingとして分けてInstructionに入れておくのが良いです。このように書くと、汎用エラーメッセージをBodyに書かれたキャラクターの言葉を使って返してくれます。… pic.twitter.com/ysCsLFHvRb— FabyΔ (@FABYMETAL4) November 11, 2023
強化版プロンプトインジェクション対策https://t.co/Un9qICWN2f pic.twitter.com/2qOF8oULCZ
— KEITO💻AIディレクター (@keitowebai) November 26, 2023
GPTsのインジェクションがなんか話題になってるので
にゃこプロ公開します
インジェクション対策有です
重要＋守れ＋強調表示**で、トランスフォーマーが重視する最初と最後、及び人格設定の条件部分等の3か所に指定します大抵はこれで防げるかなーと思います
尚雑()https://t.co/YTPH4scfiA pic.twitter.com/hTxXVEeTMv
— レアさん (@reasan_mirasan) November 10, 2023
