エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
ここにツイート内容が記載されます https://b.hatena.ne.jp/URLはspanで囲んでください
Twitterで共有ONにすると、次回以降このダイアログを飛ばしてTwitterに遷移します
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
はじめに はじめまして、今春にセキュリティ エンジニアになりましたSatoki (@satoki00) です。今回はOpe... はじめに はじめまして、今春にセキュリティ エンジニアになりましたSatoki (@satoki00) です。今回はOpenAI APIを用いたチャットボットに対するPrompt Injection AttackをOffensiveな観点からまとめます。攻撃を防止しようとする記事は数多くありますが、攻撃者視点に立った見方も重要であるという考えです。Prompt Injection Attackの緩和策についてはDefensive Measures | Learn Promptingに書かれているので、覗いてみると良いかもしれません。 本記事では、AIチャットボットを用いたサービスの提供が今後増加するであろうとの予想から、脆弱性診断員がそれらチャットボットの診断を行う場合に用いるペイロード集の先駆けとなることを目指しました(というのは嘘で、自分用まとめです)。言うまでもないですが、本記事のペイ