プロンプトインジェクション

プロンプトインジェクションとは、Webサイトやメール、文書といったコンテンツの中に隠された悪意ある指示によって、AIエージェントが意図しない操作をしてしまうリスクを指します。Anthropic公式ヘルプによると、たとえば文書の中に、目に見...