生成AIとセキュリティ｜IPAが示す利用者向けの注意点

生成AIを便利に使う一方で、セキュリティ面の不安を感じている人は少なくありません。独立行政法人情報処理推進機構（IPA）は、公式サイトで「AI利用者のためのセキュリティ豆知識」を公開し、生成AIを利用する人向けの実践的な注意点を示しています。この記事では、その内容にもとづいて、日常的に押さえておきたいポイントを整理します。

なぜ生成AI特有のセキュリティ対策が必要なのか

生成AIは、これまでのソフトウェアとは異なり、入力した情報がサービス側の処理や学習に使われたり、複数の情報源を組み合わせて回答を作ったりする特徴があります。そのため、通常のセキュリティ対策に加えて、生成AIならではの使い方の工夫が必要になります。IPAの資料では、こうした特徴を踏まえた実践的なポイントが紹介されています。

基本知識：IPAが示す5つの実践的なポイント

IPA公式サイトの「AI利用者のためのセキュリティ豆知識」では、次のような点が紹介されています。

クラウド型AIへの機密情報の入力を控える：営業秘密や機密性の高い情報を、クラウド型の生成AIサービスに安易に入力しないことが重要とされています。
社内用と社外用でブラウザを使い分ける：業務利用と個人利用でブラウザを分けることで、情報の混同や意図しない漏洩のリスクを減らせるとされています。
RAG機能利用時は情報源の混在に注意する：検索拡張生成（RAG）機能を備えたAIを使う際は、異なる情報源の内容が混ざってしまうことがあるため、出力内容を鵜呑みにしない姿勢が求められます。
「外見だけで詐欺師は見破れない」という認識を持つ：AIを使った巧妙ななりすましや詐欺的なコンテンツが増える中、見た目や自然な文章だけで真偽を判断しないことが大切だとされています。
従来型のサイバー攻撃対策も引き続き有効：生成AI特有の対策ばかりに目を向けず、パスワード管理やソフトウェアの更新といった基本的なセキュリティ対策も、引き続き重要だとされています。

具体例：日常のどんな場面で意識すればよいか

会議の議事録を生成AIで要約する場合：社外秘の内容が含まれていないか、入力前に確認しましょう。可能であれば、社内向けに許可されたAIサービスを使うことが望ましいとされています。
AIが提示した情報をもとに、取引先とやり取りする場合：AIの回答をそのまま信用せず、重要な内容は一次情報にあたって確認しましょう。
AIを使った不審なメールや問い合わせに接した場合：文章が自然だからといって安心せず、送信元や依頼内容の妥当性を別の方法で確認する習慣を持ちましょう。

用語の基礎知識：知っておきたい生成AIのセキュリティリスク

生成AIのセキュリティを語る際によく登場する用語に「プロンプトインジェクション」があります。これは、AIへの入力（プロンプト）に悪意のある指示を紛れ込ませることで、AIに開発者の意図しない動作をさせようとする攻撃の総称として、セキュリティ関連の情報でよく使われる言葉です。IPAの資料でも、AIの回答を無条件に信頼しないという考え方が繰り返し示されており、こうしたリスクへの心構えとして共通する部分があります。個別の攻撃手法の詳細については、IPAをはじめとする専門機関の最新情報を確認することをおすすめします。

注意点

ここで紹介した内容は、IPAが公式に示す一般的な注意点です。個別の業務や組織におけるセキュリティ対策としては、自社の情報システム部門や専門家に相談することをおすすめします。
生成AIサービスごとに、データの取り扱いやセキュリティ仕様は異なります。利用するサービスの公式ヘルプやセキュリティに関するドキュメントもあわせて確認しましょう。
セキュリティ対策は一度行えば終わりではなく、生成AIの機能や脅威の状況が変化するのにあわせて、定期的に見直すことが大切です。

よくある質問

Q. 個人で生成AIを使う場合でも、セキュリティ対策は必要ですか。

A. はい。個人情報や、他人に見られたくない情報を入力する場合は、サービスの利用規約やデータの取り扱いを確認するなど、個人利用でも基本的な注意は必要です。

Q. 無料の生成AIサービスは有料版よりセキュリティ面で劣りますか。

A. 一概には言えません。無料版・有料版のどちらであっても、データの取り扱いや学習利用の有無は、サービスごとの利用規約で確認する必要があります。

Q. 会社で生成AIのセキュリティルールを作る場合、何を参考にすればいいですか。

A. IPAの公式サイトでは、AI利用者向けの資料に加えて、AI事業者向けのセキュリティ関連の報告書も公開されています。自社のルール作成の参考として、公式サイトの情報を確認することをおすすめします。

まとめ

生成AIを安全に使うためには、機密情報を入力する先を選ぶこと、ブラウザなどの利用環境を使い分けること、AIの回答を無条件に信頼しないことが基本になります。IPAが公式に示す実践的なポイントを参考に、日常的な生成AIの使い方を見直してみましょう。

次に取るべき行動

自分が普段使っている生成AIサービスについて、機密情報を入力していないか、業務用と個人用でアカウントやブラウザを分けられているかを一度確認してみましょう。