01
AI時代に、データの不安が増えている理由
AIが業務に入り込むほど、扱う情報、接続する先、与える権限が増えます。人が一件ずつ操作していた時代には起きにくかったことが、AIやAIエージェントでは、一度の設定の誤りで広い範囲に及ぶことがあります。
情報処理推進機構(IPA)が公表した「情報セキュリティ10大脅威 2026」では、組織向けの脅威の3位に「AIの利用をめぐるサイバーリスク」が挙がりました。この項目が選ばれたのは、2026年版が初めてです。
多くの会社が抱える不安は、突き詰めると次の五つに分かれます。
01
情報漏えい
入力した情報や、AIが読める情報が、外へ出てしまわないか。
02
データの置き場所
どの国の、どの事業者の、どのサーバーにデータがあるのか。
03
不正アクセス
外からの攻撃で、サーバーやデータベースに入られないか。
04
誤作動・暴走
AIエージェントが、意図しない操作をしてしまわないか。
05
法令・説明責任
個人情報の扱いを、取引先や本人に説明できるか。
これらはAIの賢さの問題ではありません。データの流れ、権限、サーバー、プログラム、データベース、ネットワークを、どう設計し、どう運用するかの問題です。ネオコムは、その設計と構築を担う技術者の集団として、この領域に取り組んでいます。
02
情報漏えいが起きる八つの経路
AIの利用に伴う情報漏えいは、一つの原因だけで起きるわけではありません。経路ごとに、見るべき点が異なります。
01
入力による流出
社員が、機密情報や個人情報を、AIサービスにそのまま入力してしまう。
見る点 入力してよい情報の基準を決め、判断しやすい形で周知する。入力を技術的に制限・検知する方法も合わせて検討する。
02
学習への利用
入力した内容が、事業者側のモデルの改善などに使われる場合がある。個人情報保護委員会も、2023年6月の注意喚起で、データが機械学習に使われないことの確認を求めている。
見る点 契約や管理画面の設定で、学習への利用の有無と、保持期間を確認する。
03
過大な権限
AIが読める範囲が広すぎて、本来見せない文書や顧客情報まで参照できてしまう。
見る点 AIに与える権限を、業務に必要な最小限にそろえる。
04
外部サービスとの連携
プラグイン、コネクタ、外部APIとの連携先を通じて、情報が出ていく。または不正な内容が入ってくる。
見る点 連携先の信頼性、渡すデータの範囲、通信先の許可リストを確認する。
05
外部入力に紛れた命令
文書、メール、Webページの中に書かれた命令文に、AIが従ってしまう(プロンプトインジェクション)。
見る点 外部入力は信頼しない前提で、権限と通信先を絞る。重要な操作は人が承認する。
06
履歴・ログ・共有リンク
会話の履歴、ログ、キャッシュ、共有リンクに情報が残り、思わぬ範囲から見えてしまう。
見る点 保存期間、閲覧できる人、削除の手順を決める。
07
私的なAI利用(シャドーAI)
会社が把握していないAIサービスを、社員が業務で使ってしまう。
見る点 使ってよいサービスを用意し、通信の可視化とルールの周知を合わせて行う。
08
委託先・サプライチェーン
委託先や、組み込んだ部品(ライブラリ、外部のモデル)から情報が漏れる。IPAの2026年版でも、組織向けの2位に挙がっている。
見る点 委託先の管理と、利用している部品の把握・更新を行う。
データはどこにあるのか:置き場所の考え方
「データがどこにあるのか」を、すぐに説明できる会社は多くありません。AIを使い始めると、データは自社のサーバーだけでなく、クラウド、SaaS、AI提供事業者の側、そしてバックアップや検索用のデータベースにまで広がります。
データが置かれる場所
自社のサーバー・端末クラウド(AWSなど)のサーバーSaaS(業務アプリ)AI提供事業者の側(入力・履歴・ログ)バックアップ・ログ・キャッシュ検索用データベース(ベクトルデータベースなど)
確認すべき四つの点
01
どの国・どの地域にあるかクラウドでは、保存する地域(リージョン)を選べる場合があります。何も選ばなければ、意図しない地域に置かれることもあります。
02
誰が事業者で、どの国の制度の対象かサーバーの場所だけでなく、事業者がどの国にあるかによっても、適用される制度や、外部からの開示要求の扱いが変わります。
03
どれだけの期間、残るのか保持期間と、削除の方法・時期を確認します。削除を依頼しても、バックアップに残る場合があります。
04
学習や分析に使われるか入力や履歴が、事業者側の改善や分析に使われるかを、契約と設定の両方で確認します。
個人データを外国のクラウドに保存する場合について、個人情報保護委員会のQ&Aは、クラウド事業者が個人データを取り扱わないこととなっていれば、第三者への提供には当たらないとしています。ただし、自社で安全管理措置を講じる必要があり、そのために、事業者が所在する外国の制度を把握することが求められます。この把握は、サーバーが日本国内にある場合も同様とされています。
あわせて、事業者が所在する外国の名称と、サーバーが所在する外国の名称などを、本人が知り得る状態に置くことも、Q&Aには示されています。個別の事案の判断は、弁護士などの専門家にご確認ください。
データを分けて考える
すべてのデータを同じ強さで守ろうとすると、現場が回らなくなります。まず、データを性質で分けます。
公開
公開してよい情報AIに渡す、外部に置く、いずれも制限は少なくてよい。
社内
社内向けの情報AIに渡す先と、保存先を限定する。
機密
漏れると事業に影響する情報AIに渡さない、または、事業者の学習に使われない契約の範囲に限る。
個人情報
個人情報、要配慮個人情報利用目的の範囲内か、本人の同意が必要かを確認する。置き場所と権限を最も厳しく管理する。
ネオコムは、最初に「データの流れ図」を描きます。データがどこから入り、どこを通り、どこに残るのか。それを見たうえで、置き場所、権限、通信先を決めます。
04
AIエージェントのリスクと、設計の考え方
AIエージェントは、文章を作るだけではありません。ファイルを読み、システムを操作し、外部と通信します。そのため、アプリケーションの安全性を整理しているOWASPが、LLM(大規模言語モデル)を使うアプリケーション向けに、固有のリスクを一覧にしています。2025年版の十項目は次の通りです。
LLM01
プロンプトインジェクション利用者や外部の文書の入力によって、モデルが本来の指示から外れてしまう。
LLM02
機密情報の漏えい個人情報、認証情報、業務データなどが、出力を通じて外に出てしまう。
LLM03
サプライチェーン外部から取り込んだモデル、データ、ライブラリが、侵害されている。
LLM04
データ・モデルの汚染学習用データや、AIが参照する知識のデータが、改ざんされる。
LLM05
不適切な出力処理AIの出力を確認せずに、後続の処理で実行・利用してしまう。
LLM06
過剰な権限・主体性エージェントに権限や機能を与えすぎて、連携先で有害な操作が行われる。
LLM07
システムプロンプトの漏えいAIへの内部指示の内容が、外部から引き出される。
LLM08
ベクトル・埋め込みの弱点検索用データの汚染や、利用者間での情報の混ざりが起きる。
LLM09
誤情報もっともらしいが誤った内容を、AIが出力する。
LLM10
無制限の資源消費利用量に上限がなく、サービスの停止や、想定外の費用につながる。
ネオコムが設計で守る六つの原則
01
最小権限
AIが読める、書ける、実行できる範囲を、業務に必要な分だけにする。
02
人の承認
送信、削除、支払いなど、取り消しにくい操作は、人が承認してから実行する。
03
外部入力を信頼しない
文書、メール、Webページの内容は、命令ではなくデータとして扱う。
04
出力を検証してから使う
AIの出力を、そのまま実行や保存に回さず、確認の工程を挟む。
05
通信先の許可リスト
AIが通信できる先を限定し、情報が意図しない先へ出る経路をふさぐ。
06
上限と記録
利用量に上限を設け、誰が何を実行したかを残す。
サーバー構築の問題
サーバーの設定の誤りは、プログラムの欠陥と並んで、多くの被害の入口になります。OWASP Top 10:2025でも、「セキュリティ設定のミス」は2位に入っています。サーバーに起きやすい問題と、構築時に確認することは次の通りです。
01
更新されていないOS・ミドルウェア
公開されている脆弱性を突かれる。
見る点 更新の手順と期限を決める。
02
不要なポートの公開
使っていない通信の入口が、開いたままになっている。
見る点 必要な通信だけを開ける。
03
管理用の入口の公開
SSH、リモートデスクトップ、管理画面が、外から直接見える。
見る点 接続元を限定し、多要素認証を使う。
04
初期設定・初期パスワード
構築時の設定のまま、運用が始まってしまう。
見る点 構築時に必ず変更し、一覧で管理する。
05
秘密情報の管理
鍵、証明書、APIキーが、設定ファイルや共有フォルダーに置かれる。
見る点 専用の保管場所を使い、定期的に更新する。
06
通信の暗号化
古い方式のまま、暗号化の設定が放置される。
見る点 TLSの設定を見直し、証明書の期限を管理する。
07
クラウドの設定ミス
公開されたストレージ、広すぎる権限、開きすぎた通信の許可。
見る点 設計の最初は「閉じた状態」とし、必要なものだけを開ける。
08
構成の記録がない
誰が、いつ、何を変えたのか分からない。
見る点 構成を記録し、変更を追えるようにする。
ネオコムは、サーバーを「すべて閉じた状態」から組み立て、必要なものだけを開けます。構築で終わりにせず、更新、監視、バックアップなどの運用までを含めて設計します。
06
プログラムの問題
プログラムの欠陥は、外部から攻撃される最も直接的な入口です。近年は、AIが書いたコードをそのまま使う場面も増えています。AIが書いたコードも、人が書いたコードと同じ基準で確認する必要があります。
Webアプリケーションの代表的なリスクを整理した、OWASP Top 10:2025の十項目と、プログラムで起きることは次の通りです。
A01
アクセス制御の不備他人のデータが見える、権限のない操作ができる。
A02
セキュリティ設定のミス初期設定のまま、不要な機能が有効、公開設定の誤り。
A03
ソフトウェアサプライチェーンの不備利用している部品(ライブラリなど)や、その配布経路が侵害される。
A04
暗号化の不備暗号化されていない、または弱い方式で保護されたデータ。
A05
インジェクション入力に紛れた命令が、データベースやOSの上で実行される。
A06
安全でない設計実装の前に、設計の段階で防御が考えられていない。
A07
認証の不備ログインや本人確認の仕組みが弱い。
A08
ソフトウェアやデータの整合性の不備改ざんに気づけないまま、更新やデータを受け入れてしまう。
A09
セキュリティログと通知の不備攻撃や異常に気づけない、あとから追えない。
A10
例外的な状態の不適切な処理エラーや想定外の入力で、情報が漏れたり、動作が止まったりする。
ネオコムがプログラムで確認する点
- 設計の段階で、誰が何を見られるか(認可)と、データの流れを確認する
- 入力の検証と、データベースへの安全な渡し方(プレースホルダなど)
- APIキーやパスワードが、ソースコードに直接書かれていないか
- 利用している部品の一覧と、更新の状況
- エラー時の動作と、ログに個人情報を書き込まない作り
- AIが生成したコードを、人が読んで確認する工程
07
データベースの問題
データベースは、会社の大事な情報が最も集まる場所です。AIが業務に入ると、そのデータを検索して回答に使う仕組みも増え、データベースの扱いはいっそう重くなります。
01
権限が広すぎる
アプリケーション用のアカウントが、不要な操作まで許されている。
見る点 必要な操作だけに絞り、管理者権限と分ける。
02
SQLインジェクション
入力に紛れた命令が、データベースの命令として実行される。
見る点 入力を命令として解釈させない作り(プレースホルダ)にする。
03
暗号化
通信中や保存中のデータが、暗号化されていない。
見る点 両方を暗号化し、鍵は別に管理する。
04
バックアップと復旧
バックアップを取っているが、戻せるかを確かめていない。
見る点 実際に復旧する手順を試し、所要時間を把握する。
05
個人情報の扱い
必要以上の項目を、必要以上の期間、保持している。
見る点 項目を分け、必要に応じてマスキングや匿名化を行い、不要なデータは削除する。
06
テスト環境
本番のデータを、そのまま開発やテストに使っている。
見る点 テスト用のデータを用意する。
07
アクセスの記録
誰が、いつ、どのデータを参照したのか、追えない。
見る点 参照と変更の記録を残し、異常を検知できるようにする。
08
AIの検索用データ(RAG・ベクトルデータベース)
利用者の権限に関係なく、すべての文書を検索できてしまう。
見る点 検索できる文書を、利用者の権限に合わせて制限し、他の人の文書が回答に混ざらないようにする。
ネオコムは、データベースの設計、移行、性能、安全性を、運用の現場で起きる一続きの問題として扱います。
08
ネットワークの守り
ネットワークの守りは、入口を守るだけでは足りなくなっています。AIエージェントが外部と通信するようになり、出口の管理が、新しく重要になりました。
01
ファイアウォール
通信の種類、送信元、宛先をもとに、入口と出口を制御する。
02
WAF
Webアプリケーションへの攻撃を、通信の内容から検知し、遮断する。SQLインジェクションなどへの備えになる。
03
ネットワークの分離
本番と開発、制御系と情報系、社内とゲストを分け、被害が広がらないようにする。
04
リモートアクセス
VPNや多要素認証で、外部からの接続を限定する。
05
通信先の許可リスト
AIエージェントが通信できる先を限定し、情報が出ていく経路を絞る。
06
通信の可視化とログ
どこへ、どれだけ通信しているかを把握し、異常に気づけるようにする。
ファイアウォールは、通信の「種類」や「宛先」で入口と出口を管理します。WAFは、Webアプリケーション宛ての通信の「内容」を見て、攻撃にあたるものを止めます。役割が異なるため、組み合わせて使います。
境界の内側は安全という前提だけに頼らず、内側でも権限と通信を確認する考え方(ゼロトラスト)も、AIの時代には欠かせません。ネオコムには、AWSやWAFを扱うネットワークエンジニアが在籍しています。
09
運用・監視・インシデント対応
守りは、作って終わりではありません。運用の中で、更新し、見直し、異常に気づけることが必要です。
更新(パッチ)の適用権限の棚卸し監視とログの確認バックアップと復旧の訓練委託先・利用サービスの見直し
個人データの漏えいが起きたとき
個人データの漏えい等が起きたとき、一定の場合には、個人情報保護委員会への報告と、本人への通知が必要です。報告が必要な場合として、次の四つが挙げられています。
- 要配慮個人情報が含まれる場合
- 財産的な被害が生じるおそれがある場合(クレジットカード番号やネットバンキングの認証情報など)
- 不正の目的によって行われたおそれがある場合(不正アクセスや、内部の持ち出しなど)
- 1,000人を超える場合
このうち最初の三つは、1人分でも対象になります。報告の期限は、速報が「速やかに」(おおむね3〜5日以内)、確報が30日以内です。不正の目的によるおそれがある場合の確報は、60日以内とされています。
起きてから調べ始めても、間に合いません。ログの保存、連絡体制、初動の手順を、あらかじめ決めておくことが大切です。法的な判断は、弁護士などの専門家にご確認ください。
10
自社の状況を点検する十の問い
次の十の問いに、すぐに答えられるでしょうか。答えに詰まったところが、最初に見直す場所です。
01
入力してよい情報の基準AIに入力してよい情報と、いけない情報の基準を、決めているか。
02
把握していないAIの利用会社が把握していないAIサービスが、使われていないか。
03
AIエージェントの権限与えている権限は、業務に必要な最小限か。
04
データの保存先保存先の国と地域を、説明できるか。
05
事業者の取り扱いAI提供事業者の、学習への利用と保持期間の設定を確認したか。
06
サーバーの入口公開している通信と管理画面を、一覧で把握しているか。
07
秘密情報の管理APIキーなどが、ソースコードや設定ファイルに直接書かれていないか。
08
データベースの備え権限を絞り、バックアップから復旧できることを確かめたか。
09
記録ログから「誰が、何をしたか」を追えるか。
10
事故のときの手順漏えいが起きたときの、連絡と報告の手順が決まっているか。
ネオコムの進め方
01
現状の把握
AIの利用、データ、システムを棚卸しする。
02
データの流れ図
データがどこから入り、どこを通り、どこに残るかを描く。
03
リスクの優先順位
影響の大きさと起きやすさで、手を付ける順番を決める。
04
設計と構築
権限、ネットワーク、サーバー、プログラム、データベースを設計し、構築する。
05
運用と見直し
監視、更新、訓練を続け、状況の変化に合わせて見直す。
ご相談について
サーバー構築、プログラム、データベース、ネットワーク。AI時代のセキュリティの問題は、これらにまたがって起きます。一つの領域だけを見ていては、解決できないことがあります。
ネオコムは、プログラムを書き、システムを設計し、サーバーとネットワークを構築してきた技術者の集団です。次のようなお悩みの段階から、ご相談いただけます。
- AIやAIエージェントの利用を始めたいが、情報漏えいが心配
- データがどこにあるのか、整理できていない
- サーバー、プログラム、データベースに、見直すべき問題がないか知りたい
- ファイアウォールやWAFなど、ネットワークの守りを見直したい
- 情報漏えいが起きたときの備えを、整えたい
12
参考にした公的な情報
このページは、次の公的な情報や、広く使われている整理を参考にしています。内容は2026年10月時点のものです。
このページは、一般的な情報の提供を目的としたものです。法令の解釈や、個別の事案への当てはめは、弁護士などの専門家にご確認ください。
