「EUCの悪夢」と同じ轍を踏まぬよう、「CISOがおさえておきたいAIセキュリティの基本」を公開 JNSA
日本ネットワークセキュリティ協会（JNSA）のCISO支援ワーキンググループ（WG）はこのほど、CISO（最高情報セキュリティ責任者）などに向けた資料「CISOがおさえておきたいAIセキュリティの基本」を公開しました。生成AIがビジネスの現場に急速に浸透する中、企業が直面する新たなセキュリティ上の脅威と、それに対抗するためのガバナンスのあり方を体系的に整理しています。
公表された資料はイベント「Security Days Spring 2026 Tokyo」での講演をベースとしたもの。AIセキュリティを議論するための土台として位置づけ、広範にわたるAIのセキュリティを分類、その中からCISOが実務上もっとも直面する懸念点を取り上げて、アプローチ方法などを提示しています。
まず、AIのセキュリティといったとき、①AIシステム自体を守る「Security for AI」②AIを活用して守る「Security by AI」③安全・信頼性を指す「AI Safety / Responsible AI」④AIの悪用対策「AI Misuse / Abuse Security」⑤安全なAIの利用を指す「Secure Use of AI」などがあります。このうち主に③安全・信頼性を指す「AI Safety / Responsible AI」と⑤安全なAIの利用を指す「Secure Use of AI」について取り上げ、CISOにとっての懸念を4つの観点から整理しています。
具体的には、①データ・データ入力に係る懸念②IT統制上の懸念③システムの応答に係る懸念④AIシステムへのサイバー攻撃への懸念――です。資料では、利用ツールの承認フローの確立やセキュリティレビューの義務化を推奨しています。
例えば、利用を許可するAIサービスの選定基準と承認フローを整備し、AIで扱うデータをクラス分けして管理します。さらに、シャドーAIを防止するためガバナンスルールの策定や検索拡張生成（RAG）を導入する際にはアクセス権の引き継ぎ要件の確認も必須とします。
加えて、AIチャットボットの乗っ取りを防ぐための多要素認証（MFA）の徹底や、ハルシネーション、著作権侵害といったリスクに対処するための法務・知財部門を巻き込んだリスク評価体制の構築の重要性も説いています。
さらに、現場の担当者が独自に作成したExcelマクロなどが管理不能になる過去の教訓、エンド・ユーザー・コンピューティング（EUC）の悪夢を引き合いに出し、AI時代には「コードを見ないシステム開発が蔓延する」と警鐘を鳴らしました。AIコード生成ツールを使えばITの専門知識がない社員でもシステムを作成できます。しかし、それらが管理の行き届かない未統制のシステムとなったとき、脆弱性が放置されたり、認証トークンが漏洩したりするリスクが高いと懸念を示しました。
一方で「AIを活用しないことがリスクになる」と断言しています。AIは調査や企画策定、検証において強力なアシスタントであるとし、利用に際しては、「責任と権限は利用者にある」という自覚を持つことの重要性を訴えました。
このほか、AIに関するセキュリティインシデント事例も掲載されています。ソフトウェアサプライチェーン攻撃の実例を挙げ、OSSやプロダクトの公開サイト、開発環境、開発者への侵害が目立つと指摘しています。
