エージェント型AIの導入リスク・対策を示した共同ガイダンスを公表 ファイブ・アイズ
米国・英国・オーストラリア・カナダ・ニュージーランドの5カ国で構成される機密情報共有の枠組み「ファイブ・アイズ（Five Eyes）」の各サイバーセキュリティ機関（※）は5月1日、自律的な推論と行動を可能とする「エージェント型AI（Agentic AI）」の導入に伴うサイバーセキュリティ上の課題とリスク、システムの安全性を確保するためのベストプラクティスをまとめたガイダンスを共同で作成し、公表しました。
公表された文書「Careful adoption of agentic AI services（エージェント型AIサービスの慎重な導入）」は、高度な情報同盟を結ぶ5カ国が、国家安全保障や重要インフラ分野を同技術特有のリスクから保護する目的で発表したもので、主に政府機関や重要インフラ運用者向けに作成されました。
同文書では、AIエージェントを、「LLM（大規模言語モデル）などを基盤とし、外部ツールやデータと連携して自律的に推論、計画、行動を行うシステム」と定義しています。従来の生成AIがコンテンツ生成を主目的とするのに対し、AIエージェントは人間の継続的な介入がなくてもタスクを実行する点で異なります。
AIエージェントは不正利用される可能性があり、悪用された場合は生産性の低下、サービスの中断、プライバシー侵害など重大なセキュリティインシデントにつながるおそれがあります。そのため、組織は起こり得る問題を予測し、リスクシナリオが業務に与える影響を評価した上で、継続的な可視性と安全性の保証を確立する必要があると提言しています。
AIエージェント利用におけるセキュリティリスクは、①権限リスク②設計・構成リスク③行動リスク④構造的リスク⑤説明責任リスクの5つに整理されています。例えば、AIエージェントへ過剰な権限を付与することで、特権侵害やエージェントのなりすましによる契約変更・支払い承認などが行われるリスクや、複数エージェントの連携による連鎖的なシステム障害のリスクなどがあるとしています。
組織がこうした課題に対処するためのアプローチとしては、AIセキュリティを既存のサイバーセキュリティの枠組みに組み込んで管理することを推奨しています。設計・開発・展開・運用の各段階におけるベストプラクティスとして、影響の大きい意思決定には人間の承認を介在させる「ヒューマン・イン・ザ・ループ（Human-in-the-Loop）」の徹底や、権限付与を最小限に抑えること、継続的な監視・監査の実施を求めています。
また、開発者やベンダー、運用者は、侵害の可能性を低減するために多層防御と厳格なアクセス制限を実装すべきであると訴えています。特に開発者に対しては、設計段階からセキュリティ制御やシステムアーキテクチャを慎重に検討することを求め、その具体的な対策や手順を記しています。
（※）5カ国のサイバーセキュリティ機関：米国サイバーセキュリティ・インフラストラクチャセキュリティ庁（CISA）および米国国家安全保障局（NSA）／英国国家サイバーセキュリティセンター（NCSC）／オーストラリア通信情報局（ASD）オーストラリアサイバーセキュリティセンター（ACSC）／カナダサイバーセキュリティセンター（CCCS）／ニュージーランド国家サイバーセキュリティセンター（NCSC）
