医療現場の生成AI導入におけるセキュリティの重要性に関する共同提言を公表 HAIP/HIJ
医療AIプラットフォーム技術研究組合（HAIP）とHealth ISAC Japan（HIJ）は5月7日、医療分野における生成AIの安全な利活用の実現に向け、「医療分野における生成AI導入に伴うセキュリティの重要性について」と題した共同提言を公表しました。
近年、医療DXの進展に伴い、診療録や患者説明文の作成などの業務改善に生成AIを活かそうとする動きが急速に広がっています。その一方で、サイバー攻撃の高度化・巧妙化に対するセキュリティ対策は十分に確立されていません。本提言はこうした課題を踏まえ、医療現場における実践的なセキュリティ確保の指針を提供するものです。
医療分野では、生成AIの誤作動やシステム停止が患者の安全や医療の継続に直接影響を及ぼすおそれがあります。これまでの医療システムは、主に入力されたデータを保存・参照するために用いられていましたが、生成AIは外部サービスや学習基盤と接続して、新たな文章や判断補助情報などを生成し、業務支援を行います。本提言では、このような生成AIを組み込んだ業務設計が情報の伝達経路や意思決定のプロセスを変えるため、新たなサイバー攻撃やシステム障害などのリスクを内包していると指摘しています。
提言では、想定される具体的な生成AI関連のインシデントとして、公開設定の不備によりチャット履歴や秘密情報が外部から閲覧できる状態になるデータベース露出、悪意ある指示の混入（プロンプトインジェクションなど）による看護記録や患者説明文の誤生成などを挙げています。加えて、サプライチェーン攻撃や外部のAPI障害によるシステム一括停止のリスクについても言及しています。
これらのインシデントを防ぐ基本的な対策としては、次の4事項を最低限のセキュリティルールとして導入前に検討・決定すべきであり、その際には理事長や院長、事務長などの経営層の関与が必須であるとしました。
- 組織として正式に利用を認める生成AIの選定と範囲および用途の明確化
- 入力した情報が外部に漏れないようにするための未然防止策の検討
- 生成AIの不適切な使い方を検知するためのモニタリングの仕組みの検討
- 生成AIが利用不可となった場合でも対患者業務を継続できる代替手順の検討
また、導入においては、特定の医療業務で使用するという個別最適を目的とした生成AIの導入を推進するリスクに警鐘を鳴らしています。各診療科で先行して別々のセキュリティルールが導入されると、入出力制御、監査、ログ管理、利用不可時の業務継続などの必要なセキュリティルールを組織全体で統一することが困難になるため、経営層主導で全体最適型のセキュリティガバナンスを整備することを強く推奨しています。
さらに、医療機関などにおける生成AIの安全・安心な活用を本格的に実現するための発展的な展望として、官民のインセンティブを組み込んだ「生成AIプラットフォーム」の構築を求めています。共通の基準のもと、評価・監査、情報共有、導入支援などを段階的かつ継続的に実施可能とする仕組みを整えることで、医療業界全体での安全なAI活用を支えていく重要性を訴えています。
