こんにちは！ 2024年もお蔭様でさまざまな媒体で書かせてもらっていますが、メルマガ読者限定コラムはこれが新年第1号です。能登半島地震や富士通の会計ソフトを発端とする英国での郵便冤罪事件、豊田自動織機やダイハツ工業の不祥事など、今年も年初から気になるニュースがたくさんあり、どれも取り上げたいものばかりです。ですが、個人的に「おぉ、これはなかなか企業リスクマネジメントの参考になるな」と思えたものがありましたので今回はそれについて取り上げます。

OpenAIの生成AI（ChatGPT）がAIブームに火をつけ、2023年の多くの話題をAIがかっさらいました。GoogleのGeminiのような新たなAIモデルやAIを搭載した製品・サービスが次々とリリースされ、私自身もキャッチアップするのが大変でした。便利さや華やかさが際立つ一方で、企業のIT部門やリスクマネジメント部門の方にとっては悩みの種の1つとなっていたのではないでしょうか。

これだけの可能性を秘めた技術です。積極的に導入しなければ他社との競争に負けるのではないか、という危機感を抱くのもわかります。経営陣や事業部門からは「もっと早くAIを導入できないのか！？何をやっている！？」など突き上げをくらった情シス担当者やリスクマネジメント部門の方も多かったのではと想像します。その一方で、生成AIの拙速な導入が、機密情報漏洩やGDPR（EUの一般データ保護規則）などの個人情報保護法違反、著作権侵害など新たなリスクを生む可能性があったのもまた事実です。

大きなリターンとリスクをもたらしうる存在。このバランスをどうとるのか。このジレンマを解決する手段の1つとして、多くの企業が生成AIを利用する際のルールを示したガイドラインを策定しました。「こういう生成AIだったら使ってもいいよ」とか「使う場合は、機密情報は絶対に入力しないでね」とか、「出力されたものをそのまま使うのは危険だから気をつけてね」とか。利用上の具体的な注意事項を必死になって全社周知してきました。中には、高額でもマイクロソフトなどの外部企業と契約し、よりセキュアな形で社員が生成AIを利用できるように環境構築を進めた企業もありました。

AIリスクの一切を排除しリターンだけを得られる魔法の杖を誰かが出してくれるのではないか。そんな幻想を抱いて手をこまねいているより、使用上のルールを定め、その中でまずはどんどん使ってみる。そのアプローチは正しいと思います。ただ、AIの用途は多様化しています。今はまだ、テキストや画像データの生成を得意とする生成AIを社内業務のために利用するにとどまる企業が多いでしょうが、今後は、AlexaやGoogleアシスタントといったスマートスピーカーのように、こうしたAI機能を自社製品やサービスに搭載していくことだって増えていくでしょう。また、テキストや画像を生成するだけのAIから、物理的にものを動かしたり何かを操作したりするAIがより汎用的になり、一般企業に普及していく可能性だって十分にあります。

となると、必然的に生成AIの利用ガイドラインではカバーしきれない状況が生まれてきます。今のうちから将来を見据えてプラスアルファの対策を考えていかなければいけません。

ではどうすればいいのか？　一言で言えば、企業またはグループ全体にAIリスクマネジメントの仕組みを構築することです。

「AIリスクマネジメント？AIマネジメントシステム？何それ？」と思う方もいらっしゃるかもしれませんが、これは喩えるなら、インターネットメール利用ガイドを作成した上で、情報セキュリティマネジメントシステム（ISMS）も構築するというようなものです。インターネットメールの利用にもリスクが伴うので、メール利用ガイドを設けている企業は多いと思います。その本質は、メールを社員に利用させたくないわけではなく、機密情報漏洩や危険な添付ファイルをうっかり開いてウイルス感染につながるリスクを防ぐことにあります。でも、機密情報漏洩リスクやウイルス感染リスクは何もメール利用に限った話ではありません。Webブラウジングでも起こり得ますし、USBメモリーを使った場合でも起こり得ます。つまり、企業としてはメール利用ガイドを制定すれば全て終わりというわけではなく、情報セキュリティリスクをどう管理するのか、より広い視点でセキュリティを考えていかなければなりません。だから今日、情報セキュリティマネジメントの仕組みを構築している企業が多いわけです。

AIリスクマネジメントにも同じようなことが当てはまります。AIリスクマネジメントとは、AIそのものの開発、AIの社内利用や、AIを使ったツール、製品やサービス開発、その販売をする場合など、さまざまな場面におけるAIリスク管理の足並みを揃えるための仕組み・ガバナンスと言えるでしょう。

ところで、AIリスクマネジメントと一般的なリスクマネジメントとでは何か違いはあるのでしょうか。

不確実性をコントロールして目的・目標達成を目指すという本質は一緒ですが、最大の違いは、AIリスクの持つ影響範囲の広さ・深さです。AIの活用の幅が広がり、利用した時の影響範囲は企業内部に収まるとは限りません。例えば、機密情報漏洩リスクでは、それが顕在化した際の影響は、主としてその機密情報の持ち主に及びます。 ところが、AIになりますと、AI利用が、著作権侵害につながる可能性もあれば、人権侵害に繋がってしまう可能性だってあります。究極的には仕事を奪い、社内外の雇用問題に発展する可能性もあります。使い方を誤れば人の命を奪う場合だってあり得ます。社会問題に発展することだってあり得ます。もはや「このリスクマネジメントは情シスがやるべきものなのか？」という疑問さえ湧いてくるほど、リスクの範囲や種類が多岐に渡ります。AIリスクマネジメントは、こうした特徴を踏まえて課題を解決できるようなリスクアセスメントを行えるものでなければなりません。

では、すでにERM（全社的リスクマネジメント）のような、全社にリスクマネジメントの仕組みを導入している組織はどうすればいいのでしょうか。何かを変えなければいけないのでしょうか。全社のリスクマネジメントでは（そのカバー範囲は組織の定義に依存しますが）基本的にはあらゆるリスクを考えることが一般的です。つまり、AIリスクもその中に含まれていることになります。ただ、言ってみれば組織全体に大きな網をかけてリスクを検知するような活動ですから、網の目がどうしても粗くならざるを得ません。AIの利活用が限定される組織ではそれで十分でしょうが、そうでない組織では、もう少し網の目の細かいリスクマネジメントを実践していかなければ、先にあげたようなリスク要因を見落とす可能性が出てきてしまいます。全社的リスクマネジメントと言う仕組みがあっても、ISMS（情報セキュリティマネジメントシステム）やQMS（品質マネジメントシステム）を設けている企業があるように、AIに特化したリスクマネジメントの仕組みを入れることが考えられます。

必要性は十分理解したとして、どうやって体制を構築すればいいのだろうか。

幸いなことにそれを手助けしてくれるツールが発行されました。それが、ISO/IEC42001 - AIマネジメントシステム （※）と呼ばれる国際規格です。これは比較的最近（2023年12月）発行されたもので、ISOマネジメントシステムのAI版と言えるものです。色々なガイドラインや基準を見てきた者として忖度なく申し上げれば、割とよくできている規格だと感じています。なぜなら、すでに市民権を得ているISOマネジメントシステムという枠組みを用いたもので、企業にとっては縁遠い仕組みではなく、使い方によっては十分に武器になる規格だと感じました。

ちなみに難点は、出たばかりということもあり今現在、英語版しかないことです。またISMSのような「お墨付き」に興味のある方にとっては、（いずれは認証制度化されるかもしれませんが少なくとも2024年2月時点では）まだ認証制度が存在しないため、その点もデメリットになるかなと思います。ですが大事なことは、企業において適切なリスクマネジメントを推進していくことですから、既存の全社的リスクマネジメントの拡張や、AIリスクマネジメントの仕組み構築を進める上では十分なヒントになってくれるものと思います。

なぜ私が「この規格はよくできている」と言ったのか、その答えをはじめ、ISO/IEC42001についてさらに詳しく知りたい方は、こちらの記事をご覧ください。また、この規格の普及に貢献したいと考えており、当社では規格が示すAIマネジメントシステムの整備を支援するサービス「AIマネジメントシステム（ISO/IEC42001）構築支援サービス」をリリースしました。規格の活用方法やAIマネジメントシステムをどのように自組織のリスクマネジメント体制に組み込むかの判断支援、グループ全体のAIガバナンス強化の推進なども含めて、ニーズに応じた支援をいたします。AIマネジメントシステムの整備をご検討の方はぜひお問合せください。

ちょっと長くなりましたが、今回は、これにてコラムを終わりにいたします！