AI（人工知能）の誕生から半世紀以上が経過し、機械学習やディープラーニングなどの技術が進化するとともに、そこに起因するリスクについても取りざたされるようになってきました。最近ではGPT（Generative Pre-trained Transformer）などの文章生成言語モデルも登場し、その先進性とまだまだ発展途上の技術であることが世間を騒がせています。

AI技術は、自動運転技術やロボット技術、医療分野、フィンテックなど、様々な分野で活用されており、もはやAI技術なくして今の利便性が成り立たない時代に来ていますが、利便性とリスクの大きさは比例します。AIのおかげで便利になるということは、それだけ大きなリスクが潜んでいるということです。しかも、AIリスクはITシステムという狭い範囲に限定されません。AIがもたらすリスクは、情報セキュリティをはじめ、人権、著作権、訴訟、風評、事故・災害、犯罪など多岐にわたります。これは、すなわち、AIリスクはIT部門だけが取り組むものではなく、組織内のあらゆる部署の知見を集約して取り組む必要がある問題であるということです。

こうした一筋縄ではいかないAIリスクに対し、導入部門が、体系的かつ効果的・効率的なリスクマネジメント手法を実践できるようにするための、いわば「AIリスクガバナンス構築」をお手伝いするのが本サービスです。

AIリスクを検討する必要のある組織は大きく３つに分かれます。
① AI技術自体を開発する組織
② 既存のAI技術を活用した新たなサービスを開発する組織
③ AI技術やそれを使ったサービスの利用を考えている組織

このサービスは②③のお客様の中でも特に以下のような悩みを持ったお客様を対象としています。

• 生産性を上げるため、または競争力を身につけるため、AI利用を推進していきたいが、最低限のコントロールをかけたい
• 既にAI関連サービスの利用を始めている部門があるが、問題がないかセルフリスクアセスメントをさせたい
• AI技術を使ったサービス開発を進め、外販していきたいが、その際の体系的なリスクアセスメントをできるようにしていきたい

① 国際的なAIリスクマネジメントフレームワークの活用

AIリスクマネジメントに関わる支援にあたっては、ニュートン・コンサルティングの知見のみならず、国際的に知名度の高いガイドライン等※が提示するフレームワークを活用しています。これにより、仕組みの効率性・有効性の向上を図るとともに、お客様の対内的・対外的なリスクマネジメントの説明責任を果たしやすくします
※ISO31000(リスクマネジメント - ガイドライン)、COSO-ERMフレームワーク、人工知能(AI)の可能性を最大限に引き出すためのガイダンス(人工知能の実装と拡張に役立つCOSOフレームワークと原則の適用)、NIST(National Institute of Standards and Technology)が策定したAIリスクマネジメントフレームワーク等

【図：AI RMF Core from NIST AI 100-1】

② 身の丈にあった”あるべき姿”の提案

リスクマネジメントは、時間やお金をかけようと思えばいくらでもかけることができる、「正解のない活動」です。同時に、お客様のビジネスを成功させるための「目的」ではなく「手段」です。したがって、AIリスクマネジメントの仕組み構築がお客様の事業活動のハンデになってはならないと考えます。経営陣の考えをお伺いし、かつ、お客様の既存の仕組みを把握・理解した上で、お客様の事業を促進するAIリスクマネジメントとなるようお手伝いいたします

③ 社内指針策定からAIリスクアセスメントの既存ERMへの統合まで幅広い支援

AIリスクマネジメントと言っても、「AIに関わるリスクを多少拾いたい」という組織もあれば、「部門や子会社にAIを使う上でのリスクアセスメント指針を示したい」という組織、「今、開発中のサービスにおいてAIリスクアセスメントを実施したい」という組織、「AIリスクに関して勉強したい」という組織もあると思います。基本的な知識を押さえつつ、組織全体にどうAIリスク評価を行わせるのか、組織全体のリスクマネジメントをどう実践させていくのか、組織全体のAIリスクガバナンスをどうかけるかなどといった、お客様のニーズに合わせた提案や支援を行います

• AIリスクガバナンス研修テキスト
• AIリスクガバナンス方針
• AIリスクマネジメントツール
• AIリスクマネジメントマニュアル