デジタルアーキテクチャ研究センター(DigiARC)とサイバーフィジカルセキュリティ研究センター(CPSEC)および人工知能研究センター(AIRC)は7月5日、「機械学習品質マネジメントガイドライン」を改訂し第2版を公開しました。

同ガイドラインは、AIシステムの設計開発における品質マネジメントについて体系的に取りまとめたものです。機械学習を利用したAIシステムのライフサイクル全体における品質マネジメントについて、必要な取り組みや検査項目を提示しています。

改訂による主な変更点は次の通りです。

・第1章に記載した公平性の定義を、より詳細に検討し変更。
・第1章と第6章にある内部品質特性についてA～Dにカテゴリ分けし、A-1～E-1まで付番。
・ 内部品質特性における「データの妥当性」を、「機械学習モデルの正確性」(特性C-1)から分離し、内容を拡充。
・ 内部品質特性の一部を改名。
・ 公平性に関する第8章とセキュリティに関する第9章を追加。

第9章は「セキュリティに関する留意事項」として、機械学習利用システムに対するセキュリティ攻撃の分析やセキュリティに対する対策の考え方を示しています。また、開発段階で実施するべき事項を集めたセキュリティチェックリストも掲載されています。機械学習におけるセキュリティには、特有の脅威があり追加的な対策が必要としています。