ISO/IEC 25000シリーズ（SQuaRE）をもとに品質特性や管理策を提示、「生成AI品質マネジメントガイドライン 第1版」を公表 産総研
産業技術総合研究所（産総研）は5月26日、「生成AI品質マネジメントガイドライン 第1版」（生成AIQMガイドライン）を策定、公表しました。大規模言語モデル（LLM）をコンポーネント（部品）として利用し、生成AIシステムを開発・運用する企業向けに品質を実現するために行うべき事項を体系的に示しています。
生成AIQMガイドラインは、LLMを中心とする生成AIを部品として組み込んだ生成AIシステムに対する品質マネジメント手法をとりまとめたものです。品質マネジメントとは、事業者や開発者、利用者の期待通りに製品やサービスが機能することを実現・維持する体系的な方法のことです。
なお、LLMは外部から調達する再利用部品との位置づけです。調達する側であるLLM利用AIシステムの開発者・運用者は、LLMと共にさまざまなソフトウェア（コンポーネント）も同時に扱うことになります。このため、ガイドラインでは従来型ソフトウェアであるコンポーネントを対象に、品質マネジメント手法で品質特性を実現することにより、LLMの品質の不足があれば補って、LLM利用AIシステムの品質を実現するものとなっています。システムやソフトウェア製品の品質評価ルールであるISO/IEC 25000シリーズ（SQuaRE）をもとに、LLM利用AIシステムが備えるべき品質特性の一覧が示されています。
主なコンポーネントとしては、LLM以外に、プロンプトとその周辺▽RAG関連コンポーネント▽外部連携コンポーネント▽入力フィルター▽出力フィルター▽HMI（ヒューマン・マシン・インターフェース）コンポーネント――を取り上げています。
ガイドラインが示す基本的な品質マネジメントは、（1）LLM利用AIシステムの想定用途からその品質要件を導出する（2）そこから各コンポーネントに対する品質要件を導出する（3）各コンポーネントに品質要件を満たすための管理策を行う――という流れになっています。コンポーネントごとに、要件となる品質特性を示し、それらを実現するための管理策が示されています。
このほか、LLM利用AIシステムのセキュリティマネジメントに関する観点も述べられています。セキュリティリスクの具体例を示した上で、セキュリティリスクアセスメント手法などを紹介しています。
