デジタル庁は5月29日、「テキスト生成AI利活用におけるリスクへの対策ガイドブック」（α版）を公表しました。政府情報システムの開発・運用に従事する人たち向けに、テキスト生成AI固有のリスクを特定するとともに、それに対する軽減策をまとめました。

デジタル庁は政府情報システムの整備や管理に関して、技術標準や手順、手続きに関する共通ルールをまとめ、「デジタル・ガバメント推進標準ガイドライン」として公開しています。このガイドラインの実践的な参考書が「DS-120 デジタル・ガバメント推進標準ガイドライン実践ガイドブック」（以下、実践ガイドブック）であり、今般公開したガイドブックはこの実践ガイドブックを参照して実務を進める上で、必要と思われるテキスト生成AIに関するリスク軽減策について紹介しています。今年4月に公開された「AI事業者ガイドライン」（第1.0版）にも対応しています。

システム管理者などがテキスト生成AI固有のリスクを考慮したリスクマネジメントを実施できるよう、ガイドブックでは4つのユースケースが想定されています。

1. チャットインターフェースでサービス利用者とインタラクティブに対話する機能としてテキスト生成AIをオンライン処理で用いる（例：Chat GPTなど）
2. 大量の文章に対してラベル付けやテキストデータ変換、翻訳・要約や文章作成などの自然言語処理を行う機能としてテキスト生成AIをバッチ処理で用いる（例：パブリックコメントの返答作成業務にテキスト生成AIを利活用するなど）
3. 情報検索を目的としたサービスで検索エンジンの補助としてテキスト生成AIをオンライン処理で用いる（例：情報検索サービスを国民向けに展開する事例でテキスト生成AIを利活用するなど）
4. ダッシュボードやソースコードをサービス利用者の自然言語により記述可能にする機能としてテキスト生成AIをオンライン処理で用いる（例：信頼できるデータベースと連携してテキスト生成AIを利活用するなど）

章立ては実践ガイドブックで示しているチェックリストにならい、新サービスの企画立ち上げ▽予算の要求前▽調達の実施前▽設計・開発▽サービス実施――の5段階に分け、検討すべきテキスト生成AI固有のリスクおよびその軽減策をそれぞれ記しています。