AIセーフティ・インスティテュート（AISI）はこのほど、設立初年度の活動状況などをまとめた「AIセーフティ年次レポート2024」を公表しました。AISIはAIセーフティに関する評価手法や基準の検討・推進を行うための政府機関として2024年2月に設立されました。
年次レポートはAISIの活動実績を時系列に沿って取り上げ、紹介しています。最初に2024年4月に公表された「AI事業者ガイドライン」が挙げられています。このガイドラインは総務省と経済産業省が、両省の既存ガイドラインの統合を目指すとともに最新化を図ったもの。とりまとめを行った「AI事業者ガイドライン検討会」はその後、AISIと経済産業省の共同事務局となりました。AIをとりまく環境は変化が激しいため、同検討会ではAI事業者ガイドラインを「Living Document」として、更新が必要な事項を引き続き検討しています。なお、AISIによると、金融業界ではAI事業者ガイドラインを参照して生成AIガイドラインが策定されました。
次に2024年5月にソウルで開催された「AIセーフティ・サミット」、同年4月と9月に公表した、日米のクロスウォーク結果（NIST＝米国国立標準技術研究所＝の「AIマネジメント・フレームワーク」とAI事業者ガイドラインに関して、用語やコンセプトを相互参照したもの）、同年8月に設置された「AI制度研究会」、同年9月に公表した「AIセーフティに関する評価観点ガイド」と「AIセーフティに関するレッドチーミング手法ガイド」、同年11月にサンフランシスコで開催された「AISI国際ネットワーク（International Network of AI Safety Institute）」などについて記されています。
AI制度研究会はAIの法規制や制度整備を検討するためにAI戦略会議の下に設置された有識者会議となり、座長代理を村上明子AISI所長が務めました。研究会は同年12月に新法整備の考え方を「中間とりまとめ（案）」として整理し、その内容については意見公募が行われました。4,557件という多くの意見が寄せられ、微修正した上で中間とりまとめは決定されました。政府はこれを踏まえて2025年2月28日、新法案を国会に提出しています。
年次レポートでは、今後の取り組み方向も示されています。例えば、AIセーフティに関する技術の開発・実証の推進に向けて、2025年に「民間事業者中心で各業種における具体的な課題に対する検討を進めるためのワーキンググループを設置する」などと記されています。
