自動車・産業ロボットなどの安全性が重視される製品やサービスに人工知能（以下「AI」という）技術を利活用するために、安全性の確認方法や従来技術との組み合わせ方などを整理した国際的な技術報告文書 ISO/IEC TR 5469:2024（以下「本文書」という）が出版されました。国立研究開発法人 産業技術総合研究所（以下「産総研」という）は、エディタとして本文書の取り纏めを主導するとともに、AIの安全性に関する品質検査方法の研究成果によって、本文書の出版に貢献しました。
これにより、日本のみならず諸外国でのAI技術の適用範囲を拡大し、市場拡大に繋がることが期待されます。
機械学習に代表されるAIは、自動運転や産業ロボットなど幅広い産業分野での社会実装が期待されています。しかし、動作の詳細が学習に基づいて決定されるAIシステムは、誤動作などに対する安全性の検証について、人が設計した通りに動作するかどうかで検証する従来システムの手法をそのまま適用できません。そのため、国際規格に適合する形で高度な安全性が要求される用途にAIを活用することが出来ませんでした。
本文書は安全性が重視される産業分野にAIを持ち込むときのシステム構築及び品質確認の考え方を整理したもので、従来システムとAIシステムを組み合わせた際の安全性の確保の考え方、機械学習技術部分の品質確認の考え方、従来の安全性関連規格との整合性の考え方などが示されています。これにより、AI技術を安全性が重視される製品やサービスに活用する際の国際基準作りの第一歩を踏み出したことになります。将来的にはAIシステムの安全性の認証が可能となり、特にミッションクリティカルな分野に対する人工知能技術の社会展開に向けた道筋が示されることになります。
産総研は、経済産業省からの受託事業「人工知能のライフサイクル，および，人工知能の品質保証に関する国際標準化」（2019年度～2020年度）などを通じて、人工知能分野の規格開発に幅広く取り組んできました。その一環として、2020年には本文書の作成を ISO/IEC JTC1 / SC42 に提案し、国内委員会での議論を進めるとともに、およそ3年にわたり国際エディタを担当して取り纏めを主導してきました。
これと並行して産総研は、NEDO委託事業「機械学習システムの品質評価指標・測定テストベッドの研究開発」（2019年度～2023年度）において、機械学習による人工知能システムの品質マネジメント技術の開発を、国内の先進AI利用企業と連携して進めてきました。AIシステムに求められる安全性・性能といった品質を満足するために必要な取組や評価項目を網羅的にまとめ、「機械学習品質マネジメントガイドライン」として2020年より日本語・英語で発行し、毎年改版を進めています。
今回産総研は、この機械学習品質マネジメントガイドライン英語版の記述およびその背景となる知見を、本国際文書の議論に提供することにより国際的な議論を加速し、日本で取り纏めた知見を含む形で今回の技術報告文書が発行されました。
現在この分科会において、今回まとめた文書に示した考え方に基づき、安全なAIシステムを作るために行うべき事項を示す次の文書の検討が始まっています。産総研は国内での品質マネジメントの議論を促しつつ、その内容を踏まえて次の文書の議論に参加し、安全なAIを作るための技術について諸外国と合意し、日本製品の品質の強みが世界で客観的に高く評価されるための国際基準を作ります。
ISO/IEC JTC1 / SC42 / WG 3 : ISO/IEC TR 5469:2024
Functional Safety and Artificial Intelligence（機能安全とAI）
この文書は、正しく動作しないと安全を損なう恐れのある装置に関してAIを利用する方法を以下に示した3つに分類した上で、それぞれの特徴や、安全を損なう原因となりうることや、安全を保つために使える手法等についてまとめています。
- その装置の動作を決める部品としてAIを使う場合
- その装置がAIのせいで安全でない動作をしないよう、AI以外の技術で歯止めをかける場合
- その装置の動作が安全になるような設計・開発にAIを用いる場合
この文書は、正しく動作しないと安全を損なう恐れのある装置に関するこれまでの国際規格を、AIに関して補足・拡張するものとして位置づけられており、これまでの国際規格の関係者の意見も踏まえて検討しました。
AIを利用する場合の安全性の確認や改善の方法について、産総研の「機械学習品質マネジメントガイドライン」が示す14項目のうち、特に安全性に関わる7項目を取り入れています。
メンバー
SC42 国内委員会からの参加者：
江川 尚志（産総研 デジタルアーキテクチャ研究センター 超分散トラスト研究チーム 招聘研究員）：TR 5469 エディタ）
NEDO受託事業からの参加者・貢献者：
機械学習品質マネジメントガイドラインは、NEDOからの委託を受けて、産総研が民間企業から参加した方々とともに取りまとめた、機械学習AIの品質マネジメントの全体に関するガイドラインです。このガイドラインでは、AIシステムが満たすべき品質として「リスク回避性（安全性）」、「AIパフォーマンス（性能）」、「公平性」、「プライバシー」、「AIセキュリティ」の５つを挙げ、それぞれについて、考えられる品質レベルを示しています。一方、それらの品質を実現するためにAIシステムを開発したり運用したりする際に確認したり改善したりするべきポイントとして、「品質構造・データセットの設計」、「データセットの品質」、「機械学習モデルの品質」、「ソフトウェア実装の品質」、「運用時の品質」の5分野に分かれる14項目を示しています。
2020年6月に第1版を発表し、その後もAIの進展等に応じて改定を続け、最新版である第4版を2023年12月に発表しました。
また、当初からの狙いとして、このガイドラインの内容を国際標準化に反映させることを目指しており、そのため、英語版も発表しています。
機械学習品質マネジメントガイドライン https://www.digiarc.aist.go.jp/publication/aiqm/
機械学習品質マネジメントガイドライン（英語版） https://www.digiarc.aist.go.jp/en/publication/aiqm/
経済産業省「人工知能のライフサイクル，および，人工知能の品質保証に関する国際標準化」（2019年度～2020年度）」（2019年度～2020年度）
経済産業省「ヒューマン・マシン・チーミングの標準化に関する調査」（2022年度）
経済産業省「ヒューマン・マシン・チーミングならびにAIシステムマネジメントに関連する国際標準化」（2023年度～2025年度）
新エネルギー・産業技術総合開発機構「人と共に進化する次世代人工知能に関する技術開発事業／実世界で信頼できるAIの評価・管理手法の確立／機械学習システムの品質評価指標・測定テストベッドの研究開発」（2019年度～2023年度）