同ペーパーでは、AIによる利便性と効率性の向上、不確実性と社会的リスクの増大が同時進行する状況において、社会や産業の持続的成長に不可欠なAIの利活用促進に向け、社会・独立行政法人情報処理推進機構（IPA)のAIセーフティ・インスティテュート（AISI）は7月10日、今年3月に設置された事業実証ワーキンググループ（WG）がまとめたビジョンペーパーを公開した。産業・政策の各レベルにおける AI セーフティ評価に関する共通理解の醸成と具体的な実装への道筋を示している。
AIセーフティ評価フレームワークの整備に向けて
生成AIを基盤とする応用技術の進展は、AIの社会的役割やシステム内での位置づけに質的な変化をもたらしている。AIにより新たな便益がもたらされる一方で、社会的信頼を損なうリスク事象も数多く顕在化している。そのため、AIの用途やリスク特性に応じたAIセーフティ評価フレームワーク（注釈）を整備することが急務となっている。
これらを実現するために、AISIは2025年3月にAIセーフティ評価に関するWG（事業実証WG）を、AISI運営委員会の下のテーマ別小委員会として設置。民間事業者を中心に多様なステークホルダーが参画し、参画機関間の連携を図る場を提供し、WG活動を推進している。
事業実証WGのゴールは、産業界・行政・専門家が協働して、AIの社会実装におけるAIセーフティの確保を支える仕組みを構築し、利用者のリスク理解を前提としたAIセーフティ評価の枠組みを整備することである。
事業実証WGでは、ヘルスケアやロボティクスといった分野別のサブワーキンググループ（SWG）と、データ品質や適合性評価といった分野横断のサブワーキンググループ（SWG）を同時に進行させつつ、実務的なAIのユースケースに基づき、業界や利用者の立場に根差した実践的なAIセーフティ評価を体系化するとともに、具体的な評価シナリオやデータセットを構築する活動を進めている。
AIセーフティ評価フレームワークとは、AIシステムを開発・提供する際に、そのAIが安全に使えるかどうかを総合的に評価するための指針や基準。AIが予期せぬ誤動作をしたり、利用者や社会に悪影響を及ぼしたりしないように、「どのように安全性をチェックすればよいか」「どんなポイントに注意すべきか」など、開発者や提供者が参考にできる観点や評価方法をまとめたものである。
AI技術が目まぐるしく進化する中、AIモデル／システムをベースとするAIサービスによる高い利便性を享受できるようになる一方で、AIセーフティに関するリスクも常に変化している。このため、AIセーフティ評価を通じて、リスクの把握を行い、リスクが受容可能なレベルを超えている場合、リスクの軽減策を実施するループを回すことが、信頼に足るAIとしてAI利活用の促進につなげるための有用なアプローチになると考えられる（図表1）。
サブワーキンググループ（SWG）の構成
サブワーキンググループは、各分野向けの検討を通じて実装に取り組む分野別（Vertical）SWG と、分野共通の評価手法を検討する分野横断（Horizontal）SWGによる体制を構築している。
分野別SWGには、国際的関心が高く日本が強みを持つ分野であり、AI利活用促進とAIセーフティ確保が重要な領域であるヘルスケアおよびロボティクス、分野横断SWGには、各分野のAIセーフティ評価に共通で求められるデータ品質・適合性評価のSWGを設定している。
各SWGは、それぞれの役割を果たしつつ、相互補完・連携しながら進め、評価観点やツール整備を行います（図表2）。
今後、AIの利活用を促進するAIセーフティ評価の確立に向けて、段階的・継続的な取組みを実施する予定である。また、必要に応じてSWGの増設も計画する。
AISI事業実証ワーキンググループ・ビジョンペーパーの構成
同書の目次
0.本書の位置付け
1.はじめに
2.事業実証WGのビジョン
3.SWGのビジョン（ヘルスケアSWG、ロボティクスSWG、データ品質SWG、適合性評価SWG）
4.おわりに
5.参考文献
同書では、冒頭でAI技術の現状やリスクを概観し、国内外の政策・ガイドライン・国際標準の動向を整理している。続いて、事業実証WGの実施体制を示し、ヘルスケア・ロボティクスの分野別SWG、データ品質・適合性評価の分野横断SWG双方の取り組みとそのロードマップを説明し、またSWGごとに現状・リスク・評価の方向性・実証計画を整理している。主な想定読者は、AI開発・提供事業者、AIの導入・利活用を行う企業・自治体等、政策担当者・認証機関等としている。
［i Magazine・IS magazine］
