AIの安全性に関するツールキットの開発

GPAI東京専門家支援センターは、今般、GPAI（Global Partnership on AI、AIに関するグローバル・パートナーシップ）の2024年事業計画に基づき実施した生成AIの安全性と保証に関するプロジェクト（以下「SAFEプロジェクト」という）の一環で、アラブ首長国連邦（UAE）の行政学校MBRSGと連携し、汎用AIの安全性に関するツールキットを開発しました。このツールキットは、世界の500を超える組織により検討されている汎用AIに係るリスクと対策を分かりやすく詳細に整理しているのが特徴です。

今後は、OECDと必要な調整を行った上で、7月以降にOECDのWEBサイトに掲載される予定です。

１．背景

2023年10月に合意された「広島AIプロセスに関するG7首脳声明」をはじめとしたハイレベルの政府文書の中で、G7各国政府は生成AIの安全性の確保に向け、GPAI等とのプロジェクトベースの協力を前進することとされました。

さらに、2023年12月にインドにて開催されたGPAIサミットで決定された2024年事業計画（Work Plan 2024）の中で、広島AIプロセスを踏まえた新たなプロジェクトとしてSAFEプロジェクトの開始が明記されました。

同事業計画に基づき、GPAI東京専門家支援センターでは、2024年7月から同プロジェクトを推進し、アラブ首長国連邦（UAE）の行政学校MBRSGと連携して、今般、汎用AIの安全性に関するツールキットを開発、2025年2月にパリで開催されたAIアクションサミットのサイドイベントにおいて、サイルス・ホーデ共同議長から成果物の発表を行いました。

２．今回の成果

このツールキットは、世界の500を超える組織により検討されている汎用AIに係るリスクと対策を分かりやすく詳細に整理しているのが特徴です。

これまで、AIの安全対策全体を網羅的に整理した単一のツールキットは存在せず、政策、規制、資金配分の優先順位を策定しようとする政策立案者、起業家、投資家、研究者、専門家等AI関係者にとって障害となっていました。このツールキットはこうしたギャップを埋めるため、構造化されたAIリスクのインベントリ、これらのリスクを軽減する既存の技術的およびガバナンス的解決策のカタログ等を提供します（※）。

AIシステムの能力と展開範囲が拡大し続ける中、このマッピングは、これらの技術が安全かつ責任を持って開発・運用されるための重要な基盤を提供します。

３．今後の展望

今般の開発に関連し、権利関係及び開発に係る費用分担を整理の上、本年4月下旬以降、MBRSGと覚書を締結する予定です。さらに、OECDと管理・運営に係る所要の調整を行った上で、7月以降にOECDのWEＢサイトに掲載される予定です。

GPAI東京専門家支援センターは、「高度なAIシステムを開発する組織向けの広島プロセス国際指針」及び「高度なAIシステムを開発する組織向けの広島プロセス国際行動規範」等、広島AIプロセスの推進も含め、AIに関する国際的なパートナーシップを一層推進していきます。

（※）プレサイトはMBRSGのサイト（https://aisafetypreparedness.com/）参照