SAFEプロジェクト

SAFEプロジェクト概要 2024年の活動概要 成果のとりまとめから公表まで 関連資料・データベース

SAFEプロジェクト概要

  • - SAFEプロジェクトとは

    SAFE（Safety and Assurance of Generative AI）プロジェクトとは、GPAI において生成AIの商用化時の安全性を保証する実践的なアプローチの展開を支援する取組です。東京専門家支援センターではSAFEプロジェクトの支援をその中核的な業務と位置付けています。

    なお、東京に先行して設置されたモントリオール（加）とパリ（仏）の2カ所のセンターにて実施しているプロジェクトについては、次のGPAI のサイトにて確認することができます。
    GPAIのURL：https://oecd.ai/en/

  • - SAFE立ち上げに至るまでの経緯

    2023年10月に合意された「広島AI プロセスに関するG7 首脳声明」をはじめとしたハイレベルの政府文書の中で、G7各国政府は生成AIの安全性の確保に向け、GPAI等とのプロジェクトベースの協力を前進することとされました。
    さらに、2023年12月にインドにて開催されたGPAIサミットで決定された2024年事業計画 （Work Plan 2024）の中で、広島AIプロセスを踏まえた新たなプロジェクトとしてSAFEの開始が明記されるとともに、次の3つのステップに沿ってプロジェクトを推進していくことが決定されました。

  • - ３つのステップ

    SAFEプロジェクトは以下の3つのステップで実施されます。

    1. 1 特定：AI安全性ソリューションに着目し、関連取り組みや企業をマッピング
    2. 2 評価・調整：特定された取組の実効性や展開可能等の評価及び連携に向けた調整の実施
    3. 3 展開：GPAI参加国及び国際的パートナーへのソリューションの提示

2024年の活動概要

  • - 東京専門家支援センターの設立（2024年7月）

    2024年7 月、インドでGPAI中間サミットが開催され、その場で東京専門家支援センター（以下「東京センター」）の設立を発表しました。一方で、同サミットではGPAIとOECDの統合パートナーシップも決定されたことで、東京センターの担当するSAFEはOECDの直轄プロジェクトに位置付けられることになりました。

  • - 共同議長の下でのフレームワークの決定（2024年7-9月）

    2023年末からSAFEの重要性を唱えてきたGPAI専門家であるInma Martinez氏及びCyrus Hodes氏を共同議長に迎えました。共同議長の意向を踏まえ、(1)LLMの技術的安全性、(2) LLM のデータガバナンス、(3) AGIの3つのトラックを設けるとともに、それらに対応する分科会設置を決定しました。併せて、(1)と(2) をInma Martinez氏が、(3) をCyrus Hodes氏が、それぞれ担当することとなりました。

  • - プロジェクト開始から中間報告まで（2024年10-12月）

    OECD及びGPAIの専門家（のべ400名程度）に対し、SAFEの3つのトラックを紹介するとともに、各トラックで活動する専門家を公募した結果、計18名の専門家を選定。2024年10月には第1回プレナリー（全体会議）を開催し、以後は前記の(1)から(3)の分科会単位で活動していくこととなり、分科会の開催回数は合計7回に及びました。
    2024年11月にはGPAIプレナリー、同年12 月にはGPAIセルビアサミットの場においてプロジェクトの3トラックの活動状況報告を行いました。

成果のとりまとめから公表まで

  • - 最終報告書のとりまとめ（2025年2月）

    2025年2月に開催されたパリAIアクションサミットのGPAI に関連する会合が仏Inriaの主催で行われ、東京センターの活動概要及びSAFEプロジェクトの報告を行いました。
    トラック(1)と(2)の報告は吉永京子専門家が担当し、2025年時点におけるAI安全の状況を評価するとともに、各国AISIをはじめとした国際ネットワークのパートナーの活動を確認しました。また、同(3)の報告は共同議長であるCyrus Hodes氏が担当し、汎用AIが開発された場合の潜在的なリスクとソリューションのマッピングの重要性を提言するとともに、成果物としてリスクとソリューションの双方を簡便に検索できるデータベースを構築しました。

  • - 報告文書等の公表（2025年4月以降）

    SAFEプロジェクトの報告文書及び前記のデータベースは、ともにOECD ・GPAIでの所要の承認プロセスを経て2025年中にOECD.AIのHP等で公表を予定しています。

  • - 2025年の取組

    2024年の東京センターのSAFEプロジェクトは以上で終了となります。2025年に東京センターが実施するプロジェクトは、OECDがGPAI加盟国の承認を得て決定されたWorkplan 2025（2025 年活動計画）に基づき、生成AIに係る新たなプロジェクトとして開始します。（詳細は、改めて当センターのHPで公表予定）

関連資料・データベース

CONTACT お問い合わせ