SAFEプロジェクトの成果発表

～パリで開催されたAIアクション・サミットのサイドイベントの結果～

2025年2月10日と11日、フランス・パリのグラン・パレで「AIアクション・サミット」が開催されました。このサミットは、持続可能で全体の利益に資するAIの科学的基盤、解決策、基準を探求することを目的としており、各国の首脳、国際機関のリーダー、企業のCEO、学界や市民社会の代表などが一堂に会しました。

2月11日、サミットの公式サイドイベントとして、フランスのGPAI専門家支援センターであるInriaの主導のもと、「協力関係を促進する科学技術イニシアティブ...行動を起こす時（Science and Technology Initiatives to foster cooperation...Time for Action）」と題した会合（以下「本イベント」）がパリ・サンテキャンパスで開催されました。本イベントでは、OECDと統合した新たなGPAI2.0における課題や、SAFEプロジェクトの成果、エージェント型AIに関する新プロジェクトのキックオフ、学生コミュニティの国際的なAI議論への巻き込み方などが議論されました。

１．SAFEプロジェクトの成果発表

本イベントの冒頭で、OECDのGPAI担当課長であるペルセット氏、Inriaセンター長であるシマード氏、カナダのCEIMIAセンター長であるファラハ氏、そして東京センターの原山センター長が登壇し、OECDと統合した新たなGPAI2.0における課題について議論しました。このパネルでは、さまざまなステークホルダーとの連携と代表性を担保することの重要性が強調されました。

続けて、東京センターが2024年度に実施したSAFEプロジェクトの成果の機会が設けられました。同プロジェクト共同議長のホーズ氏、慶應義塾大学の吉永特任准教授から、それぞれ汎用AIの安全性に関するマッピングを行ったトラックCの成果と、技術的安全性とデータガバナンスに焦点を当てたトラックA・Bの成果とが紹介されました。特にトラックCで構築したデータベース・ウェブサイトは、世界中の500を超える組織が開発している汎用AIのリスクに対する多様な技術とソリューションを整理したもので、今後OECDのウェブサイトにも掲載される予定です。

２．エージェント型AIに関するセッション

東京センターでは、2025年にエージェント型AIに関するプロジェクトを担当することとされており、その理解を深めるためのセッションが開催されました。

その中でまず、ソルボンヌ大学のヴァンサン・コラブル教授が、エージェント型AIの定義や歴史的背景、潜在的なリスクについて説明しました。その後の議論では、安全性、規制、倫理的考察の重要性や制御メカニズムの必要性が強調され、エージェント型AIが自律的に行動し、目標を設定し、学習する可能性についても触れられました。さらに、社会への影響や責任ある開発とガバナンスの必要性、人間とAIの間で主体性のバランスを取ることの重要性も議論され、参加した専門家から大きな関心が示されました。

これらの議論や取り組みを通じて、GPAI2.0体制の下、東京センターは多様なステークホルダーとの連携を深め、AIの安全性と倫理性を確保しつつ、国際的な協力を促進するための具体的な行動を推進していくこととしています。