GRASP/SAFEマッピング発表イベント開催

～AI安全性の国際協力強化に向けて～

2025年2月9日、アラブ首長国連邦（UAE）のモハメッド・ビン・ラシッド・スクール・オブ・ガバメント（MBRSG）は、パリで開催されたAIアクション・サミットのサイドイベントとして、「国際AI安全協力およびGRASP/SAFEマッピング発表イベント」を主催しました。このイベントは、AIの安全性に関する研究開発の国際協力を推進することを目的としており、東京センターの原山優子センター長が、AI安全性研究機関（AISI）に関するラウンドテーブルディスカッションのモデレーターを務めました。

イベントでは、AI安全性の国際協力、AI安全性研究機関、フロンティアラボ、AGI（汎用人工知能）、および安全性科学の現状についてのラウンドテーブルやパネルディスカッションが行われました。また、ベンチャー企業や投資家向けのセッションも開催され、AI安全性に関する最新の取り組みや課題が共有されました。

特に、カリフォルニア大学バークレー校のStuart Russell教授は、AIシステムが人類にとって安全で有益であり続けるためには、明確な「行動のレッドライン（behavioral red line）」を設定し、事前規制（ex ante regulation）を実施する必要性を強調しました。さらに、「これまでは安全性とイノベーションはトレードオフとされてきたが、イノベーションと開発は安全性なくしてはあり得ない」と述べ、参加者から大きな賛同を得ました。

また、モントリオール大学のYoshua Bengio教授は、AGIが自律的なエージェントとして発展した結果、そのようなAGIが自ら設定する自身の活動目標が、必ずしも人間の幸福や価値観と一致しない可能性があることを指摘しました。最悪の場合、「自己破滅的な結果」につながる危険性があると警告し、各国政府がフロンティアAIモデルの開発者に説明責任（アカウンタビリティ）を持たせるためのインセンティブ作りの必要性を主張しました。

こうしたイベントを通じて、AIの安全性確保に向けた国際的な協力体制の強化と、具体的な行動計画の策定が求められており、東京センターとしても活動を通じてこの取組に貢献してまいります。