AI分野の難関国際会議「AAAI-26」が、山川宏氏や遠藤太一郎ら企画「機械倫理ワークショップ」を採択、本会議で開催

「機械倫理の形式手法」と「創発機械倫理（EME）」の両アプローチで進行

株式会社カナメプロジェクト

2025年10月28日 10時00分

株式会社カナメプロジェクトは、取締役CEOの遠藤太一郎（えんどうたいちろう）が山川宏氏（東京大学人工物工学研究センター主幹研究員他）らと共同企画した機械倫理に関するワークショップが、AI分野の国際会議・AAAI（The Association for the Advancement of Artificial Intelligence）に採択され、2025年1月20日～1月27日にシンガポールで開催される年次カンファレンス・AAAI-26（The 40th Annual AAAI Conference on Artificial Intelligence）本会議にて「Machine Ethics: from formal methods to emergent machine ethics」として開催される運びとなったことをお知らせします。

ワークショップ実施概要

※以下はワークショップ公式ページ記載の概要を邦訳したものとなります

■ 概要

機械倫理（Machine Ethics）は、機械が人間や他の機械に対してどのように振る舞うかを扱う分野です。人工知能（AI）の進歩は、この領域の研究の必要性をいっそう強めており、研究のアプローチとしては「トップダウン型」、「ボトムアップ型」、あるいはその両方を含む「ハイブリッド型」が存在します。一方の方向性では、倫理的かつ安全なAIを形式的に定義し、実装し、検証することが課題となります。もう一方の方向性では、AI中心の社会の内部で自己組織的に生まれる倫理（創発機械倫理）の研究が進められています。私たちは、AIシステムに備わる既存の倫理的能力を検証し、さらに、透明性が高く、人間が協働的にガイドできるAIエコシステムがどのように進化しうるかを理解する必要があります。これらすべての取り組みは、技術的にも概念的にも異なる層で行われていますが、AIの安全性、多エージェント協調、ガバナンス研究のための国際的な拠点を確立するという共通の目的によって結びついています。

20年前、AAAI秋季シンポジウムにおける「Machine Ethics」セッションが、コンピュータサイエンスにおける機械倫理研究の端緒を開きました（参考）。いまこそ、新しい世代の機械倫理研究者や研究チームの形成的な交流の場を設けるべき時期です。日本のSIG-AGIなど、創発機械倫理（Emergent Machine Ethics）の基盤構築が活発に進められているコミュニティの新しい研究の潮流を踏まえ、本ワークショップは、従来のトップダウン型アプローチから、ボトムアップ型創発を取り込む方向への重要な進化を象徴するものです。AIシステムがますます自律的になるにつれ、私たちはAIの主体性を尊重しつつ、有益な結果を保証するために、形式的検証手法と創発的アプローチの両立が求められるようになっています。

・統合（Consolidation）：機械倫理と価値整合性（value alignment）に関する形式的手法の探究

このセッションでは、人工知能や計算機科学の視点から、従来の機械倫理の主要課題に関する新たな研究成果を発表する場を提供します。具体的には、自律的かつ知的なシステムが検証可能な正しい行動をどのように獲得できるのか、そして、倫理的かつ安全な推論をどのように定義・実装・検証できるのかという問題に取り組みます。

・創発（Emergence）：創発機械倫理（Emergent Machine Ethics：EME）の探究 ― すなわち、AI中心社会において自己組織的に形成される倫理の研究

AI能力が指数関数的に進化するなか、その急速な発展、人間の価値の変動、そしてAI同士の新たな相互作用の出現は、従来型の倫理アプローチを補完する形で、AI内部で自律的に発達する倫理の必要性を生み出しています。EMEは、倫理の創発的ダイナミクスの研究、知能間相互評価システムの開発、人間とAIによる共創的ガイダンスの促進を含む広範な領域を対象とします。このパラダイムを通じて、私たちは、AI社会がその自律性と複雑性の拡大に応じて、どのように内部的な倫理能力を発達させていくのかを理解することを目指しています。

■ 各日付に関する案内

・ファーストレビュートラック提出締切：2025年11月10日 AoE

・提出締切：2025年11月5日 AoE

・採択通知：2025年11月15日 AoE

・ワークショップ開催日：2026年1月26日（SST（=UTC+8））