AIガバナンス協会とトラスト＆セーフティ協会、「AI生成コンテンツの安全性研究会」を共同設立

生成AI時代における信頼できるコンテンツ流通に向けた実務的・横断的な議論を推進

一般社団法人AIガバナンス協会（本部：東京都中央区、代表理事：大柴行人、生田目雅史、羽深宏樹、以下「AIGA」）と、一般社団法人トラスト＆セーフティ協会（所在地：東京都渋谷区、代表理事：金谷武明、以下「JTSA」）は、AI技術の急速な発展と社会実装の進展に伴い顕在化する、AI生成コンテンツの安全性と信頼性に関する課題に対応するため、「AI生成コンテンツの安全性研究会」（以下「本研究会」）を共同で設立することをお知らせします。

設立の背景と目的

近年、生成AIの活用は、テキスト、画像、音声、動画など幅広い領域に広がり、創作活動や業務効率化、新たな価値創出を後押ししています。また、AIエージェントに代表されるような、自律的にタスクを遂行するAI活用も広がりつつあります。その一方で、誤情報・偽情報の拡散、権利侵害、有害・不適切なコンテンツの生成や流通、真正性の確認の難しさなど、社会的な信頼と安全に関わる新たな課題も生じています。

本研究会は、こうした課題に対し、技術、法務、倫理、運用、社会的影響といった複数の観点から横断的に議論・研究を行う場として設置するものです。AIGAとJTSAのそれぞれの知見とネットワークを活かしながら、産業界、学術界、有識者等の多様なステークホルダーが参画する開かれた議論の場を目指します。

研究会の活動内容　

研究会テーマ（予定）

• AI生成コンテンツの現状整理とリスクの把握： 国内外の動向やユースケースを踏まえ、安全性・信頼性に関する論点を整理します。特に、ディープフェイクをはじめとする偽情報・誤情報の観点から検討を開始します。

• 技術的対応策に関する検討： コンテンツの真正性に関する技術、メタデータや来歴情報の活用、有害コンテンツへの対応技術、安全性評価のあり方などについて議論します。

• 倫理・法務面の論点整理： AI生成コンテンツの利用に伴う倫理的論点、著作権・肖像権等に関する論点、制度・運用上の課題について検討します。

運営方針

• 情報共有・対話の促進： 定期的な会合や公開セミナー等を通じて、関係者間の知見共有と社会的な理解促進を図ります。

• 研究成果のとりまとめ・公表：本研究会における議論を踏まえ、論点整理や示唆をレポートとして公表することを予定しています。

研究会の構成

本研究会は、以下の法学・倫理学・AI技術等の研究者、有識者の皆様にご参加頂き、AIGAとJTSAの会員企業・団体・個人会員であるAIサービス事業者、プラットフォーム事業者、NPO等の多様な参加者の皆様と共に分野を横断した議論を進める予定です。

• 座長：

  • 成原 慧 九州大学 法学研究院・法学部 准教授

• 委員（五十音順）：

  • 上田正基 神奈川大学 法学部 法律学科 教授

  • 笹原和俊 東京科学大学 環境・社会理工学院 イノベーション科学系 教授

  • 野口祐子 弁護士、東京大学 法・政治デザインセンター客員教授

  • 水谷瑛嗣郎 慶應義塾大学 メディア・コミュニケーション研究所 准教授

• 事務局：

  • 一般社団法人AIガバナンス協会 事務局

  • 一般社団法人トラスト＆セーフティ協会 事務局

今後のスケジュール（予定）

• 2026年6月 第一回研究会

• 2026年7月 第二回研究会

• 2026年8月 報告レポート公表

AIGAとJTSAは、本研究会を通じて、健全なAIエコシステムの発展と、すべての人々が安心してAIの恩恵を受けられる社会の実現に貢献してまいります。

「一般社団法人AIガバナンス協会」について

AIガバナンス協会（AIGA）は、AIのビジネス活用の急拡大とその裏でのリスク認識の広がり、国内外の政策動向の急速な変化等を背景として、企業と社会が安心してAIを活用し、持続可能な成長を遂げるために、多様なプレイヤーがAIガバナンスのあり方を議論できる場を創るべく2023年に設立されました。2024年10月より、活動をより拡大し、AIガバナンスの社会実装とポリシーメーカー等との連携を強化するため、一般社団法人に体制と活動を移行しました。

AIGAでは、AI基盤モデル開発企業を中心とするグローバルテック、国内の金融・保険・通信・IT・HR・製造・インフラ等の業界大手、AIやデータに関する事業を手がけるスタートアップなど、多様な領域のリーディングカンパニーが産業横断で議論を行い、企業のあるべきAIガバナンスに関する共通理解の醸成や政策提言等の活動を実施します。

・任意団体設立日：2023年10月26日
（設立時のプレスリリース：https://prtimes.jp/main/html/rd/p/000000001.000131696.html）

・一般社団法人設立日：2024年10月1日

・サイトURL：https://www.ai-governance.jp/

・問い合わせフォーム ：https://www.ai-governance.jp/#contact-us

「一般社団法人トラスト＆セーフティ協会」について

一般社団法人トラスト＆セーフティ協会は、デジタルプラットフォームやオンラインサービスにおけるユーザーの安全確保とオンライン環境の信頼性向上に取り組むことを目的に2025年1月に設立されました。日本で唯一のトラスト＆セーフティ実務者のコミュニティとして、デジタル社会の健全な発展に不可欠な「安心・安全」の基盤づくりに貢献してまいります。オンライン環境における誹謗中傷や偽・誤情報、オンライン詐欺といった脅威に対し、ユーザー保護、リスクの検知や管理、ポリシーの策定と対策の実施等を通して、オンライン環境の信頼性と安全性を高めるための取り組みを行います。

トラスト＆セーフティとは

トラスト＆セーフティ（Trust & Safety）とは、誹謗中傷や偽・誤情報、オンライン詐欺といった脅威に対してユーザー保護、リスクの検知や管理、ポリシーの策定と対策の実施等を通して、オンライン環境の信頼性と安全性を高めるための取り組みです。

公式サイト：https://www.trustsafety.or.jp/ 

本件に関するお問い合わせ先

一般社団法人AIガバナンス協会　広報担当

メール：[e-mail]　

一般社団法人トラスト＆セーフティ協会事務局

メールアドレス: [e-mail]