SHOWROOM、日本初となるコンテンツモデレーションAI機能(特許出願中)を自社にて開発 仮想ライブ空間「SHOWROOM」に搭載へ

誹謗中傷を中心とする悪質なコメントをAIが検知し、事前にブロック

SHOWROOM株式会社(本社:東京都渋谷区、代表取締役社長:前田裕二)は、自社が運営する仮想ライブ空間「SHOWROOM」において、悪質コメントを検知し、投稿される前にブロックするコンテンツモデレーションAI機能を自社にて開発し、「SHOWROOM」に搭載いたしました。
 
  • コンテンツモデレーションAI機能スキーム図

これまでは視聴者から悪質なコメントが投稿されると、別の視聴者やライバー自身が通報し、SHOWROOM 監視チームがコメント確認後にブロック作業を行っておりました。そのため、コメントに問題があった場合も監視チームの確認が完了するまでの間は表示された状態でした。しかし、コンテンツモデレーションAI機能を導入することで、誹謗中傷を中心とする悪質なコメントが視聴者によって書き込まれた際、AIがスクリーニング。問題がある場合には、投稿される前に自動でブロックすることができます。そのため、不快なコメントを、ライバーはもちろん、別の視聴者が目にする機会を大幅に軽減することが可能となります。

今回のタイミングでは、その前段階として、AIがユーザーの変わりに通報を行う機能を実装。悪質なコメントをこれまで以上に早く確認し、投稿削除するまでのスピードを一層あげることが可能となります。今後は、精度を上げながら、自動的にユーザーの悪質投稿を表示させない機能をリリースしていきます。なお、本機能については、特許を出願中です。
 
  • 日本初のAIスクリーニング機能誕生の背景
匿名での投稿をメインとするSNSで見受けられる誹謗中傷。社会問題になると共に、これをもとにした犯罪が近年急増しております。SHOWROOMとしても、悪意のあるコメントにこれまで確固たる対応をとってまいりました。しかしながら、監視チームの24時間体制のパトロール、ならびに視聴者の皆さんから寄せられる通報をもってしても、悪意のあるコメントの投稿を事前に防ぐことは難しく、一時的にライバーや視聴者の皆さんの目に触れてしまっておりました。互いの交流を楽しみにしているライバーと視聴者の時間を無駄にしたくない、楽しい体験の最中に不快な感情を与えたくない、そんな想いから誕生したのが本サービスです。AIスクリーニングを駆使することにより、ライバーや視聴者の目に触れる前に投稿を削除。誹謗中傷によるダメージを限りなくゼロに近づけていく予定です。なお、悪質コメントを事前に察知し、投稿前に削除するAIスクリーニング本機能は、日本初(※)となります。(※)日本初は自社調べです
 
  • コンテンツモデレーションAIのテクノロジー
ディープラーニングをコンテンツモデレーション機能に応用。従来のキーワード等の検出ではなく、文脈を含めてコメントをニューラルネットワーク上で抽象化し、即時にそのコメントの悪質性を判断。投稿前に自動削除することを可能としました。ライブ配信プラットフォームのパイオニアでもあるSHOWROOMの、膨大なコメントのデータを活用することで、高い確率で悪質コメントを検知することに成功しました。

 
  • 開発を担当したSHOWROOM AI分析チーム・コメント
夢をかなえるため配信に奮闘するライバーと、彼女ら彼らの配信を日々楽しみにする視聴者。「SHOWROOM」は、そんな“夢を追う人・夢をかなえてあげたいと願う人“が安心して楽しめる場所でありたいと願っています。それでも時々目にする誹謗中傷等の悪質コメント。チームとしてもこれまで徹底して発見と同時に削除に努めてまいりましたが、もぐら叩きになってしまっていたのがこれまでです。そんな中で誕生した本機能。コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態です。それを今回我々が開発した機能は、日本語をAIのスクリーニング機能によって事前に良質か悪質かコメントの質を見分けることが出来ます。これによって、一瞬であっても不快なコメントを目にする機会が軽減、また連鎖を防ぐことが可能になると考えます。日本語特有の遠回しな言い方や、複数回に分けてコメントをする等、従来の手法では難しかった悪質なコメントも検出することに成功。今回、無事「SHOWROOM」に第一弾が実装できることを大変うれしく思っております。
 
  • 今後について
まずは仮想ライブ空間「SHOWROOM」にて、ファーストステージを導入。AIがユーザーの変わりに通報を行うことを可能とします。最終的には「SHOWROOM」内で、誹謗中傷を中心とした悪質コメントの100%排除に限りなく近くなることを目指します。また、2021年2月より、一部機能の他社提供も開始いたします。他社展開については、当社サービスの運用結果を見ながら、より幅広く販売する予定です。今後も、SHOWROOMでは、「すべての人生に、夢中を」をテーマに、ライバーと視聴者の皆さまが夢中になれるような機能・企画開発に邁進して参ります。
 
  • SHOWROOM会社概要
「機会格差を無くし、努力がフェアに報われる世界を創る」というミッションを掲げ、ライブ動画ストリーミングプラットフォーム「SHOWROOM」を運営。様々なジャンルのライバー(配信者)によるライブ配信により、夢中で誰かを応援するという新しい視聴体験を創出。2020年には、会員登録者数が400万人を突破。また、VR/AR など最新技術を活用した各種プロダクト・サービス開発も展開しています。(https://showroom.co.jp/
 
  1. プレスリリース >
  2. SHOWROOM株式会社 >
  3. SHOWROOM、日本初となるコンテンツモデレーションAI機能(特許出願中)を自社にて開発 仮想ライブ空間「SHOWROOM」に搭載へ