SHOWROOM、日本初となるコンテンツモデレーションAI機能(特許出願中)を自社にて開発 仮想ライブ空間「SHOWROOM」に搭載へ
誹謗中傷を中心とする悪質なコメントをAIが検知し、事前にブロック
SHOWROOM株式会社(本社:東京都渋谷区、代表取締役社長:前田裕二)は、自社が運営する仮想ライブ空間「SHOWROOM」において、悪質コメントを検知し、投稿される前にブロックするコンテンツモデレーションAI機能を自社にて開発し、「SHOWROOM」に搭載いたしました。
今回のタイミングでは、その前段階として、AIがユーザーの変わりに通報を行う機能を実装。悪質なコメントをこれまで以上に早く確認し、投稿削除するまでのスピードを一層あげることが可能となります。今後は、精度を上げながら、自動的にユーザーの悪質投稿を表示させない機能をリリースしていきます。なお、本機能については、特許を出願中です。
- コンテンツモデレーションAI機能スキーム図
今回のタイミングでは、その前段階として、AIがユーザーの変わりに通報を行う機能を実装。悪質なコメントをこれまで以上に早く確認し、投稿削除するまでのスピードを一層あげることが可能となります。今後は、精度を上げながら、自動的にユーザーの悪質投稿を表示させない機能をリリースしていきます。なお、本機能については、特許を出願中です。
- 日本初のAIスクリーニング機能誕生の背景
- コンテンツモデレーションAIのテクノロジー
- 開発を担当したSHOWROOM AI分析チーム・コメント
- 今後について
- SHOWROOM会社概要
すべての画像