SNSへ投稿する前にちょっと待って。アディッシュ、AIが投稿前に「再考」を促し誹謗中傷などのトラブルを未然に防止する新サービス「matte」を開発

情報の領域で発生する課題解決に向けて、投稿モニタリング、ネットいじめ対策、ソーシャルアプリのカスタマーサポートなどカスタマーリレーション事業を展開するアディッシュ株式会社（本社：東京都品川区、代表取締役 江戸 浩樹、証券コード：7093、以下アディッシュ）は、投稿者がSNS等インターネット上に投稿する前に、内容再考の機会を促すアラート機能を装備したAI検知サービス「matte（マッテ）」を開発、2020年9月15日より提供を開始しました。
「matte」は、トラブルの元となる不適切な投稿内容を検知することで、ユーザー間トラブルの防止やICTリテラシーの向上を促します。

 

• 開発背景

■誹謗中傷によるトラブルが社会問題、政府も対策を加速
インターネット上でのトラブルが顕著になり、総務省では2020年4月、発信者情報開示の対象となる発信者情報の見直しや、発信者情報開示手続を円滑にするための方策について検討する研究会を設置しました。プロバイダやプラットフォーム事業者に投稿削除などの適切な対応を促したり、保有する発信者の情報開示を被害者が請求できる権利を規定するなど、対策が進んでいます。

一方で、インターネット上のコミュニケーションが抑制される懸念も生じていました。

2020年8月7日に公表された、プラットフォームサービスに関する研究会による「インターネット上の誹謗中傷への対応の在り方に関する緊急提言」では、「インターネット上の誹謗中傷への対応の在り方について（案）に対する意見募集結果」を踏まえ取りまとめられました。誹謗中傷対策の必要性、誹謗中傷と正当な批判を区別して対応を行うべきといった検討にあたっての基本的な視点、普及啓発の必要性などには多くの賛同がありました。他方で、プラットフォーム事業者に対する削除義務や過料等を科す法的規制の導入等については、賛否両論の意見があがり、プラットフォーム事業者が、上記の誹謗中傷への対応の必要性と表現の自由への萎縮効果のバランスを考慮した対応を実施するための方策が求められています。
（出典：（別紙2）プラットフォームサービスに関する研究会 インターネット上の誹謗中傷への対応の在り方に関する緊急提言 ｜総務省｜2020年8月7日）


■投稿者のリテラシー欠如が「悪意のない」不適切な投稿をうみだす
誹謗中傷を書き込む原因のひとつとして、ユーザーの情報モラル、ICTリテラシーの欠如が考えられています。実際、クライアントである運営会社が提供するサービス利用者の中には、運営会社から自身の投稿が削除された理由や、ペナルティを科せられたユーザーからの問い合わせがアディッシュに入ります。このようなユーザーは、ガイドラインの認識の欠如が考えられます。
このような事例からも、事業者による投稿削除やペナルティを科すよりも、ユーザー自ら投稿内容の問題に気づき、修正の機会を得ることで、ICTリテラシーの向上も期待できます。
　

■「再考アラート」の有効性
ユーザー自ら投稿内容の問題に気づく、「再考アラート」の有効性が報告されています。

①投稿前に思いとどまらせることが可能
投稿を完了する前に「メッセージ」を送ることで、93%の投稿を思いとどまったという報告があります。（出典：「誇りがあればヘイトに負けない──10代のネットいじめを止める17歳のCEO」|『WIRED』｜2017年9月20日）

②荒らし投稿を未然に防ぐことで、相乗効果でNG投稿の減少が期待できる
否定的な投稿や他人の荒らし投稿を見ることで、ユーザーが荒らしをする確率が有意に高くなり、その確率が2倍になるとの報告があります。（出典： | Anyone Can Become a Troll: Causes of Trolling Behavior in Online Discussions | ACM Digital Library）

③思いとどまらせることで怒りを鎮静させる効果がある
他人の投稿を見て、反射的に投稿することがあります。怒りのピークは6秒と言われています。
（出典：一般社団法人 日本アンガーマネジメント協会）

またアディッシュが、コミュニティ運営企業に調査した「投稿の再考を促すシステム導入への関心度合」は、「とても好ましい」「やや好ましい」と80%以上が好意的に捉えており、「再考アラート」の関心の高さが推察できます。
（参考：コミュニティ運営企業の誹謗中傷への対応に関するアンケート | アディッシュ | 2020年9月9日）

 

• 「matte」サービス概要 　 

AI検知による再考アラート「matte」は、投稿前に不適切な投稿内容をポップアップで見直しを促し、否定的な意見に連鎖的に反応する行為を防ぐことで、ユーザー間トラブルを減らす効果が見込まれます。また自身で投稿内容を見直す機会を得ることで、ユーザーのリテラシー向上にも繋がります。
「matte」は、SNSへの投稿制限や規制をするのではなく、ユーザーにとってはオンライン上のコミュニケーションの場に安心して投稿ができるようになり、プラットフォーム事業者やサイト運営者は、自社のサービス価値と健全性が保たれることが期待できます。https://matte.ai/
 

• 「matte」特徴

①投稿内容を「matte」が取り込み、AIにより瞬時に判別しポップアップで通知
不適切だと懸念される投稿がある場合は、高性能AIモデルがタグ付けし、ユーザーが投稿をする前にアラートで通知します。
 

②ユーザーの使いやすさを考慮し、継続的にポップアップを最適化
ポップアップは、運用しながらデータを収集、またユーザーが投稿を萎縮することがないよう利用者検証を繰り返し、最適な内容を提案し続けます。
 

• 今後の展開

今後もアディッシュは、インターネットを規制するのではなく、サービスの提供を通じて利用者が安心してコミュニケーションができる場作りに取り組んでいきます。誹謗中傷を含むユーザー間トラブルがなくなるよう、オンラインコミュニティの健全化に取り組み、コミュニティサービスの発展に尽力していきます。



【アディッシュ株式会社　概要】　
設立　　　：2014年10月1日
代表者　　：代表取締役 江戸 浩樹
本社所在地：東京都品川区西五反田1-21-8　ヒューリック五反田山手通ビル8階
資本金　　：233,018,600円（2020年6月30日現在）
事業内容　：投稿モニタリング、ネットいじめ対策、ソーシャルアプリのカスタマーサポート、チャットボットの開発運営、国内外のSNS運用代行などの事業を展開。
URL　　　：https://www.adish.co.jp



※記載されているサービス・商品名、会社名は各社の商標および登録商標です
※本リリース情報は、2020年9月15日時点の情報です

【サービスに関するお問い合わせ先】
アディッシュ株式会社　サービスデザイン本部　システムプロダクト部　岩佐
Tel：[phone]（代表）　
お問い合わせフォーム：https://info.adish.co.jp/webapp/form/21053_tdfb_137/index.do
https://matte.ai/