2020年は誹謗中傷が社会問題に。私たちの挑戦

アディッシュ株式会社 サービスデザイン本部 システムプロダクト部の岩佐晃輔です。私は、アディッシュに入社以来、投稿モニタリングやネット炎上対策、誹謗中傷対策の事業に携わり、数多くのサイトと向き合ってきました。

そのような中、サイト利用者、サイト運営会社、社会の三方にとって良いサイトが好ましいが、何かひとつに問題があり改善できないままサイトを閉じる会社が多いことに気づきました。

三方にとって良いアプローチを考え、辿りついたのが2020年9月に提供を開始した、SNSなどへ投稿する前に内容再考を促すAI検知サービス「matte」です。

2020年は、「誹謗中傷」が社会課題となり、国をはじめ様々な場所で議論された年でした。投稿制限を強化していくのか、他方、ユーザーの情報モラル、ICTリテラシーの向上の必要性などにも触れられていました。

ただ、重要なのは、誹謗中傷などの投稿をするユーザーの内、悪意のある投稿者は少なからずいますが、悪意なく投稿するユーザーが多くいる点です。

悪意のないユーザーの特徴は、未成年や新規ユーザーなどICTリテラシーが高くないユーザーです。この中には怒りの感情から勢いで投稿してしまうユーザーも含まれます。

私たちは、インターネットを規制するのではなく、一人ひとりが居心地の良い場所を提供できるようにしたいと考えています。そんな原点となる想いから、SNSなどに投稿する前に内容再考を促すAI検知サービス「matte」を誕生させたのです。

SNSへ投稿する前にちょっと待って！ 誹謗中傷などのトラブルを未然に防止

https://matte.ai/

AI検知による再考アラート「matte」は、不適切だと思われる投稿がされる前に、高性能AIモデルがタグ付けし、ユーザーにポップアップで投稿内容の見直しを促すサービスです。

また他人の否定的な投稿を見て、連鎖的に反応する行為を防ぐことで、ユーザー間トラブルを減らす効果も見込まれます。さらに自身で投稿内容を見直す機会を得ることで、ユーザーのリテラシー向上にも繋がります。

リスク対策のAI化

私たちは10年以上、システムと有人モニタリングでインターネット上でのリスク対策を行っています。具体的には企業が管理するサイト（オウンドメディアやソーシャルメディア）を24時間365日、目視で監視しリスクの有無を判断、クライアント企業に報告しています。

並行して業務のAI化は、長年取り組んでおりましたが、「matte」のサービス方針に定めたのは、2020年の春ごろでした。様々な施策を模索していましたが、社内AI開発の方針を「再考アラートサービス」に変更して「matte」の開発が進められました。

業界のスタンダードを作ってきたからこその障壁

有人監視は人による判断違いはうまれないように監視基準を作成するのですが、その監視基準は、特定のワードが判断基準になるのではなく、文章の文脈で判断ができるように調整しています。そうなると、人で判断できても機械で判断ができないという課題がうまれました。弊社の監視基準担当者であるポリシーアーキテクトと機械学習エンジニアと共にその課題に対して挑んできました。

自分自身との戦い

一方で私自身の問題にもぶつかりました。個人的にサービスをゼロから作るというのが初めての経験で何をどのように進めればよいのかわかりませんでした。そもそもサービス作りは答えがあるようなものではないですし、サービス化しても提供価値の最大化のポイントを探し続けなければいけません。

最近では、プロダクトマネージャーの役割を持つ人が増え、新規事業開発のノウハウが公表されています。様々な書籍やネット記事を読んだり、他社のプロダクトマネージャーに相談をしたりしながら、自分の不足した部分を早急に補うようにしました。

コロナ禍で在宅勤務になったコミュニケーション問題

また、チーム内のコミュニケーションでは新型コロナウイルス感染拡大の影響で在宅勤務になり、全てオンラインで進めることも大変でした。

チームにおいて、サービスビジョンとそれに伴う検証ポイントの認識の一致、さらにお互いどのような考えを持ったか、リアルタイムに近い状態で把握することが重要です。

対面でのコミュニケーションであるなら、その場で皆が共有して、呼吸だったり雰囲気を感じて、さらに雑談からアイディアがうまれることが多いのですが、それができませんでした。

様々な方法を検証した結果、今ではオンライン雑談の時間を取ったり、つぶやきが投稿できるよう、コミュニケーションツールのslackに、最近の論文やニュース、個人の考えを気軽に投稿できる部屋を作り、チームメンバーがすぐにコミュニケーションをとれるような仕組みを取り入れています。

ソーシャルグッドへの挑戦

そんな過程を経て、2020年9月15日に「matte」の提供開始に至ることができました。

現在も、どのようなポップアップの文言が最適か、どのようなデザインが最適か、ユーザーインタビューを繰り返し、改善に努めています。実際、デザインによって、読み飛ばされるものや、メッセージの意図が伝わらないものはありました。適宜、ユーザーヒアリングを実施して、行動変容をもたらす最適解を検証しています。

また、私たちは、誹謗中傷の問題を一過性のものにしないためにも、各界の有識者のお力を借り、連携をしています。

2020年はジャーナリスト 佐々木 俊尚氏へインタビューを敢行、ネット炎上といったデジタルリスクとどのように向き合うべきかについて取材しました。

https://prtimes.jp/main/html/rd/p/000000065.000029662.html

国際大学グローバル・コミュニケーション・センター准教授 山口 真一氏には、誹謗中傷者の特徴や中傷する心理に迫り、健全なネットコミュニティ社会を築くための対策、また情報社会におけるサイレントマジョリティ（物言わぬ多数派）についてインタビューをしました。

https://prtimes.jp/main/html/rd/p/000000070.000029662.html

今後も絶えず誹謗中傷の問題を提起し続けることで、社会全体の意識を変えていきたいと考えています。

matteは、制限やペナルティではなく、ユーザーに気づきと機会を与え、問題を未然に防ぐサービスです。

アディッシュは「matte」のような社会課題を解決するソーシャルグッドなサービスを増やしていきたいと考えています。

そのようなサービスを通じて、コミュニティサイトの多くのユーザーが安心してコミュニケーションが取れる心地のよい「居場所」をつくっていければと思います。