AI（感情分析）と心理学で誹謗中傷対策。SNSやゲーム、デジタル広告に導入可能なアルゴリズム特許取得のお知らせ。

株式会社toyouは簡便に開発可能な、オンラインストレスを減少させる特許を取得いたしました。（特願2023-109387）

感情は人々の判断や行動に影響を与えます。
本特許はSNSやオンラインゲームなどで攻撃性の高いユーザーをあらかじめ表示しない選択肢をユーザーに与えます。
これは私たちの日常のコミュニケーションやビジネス、さらには社会全体に革命的な影響をもたらす可能性を秘めています。

本特許は特許海外優先権（PCT優先権）の期間中であり、この特許の可能性をさらに広げるパートナーを募集しています。

J-PlatPat（特許情報プラットホーム）へは12/28ごろ反映されます。

• 特許概要

SNS、オンラインゲーム、ニュースやＥコマースのレビュー、デジタル広告などの分野をカバーしています。

オンライン上のネガティブな表現を制御し、ユーザー体験を向上させることが目的です。

ユーザー主導の体験と表現の自由

ＳＮＳでは投稿・シェア、オンラインゲームではチャットやゲーム上の行動から感情分析を行いスコア化します。

各ユーザーは自分の行動に合わせたスコアを持ち、低スコア（ネガティブ行動が多い）ユーザーを表示しない選択が可能です。

これにより捨てアカウントでの誹謗中傷にも対応可能で、様々なWEBサービスに実装可能です。

https://prtimes.jp/a/?f=d72108-12-acee925a38b994a9073ef9ab1505222c.pdf

• 感情分析で「ブロック」「通報」では対応できなかった誹謗中傷対策

ＳＮＳでの誹謗中傷が社会問題になっていますが、本特許はユーザーの投稿傾向を可視化可能です。

スコアが低い、つまりネガティブな投稿が多いユーザーの投稿を非表示にすることで、SNSでの不快なコメントやヘイトスピーチを見ずに済むようになります。

この技術により、「表現の自由」と「心地よいコミュニケーション」の両立を目指しています。

直近の投稿に重み付けをすることで急激な変化も検知可能です。

• ユーザー、プラットホームへ与える影響

ユーザー視点

・ネガティブなコンテンツの減少

 ユーザーはネガティブな投稿を見かける頻度が減少し、快適なオンライン体験が可能です。

・ストレスの軽減

 誹謗中傷などのストレス要因が減ることで、ユーザーの精神的健康が守られます。

・利用環境の改善

SNSやオンラインゲームでのコミュニケーションがより安全で楽しいものになることで、利用者の満足度が向上します。

 プラットホーム視点

・ユーザー滞在時間の増加

 ネガティブなコンテンツが減少することで、ユーザーがプラットホーム上で過ごす時間が長くなる可能性があります。

・ブランドイメージの向上

ユーザーの健全な利用を促進することで、プラットホームのブランドイメージが向上し、新規ユーザーの獲得や既存ユーザーのロイヤルティが高まる可能性があります。

・コンプライアンスとリスク管理

ネガティブなコンテンツの管理を強化することで、法的規制や社会的責任の遵守が容易になります。

これはリスク管理の観点からも重要です。

デジタル広告企業への影響

デジタル広告企業は攻撃的なユーザーを避けた表示を行うことでブランドイメージを保護し、広告の効果を最大化する新たな機会を提供します。

特に、サードパーティーcookieの規制が厳しくなる中で、ファーストパーティーcookieを活用したパーソナライズされた広告提供は、ユーザー体験の向上に寄与します。

• 社会心理学的なアプローチ

SNSやオンラインゲーム、レビューサイトで導入することにより、「匿名化による攻撃性増大」を抑止します。

・報酬と罰の原理

感情解析スコアを導入することで、良い行動（ポジティブな投稿）が報酬（高いスコア）として認識されます。

逆に、ネガティブな投稿を行うとスコアが下がるため、これを罰として認識し、ネガティブな投稿を避けるようになります。

・社会的承認の求心力

人は社会的に承認される行動をとる傾向があります。

高い感情解析スコアが他のユーザーでも確認できるようにすると、良好な評価を受ける動機が生まれます。

これにより、ネガティブな投稿を控えるようになります。

・選択的露出の原理

この特許では、ユーザーが低いスコアの投稿を非表示にすることができます。

これにより、ポジティブなコンテンツを好むユーザーがネガティブな情報から遮断されるため、全体のムードが良好に保たれやすくなります。

• SDGsに基づくWEBコミュニケーションの持続可能性

目標 3: すべての人に健康と福祉を

この特許による誹謗中傷やヘイトスピーチの抑制は、オンラインでの精神的ストレスやハラスメントの減少に寄与し、ユーザーのメンタルヘルスの保護を図ります。

目標 5: ジェンダー平等を実現しよう

ジェンダーに基づくヘイトスピーチや差別の削減を通じて、ジェンダー平等の実現に向けたオンライン空間の改善が進みます。

目標 16: 平和と公正をすべての人に

ネット上の平和の確保と、誹謗中傷やヘイトスピーチによる不正の撲滅により、公正かつ平和な社会の構築に貢献します。

• 株式会社toyou概要

「社会課題をテクノロジーで解決する」を理念とし、様々な企業の新規事業を「社会課題解決型新規事業」としてゼロから企画、開発を行っている企業です。

AIだけでなく、クライアント企業の強みを活かすビジネス提案を行います。

自社特許は社会課題解決のために、低価格もしくは無料でのライセンス供与を行っています。