PKSHA Technology、AIで誹謗中傷などの不適切コンテンツを監視・対応する「PKSHA Security for Post Guard」を提供開始

～各種プラットフォーム等での不適切な投稿を自動検知し、検閲コストを削減しながら利用者の安全性を向上。お申し込み後、最短数日からご利用可能〜

　株式会社PKSHA Technology（本社：東京都文京区、代表取締役：上野山 勝也、以下PKSHA Technology）は、不適切な投稿を自動検知する「PKSHA Security for Post Guard」の提供を開始いたしました。

　近年、インターネット上の各種プラットフォームサービスにおいては、誹謗中傷や未成年を標的とした不適切な勧誘、意図的な虚偽情報の拡散など、インターネット上の有害コンテンツが深刻な社会問題として顕在化しています。

　PKSHA Technologyは「人とソフトウエアの共進化」というビジョンの元、ソフトウエアを軸にしたソリューション・プロダクトの展開を行っており、本ソリューションを通じて、各種プラットフォームの健全性維持という社会課題の解決に貢献してまいります。

より安全なウェブプラットフォームの運営が課題にーAIにより誹謗中傷や情報漏洩等を自動検知する仕組みを開発

　近年、インターネット上の各種プラットフォームサービスにおいては、誹謗中傷や未成年を標的とした不適切な勧誘、意図的な虚偽情報の拡散など、インターネット上の有害コンテンツが深刻な社会問題として顕在化しています。

　特に、プラットフォームの大規模化と匿名性を悪用した悪質な投稿は年々巧妙化しており、総務省では、2020年9月に公表した「インターネット上の誹謗中傷への対応に関する政策パッケージ」に基づき、ユーザーに対する啓発活動などの対策を講じています（※）。そのような状況下で、以下のような課題を抱えるプラットフォーム事業者が年々増加しています。

• 大量の投稿に対する24時間365日の高品質な監視が追いつかない

• 新たな不適切投稿トレンドへの迅速な対応体制の構築が喫緊である

• 監視業務における運用コストを最適化したい

　そこで、金融業界を中心にカード不正利用の検知システム等を提供してきた「PKSHA Secutity（※2）」の技術とノウハウ、並びに大手マッチングアプリ事業者や監視事業者などとの協業（※3）を通じて培った投稿監視業務におけるAIの社会実装実績を活かし、高精度な不正投稿検知を実施できるサービスとして「PKSHA Security for Post Guard」の提供を開始します。

　このソリューションにより、プラットフォーム事業者の不正投稿検知コストを削減し、人とAIによる高精度での不正投稿検知によって、安全なウェブ空間を実現します。

「PKSHA Security for Post Guard」の特長

　「PKSHA Security for Post Guard」は、大手マッチングアプリ事業者や監視事業者などでの実用実績に基づく独自のテキスト解析技術を用いて、大量の投稿の中から誹謗中傷、公序良俗に反する投稿、従業員の不適切行為等、リスクのある投稿を瞬時に自動検知します。このような、人とAIによるハイブリッド型の監視体制によって、監視業務の効率化（業務効率の向上・業務負荷の軽減）をサポートします。

　なお、従来の不正投稿監視においては、主に人力のみで監視を行うサービスや、検知対象となるキーワードや画像を事前に設定の上で、関連する投稿を検知するサービス等にて対策を行ってきましたが、「PKSHA Security for Post Guard」では事前のキーワード設定に加えて、お客様自身が本サービスのUI を通じて、実際に遭遇した不正事例のデータを随時投入することで、そのサービス特有の不正パターンに特化した検知が可能となり、新たな不正トレンドにもAIが早期に追従することが可能となります。

1. 国内有数の社会実装実績に基づく、高精度な自動検知を実現

   • 大手マッチングアプリ事業者や監視事業者などでの実用実績に基づく、独自のテキスト解析技術による文脈を考慮した高精度な判定が可能

   • AIモデルの定期的な再学習による不正トレンドへの効果的な追従が可能

2. 業務要件に合わせた柔軟なカスタマイズが可能

   • 専用管理画面からの既存／新規検知ルールの簡易追加が可能

   • 検知対象のファイルアップロード／API経由での推論の双方に対応

   • 投稿ごとに不適切度合いを示すスコアを算出／可視化することで、メリハリをつけた効率的な監視業務の実現をサポート

不正投稿検出ルールの設定画面

不正投稿の検出画面

想定される活用シーン

　本ソリューションは、各種プラットフォーム上で課題となっている、以下のような不適切な投稿を高精度に自動検知し、監視業務に係る業務効率化を支援いたします。

今後の展望

各種プラットフォームの健全性を維持し、安全・安心なオンラインコミュニケーションの実現へ

　本ソリューションの提供により、誹謗中傷や差別的な表現など、健全なコミュニティを阻害する要因をAIがリアルタイムに検知・識別し、プラットフォーム事業者へ迅速な対応を促します。

　これにより、利用者の誰もが安心安全に情報発信や交流を楽しめる環境を構築し、より健全なデジタル社会の実現に貢献します。また、プラットフォーム事業者においては、AIによる監視体制の強化による運用負荷軽減と、より安全なサービスの提供を両立することが可能となります。

　将来的には、本ソリューションを様々なリスクマネジメント領域に対応させることで、人々がより安全にオンラインコミュニケーションを行える社会を実現します。未来のソフトウエアによってより良い社会を実現することを目指していきます。

※　第2部 情報通信分野の現状と課題｜総務省 令和5年度 情報通信白書（https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r05/html/nd252540.html）

※2 PKSHA Securityの詳細はこちら：https://www.pkshatech.com/business/product/pksha-security/

※3 プラットフォームのメッセージ上での不適切な投稿を監視・削除する

株式会社PKSHA Technology 会社概要

「未来のソフトウエアを形にする」をミッションに、企業と人の未来の関係性を創るべく自社開発した機械学習／深層学習領域のアルゴリズムを用いたAIソリューションの開発・AI SaaSの提供を行っています。自然言語処理技術を用いた自動応答や、画像/動画認識、予測モデルなど多岐に渡る技術をベースに顧客の課題にあわせた解決策を提供する他、共通課題を解決するAI SaaSの展開により、ソフトウエアの社会実装を多面的に支援し、人とソフトウエアが共に進化する豊かな社会を目指します。

会社名：株式会社PKSHA Technology
所在地：東京都文京区本郷 2-35-10 本郷瀬川ビル 4F
代表者：代表取締役 上野山 勝也
URL： https://www.pkshatech.com/

◆本件に関するお問合せ
[e-mail]

※本ニュースリリースに記載された内容は発表日現在のものです。

その後予告なしに変更されることがあります。