不適切な発言の抑止、証明を目的としたモデレートサポート「不適切コム」の一般公開を開始

「生成AI」によって作成された文書の可能性があるかの判定機能、誹謗中傷を受けたとされる方が裁判にて使用可能な証明書も公式版で提供する

Jetrun

2024年5月24日 12時33分

カスハラ(カスタマーハラスメント)など「言葉」によるトラブルが絶えない中、多種多様なハラスメント行為、差別的な発言、一般的な用語に紛れたリスキーな隠語、センシティブワード、ポリコレ(ポリティカル・コレクトネス)に該当する表現まで広範囲に検知、モデレート(言い換え)をナビゲートするサービスを一般公開した

ジェットラン・テクノロジーズ株式会社(東京港区代表取締役社長野武浩 https://www.jetrun.co.jp/ )は、これまで携帯キャリアやアプリ、オンラインゲームなどへ長期にわたって提供してきた「不適切な用語、表現」に対する検知サービス機能を大幅に拡充しSNS(交流サイト)に限らず、チャットやメールによるカスタマー対応を含め、業務上もしくは社内、学内などから侮辱的、威圧的と感じる言葉の内容が「侮辱罪」に抵触するかの指標を提供するサイト「不適切コム」をサービスインした

これまで「差別的なあだ名」など言葉の暴力を受けたとしたとき「どこがハラスメントなのか」を具体的に説明できないという課題があった

「不適切コム」では膨大な不適切投稿を統計的に判定する手法を採用し、画面上で具体的に明示するだけでなく判定結果を裁判で使用できる証明書(注1)も発行する

単なる「言葉狩り」ではなく「言葉の暴力」との境界線を具体的に数値化し「被害者も加害者も生まないコミュケーション」となるようモデレートする指標を提供する

注1)裁判の手続上、法令上の証拠能力等があるか、証拠価値を法的にどう評価するかは法律判断、裁判官の判断となりますので弁護士その他専門家に相談のうえ、ご利用ください

◼️「不適切コム」が提供するサービス一覧

「言葉のリスク」となる要素を検知、モデレート(言い換え)する指標を提供

いじめ、性別による決めつけ、ハラスメントに該当する用法の検出、注意喚起
成人向けや暴力、有害ワードの含有率によるレイティング判定
「生成AI」で作成された文書の可能性を判定(日本語専用)
大規模なバイアス計算による独創的(オリジナル性)、標準的(平均的)の算定
ストーリーラインに連動した詳細な感情分析
「言葉の切り取り」を自動判定。言葉の一部を切り取って非難する行為を牽制
文化庁文化審議会発行「公用文作成の考え方(注2)」に一部準拠した用語、用法に対する言い換え機能

注2)「公用文作成の考え方」は、国語分科会報告に基づき、「公用文作成の要領」が示してきた理念を生かしつつ、それに代えて政府内で活用されることを目指し取りまとめたものである(前書きから引用)

◼️「不適切コム」提供への背景

時代の変化により、これまで一般的に使われていた言葉が「犯罪」に該当する危険な隠語だったという事実に遭遇することがあります

最近では新番組や新しい歌詞のタイトルが「危険薬物の古い隠語だった」という指摘もあり、公開文書や創作物などにそういった用語、表現が紛れ込んだ場合、時代の変化によって将来回収や販売中止に追い込まれる可能性もあります

また、新たな課題として「生成AI」の急速な普及により、まったく異なる発信元から類似した用語、用法が使われた文書が拡散され、見解の一極化など、個人の能力を評価する試験においては「不適切」となる場合があります

このたびリリースした「不適切コム」では、そうした人工的な生成物(生成AI)のバイアスを検知し、適切に加筆、修正する為の指標となるよう設計されています

◼️「不適切コム」が想定するユーザー

報道機関、各種学校、官公庁、企業におけるコンプライアンス管理部門、創作物を扱う事業者、SNSなどで発信する事業者

業務上、社内、学内など、メールやチャット、カスタマー業務などで中傷を受けたと感じた時、具体的に該当する用語、用法を明確にし、証明書(有償)も発行いたします。ただし法令上の証拠能力等があるか、証拠価値を法的にどう評価するかは、法律判断、裁判官の判断となりますので、弁護士その他専門家に相談のうえご利用ください

新年度に入り性別による決めつけた言い回しによって、重大な事態に発展することもあり、一層の配慮が必要です

◼️「不適切コム」の提供形態

必要な機能をオンライン上で利用できる他、外部のサービス、アプリへも導入できるよう機能別にAPI(有償)でも提供いたします

不適切コム

URL: https://www.futekisetu.com/

2024年5月24日よりサービス開始