【Yahoo!ニュース】コメント欄のさらなる健全化を目指しAIが表現の見直しを提案する「コメント添削モデル」の導入を開始

「不快と感じる可能性のある表現」に対し、コメントを投稿完了前にユーザーに対し見直しを提案

LINEヤフー株式会社

2024年9月9日 11時02分

LINEヤフー株式会社（以下、LINEヤフー）が運営する日本最大級のインターネットニュース配信サービス「Yahoo!ニュース」が提供する「Yahoo!ニュースコメント」（以下、コメント欄）において、「Yahoo!ニュースコメントポリシー（以下、コメントポリシー）に違反するコメント」やコメントポリシー違反に該当しないもののコメント閲覧者が「不快と感じる可能性のある表現」に対して、ユーザーがコメントを投稿完了前にAIが表現の見直しを提案する「コメント添削モデル」の導入を開始しました。これにより、コメント欄における、さらなる健全な言論空間の創出を目指します。

「Yahoo!ニュース」は、ユーザーがニュースに関する多様な意見を共有しあい、新たな視点を得るきっかけを創出することを目的として、コメント欄を2007年から提供しています。

「Yahoo!ニュース」では、ユーザーの表現の自由を尊重するとともに、より安心して利用できるサービス環境を目指すべく、以前より誹謗中傷などの内容を含む投稿を禁止し、コメントポリシー（※1）に違反投稿の具体例をわかりやすく明示しています。24時間体制の専門チームによる人的なパトロールに加えて、LINEヤフーが開発したAI「深層学習を用いた自然言語処理モデル」などのテクノロジーを駆使しながら、誹謗中傷をはじめとする違反コメントの削除などの対策に努めています。また、建設的なコメントとしてのスコアが高いものをAIが判定し上位表示させる「建設的コメント順位付けモデル」や、AIが多様な切り口のコメントを上位へ優先的に表示する「コメント多様化モデル」の導入など、コメント欄の健全化のため複数の独自のAIを取り入れてきました。（※2）

そしてこのたび、「Yahoo!ニュース」は「コメントポリシーに違反するコメント」やコメントポリシー違反に該当しないもののコメント閲覧者が「不快と感じる可能性のある表現」に対して、ユーザーがコメントを投稿完了前にAIが表現の見直しを提案する「コメント添削モデル」の導入を開始しました。コメント投稿前に表現を見直す機会をユーザーに提供することについては有識者からも重要性を提起されており、「コメント添削モデル」はそのような意見も踏まえての導入となります。

「コメント添削モデル」により、ユーザーが投稿完了前にコメントを見直す機会を提供することで、該当の記事にまつわる方々や他のユーザーが不快と感じる恐れの少ない表現への改善を促し、コメント欄のさらなる健全化を目指します。

具体的には、コメント投稿フォームにコメントを入力し「投稿する」ボタンを押下した際、「コメント添削モデル」が「コメントポリシーに違反するコメント」や「不快と感じる可能性のある表現」と判断した場合、該当箇所をハイライトで示し、表現の見直しを提案するポップアップが表示されます。ユーザーはコメントを投稿完了前に表現の見直しを行うことが可能です。

※「コメント添削モデル」の詳細な機能説明は「Yahoo!ニュース」のオウンドメディア「newsHACK」で紹介しています。

https://news.yahoo.co.jp/newshack/information/comment_20240909.html

■「コメント添削モデル」の発動イメージ（※画像の内容は一例であり、条件に当てはまるコメントにのみ発動します）