生成AIを用いたスパム自動検出を実現し、不適切投稿を前月比で約90％削減

会員数12万人の技術ブログ「Zenn」の開発・運営をLLMで効率化

クラスメソッド株式会社（本社：東京都港区、代表取締役：横田 聡、以下「クラスメソッド」）は、生成AIを活用して、情報共有プラットフォーム「Zenn」へのスパム投稿対策を実現したことをお知らせします。

【背景】

クラスメソッドが運営する情報共有プラットフォーム「Zenn」は、12万人を超える会員が技術ブログ記事を執筆し、月間1,300万件以上のPV（ページ閲覧数）があります。

2024年6月よりスパム投稿（＊）が増加したのを機に、快適な技術情報の共有というユーザー体験を守るため、スパム対策を検討しました。

現在、Zennにはブログ記事やコメントなど、1日あたり約111万文字相当の投稿があり、これらを人力で全件チェックするのは現実的ではありません。今後も会員数や投稿数が増加していくことを想定すると、コンテンツチェックの自動化は必須の仕組みでした。

＊ ブログ内容やIT技術とは無関係なサイトへの誘導や、無意味な文字列など。

【生成AIを用いたスパム投稿対策について】

クラスメソッドでは、Zennに投稿される記事やコメントなどのコンテンツについて、スパムと疑われるものを自動検出し、管理者に通知する仕組みを実装しました。2024年7月初旬から運用を開始し、8月は約1,500件を自動検出しています。

スパムの判定には、LLM（大規模言語モデル）を使用し、短期間で一定の精度をもった検出の仕組みの開発・実装を実現しました。

スパムの疑いがあるコンテンツについては、人間が最終確認し、記事の非公開化やアカウント凍結などの対応を適宜行っています。スパム投稿数は月によって大きく変動するため単純比較はできないものの、7月〜8月の徹底した対策を経て、9月のスパム疑いのある投稿は前月同期比（＊）で約90％削減され、ユーザーからの指摘件数も大きく減少しました。

＊ 2024年9月11日時点での試算

生成AIによるコンテンツ巡回と、スパム自動検出・報告、管理者による内容確認の流れ

実装内容については、開発担当者がZennに記事を執筆し公開しています。

[参考] 開発担当者ブログ「Zennへのスパム投稿が急増したのでLLMでなんとかした話」

 https://zenn.dev/team_zenn/articles/zenn-check-spam-by-llm

【「Zenn」について】

Zennはエンジニアのための新しい情報共有コミュニティを目指し、クラスメソッドが運営する技術ブログプラットフォームです。個人利用のほか、企業や団体、チームによる利用も行われており、2024年9月時点で会員数は12万人を超え、企業・法人利用も900件以上、月間PVは1,300万以上となっています。

Zennの会員は知見を記事として投稿するだけでなく、1冊の本にまとめて無料または有料で公開したり、記事としてまとめる前の短いメモを投稿することもできます。読者は、有益な記事へのバッジのプレゼントや、本の購入を通じて執筆者を支援することが可能です。

「Publication」は、Zenn上に複数人で管理できるメディアを作ることができる機能です。企業や技術コミュニティなどの単位でPublicationを作ることで、複数人で一つの場所に特定のテーマについての記事を投稿していくことができます。執筆者の創意を促すため、企業のPublicationに投稿しても記事は執筆者本人のものになるというユニークな仕組みを備えています。

企業・法人に向けた利用支援メニュー（https://zenn.dev/biz-lp）も開始し、多様な技術コミュニティづくりに貢献しています。

[参考] エンジニアのための情報共有コミュニティ「Zenn」の会員数10万人、組織利用数500を突破

https://classmethod.jp/news/20231212-zenn-members-100k/

クラスメソッドは、これからも「Zenn」におけるエンジニアの情報共有と交流が快適なものとなるよう、運営に尽力してまいります。

【クラスメソッドについて】

クラスメソッド株式会社はアマゾン ウェブ サービスをはじめ、データ分析、モバイル、IoT、AI／機械学習等の分野で企業向け技術支援を行っています。AWS支援では2015年から継続して最上位パートナーに認定され、国内の最優秀パートナーを表彰する「AWSサービスパートナー オブ ザ イヤー」を3度受賞。2022年にはグローバル最優秀パートナーとして「SI Partners of the Year」を受賞、翌23年にもファイナリストとなり、名実ともに世界トップクラスのAWSパートナーです。現在までの技術支援実績は約4,000社、AWS環境については25,000アカウント以上となりました。社員による技術情報発信にも注力し、オウンドメディア「DevelopersIO」では4万本以上の記事を公開中です。「すべての人々の創造活動に貢献し続ける」という企業理念のもと、最適な技術を提案してまいります。

本社所在地： 東京都港区西新橋1-1-1 日比谷フォートタワー26階

代表者　　： 代表取締役社長　横田 聡

オフィシャルサイト： https://classmethod.jp/

技術ブログ「DevelopersIO」： https://dev.classmethod.jp/

Facebookページ　：https://www.facebook.com/classmethod/

公式YouTubeチャンネル　： https://www.youtube.com/c/classmethod-yt/

※ 記載されている会社名、製品名は、各社の登録商標または商標です。