SNS対応フェイク動画検知システムを開発

SNSや動画サービスのURLから直接フェイク動画の検出

AI総合研究所として活動するNABLAS株式会社 (本社 : 東京都文京区本郷、 代表取締役 所長 : 中山 浩太郎、 以下「当社」)は、SNSや動画共有サービスなどのURLから、動画のフェイク判定を行うアプリケーションを開発しました。従来のフェイク検出では、対象のデータファイルを検出器へアップロードする必要があったのに対し、今回開発したアプリケーションでは、データそのものが手元にない場合でも、ウェブページのURLから簡単に動画のフェイク検出が行えるようになりました。

■開発の背景と概要

近年、様々な生成AIの活用が急速に広がり、SNSや動画共有サービス上ではAIを利用して生成された動画が多く見られるようになりました。中には悪意を持って生成された、社会的や経済的な混乱を引き起こす可能性のあるフェイク動画も存在します。このようなフェイク動画に対して、当社では動画、画像、音声、文章など様々なメディアのフェイク検出技術開発を行い、フェイク検出モデルの提供を行ってまいりました。しかし、従来のフェイク動画に対する検出器では、ユーザー自身のデバイス上に保存された動画ファイルを検出器へ直接アップロードする必要がありました。このような課題に対し、当社ではURLから、直接ウェブページ内の動画に対するフェイク判定が可能なアプリケーションを開発しました。

■URLからのフェイク動画検出技術の特徴

1. 幅広い映像プラットフォームへ対応

YouTube、X（旧Twitter）、Instagram、Facebook、TikTok、Twitch、Flickrなど、主要なSNSや動画共有サービスのURLから簡単に動画のフェイク検出が可能です。

2. 動画内の映像に特化

動画の映像データに対してフェイク検出を行います。

※動画に含まれる音声データは検出対象外です。

3. 生成に使用された可能性の高い元情報も抽出

動画の中からフェイクの可能性が最も高い10フレームを抽出し、検索APIを用いてそれらのフレームが生成される元となった可能性のあるデータについてもフェイク判定と同時に出力します。

■今後の展望

生成AI技術は、日々高度化・多様化を続けており、検出技術の精度はもちろん検出可能な範囲についてもさらに研究開発を進めて行く必要があります。フェイク動画の中には、音声データのみがフェイクである場合や、映像データと音声データ共にフェイクである場合も存在します。今後は動画内の映像データだけでなく、音声データに対してもフェイク検出が可能となるモデルの開発を進めていく予定です。また、当社では引き続き、誰もが容易に信頼性の高い情報へアクセスできる社会作りに貢献してまいります。

■お問い合わせ

NABLASのフェイク検出技術に関するお問い合わせは以下フォームからお気軽にご相談ください。

https://www.nablas.com/contact

◾️NABLAS株式会社について

当社は東大発のベンチャーであり、AI人材教育・育成機関、そして最先端のAI技術、特にDeep Learning技術を活用したソリューションを提供するAI総合研究所です。AI人材育成事業では、東京大学で開発したAI人材教育コンテンツと当社でアップデートしたコンテンツを学習環境iLect Systemと共に、AI人材育成サービスとして提供しています。AIコンサル・R&D事業では、AI技術の導入・研究・開発について技術面でのコンサルティング業務を展開し、クライアントの状況に応じてAI技術の導入・開発など技術面でのサービス提供を行っています。AI技術の社会実装を様々な形で実現し、人・テクノロジー・社会問題を繋げ、人が人らしく生きられる社会の実現へ貢献していきます。

◾️会社概要

社名：NABLAS株式会社

代表者：代表取締役 所長 中山 浩太郎

本社：東京都文京区本郷6-17-9 本郷綱ビル1F

設立：2017年3月

事業内容：AI人材育成事業/コンサルティング/研究開発

URL：https://nablas.com

お問い合わせ先：[e-mail]（​広報窓口）