フェイク検出器にAIで生成された画像の出自を示す電子透かし情報を明らかにする機能を追加

生成されたデータの電子透かし情報の確認でフェイク検出の信頼性強化を実現

AI総合研究所として活動するNABLAS株式会社 (本社 : 東京都文京区本郷、 代表取締役 所長 : 中山 浩太郎、 以下「当社」)は、自社が開発するフェイク検出器（Fake Detector）をアップデートし、AIによって生成された画像に対して、コンテンツの出自を示す電子透かし情報を検証する機能を追加しました。これにより、C2PA (Coalition for Content Provenance and Authenticity) が提供するコンテンツ認証技術を搭載したデジタルコンテンツのフェイク検出では、コンテンツの電子透かし情報が確認できるようになり、検出器のさらなる信頼性強化を実現しました。

フェイク検出器（Fake Detector）とは

当社が保有するフェイク検出器（Fake Detector）は、画像・動画・音声などの様々な形式のデータに対し、それがAIによって生成されたものであるかを判定するプロダクトです。

また、テキスト情報に対しては、特定のデータベースやWeb上の情報を参照し真偽を明らかにするファクトチェック機能を有しています。

■当社のテキストファクトチェックに関する詳細はこちら

C2PAとは

C2PA (Coalition for Content Provenance and Authenticity)とは、Adobe社やマイクロソフト社が主導するメディアコンテンツの出所を証明するための開発プロジェクトです。

本プロジェクトが提供する技術を活用することで、AIによって生成されたデジタルコンテンツには、生成AIが使用されたことを示す「コンテンツクレデンシャル＝電子透かし情報」が含まれ、消費者は、そのデジタルコンテンツの作成者や作成日、作成ツール、編集内容などのコンテンツ認証情報を確認することが可能となります。

現在のC2PA対応ツールや対応状況は以下の通りです（一部抜粋）

【生成情報向け】

・Microsoft (Microsoft DesignerとBing Image Creator)

・Adobe (firefly)

・OpenAI (DALL-E)

【リアル情報向け】

・Leica : 世界初の C2PA 対応カメラ「M11-P」を発表

・Sony : C2PA 対応可能なカメラ「α 9 III」を発表

フェイク検出器（Fake Detector）に追加された機能

当社のフェイク検出器（Fake Detector）では、これまで独自のアルゴリズムに基づいたAIモデルによるフェイク判定を提供してきました。今回、画像データに対するC2PAによるコンテンツ認証情報の検出機能を追加したことにより、従来の検出モデルによる判定と両面でフェイク検証を行うことが可能となりました。

当社のフェイク検出器におけるC2PA署名の検出結果

AIで生成されたデータであることを示すコンテンツ認証情報が含まれた画像を入力した際は、その画像の出自情報等が含まれた認証情報をフェイク検出のアプリケーション上で確認することが可能です。これにより、当社のフェイク検出器（Fake Detector）はさらなる検出機能の向上を実現しました。

今後の展望

生成AI技術の利用がスタンダートとなっていく昨今、この度のアップデートで対応したC2PA以外にも、Meta PlatformsのInstagramやfacebook、Stability AIのStable Diffusionでは独自の電子透かしを採用する動きが見られます。今後当社では、そういった主要なプラットフォームで使用される電子透かし情報にも順次対応し、検出能力の強化を図ってまいります。

お問い合わせ

NABLASのフェイク検出に関するお問い合わせは以下フォームからお気軽にご相談ください。

https://www.nablas.com/contact

◾️NABLAS株式会社について

当社は東大発のベンチャーであり、AI人材教育・育成機関、そして最先端のAI技術、特にDeep Learning技術を活用したソリューションを提供するAI総合研究所です。AI人材育成事業では、東京大学で開発したAI人材教育コンテンツと当社でアップデートしたコンテンツを学習環境iLect Systemと共に、AI人材育成サービスとして提供しています。AIコンサル・R&D事業では、AI技術の導入・研究・開発について技術面でのコンサルティング業務を展開し、クライアントの状況に応じてAI技術の導入・開発など技術面でのサービス提供を行っています。AI技術の社会実装を様々な形で実現し、人・テクノロジー・社会問題を繋げ、人が人らしく生きられる社会の実現へ貢献していきます。

◾️会社概要

社名：NABLAS株式会社

代表者：代表取締役 所長 中山 浩太郎

本社：東京都文京区本郷6-17-9 本郷綱ビル1F

設立：2017年3月

事業内容：AI人材育成事業/コンサルティング/研究開発

URL：https://nablas.com

お問い合わせ先：[e-mail]（​広報窓口）