テキスト情報のファクトチェックツールを提供開始。生成された文章のハルシネーションにも対応

生成情報の信頼性とセキュリティ面の安全性確保で企業のChatGPT活用を後押し

NABLAS株式会社

2024年3月6日 10時00分

AI総合研究所として活動するNABLAS株式会社 (本社 : 東京都文京区本郷、代表取締役所長 : 中山浩太郎、以下「当社」)は、ChatGPTなどのAIによって生成されたものかどうかに関わらず、テキスト情報の正誤を判定するファクトチェックツールの提供を開始しました。このファクトチェックツールは、インターネットや社内のデータベースを参照し、それらの情報範囲の中から、該当のテキスト情報に関する根拠を取得し、情報の真偽をチェックします。これにより、テキスト情報の真偽判断が可能になるだけでなく、チャットボットやChatGPTなどの生成AIをビジネスで活用する中で、AIが誤った情報を出力するハルシネーションへの対策として、より生成AIの信頼性を高める事が可能となります。

本サービスが提供する価値

テキスト情報や生成AIによって生成された文章のファクトチェック
特定のテキスト情報の内容に、嘘や誤った情報がないか判定します。
生成AIへの信頼性向上による幅広い業界業種でのAI活用の推進
一般知識に関する質問応答（QA）をベースに、それぞれのテキスト情報に関してインターネットや企業のデータベースを参照し、ファクトチェックをする手法により、正確性と汎用性の高いファクトチェックを実現します。これにより情報の正確さや信頼性での懸念が生成AI導入のハードルとなっていた分野へのAI活用を促進します。
クローズドな環境でも対応可能なセキュリティ面での安全性
ファクトチェックにあたり、特定の必要な部分のみのデータを使用することで、外部への情報漏洩や情報セキュリティー面でのリスクを最小限に抑えます。

提供開始の背景

近年、ChatGPTをはじめとする文章生成AIが急速に普及し、ビジネスにおいても様々な領域や場面で文章生成AIが活用されるようになりました。しかし、AIによるテキスト生成は100%正しい情報とは限らず、常に誤情報を含むリスクが指摘されています。自動化がされる一方で人による情報確認が必要であるうえ、情報に詳しくない場合は情報の正誤判断ができないなど、信頼性という点で課題がありました。こういった課題に対し、企業が安心して生成AI技術を活用できるようにするため、NABLASではファクトチェックツールを開発いたしました。

主なサービス対象者

生成AIを活用したチャットボットの提供者 / 開発者
生成AIを活用したチャットボットの利用者
- AIによって生成された文章のファクトチェックを行いたい方
- 専門用語を含む生成された文章のファクトチェックを行いたい方
- 機密性の高い情報を含む生成された文章に対してファクトチェックを行いたい方

ファクトチェックツールの仕組みと特徴

【ファクトチェックツールの仕組み】

NABLASのファクトチェックツールでは、テキストをチェックすべき要素に分解し、各要素について特定のデータベースを参照し情報の証拠を収集します。それらの証拠と、テキストの情報を照合し内容の正誤を判断します。

【ファクトチェックツールの特徴】

選択可能な大規模言語モデル
参照する言語モデルを選択可能なため、自社の特定の要件や目的に最適な言語モデルを選択することで、一般的な情報に対するファクトチェックだけでなく、専門性の高い業界や特定の分野に関連する情報のファクトチェックが可能です。
高度なプライバシー保護
情報をOpenAIなどの外部へ送信することなく、社内で構築されたLLMで完結させることができるため情報漏洩や情報セキュリティーに懸念のある企業でも安心してファクトチェックが可能です。

お問い合わせ

NABLASのファクトチェックツールに関するお問い合わせは以下フォームからお気軽にご相談ください。

https://www.nablas.com/contact

NABLAS株式会社について

当社は東大発のベンチャーであり、AI人材教育・育成機関、そして最先端のAI技術、特にDeep Learning技術を活用したソリューションを提供するAI総合研究所です。AI人材育成事業では、東京大学で開発したAI人材教育コンテンツと当社でアップデートしたコンテンツを学習環境iLect Systemと共に、AI人材育成サービスとして提供しています。AIコンサル・R&D事業では、AI技術の導入・研究・開発について技術面でのコンサルティング業務を展開し、クライアントの状況に応じてAI技術の導入・開発など技術面でのサービス提供を行っています。AI技術の社会実装を様々な形で実現し、人・テクノロジー・社会問題を繋げ、人が人らしく生きられる社会の実現へ貢献していきます。