生成AIの嘘や間違いを検知する「分析機能」を発表！AI開発のPDCAを強力にサポートする機能群を提供へ

会話型AI構築プラットフォームmiiboは、AIの応答精度や問題の解決度合いをAIに分析させる機能のベータ版を発表。先行利用ユーザーを募集を開始します。

miibo

2024年1月30日 09時00分

発表の概要

生成AI導入の大きなハードルである「ハルシネーション」や言い間違えを検知し、改善を行うことができる新機能(ベータ版)をmiiboがリリースしました。AIが行った応答を分析し、アドバイスと共に「信頼度」と「解決予測度」を示します。

実際の動作の様子は、下記の動画をご覧ください。

会話型AI構築プラットフォーム miibo

株式会社miiboが手掛ける会話型AI構築プラットフォームmiiboは、

手軽にまずはAIを作ってみたいビギナー
本格的にAIを組み込んだプロダクトを開発するデベロッパー

この両者にアプローチできる会話型AI構築プラットフォームです。miiboはこの２つの面を兼ね備えた、国内および海外でも独自のポジションを有する会話型AI構築プラットフォームです。

【miiboで作ったAIのユースケース例】

・カスタマーサポート24時間自動応答AI

・社内ヘルプデスク応答用AI

・AIキャラクターの開発

・芸能人・アーティストの会話型AIの開発

・AIアシスタントの開発

・AIライターの開発

上記を含む様々な用途に活用可能な会話型AIがmiibo上で日々生み出されており、上場企業や地方自治体などでも導入が進んでいます。

公式サイト:

https://miibo.jp

参考資料:【利用事例マガジン】miiboで作る会話型AI (note)

https://note.com/miibo/m/ma82aceda74a8

生成AIの課題「ハルシネーション」を軽減するアプローチ

LLMを活用したチャットボットの導入も増えています。しかし、一部では生成AIの「ハルシネーション」をはじめとした課題がネックになり、導入を躊躇するケースも多く存在します。

※「AIのハルシネーション」= 、AIが虚偽の情報をもっともらしい形で出力してしまう現象

そこでmiiboは、開発したAIの発言を客観的な視点で評価・分析する「AI分析」機能をリリースします。

AI分析機能のイメージ

AI分析機能では、AIの発言について下記の３つの項目が得られます。

信頼度
解決予測
アドバイス

信頼度

AIが行った発言がどれくらい信頼できるものかを判定します。miiboはあらかじめAIに専門知識を与えておき、その領域について会話ができるAIを構築できます。与えた専門知識と比較し、余計な事実をでっちあげていないか、不正確なことを言ってしまっていないかを分析して算出します。つまり、ハルシネーションが起きていないかを確認できます。

下記は、擬似的にわざとmiiboの公式ツイッターアカウントの名前を間違わせてみたテストです。Twitterアカウントの誤りを指摘し、今後の改善案を提示してくれています。