ChatGPTを使うが信用はしない。事実と意見を切り分けたファクトチェックを｜古田 大輔氏

情報の真偽を正しく判断できるのはわずか2～4割

──古田さんは、どのようなご経歴を経て、JFC編集長を務められることになったのでしょうか。

朝日新聞で記者、海外特派員、シンガポール支局長を務めたあと、東京に戻って同社でデジタル版の編集を担当しました。デジタル編集部で2年ほど働いていた頃に、日本進出を計画していたBuzzFeedからの誘いがあり、オファーを受けて日本版の創刊編集長に就任。その後、独立して、フリーのジャーナリストとして活動しつつ、ニュースメディアのDXサポートをしていましたが、Googleの中に同じような仕事をしているNewsLab※というチームがあり、知人からの誘いでそこでティーチングフェローとして活動することになったんです。

ファクトチェックについては、BuzzFeed創刊編集長時代から実践しており、Googleのフェローのときにもファクトチェック手法について、記者や学生に教える仕事をしていました。その頃に感じていたのは、日本にはファクトチェッカーが少なく、国際的に認められた団体がないことへの課題です。

昨年9月にGoogleを離れるタイミングで、Google.orgとYahoo!JAPANの金銭的な支援を受け、日本ファクトチェックセンターを立ち上げる動きに加わり、JFCの編集長に就任しています。

※Google NewsLab：ジャーナリストと協力し、誤情報の排除、ニュースの多様性・公平性・包括性を強化し、デジタル技術を取材や報道に活かす支援を行うGoogle News Initiativeの組織

──JFCはどのようなことを行うのでしょうか。

例えば、「新型コロナウイルスのワクチンは毒である」という情報が繰り返し拡散されてしまいました。副反応があるのは事実ですが「ワクチンは毒ではない」という検証結果を公開していきます。

ほかにも扱うテーマはさまざまで、最近だと「G7広島サミットでのゼレンスキー大統領の会見をNHKが大河放送のために打ち切った」「埼玉県がLGBT推進条例でトイレ・更衣室・公衆浴場などの男女共用化を義務化へ」などの情報が出ましたが、それぞれ誤りなんですよね。

このように、誤ってたり、不正確だったりするにもかかわらず、世の中に拡散している情報を調査・検証し、現在100以上の検証結果を公開しています。

──検証の対象はどのように決めていますか。

世の中で疑いの声が出ている情報が検証対象として挙げられます。要は、誰にも知られてない話であれば、検証しなくてもいいわけです。ある程度広がっていて、ある程度信じられているけど、疑っている人もいる情報を調べるんですよ。そういう情報はたくさんあるので、その中でも影響力が大きいものや身近な情報などを優先的に調べています。

──検証の結果、正しいとなった場合にも発表はしているのでしょうか。

はい。正しい情報の場合でも、どのように検証してその判定に至ったかという点を公開しています。

2022年の台風15号による静岡県の水害について、SNSに投稿された写真を検証しました。水面に映る影や画像の鮮明さなど画像の細部、その時刻・地点の県の防災情報サイトやほかのSNS投稿をチェック、併せて静岡県の防災当局への取材。このように多方面から検証した結果、ドローンで撮影したとする投稿写真は実際の写真ではないことが判り、もう一方は、実際の水害の写真であることが判りました。

誤りだった検証結果のみではなく、いずれも公開しています。

参考：「 ドローンで撮影された静岡県の災害」はAI作成の偽画像【ファクトチェック】、「なぜニュースにならないの？」 静岡県内の水害画像は本物【ファクトチェック】

──私からすると、いずれも正しく見えるし、嘘にも見えますね。

そうですね。いろんな研究がありますが、とんでもない嘘でも、世の中の2〜4割くらいの人は信じてしまい、3〜4割くらいの人はどちらかわからない。残念ながら、実際に見極められる人は、2〜4割しかいない、というデータがあるんです。

これは、画像だけでなく、テキストによる誤情報に対しても同じことが言えます。だからこそ、ファクトチェックする人が必要なんですよね。

──ファクトチェックに関する問い合わせやニーズは増えているのではないでしょうか。

ここ最近はChatGPTの影響で「誤情報が増えるのではないか」という問い合わせやメディアからの取材もありますね。

ただ、僕が伝えるのは「昔から、むちゃくちゃあります」ということです。これまでもたくさんありましたし、これから先も間違いなく増えます。悪いことをする人たちが、自分たちでせこせこ作っていた偽情報をChatGPTで簡単に生成できてしまうのだから、数は増えますよね。

しかしそれは、今1,000万件あるのが1億件になるような話で、どっちにしてもとてつもない数。検証はまったく追いついていないんです。

Webメディアは、記事をむやみにいっぱい出す、というのはダメなんです。PVで稼ぐというモデルだからでしょうが、それ自体が絶対に成り立たないんですよ。少なくとも、永続的には成り立たない。10年ほど前に一瞬、PVあたりの広告単価が上がるかもしれない、と言われた時代がありましたが、今は下がっていく傾向です。今もPVで戦うとなると、釣り見出しなどを作らないといけなくなります。それが偽情報・誤情報に拍車をかけ、世の中を悪くしていくことにもつながりかねないと思っています。

便利なChatGPT、使うが信用はしない

──古田さんの立場からすると、プレスリリースを発表する際の注意すべきはどのような点でしょうか。

企業がプレスリリースを出すとき、すべてを1人で書いて、その本人だけですべて確認して出すなんてことは普通はないですよね。本人ではない誰かがチェックする。AI（人工知能）の利用有無は関係なくて、間違っていないかを複数人でチェックするというのは同じなので、うまく使えば非常に便利な一方で、間違える危険性は今までと変わらないと思います。

今まで間違った情報を出している企業はこれからも間違うでしょうし、今まで間違った情報を出していない企業は、社内できちんとチェック体制を設けているはずなので、これからも間違わないでしょう。

──チェックやチェック体制の重要性は変わらないということですね。

アメリカのデジタルメディア「インサイダー（前ビジネス・インサイダー）」の編集トップは、「ChatGPTは便利だから使え」というメッセージを出しているんですよね。

合わせて、使用にあたっての3つの警告をしています。1つ目は、ChatGPTを信用するなということです。ファクトは自分でチェックしないといけない。2つ目が盗用につながる可能性、3つ目は一般的で切れのない中身になりがちだということです。

重要な部分は、自分でやるということ。例えば、原稿の構成を考えるための骨子づくりを人間がゼロからやろうとすると時間がかかりますが、ChatGPTは優れています。時間がかかることはChatGPTに出してもらい、人間はそれにプラスアルファしていく、または話を聞いて情報を充実させるなど、とても時間の短縮につながります。

また、会社から発表したい内容がA4、10ページ分あったとしても、プレスリリースを出すとしたらA4、1〜2枚程度じゃないですか。人間が簡略化するよりも一度ChatGPTにやらせて、そのうえで人間が読んで不足している情報や余計な情報を自分で出し入れする作業をしたほうが早い。そういう要約するようなときにも役立ちますよね。

大切なのは、最初の作業はChatGPTによって時間短縮するが、そのまま使わないってことだと思います。

参考：使え、でも信用するな〜米メディアで急速に進むChatGPT使用のルール作り

──なるほど。メディア側の利用事例は参考になりますね。

BuzzFeedではすでに多くのコンテンツ制作に使っているのですが、AIで書いているであろう記事をピックアップした調査結果で、旅行関連の記事にやたらと「hidden gem（意味：隠された宝石）」が出てくるなど、文章に偏りがあることがわかっています。それっぽい文章は書けるが、そこにはオリジナリティはなく、そのまま出してもつまらない、ということもいえます。

事実・意見の切り分けがファクトチェックのポイント

──広報PR担当者ならではのファクトチェックはありますか。

まず、一般読者、広報PRパーソンと記者、ファクトチェックのポイントは一緒だと思います。チェックする際の手法やツールは一緒ですし、僕が開いている講座でも学生に対して教える内容と記者に対して教える内容の基本は一緒です。

隠された秘密を調査報道するわけではないので、ベテランの記者でないと調べられないということはなく、基本的なファクトチェックについて知っているかどうかが勝負になるんですよね。

──「雲が出ている。雨が降りそうだ。傘を持っていこう」という言説を用いた事例があると思いますが、ファクトチェックをするポイントについて詳しく教えてください。

• 雲が出ている　……事実　→JFCでは、この事実の真偽を判断
• 雨が降りそうだ　……推測
• 傘を持っていこう　……個人の判断

いわゆる情報リテラシーやニュースリテラシーという分野に入りますが、事実の提示部分と意見を切り分け、事実の提示部分のみをチェックするというのがとても重要なんです。

ただ、言うのは簡単なのですが、意外と多くの人ができません。これって、国語とか現代文の問題なんですよ。現代文に「〇〇さんはどう思いましたか」みたいな問題がたくさんあったでしょ。その問題を全員が100点取れるかというと、そうではないんですよね。

「この半年間でファクトチェック記事をもっとも多く出しました」という文書に対して、「もっとも多く」という数的なデータはチェックができますよね。そこに「すばらしい記事を」という修飾語が加わると、「すばらしい」の定義が曖昧でチェックが難しくなる。チェックができる数字の部分を切り分けるんです。

「事実」と「意見」の切り分けは、実はつまずきポイントになりやすいです。

──誰が見ても同じ回答ができる、定量的にとらえられるもの、ということですね。

そうですね。データや数量的情報、ほかにも「初」という表記を扱うときは、本当に気をつけないといけない。定量的に、はっきり検証できるので。

また、エビデンスとして用いる情報の信ぴょう性の見極めも必要です。例えば、インターネットリサーチで、統計学的に見て信頼が非常に低いデータは世の中にたくさんあります。サンプル数が少ないと信頼性は低いですし、サンプル数が多くてもサンプリング（割付）がきちんとできていなかったら、信頼性は低いということになります。

日本の縮図として、全国の男女の人口比に基づいてサンプリングを行い、充分なサンプル数で行う必要があるんです。大学1年生のときに受講するような基礎的な統計の知識があるとよいですね。

まずはチェックの視点・知識を持つところから

ファクトチェックを行う重要性をあらためて感じていただけたのではないでしょうか。

【今回のポイント】

• ChatGPTをできる限り利用する、しかし信用はしない
• AI利用の有無にかかわらず、チェックをする行為は変わらない
• 「事実」と推測や判断といった「意見」の切り分けがファクトチェックのポイント
• 使用するデータは慎重に信ぴょう性の確認をする

真偽の判定が正確にできるのは人間の2~4割程度という結果に驚きましたが、発信する側としては偽情報・誤情報を出さないために注視する必要があります。

これまで間違っていない企業は、AIを利用したとしても間違わないし、これまで間違っていた企業はまた間違う。チェック体制をあらためて見直す時期なのかもしれません。

また、受け手としても自分自身で真偽を判断できる情報リテラシーを持つ必要があるでしょう。

最後に、JFCという組織についてご紹介します。

日本ファクトチェックセンター（JFC）について

JFC設立の経緯

──さまざまなご経験を経てJFCの編集長に着任された古田さんですが、JFCはどうやって設立したのでしょうか。

ファクトチェックの重要性が日本で意識され始めたのは、2016年頃からです。当時、アメリカの大統領選挙が行われた時期で、トランプ陣営とヒラリー陣営の間で多数のフェイクニュースが飛び交ったんですよね。また、同じ年、日本国内では、DeNAが運営していた医療健康情報サイト「ウェルク（WELQ）」に医学的に根拠のない誤った記事が多く掲載されているという問題が発生。情報の信ぴょう性を確認するためにファクトチェックの重要性が議論されるきっかけとなりました。

この当時から、BuzzFeedは世界的に見てもネット上の誤情報の検証に力を入れているメディアの一つでした。日本版の編集長として、その手法を日本にも導入し、ファクトチェックの取り組みを2016年から始めましたが、その取り組みがほかの組織になかなか広がらなかったんです。

2017年、ようやくファクトチェックイニシアティブ（FIJ）という、ファクトチェックを日本に普及させるための支援団体が設立。そして、総務省が2020年に誤情報に対する対策について議論する研究会を開催し、法規制ではなく民間の取り組みによって規制を行うことを記した提言書が出されました。

それから2年、有識者が集められて協議を重ね、2022年3月に日本にファクトチェック期間をつくるという報告書が完成。偽情報・誤情報対策を実施するファクトチェック機関として、2022年10月に「日本ファクトチェックセンター」を設立しました。2023年5月には、誤情報対策で世界的に有名な「国際ファクトチェックネットワーク」の加盟団体として認証され、国境を超えた連携も強めています。

参考：総務省「プラットフォームサービスに関する研究会」

JFCの判定基準

──ファクトチェックの評価基準を教えてください。

JFCの判定基準は5段階で行っています。

参考：「JFCファクトチェック指針 -ファクトチェックの判定基準」

──すごい参考になりますよね。私たちも記事の監修チェックをお願いする際に、どのようにフィードバックしていただくか、こちらの基準の表をお伝えしています。

すばらしい。ちなみに、ファクトチェック・イニシアティブ（FIT）の判定基準は9段階です。

評価基準については世界中で議論がされていて、細かく分けたほうがいいっていう人もいるし、細かく分けすぎても読者に通じづらいという人もいて、各団体が微妙に異なる基準を設けています。

ファクトチェックセンターに必要な多様性

──同国内に複数のチェックセンターがあるメリットは何ですか。

同じ対象を異なる団体がチェックしたとして、誤り、不正確、根拠不明、判定がわかれることも多々あります。さすがに、ある団体は誤り、ある団体は正しいと認定ということは、めったに起こらないですが、調べ方やどこにポイントを置いて調べたかによって変わってくるんですよね。そのため、一団体でやるよりいろんな団体で検証したほうがいいと言えますね。

例えば、韓国のソウル大学（SNU）ファクトチェックセンター では、大手新聞社、テレビ局の多くが加盟し、一つの対象を全社でファクトチェックしたりするんです。

──それは記者やメディア関係者がファクトチェックをするのでしょうか。

はい。各社の記者やメディア関係者がこんな感じで複数の団体が検証しています。複数で検証している場合、このバロメーターで表現しているんですよ。

参考：SNUファクトチェックセンター

──ファクトチェックの精度を高めるために必要なんですね。

もちろん、それがひとつ。あとは、日本ファクトチェックセンターに対して、元朝日新聞の古田がやっているところは絶対信じられないという人も一定数います。そういうときに、ほかの組織出身の人がやっている団体があれば、信用してくれるかもしれない。そういう点で多様性は必要で、編集長の経歴やバックグラウンド、ジェンダーや人種など多様性があったほうが良いのは間違いないですね。