【岡山大学】脳活動を解読するブラックボックスの動作を深層学習で説明する新手法

岡山大学、慶應義塾大学、立教大学の共同研究成果です！

2022（令和4）年 4月 24日
国立大学法人岡山大学
https://www.okayama-u.ac.jp/
 

＜発表のポイント＞

• 深層神経回路は高い精度で脳活動から行動を解読出来ますが、その動作の説明は困難です。
• 本研究では、深層神経回路による脳活動解読を直感的に説明する新しい手法を提案しました。
• 提案手法を応用して、深層神経回路が解読に使う脳活動の特徴を抽出することに成功しました。

◆概 要
　国立大学法人岡山大学（本部：岡山市北区、学長：槇野博史）学術研究院自然科学学域（理・生物）の松井鉄平准教授と立教大学大学院人工知能研究科の瀧雅人准教授、生理学研究所のトラン・ファム(Trung Quang Pham)特任助教、株式会社アラヤの近添淳一主任研究員、慶應義塾大学（理工学部）の地村弘二准教授の共同研究グループは、脳活動を解読する深層神経回路の動作を直感的に説明する新しい手法を開発しました。

　これらの研究成果は2022年3月16日、スイスの神経科学雑誌「Frontiers in Neuroinformatics」のResearch Articleとして掲載されました。

　MRIや脳波により計測した脳活動データから、その人が何をやっていたのかを推定する脳活動解読は、BMIへの応用を見据えて広く研究されている技術です。最近では、脳活動解読に深層学習を用いた研究が活発に行われています。しかし、深層神経回路によるデータの処理は非常に複雑で、「与えられたデータに対して解読器が何故その回答をするのか」を直感的に説明することが困難です。今回の研究では、この問題に対する新しいアプローチとして、深層生成モデルという深層学習のもう一つの技術と反実仮想説明という手法を組み合わせた手法を提案しました。

　本研究成果は、認知症や精神神経疾患の脳画像診断に深層学習を応用していく際に、医師や患者がAIの動作を理解しつつ使用するための基礎技術として役立つと期待されます。
 

図1. 提案手法によって脳活動解読器の動作の説明を与えた例
A）運動課題を遂行中の脳活動データに対して、深層神経回路の解読器は「記憶課題」と間違えた答えを出した。複雑な解読器が何故誤作動したのかを説明することは、このままでは難しい。
B）解読器が間違えた脳活動データを生成器に入力し、それを元に仮想的な脳活動データを生成する。解読器はこの仮想的脳活動データを「運動課題」と正しく判断する。
C）仮想的脳活動データと実際の脳活動データを比較することにより解読器の「説明」が得られる。赤い脳部位が弱かったことや、青い脳部位がより強かったことが、解読器が回答を間違えた理由と考えられる。


◆松井鉄平准教授からのひとこと
　ずっと人間や動物の脳を研究してきた神経科学者として、最近の深層学習の爆発的な発展には、とても刺激を受けています。今回は深層学習の技術を神経科学に応用してみましたが、生物の脳と深層学習を比較することで知性の本質を明らかにすることにもチャレンジしていきたいと思っています。

松井鉄平准教授

◆論文情報
　論 文 名：Counterfactual Explanation of Brain Activity Classifiers Using Image-To-Image Transfer by Generative Adversarial Network
　掲 載 紙：Frontiers in Neuroinformatics
　著 　者：Teppei Matsui, Masato Taki, Trung Quang Pham, Junichi Chikazoe, Koji Jimura
　D O I：https://doi.org/10.3389/fninf.2021.802938
　U R L：https://www.frontiersin.org/articles/10.3389/fninf.2021.802938/full


◆研究資金
　本研究は、文部科学省科研費新学術領域研究（「脳情報動態を規定する多領野連関と並列処理」、課題番号20H05052）、日本医療研究開発機構AMED（「戦略的国際脳科学研究推進プログラム先進的個別研究開発課題」、課題番号JP20dm0307031；「革新的技術による脳機能ネットワークの全容解明プロジェクト」、課題番号JP21dm0207086）、ＪＳＴさきがけ（「革新的コンピューティング技術の開拓」、課題番号19205833）、文部科学省科研費学術変革領域Ｂ（「脳神経マルチセルラバイオコンピューティング」、課題番号21H0516513；「情動情報解読による人文系学問の再構築」、課題番号21H05060）の支援を受けて実施しました。


◆詳しいプレスリリースについて
　脳活動を解読するブラックボックスの動作を深層学習で説明する新手法
　https://www.okayama-u.ac.jp/up_load_files/press_r4/press20220422-6.pdf


◆参 考
・岡山大学理学部
　https://www.science.okayama-u.ac.jp/
・岡山大学理学部生物学科
　https://www.okayama-u.ac.jp/user/biology/


◆参考情報
・【岡山大学】複雑な意思決定における認知機能の役割－不確実性と待ち時間が変化するギャンブルで起こる方略の切り替え－
　https://prtimes.jp/main/html/rd/p/000000476.000072793.html
・【岡山大学】脳のデフォルトモードが持つ時空間構造を統計的に検証
　https://prtimes.jp/main/html/rd/p/000000515.000072793.html

 

理学部が所在する岡山大学津島キャンパス（岡山市北区）

◆本件お問い合わせ先
　岡山大学 学術研究院 自然科学学域（理）准教授  松井鉄平
　〒700-8530 岡山県岡山市北区津島中1-1-1 岡山大学津島キャンパス 理学部 B212
　TEL：[phone]
　E-mail: tematsui◎okayama-u.ac.jp
　　　　　※ ◎を@に置き換えて下さい

＜岡山大学の産学連携などに関するお問い合わせ先＞
　岡山大学研究推進機構 産学官連携本部
　〒700-8530 岡山県岡山市北区津島中1-1-1　岡山大学津島キャンパス 本部棟1階
　TEL：[phone]
　E-mail：sangaku◎okayama-u.ac.jp
　　　　　※ ◎を@に置き換えて下さい
　https://www.orsd.okayama-u.ac.jp/

　岡山大学メディア「OTD」（アプリ）：https://prtimes.jp/main/html/rd/p/000000011.000072793.html
　岡山大学メディア「OTD」（ウェブ）：https://prtimes.jp/main/html/rd/p/000000215.000072793.html
　岡山大学SDGsホームページ：https://sdgs.okayama-u.ac.jp/
　岡山大学Image Movie (YouTube)：https://youtu.be/pKMHm4XJLtw
　「岡大TV」(YouTube)：https://www.youtube.com/channel/UCi4hPHf_jZ1FXqJfsacUqaw
　産学共創活動「岡山大学オープンイノベーションチャレンジ」2022年4月期共創活動パートナー募集中：
　https://prtimes.jp/main/html/rd/p/000000603.000072793.html

　岡山大学『THEインパクトランキング2021』総合ランキング 世界トップ200位以内、国内同列１位!!
　https://prtimes.jp/main/html/rd/p/000000070.000072793.html
　岡山大学『大学ブランド・イメージ調査2021～2022』「SDGsに積極的な大学」中国・四国１位!!
　https://prtimes.jp/main/html/rd/p/000000373.000072793.html
　岡山大学『企業の人事担当者から見た大学イメージ調査2022年度版』中国・四国１位!!
　https://prtimes.jp/main/html/rd/p/000000122.000072793.html

国立大学法人岡山大学は、国連の「持続可能な開発目標（SDGs）」を支援しています。また、政府の第1回「ジャパンSDGsアワード」特別賞を受賞しています