東邦大学の我妻伸彦講師、東京電機大学の日高章理准教授、大阪大学の田村弘准教授の研究グループは、人工知能開発に用いられる深層学習によって構築される注意予測のニューラルネットワーク構造が、霊長類の大脳情報処理系と類似した特性を持つことを発見しました。これは、サルと人間の脳活動を比較する研究手法を、人工的なニューラルネットワークへと応用することによって可能となったものです。これにより、生物が「注意」を向けるメカニズムの解明と人工知能への応用が期待されます。
　この成果は2020年11月24日に米国に本部を置く北米神経科学学会の学術雑誌「eNeuro」にて発表されました。

我妻 伸彦 （東邦大学理学部情報科学科　講師）
日高 章理 （東京電機大学理工学部理工学科　准教授）
田村 弘    （大阪大学大学院生命機能研究科　准教授、CiNet）

　人工知能開発で利用される深層ニューラルネットワーク(注1、以下「深層NN」)は、膨大なデータから特定の課題を解決する情報処理メカニズムをコンピュータ上で学習する数理モデルです。しかし、その学習によって獲得された情報処理メカニズムがどのような特性を示すかは、未だに解明されていません。
　東邦大学理学部の我妻伸彦講師、東京電機大学理工学部の日高章理准教授、大阪大学大学院生命機能研究科の田村弘准教授の研究グループは、画像中から最も重要な場所に向けられる注意(注2)を予測・決定する深層NNの情報処理メカニズムが、霊長類の大脳初期視覚皮質(V1)(注3)の情報処理表現と類似していることを発見しました。
これは、サルと人間の脳活動を比較するために考案された解析手法を、深層NNへと応用することによって可能となったものです。この研究成果は、これまでの神経科学的報告を支持するものであり、生物が「注意」を向けるメカニズムの解明に寄与すると期待されます。また、注意メカニズムの応用は、人工知能開発を加速させることが期待されます。

　近年の人工知能ブームの火付け役となった深層NNは、膨大な量のデータを与えられることで、特定の課題を解決するための情報処理メカニズムをコンピュータ上で学習します。しかし、その深く複雑な階層構造と階層間結合のため、深層NNが学習後に獲得する情報処理メカニズムがどのようになっているかは、未だ明らかになっていません。特に、写真に映っている物体などを判別する物体識別の深層NNのメカニズムに対する研究は、現在盛んに行われている一方で、写真中の最も重要な場所へと「注意」を向ける、深層NNの構造解析の研究と報告はこれまでありませんでした。研究グループは、神経細胞の活動を計測する電気生理実験から得られた、霊長類の神経活動データと機能的磁気共鳴画像装置(fMRI)で測定される人間の脳活動データを比較する研究手法を応用することで、注意の深層NNの構造解析に成功しました。
　写真などの画像を見ることで、サルの大脳視覚皮質の神経細胞が活動し人間の知覚が形成されます。このとき、写真中に含まれる物体や景色の形や色、それらの組み合わせなどによりそれぞれの神経細胞の活性度が変化します。ある写真を見たときの神経細胞の活性度と、別の写真を見たときの神経細胞活動がどの程度似ているかという類似度は、サルと人間の脳神経活動を比較するための指標として利用されます。東邦大学理学部の我妻講師らは、この解析手法をコンピュータ上の深層NNへと応用しました。写真とその写真へと向けられる注意位置を学習することで、人間が写真中のどこを重点的に見るかを再現する「注意」の深層NNが作られます。この学習された注意の深層NNへ、サルの視覚神経生理実験で使われた写真セットを与えることで、実験中のサルを模した状態のニューラルネットワーク内の活性度と情報処理の内部表現が記録できます。さらに、サルや人間と同様に、ニューラルネットワークの内部表現に基づく写真間類似度の算出が可能となり、サル大脳視覚皮質の神経細胞活動から得られた写真間の類似度と、注意の深層NNの内部表現から算出された写真間の類似度を定量的に比較することで、複雑なニューラルネットワークの解析が実現可能となりました（図も参照）。
　このような写真間類似度を利用することで、注意の深層NNの情報表現と、様々な階層におけるサル大脳視覚皮質活動が比較されました。その結果、注意の深層NNの情報処理の内部表現が、サル大脳初期視覚皮質V1の神経活動と似た傾向を持つことが確認されました。この結果は、大脳初期視覚皮質の神経活動表現が人間の注意位置決定に重要な役割を果たしている可能性を示唆しており、これまでの神経科学的報告を支持しています。また、注意の深層NNが、人間が注意を向ける脳情報処理と似たメカニズムを学習した可能性を示している点も重要な発見です。さらに、この解析方法により、物体識別に特化した深層NNと注意の深層NNの情報処理メカニズムが異なることが発見されました。これにより、深層NNが、解決すべき課題やその学習により異なる情報処理メカニズムを獲得している可能性が示唆されました。
　注意は、人間が世界を見るために重要な戦略です。我妻講師らの研究グループの成果から、注意の深層NNの情報処理メカニズムを解析することで、人間の注意を向けるための脳神経回路構造がさらに解明されると期待されます。また、注意は近年の人工知能開発における最も重要な概念として注目されています。注意の脳神経回路構造の解明と応用は、今後の人工知能開発を加速させることが期待されます。

（注1）深層ニューラルネットワーク（深層NN）
生物の神経回路網を模倣したモデルがニューラルネットワークの原点となる。生物の視覚情報処理に着想を得た畳み込みニューラルネットワークは、様々な分野で応用されている。特に、演算を繰り返し、多層化した深い構造の「深層」ニューラルネットワークは、近年の人工知能開発の主流となっている。