実験心理学が「説明可能なAI」の生成にどのように役立つか?

深層学習を含む高度に発達した機械学習モデルにおいて、AIがどのように意思決定を行っているかを理解することは、処理過程の複雑さのために極めて困難となっている。このいわゆる「ブラックボックス問題」は、AIが人間の幸福に影響を与える決定を行う場合に大きな問題となる。一方で、「説明可能なAI」(XAI)と呼ばれる新興領域ではAIの透明性を強化することを目的に、機械学習モデルの解釈可能性が追及されている。

カナダ・トロント大学などの研究チームは、認知心理学を取り扱う実験心理学がXAIにどのような貢献ができるかについてをレビュー論文としてまとめ、Psychonomic Bulletin & Reviewにて6日公開した。チームは、人の心もブラックボックスである点から論を進め、認知心理学者は実験を通じてこれをモデル化した150年以上の経験がある事実に言及している。認知心理学の手法・頑健性を、AIモデルにおけるブラックボックス問題に適用できる可能性を指摘する。認知科学を踏襲し、XAIの文脈で実際に実施された模範的研究手法から、XAI研究における新しいフレームワークおよび実験チュートリアルを提供している。

研究チームは、実験的アプローチの利点に注目し、認知心理学者に対してXAIという新しい研究領域への参入を強く促している。古典的で伝統的な研究分野であるからこそ、この未知の先進領域に果たすべき役割を持つ可能性がある。

前の記事院外心停止の生存予測AIを地域データで改善 – AHA 蘇生科学シンポジウム 2020
次の記事医療AIが4000万ドルのコスト削減をもたらした一例
TOKYO analytica
TOKYO analyticaはデータサイエンスと臨床医学に強力なバックグラウンドを有し、健康増進の追求を目的とした技術開発と科学的エビデンス構築を主導するソーシャルベンチャーです。
The Medical AI Timesにおける記事執筆は、循環器内科・心臓血管外科・救命救急科・小児科・泌尿器科などの現役医師およびライフサイエンス研究者らが中心となって行い、下記2名の医師が監修しています。

1. M.Okamoto MD, MPH, MSc, PhD
信州大学医学部卒(MD)、東京大学大学院専門職学位課程修了(MPH)、東京大学大学院医学系研究科博士課程修了(PhD)、ロンドン大学ユニバーシティカレッジ(University College London)科学修士課程最優等修了(MSc with distinction)。UCL visiting researcher、日本学術振興会特別研究員を経て、東京大学特任研究員など。専門はメディカルデータサイエンス。

2. T.Sugino MD
防衛医科大学校卒(MD)。大学病院、米メリーランド州対テロ救助部隊を経て、現在は都内市中病院に勤務。専門は泌尿器科学、がん治療、バイオテロ傷病者の診断・治療、緩和ケアおよび訪問診療。泌尿器科専門医、日本体育協会認定スポーツドクター。