深層学習を含む高度に発達した機械学習モデルにおいて、AIがどのように意思決定を行っているかを理解することは、処理過程の複雑さのために極めて困難となっている。このいわゆる「ブラックボックス問題」は、AIが人間の幸福に影響を与える決定を行う場合に大きな問題となる。一方で、「説明可能なAI」（XAI）と呼ばれる新興領域ではAIの透明性を強化することを目的に、機械学習モデルの解釈可能性が追及されている。
カナダ・トロント大学などの研究チームは、認知心理学を取り扱う実験心理学がXAIにどのような貢献ができるかについてをレビュー論文としてまとめ、Psychonomic Bulletin & Reviewにて6日公開した。チームは、人の心もブラックボックスである点から論を進め、認知心理学者は実験を通じてこれをモデル化した150年以上の経験がある事実に言及している。認知心理学の手法・頑健性を、AIモデルにおけるブラックボックス問題に適用できる可能性を指摘する。認知科学を踏襲し、XAIの文脈で実際に実施された模範的研究手法から、XAI研究における新しいフレームワークおよび実験チュートリアルを提供している。
研究チームは、実験的アプローチの利点に注目し、認知心理学者に対してXAIという新しい研究領域への参入を強く促している。古典的で伝統的な研究分野であるからこそ、この未知の先進領域に果たすべき役割を持つ可能性がある。
