医師が医療AIの導き出した結果を信頼するために、AIの決定プロセスを何らかのわかりやすい情報としてユーザーに提示する、いわゆる「説明可能なAI（XAI: Explainable AI）」が求められている（過去記事参照）。シャリテー=ベルリン医科大学の研究グループは「説明可能なAIを用いた顕微鏡画像による組織切片分析システム」で乳がん診断における新しいアプローチ法を開発している。
学術誌 Nature Machine Intelligenceに掲載された同研究では、乳がん組織サンプルの顕微鏡画像から「腫瘍に浸潤するリンパ球（TIL: tumor infiltrating lymphocyte）」をAIが検出し、ヒートマップの形式でTIL（赤）と他の組織（青と緑）を視覚化し、どのピクセル情報がどの程度決定に影響を与えたかを示すことで、診断する医師に対してAIの決定プロセスを説明可能なものとする。乳がんでは腫瘍組織内のTILの数量が患者の予後に影響を与えることなどが先行研究から解明されてきた。TILの分子マーカーとしての性質を、顕微鏡による空間的なデータと結びつけることが同研究によって可能となる。
シャリテー=ベルリン医科大学のプレスリリースでは今回の研究を紹介している。そのインタビュー内で研究グループのひとりFrederick Klauschen教授は「これまでは画像的なデータと分子的なデータをどちらも持っていながら、それらの間における決定的な結びつきが不足しているという課題がありました。新たなAIシステムでは、顕微鏡内のどのピクセルが診断アルゴリズムに貢献したかをヒートマップで可視化できます。将来的には病理学的な腫瘍診断をより正確で、標準化された、良質なものにできるでしょう」と語っている。
関連記事：
XAIとは何か？ – ブラックボックス化しない説明可能な医療AIを目指して
緑内障の画像診断根拠を臨床医に説明できるAI – ソウル大学病院
