MIT – ニューラルネットワークをいつ疑うべきなのか?

種々のAIシステムは人々の健康から安全管理、利便性向上まであらゆる場面に活用されるようになった。一方で、複雑で重要な意思決定の場において、盲目的に信用できるほどの高い信頼性を得ているシステムは未だ限定的である。米マサチューセッツ工科大学(MIT)の研究チームは、利用データの質からニューラルネットワークが示す結果の確からしさを評価する新しい手法を開発した。

MITが20日明らかにしたところによると、deep evidential regressionと名付けられた同手法では、何らかの答えを生むネットワークの構築に際して、1回のみの実行結果からその決定の確からしさをサポートする”エビデンス”の確率分布を生成する。evidential distribution(証拠分布)は予測モデルの信頼性を直接的に評価していることとなる。この確率分布はニューラルネットワーク自体を微調整することで不確実性を減らすことができるかどうか、または入力データにノイズが多いのかどうかを判断する拠り所ともなる。

ニューラルネットワークの不確実性分析は新しい技術ではない。しかし、ベイジアンディープラーニング以前のアプローチでは、信頼性評価がニューラルネットワークの実行とサンプリングに過度に依存していたため、そのプロセスには多大な時間とメモリを必要とした。今後、ニューラルネットワークはさらに大規模になることが予想されており、時として数十億のパラメータで溢れるモデルが扱われることになる。研究チームが開発した単回の実行結果から確からしさを評する技術は、今後その重要性を高める可能性から研究者コミュニティからの大きな注目を集めている。

前の記事AIは投薬のエラーを予防できるか?
次の記事GE Healthcare – COVID-19患者における気管挿管を支援するAIツールを公表
TOKYO analyticaはデータサイエンスと臨床医学に強力なバックグラウンドを有し、健康増進の追求を目的とした技術開発と科学的エビデンス構築を主導するソーシャルベンチャーです。
The Medical AI Timesにおける記事執筆は、循環器内科・心臓血管外科・救命救急科・小児科・泌尿器科などの現役医師およびライフサイエンス研究者らが中心となって行い、下記2名の医師が監修しています。

1. M.Okamoto MD, MPH, MSc, PhD
信州大学医学部卒(MD)、東京大学大学院専門職学位課程修了(MPH)、東京大学大学院医学系研究科博士課程修了(PhD)、ロンドン大学ユニバーシティカレッジ(University College London)科学修士課程最優等修了(MSc with distinction)。UCL visiting researcher、日本学術振興会特別研究員を経て、SBI大学院大学客員准教授、東京大学特任研究員など。専門はメディカルデータサイエンス。

2. T.Sugino MD
防衛医科大学校卒(MD)。大学病院、米メリーランド州対テロ救助部隊を経て、現在は都内市中病院に勤務。専門は泌尿器科学、がん治療、バイオテロ傷病者の診断・治療、緩和ケアおよび訪問診療。泌尿器科専門医、日本体育協会認定スポーツドクター。