医療とAIのニュース医療におけるAI活用事例医療AIがもたらす影響・問題点ブラックボックス対策 - 「放射線科医の推論プロセス」に従う乳がん検出AI

ブラックボックス対策 – 「放射線科医の推論プロセス」に従う乳がん検出AI

医療AIのいわゆる「ブラックボックス」問題のため、単に動作するだけではなく、自らの思考過程を解釈可能な形で示し、何を根拠に結論を出しているかを明らかにするアルゴリズムが求められている。米デューク大学の研究チームは、AIに独自手順を自由に学習させるのではなく、「実際の放射線科医が訓練を受けるのと同様に、病変の位置や評価を行えるように学習させること」で一定の成果を得た。

研究成果はNature Machine Intelligenceに発表されている。本研究では乳がんのマンモグラフィ検査画像について、デューク大学の患者484名・画像1,136枚から本AIシステム開発を行った。その手順として、まずAIに「問題となる疑わしい病変を見つけ出し、健常組織や無関係なデータを無視するよう」に教えた。次に、腫瘍を疑う部分と健常組織とが交わる「病変のエッジ部位」に焦点を当てさせるため、放射線科医によるラベル付けを行い、そのエッジを既知のがんや良性結果のエッジと比較するように学習させた。乳がん検索において、腫瘤縁といわれる放射状瘢痕や曖昧な境界線は、腫瘍の存在を予測するため、読影医が最初の手順として検索する部位となる。トレーニング終了後、AIは既存のブラックボックス型AIモデルと同等の結果を得ることができたとする。

デューク大学のインタビューに対し、同大学放射線科教授のJoseph Lo氏は「コンピュータが医療上の重要な意思決定を支援するのであれば、AIは理にかなったものに基づいて結論を出している必要がある」と研究の意義を説明する。また、研究チームのひとりFides Schwartz氏は「初めて医療画像にAIを適用し始めたとき、人の目には見えないものをコンピュータが解明できるのではないかと多くの期待が寄せられた。しかしそのようなケースはまれで、大多数のシナリオではコンピュータがどのような情報に基づいて判断したのか、我々は理解しておいたほうが良いはずだ」と語っている。

関連記事:

  1. AI意思決定の誤りを説明する研究 – 米テキサス大学アーリントン校
  2. 乳がんの病理診断を説明可能なAI
  3. 実験心理学が「説明可能なAI」の生成にどのように役立つか?
  4. 緑内障の画像診断根拠を臨床医に説明できるAI – ソウル大学病院

TOKYO analyticahttps://tokyoanalytica.com/
TOKYO analyticaはデータサイエンスと臨床医学に強力なバックグラウンドを有し、健康増進の追求を目的とした技術開発と科学的エビデンス構築を主導するソーシャルベンチャーです。
The Medical AI Timesにおける記事執筆は、循環器内科・心臓血管外科・救命救急科・小児科・泌尿器科などの現役医師およびライフサイエンス研究者らが中心となって行い、下記2名の医師が監修しています。

1. 岡本 将輝
信州大学医学部卒(MD)、東京大学大学院専門職学位課程修了(MPH)、東京大学大学院医学系研究科博士課程修了(PhD)、英University College London(UCL)科学修士課程最優等修了(MSc with distinction)。UCL visiting researcher、日本学術振興会特別研究員、東京大学特任研究員を経て、現在は米ハーバード大学医学部講師、マサチューセッツ総合病院研究員、SBI大学院大学客員准教授など。専門はメディカルデータサイエンス。

2. 杉野 智啓
防衛医科大学校卒(MD)。大学病院、米メリーランド州対テロ救助部隊を経て、現在は都内市中病院に勤務。専門は泌尿器科学、がん治療、バイオテロ傷病者の診断・治療、緩和ケアおよび訪問診療。泌尿器科専門医、日本体育協会認定スポーツドクター。
RELATED ARTICLES

最新記事

注目の記事