画像解析AIが内包する過小診断バイアス

AIシステムは医用画像処理において高い性能を発揮し、専門医あるいはそれを超える識別能を示す事例も多数みられている。一方で、女性患者や黒人患者、社会経済的地位の低い患者など、歴史的に特に十分なサービスを受けてこなかった集団において、AIシステムが人間の持つバイアスを反映・増幅することで、「パフォーマンスの質」を低下させるのではないかという懸念が高まっている。

このようなバイアスは、AIアルゴリズムが「疾患を持つ個人を健康である」と不正確に判定することで、治療へのアクセスを遅らせる可能性があるなど、過小診断の文脈で特に問題となる。このほどNature Medicine誌から公開された研究論文によると、トロント大学とマサチューセッツ工科大学などの共同研究チームは、3つの大規模胸部X線データセットと1つのマルチソースデータセットを用い,胸部X線画像におけるアルゴリズムによる過小診断を検証した。結果として、先端の分類器は一貫して「医療サービスの恩恵を受けていない患者集団」を選択的に過小診断しており、過小診断率はヒスパニック女性患者のような「特定の部分集団」でさらに高いことを明らかにしている。

著者らは「バイアスを含むAIシステムの展開は、既存ケアのバイアスを悪化させるリスクがあり、医療への不平等なアクセスをもたらす」とし、これらのモデルを実臨床で使用することに対する倫理的な懸念を改めて表明している。

関連記事:

  1. 大規模バイオデータバンクに入り込むバイアス
  2. 人種バイアスは除去できるか? – 網膜血管から人種を識別するAI
  3. バイアスを含むAIが人類の希望となる可能性について
  4. Nightingale Open Science – 無償利用可能な「AI開発向け大規模医学データベース」
  5. 「臨床試験への参加が乏しい集団が存在すること」について

TOKYO analyticahttps://tokyoanalytica.com/
TOKYO analyticaはデータサイエンスと臨床医学に強力なバックグラウンドを有し、健康増進の追求を目的とした技術開発と科学的エビデンス構築を主導するソーシャルベンチャーです。
The Medical AI Timesにおける記事執筆は、循環器内科・心臓血管外科・救命救急科・小児科・泌尿器科などの現役医師およびライフサイエンス研究者らが中心となって行い、下記2名の医師が監修しています。

1. 岡本 将輝
信州大学医学部卒(MD)、東京大学大学院専門職学位課程修了(MPH)、東京大学大学院医学系研究科博士課程修了(PhD)、英University College London(UCL)科学修士課程最優等修了(MSc with distinction)。UCL visiting researcher、日本学術振興会特別研究員、東京大学特任研究員を経て、現在は米ハーバード大学医学部講師、マサチューセッツ総合病院研究員、SBI大学院大学客員准教授など。専門はメディカルデータサイエンス。

2. 杉野 智啓
防衛医科大学校卒(MD)。大学病院、米メリーランド州対テロ救助部隊を経て、現在は都内市中病院に勤務。専門は泌尿器科学、がん治療、バイオテロ傷病者の診断・治療、緩和ケアおよび訪問診療。泌尿器科専門医、日本体育協会認定スポーツドクター。
RELATED ARTICLES

最新記事

注目の記事