医療画像から人種を読み取るAI

エモリー大学やMIT、国立清華大学などの国際共同研究チームはこのほど、「単純レントゲンやCTを始めとする医療画像から患者の人種的アイデンティティを特定するのは容易」とする研究成果を公表した。AIの学習過程において、期せずして人種間バイアスを取り込んでしまう可能性を示唆するもので、AIの一般的利用に際する懸念を明示する。

arXivからプレプリント論文として公開された本研究によると、公開データおよび非公開データに基づき構築した「人種検出AI」は、複数モダリティにおいて高い性能で学習することができたという。仔細な分析により、この検出が「特定基礎疾患の分布など、人種を代理する共変量によるものではない」ことも明らかにしている。また、この検出性能はすべての解剖学的領域と画像の周波数スペクトルによって維持されており、現時点で緩和策の策定は困難で、さらなる研究が必要であることを強調する。

研究チームは「人種を予測するモデルの性能自体は重要な問題ではない。仮に、AIモデルが人種識別能を獲得し、黒人患者に対して特定の誤った分類を行った場合、臨床医がこれを見分けることは非常に困難だ」とする。研究において唯一人種識別能を低下させることができたのは、画質を極端に低下させた場合であったが、これはAIのタスクパフォーマンスも著しく低下させる可能性があるため現実的ではない。現時点では開発者・規制当局・ユーザーが、細心の注意を払ってAIモデルと向き合うしかないが、「AIモデルが意図せず内包し得る人種間バイアス」を検出する仕組みは、医療AI構築における重要な論点となっていくはずだ。

関連記事:

  1. MIT「Mirai」 – 多様な人種背景で同等に機能する乳がん発症予測AI
  2. バイアスを含むAIが人類の希望となる可能性について
  3. 身体的魅力で収入が増加する「ビューティプレミアム」をAI研究が証明
  4. 審美AI – 美容整形手術後の「見た目年齢」を推定
  5. 医療AIの最新活用事例とは?医師が解説【2021年版】

前の記事睡眠時の歯ぎしりを解析するAI研究
次の記事VUNO – 心停止予測AIで規制当局の承認を取得
TOKYO analyticaはデータサイエンスと臨床医学に強力なバックグラウンドを有し、健康増進の追求を目的とした技術開発と科学的エビデンス構築を主導するソーシャルベンチャーです。
The Medical AI Timesにおける記事執筆は、循環器内科・心臓血管外科・救命救急科・小児科・泌尿器科などの現役医師およびライフサイエンス研究者らが中心となって行い、下記2名の医師が監修しています。

1. 岡本 将輝
信州大学医学部卒(MD)、東京大学大学院専門職学位課程修了(MPH)、東京大学大学院医学系研究科博士課程修了(PhD)、ロンドン大学ユニバーシティカレッジ(University College London)科学修士課程最優等修了(MSc with distinction)。UCL visiting researcher、日本学術振興会特別研究員を経て、SBI大学院大学客員准教授、東京大学特任研究員など。専門はメディカルデータサイエンス。

2. 杉野 智啓
防衛医科大学校卒(MD)。大学病院、米メリーランド州対テロ救助部隊を経て、現在は都内市中病院に勤務。専門は泌尿器科学、がん治療、バイオテロ傷病者の診断・治療、緩和ケアおよび訪問診療。泌尿器科専門医、日本体育協会認定スポーツドクター。