エモリー大学やMIT、国立清華大学などの国際共同研究チームはこのほど、「単純レントゲンやCTを始めとする医療画像から患者の人種的アイデンティティを特定するのは容易」とする研究成果を公表した。AIの学習過程において、期せずして人種間バイアスを取り込んでしまう可能性を示唆するもので、AIの一般的利用に際する懸念を明示する。
arXivからプレプリント論文として公開された本研究によると、公開データおよび非公開データに基づき構築した「人種検出AI」は、複数モダリティにおいて高い性能で学習することができたという。仔細な分析により、この検出が「特定基礎疾患の分布など、人種を代理する共変量によるものではない」ことも明らかにしている。また、この検出性能はすべての解剖学的領域と画像の周波数スペクトルによって維持されており、現時点で緩和策の策定は困難で、さらなる研究が必要であることを強調する。
研究チームは「人種を予測するモデルの性能自体は重要な問題ではない。仮に、AIモデルが人種識別能を獲得し、黒人患者に対して特定の誤った分類を行った場合、臨床医がこれを見分けることは非常に困難だ」とする。研究において唯一人種識別能を低下させることができたのは、画質を極端に低下させた場合であったが、これはAIのタスクパフォーマンスも著しく低下させる可能性があるため現実的ではない。現時点では開発者・規制当局・ユーザーが、細心の注意を払ってAIモデルと向き合うしかないが、「AIモデルが意図せず内包し得る人種間バイアス」を検出する仕組みは、医療AI構築における重要な論点となっていくはずだ。
関連記事：
