AIによるヘルスケアの技術革新は急速に進み、特に予防・診断領域においては、実在の専門医をも上回るパフォーマンスをみせるシステムも開発されている。一方で、AIの台頭自体が健康格差を増大させる可能性もあると、米コロンビア長老派教会医療センターの医師で、医療政策研究にも従事するDhruv Khullar氏は指摘する。
The New York Timesの報道によると、AIの学習フェーズにおいて、多様なバックグラウンドの患者データが用いられていない点、実世界のデータに基づいたものであるために社会的・経済的バイアスが組み込まれてしまっている点、全体としての効率性やコスト低減のために、一部の属性の患者に不利な誘導をかけ得る点、の3つが懸念点として指摘されている。そして最大の危険性は、このような問題点がAIへの盲目的な信頼のために、不可視的になっていることだという。
AIが先端医学を急速に向上させるものであることは間違いないが、アルゴリズムのアウトプットと同時に、結果が内包するバイアスや危険性についても常に一定の評価を行う必要がある。米ProPublicaが過去に報じたように、黒人が将来の犯罪リスクが高いというアルゴリズムによる予測はあまりにも短絡的で、多くの誤解を生んだ。医学においても、慎重なデータ収集と継続的な結果の解釈が欠かせないだろう。
