「偏ったデータから構築されたAI」による診断は、患者にとって重大なリスクにつながる可能性がある。米メイヨークリニックでは、AIモデルの精度とバイアスを評価する新しいツール「Mayo Clinic Platform_Validate」の実用化を進めている。
同クリニックのプラットフォームに追加された新機能「Validate」は、年齢・民族・人種・性別など様々な制約のもとでAIがどのように動作するかを測定し、モデルの偏り・感度・特異度についてのレポートを提供する。これにより臨床医は、AIモデルが意図した目的に適合しているかを確認することができ、モデルに対する信頼感を構築できるようになるという。
プラットフォームの責任者であるJohn Halamka医師によると「我々のプラットフォームは医療提供の在り方を根本的に変えることで、患者ケアの向上を目指している。現在のシステムに組み込まれた無数の欠陥や不公平に対処し、医療の民主化を先導したい」と語った。
関連記事：
