Nature Medicineから12日公開されたコメンタリーでは、「医療におけるAIの適切な運用の重要性」を強調し、機械学習アルゴリズムが誤用された場合の危険性を警告している。
著者らは、偏ったデータセットに基づくモデルトレーニングによって、人間が潜在的に持つ偏見を永続させるなど、意図せず害を及ぼす可能性があることを指摘する。特に放射線画像や病理画像におけるAIのように、「他の方法では確認することのできないパターン」を発見した場合、アルゴリズムがこれに到達した方法を十分に説明する必要があるとしている。
筆頭著者でオランダ・エラスムス大学のVictor Volovici医師は「私は機械学習の力を信じているが、それはあくまで『適切な追加』でなければならない。従来の統計手法よりも明らかに性能が劣るケースもあり、臨床的・科学的に価値の無い論文の発表につながることがある」と話す。AIの過剰使用や誤用を防ぐためには、その限界を認識する必要がある点を強調している。
関連記事：
