AI誤用のリスク

Nature Medicineから12日公開されたコメンタリーでは、「医療におけるAIの適切な運用の重要性」を強調し、機械学習アルゴリズムが誤用された場合の危険性を警告している。

著者らは、偏ったデータセットに基づくモデルトレーニングによって、人間が潜在的に持つ偏見を永続させるなど、意図せず害を及ぼす可能性があることを指摘する。特に放射線画像や病理画像におけるAIのように、「他の方法では確認することのできないパターン」を発見した場合、アルゴリズムがこれに到達した方法を十分に説明する必要があるとしている。

筆頭著者でオランダ・エラスムス大学のVictor Volovici医師は「私は機械学習の力を信じているが、それはあくまで『適切な追加』でなければならない。従来の統計手法よりも明らかに性能が劣るケースもあり、臨床的・科学的に価値の無い論文の発表につながることがある」と話す。AIの過剰使用や誤用を防ぐためには、その限界を認識する必要がある点を強調している。

関連記事:

  1. パルスオキシメーターの人種間測定誤差が「治療の格差」を生む可能性
  2. 医療AI論文はどこの誰が、どのデータを使って書いているのか?
  3. ブラックボックス対策 – 「放射線科医の推論プロセス」に従う乳がん検出AI

TOKYO analyticahttps://tokyoanalytica.com/
TOKYO analyticaはデータサイエンスと臨床医学に強力なバックグラウンドを有し、健康増進の追求を目的とした技術開発と科学的エビデンス構築を主導するソーシャルベンチャーです。
The Medical AI Timesにおける記事執筆は、循環器内科・心臓血管外科・救命救急科・小児科・泌尿器科などの現役医師およびライフサイエンス研究者らが中心となって行い、下記2名の医師が監修しています。

1. 岡本 将輝
信州大学医学部卒(MD)、東京大学大学院専門職学位課程修了(MPH)、東京大学大学院医学系研究科博士課程修了(PhD)、英University College London(UCL)科学修士課程最優等修了(MSc with distinction)。UCL visiting researcher、日本学術振興会特別研究員、東京大学特任研究員を経て、現在は米ハーバード大学医学部講師、マサチューセッツ総合病院研究員、SBI大学院大学客員准教授など。専門はメディカルデータサイエンス。

2. 杉野 智啓
防衛医科大学校卒(MD)。大学病院、米メリーランド州対テロ救助部隊を経て、現在は都内市中病院に勤務。専門は泌尿器科学、がん治療、バイオテロ傷病者の診断・治療、緩和ケアおよび訪問診療。泌尿器科専門医、日本体育協会認定スポーツドクター。
RELATED ARTICLES

最新記事

注目の記事