近年、医学領域においてもAI技術を利用した研究が急増し、主要学術誌にも頻繁に登場するようになった。一方、機械学習から得られる成果の潜在的な危険性を指摘し、結果を鵜呑みにしないように訴える科学者も少なくない。
英Financial Timesの報道では、米ベイラー医科大学のGenevera Allen氏は「機械学習によって得られた研究成果の大半を懐疑的に見ている」と話す。主たる根拠として、多くの研究成果に再現性がなく、対象集団を変えてしまうとアルゴリズムのパフォーマンスが保たれないことにあるという。
これまでの古典的統計手法に比べ、AI技術にはブラックボックスと言える要素が多い。データ数の多さとアルゴリズムの高い精度をもって、安易に研究成果を受け入れる風潮には深刻な危険をはらんでいる。Eurek Alertは、Allen氏のコメントを紹介しながら、「単一の研究成果だけでは真実を語れない」という根本概念の重要性も強調する。
