AI技術は医療への多大な貢献が期待され、これまでのあらゆる医療スタンダードを変革しようとしている。一方、米ハーバード大学を中心とした研究チームは、ヘルスケアAIが悪意を持って利用される可能性を指摘し、警鐘を鳴らしている。
学術誌Scienceに22日公開された論文によると、研究チームは、インプットデータに非常に小さく目立たぬような改ざんを加えれば、機械学習アルゴリズムの処理結果をある方向に意図的に導けることを指摘している。つまり悪意ある医療機関などは、より多くの専門検査・治療などを要する結果に誘導することで、利益を増幅しようとする可能性も否定できないというわけだ。
医療の高度な専門性ゆえに、患者にとってあらゆる検査・治療の本質的な意味を全て理解していくことは容易ではない。機械学習自体のブラックボックス問題も、医療的判断の正当性評価を一層難しくする。The New York Timesは、ハッカーによる改ざんリスクなどは低いとしながらも、あらゆる可能性への配慮が欠かせないことを報じている。
