ヘルスケアAIが悪意を持って利用される可能性

Photo by iStock

AI技術は医療への多大な貢献が期待され、これまでのあらゆる医療スタンダードを変革しようとしている。一方、米ハーバード大学を中心とした研究チームは、ヘルスケアAIが悪意を持って利用される可能性を指摘し、警鐘を鳴らしている。

学術誌Scienceに22日公開された論文によると、研究チームは、インプットデータに非常に小さく目立たぬような改ざんを加えれば、機械学習アルゴリズムの処理結果をある方向に意図的に導けることを指摘している。つまり悪意ある医療機関などは、より多くの専門検査・治療などを要する結果に誘導することで、利益を増幅しようとする可能性も否定できないというわけだ。

医療の高度な専門性ゆえに、患者にとってあらゆる検査・治療の本質的な意味を全て理解していくことは容易ではない。機械学習自体のブラックボックス問題も、医療的判断の正当性評価を一層難しくする。The New York Timesは、ハッカーによる改ざんリスクなどは低いとしながらも、あらゆる可能性への配慮が欠かせないことを報じている。

前の記事UAE・ガルフ医科大学 医学生向けAI教育センター設立
次の記事中国広東省の医療機関 眼科疾患スクリーニングAIを実用化
TOKYO analytica
TOKYO analyticaは、データサイエンスと臨床医学への深い造詣を武器とし、健康に関するあらゆるモノ・コトのエビデンス構築・普及をお手伝いするメディカルコンサルティングプロジェクトです。
The Medical AI Timesにおける記事執筆は、循環器内科・心臓血管外科・救命救急科・小児科・泌尿器科などの現役医師およびライフサイエンス研究者らが中心となって行い、下記2名の医師が監修しています。

1. M.Okamoto MD, MPH, MSc
信州大学医学部卒(MD)、東京大学大学院専門職学位課程修了(MPH)、ロンドン大学ユニバーシティカレッジ(University College London)科学修士課程最優等修了(MSc with distinction)。専門はメディカルデータサイエンス。ロンドンでのベンチャーエンジニアを経て、英国内の大学で医療データベース研究に従事。

2. T.Sugino MD
防衛医科大学校卒(MD)。大学病院、米メリーランド州対テロ救助部隊を経て、現在は都内市中病院に勤務。専門は泌尿器科学、がん治療、バイオテロ傷病者の診断・治療、緩和ケアおよび訪問診療。泌尿器科専門医、日本体育協会認定スポーツドクター。