バイアスを含むAIが人類の希望となる可能性について

AI構築に用いる学習データの特性は、アルゴリズム全体に深刻なバイアス(偏り)を生むことがある。男女間・人種間で疾患識別精度が異なり予後に系統的なズレが生じるといった、医療現場における新時代のホラーストーリーは現実ともなり得る。一方で、ではこのバイアスを含むAIという存在は、いつも人類にとっての脅威でしかないのだろうか。

米ニューヨーク大学タンドン工科学校のKadija Ferryman氏は、今週行われたヘルステックの国際カンファレンス内において「例えば呼吸機能検査など、検査者によるデータ取得段階から、人種や世代に対する固定観念や潜在意識によって無意識的に結果を歪められたケースなど、一部に検出することがそもそも難しくなるバイアスも存在する」と話す。また、カリフォルニア大学バークレー校のZiad Obermeyer氏は「我々がこれまでに学んできたことは、データそのものが持つバイアスは、AIアルゴリズムに取り込まれバイアスを再現するという事実だ」とし、AIが含むバイアスへの適切な対処はデータの質を精査するしかないことを強調する。

一方でFerryman氏は「ただし、AIはバイアスを伝播させるだけの存在ではなく、バイアスに焦点を合わせるために活用することもできる」と持論を展開しており、常にバイアスの存在に危機意識を持てる事実こそが、データに包含される格差を調査し、修正しようとする原動力にも繋がることを指摘する。バイアスを含むAIが結果的にもたらした「見えないリスクを見ようとする新しい動き」こそが、人類の根源的な格差解消に向けた希望となるのかもしれない。

前の記事豪大手VC Blackbirdの共同創業者 – AIに強気な姿勢と医療応用への展望を示す
次の記事腹部脂肪のAI自動測定によって将来の心血管疾患発症を予測
TOKYO analytica
TOKYO analyticaはデータサイエンスと臨床医学に強力なバックグラウンドを有し、健康増進の追求を目的とした技術開発と科学的エビデンス構築を主導するソーシャルベンチャーです。
The Medical AI Timesにおける記事執筆は、循環器内科・心臓血管外科・救命救急科・小児科・泌尿器科などの現役医師およびライフサイエンス研究者らが中心となって行い、下記2名の医師が監修しています。

1. M.Okamoto MD, MPH, MSc, PhD
信州大学医学部卒(MD)、東京大学大学院専門職学位課程修了(MPH)、東京大学大学院医学系研究科博士課程修了(PhD)、ロンドン大学ユニバーシティカレッジ(University College London)科学修士課程最優等修了(MSc with distinction)。UCL visiting researcher、日本学術振興会特別研究員を経て、SBI大学院大学客員准教授、東京大学特任研究員など。専門はメディカルデータサイエンス。

2. T.Sugino MD
防衛医科大学校卒(MD)。大学病院、米メリーランド州対テロ救助部隊を経て、現在は都内市中病院に勤務。専門は泌尿器科学、がん治療、バイオテロ傷病者の診断・治療、緩和ケアおよび訪問診療。泌尿器科専門医、日本体育協会認定スポーツドクター。