AIの臨床応用には膨大な量の個人医療データが取り扱われる。そのため、ゲノム情報や電子カルテ記録などの重要な機密情報の漏えいリスクは、常に危惧されている。
MIT Technology Reviewによると、個人情報を強力に保護しながら医療データをAIアルゴリズムのトレーニングに提供できるプラットフォームの運用が、スタンフォード大学医学部を中心に始められた。カリフォルニア大学バークレー校発のスタートアップOasis Labsのアプリを通じて、眼科検査結果と健康記録データが提出されると、データと個人情報が紐付けられずにクラウド上に保管される。その後、第三者がそのデータをAIアルゴリズムに対して安全に適用することができる。ブロックチェーン技術が応用されたこのシステムによって、患者はプライバシーを保護しながら医療データの提供が可能となり、ひいては自身もAI技術の恩恵を受けられるようになるという。
医療現場へのサイバーアタックの脅威（過去記事）のように、デジタル化された個人の医療情報が悪意を持って抽出される可能性が高まっている。医療用AIの臨床現場への普及にあわせて、強力なセキュリティ技術の発展も課題となるだろう。
