ヘルスケアにおけるAIの有益な利用が期待される一方で、その潜在的な有害性に関する議論は焦点が当てられにくい。BMJ Global Healthに発表された国際研究グループからの声明では「自己改良型の汎用AI（AGI: artificial general intelligence）の脅威に対して開発と利用にモラトリアムを設け、医療者は警鐘を鳴らす役割を果たすべき」と論じられている。
同論文では、AGIの脅威論として3つのポイントを挙げ、AGIの誤用と、それらへの規制の不備が「人類の存在を脅かす」と強調する。1点目は、個人データを含む膨大なデータセットを迅速にクリーニング・整理・分析するAIの能力である。一例に、過去の選挙で悪用されたディープフェイクのような現実を歪めて誤認させる能力が、信頼の崩壊や社会の分裂、紛争を引き起こし、公衆衛生上の脅威を与えることで民主主義を弱体化させる可能性があるというもの。2点目は、致死的自律兵器システム（LAWS: Lethal Autonomous Weapon Systems）の開発に関するもので、リスクと脅威はいかなる利益よりも上回ると強調している。3点目は、AI普及による雇用喪失の影響で、「繰り返しの多い危険で不快な仕事」を減らすメリットの一方で、失業が健康と行動への悪影響に強く関連すると指摘する。
本論文の結言には、医療と公衆衛生のコミュニティはAIがもたらすリスクと脅威に対する認識を高め、警鐘を鳴らす役割を担い、セーフガードと規制にスピードと真剣さを求めるべきとしている。これは核戦争防止国際医師会議（International Physicians for the Prevention of Nuclear War）がノーベル平和賞を受賞した経緯と同様（核戦争がもたらす破滅的な結末に関し、信頼できる情報とその理解を広めた貢献により受賞）、AIの利点を支持する一方で、その脅威についてもエビデンスに基づく主張をまとめていかなければならないと、先例を挙げて説明している。
参照論文：
Threats by artificial intelligence to human health and human existence
関連記事：
