JAMA Internal Medicineから13日にオンライン公開された研究論文によると、南オーストラリア・アデレードに所在するフリンダース大学の研究者らは、生成AIを用いた「健康に関する偽情報」の作成を検証している。
研究論文によると、OpenAIのGPT Playgroundが、大量の健康関連偽情報の生成を促進する能力があるかどうかを調査した。また、大規模言語モデルに加え、DALL-E 2やHeyGenのような、画像および動画コンテンツの生成を容易にする、一般に利用可能な生成AIプラットフォームについても調査を加えている。研究者らはワクチンと電子タバコに関する「17,000語以上の偽情報を含む102の明確なブログ記事」を、わずか65分で生成した。さらに、AIアバター技術と自然言語処理技術を用い、研究チームは5分以内に「ワクチンに関する偽情報を語る医療専門家が登場するディープフェイク動画」を生成した。このビデオは、40以上の異なる言語に簡単に置き換えることができた。
著者らは「AIツールのガードレールが不十分な場合、多様で大量な説得力のある偽情報を迅速に生成する能力が甚大であることが証明された。今、AIツールの問題をモニタリング・報告し、パッチを当てる透明なプロセスが緊急に必要となっている」と警告している。
参照論文：
Health Disinformation Use Case Highlighting the Urgent Need for Artificial Intelligence Vigilance
Weapons of Mass Disinformation
関連記事：
