ネット上の噂やフェイクニュースによる不正確で有害な情報拡散、いわゆる「インフォデミック（infodemic）」の問題は、COVID-19パンデミックをきっかけに広く知られるようになった。WHO・国連らによる共同声明は「誤った情報が命を奪う」という強い言葉でインフォデミックに対する警告を発した。ワクチン政策が主戦場となった現在、ワクチンに関する誤解を招くニュースやSNS投稿を自動検出するAIツールが各方面で開発されている。
米スティーブンス工科大学のリリースでは、同大のAI研究者 Subbalakshmi博士とそのチームによる「フェイクニュース検出AI」を紹介している。チームは以前にも「言葉遣いからアルツハイマー病を高精度に識別するAIツール（過去記事参照）」の開発で注目を集めていた。今回の研究では、15ヶ月間にわたり80のメディアからCOVID-19に関する2,600件のニュースを収集し、評判の高いメディア評価サイトとの照合の上でニュースに信頼性の有無のラベルを付けた。さらに、それらニュースに言及した24,000以上のTwitter投稿を収集し、ニュースに対する支持/不支持を判断する「スタンス検出」アルゴリズムを開発した。これらを元にしたベースラインアーキテクチャは約88%の精度でフェイクニュースを検出することが可能と謳う。その仕組みの例として、大げさな表現や感情的な表現は、偽りの主張と相関が強い傾向にある。また、公開時期・記事の長さ・名を連ねる著者の数などもアルゴリズムに利用され、記事の信頼性を判断しているとのこと。
Subbalakshmi博士は「研究の真の貢献は、データセットそのものであり、他の研究者がデータを利用してフェイクニュースへの理解を深めることを期待している。これまでテキストに焦点を当ててきたが、ニュースや投稿に埋め込まれた画像・動画などあらゆる種類のメディアを消化することが今後の課題である。こちらが一歩前進するたびに、悪意ある人たちは私たちの手法を学び、さらに洗練されたフェイクを作り上げてくる。常に戦闘状態であり、数歩先にいることが重要だ」と語っている。
関連記事：
