インスタグラム、人工知能でいじめ探知

最新ニュース

インスタグラムは、同社提供サービス内で横行する「いじめ行為」を探知するシステムを開始した。Facebookを含め、人工知能を使って自社のプラットフォームの節度を保とうとする企業努力は、このところ活発化している。

インスタグラムの新任トップAdam Mosseri氏は、記者会見で、「インスタグラムでシェアされる写真の大半は好ましいものだが、ときどき無神経で歓迎できないものもシェアされている」と述べた。また、「機械学習テクノロジーを使って、写真やキャプションによるいじめ行為を探知し、オペレーション・チームへと転送して、確認作業に取り組んでいます」といじめ行為発見後の流れについても説明した。

インスタグラムの親会社であるFacebookでも、今月独自のいじめ検知ツールを導入。それらのツールを使うと、ユーザーは「荒らしコメント」を自分のフィードから削除したり、いじめの概要を被害者に代わって報告することができる。

現在、ソーシャルメディア企業には、嫌がらせやヘイト・スピーチをもっとしっかり管理すべしというプレッシャーがかかっており、何百万人というユーザーを抱える彼らにとって困難な課題となっている。Facebookは何千人もの従業員を雇い、規定に抵触する可能性のあるコンテンツを調べようとしているという。