Google、画像認識AIにおける人種などへのバイアス解消について進捗を発表

Photo by iStock
最新ニュース

Googleは、画像認識AIのバイアスを解消するための研究開発の進捗を発表した。AIのバイアスとは、学習するデータの偏りによって実際とは異なる結果を出力することを指す。発表によると、一定程度の成果が出ているものの、より多様なデータによる学習が必要だという。同社は、以前からAIの公平性に取り組んでおり、引き続きコンテストへの参加を呼び掛けたり、データセットを公開したりしてバイアス解消に取り組む構えだ。

ITメディアVenturebeatによると、Googleが画像認識AIの人種的、社会的、民族的バイアスを解消する研究開発の進捗を発表した。これによると、AIによるイメージ分類のパフォーマンスはここ数年で大きく改善されている一方で、より多様なデータによるトレーニングが必要だとされている。この研究開発の背景には、学習するデータの偏りによって、AIが差別的な結果や倫理に反する結果を示すケースがある点が挙げられる。彼らは、具体的な取り組みとして、世界中の地域から収集された写真でAIをトレーニングするために、広くエンジニアが参加するコンテストを開催している。また、このようなデータセットを12月7日に公開することも発表している。

Googleの公式サイトの一つであるMachine Learning Fairnessによると、機械学習におけるバイアスをできる限り排除することは、「有用かつ普遍的に、世界の情報にアクセスするために不可欠」だという。そのため同社は、制約のあるデータセットからバイアスを減らす機械学習の方法や、テキストにおけるバイアスの回避の技術などについて、以前から研究していた。