Google 機械学習のオンラインコースに「公平性・倫理」を追加

最新ニュース

Googleが学生向けに提供している機械学習のオンラインコースにおいて、AI構築における「道徳(公平性・倫理)」のコースを追加した。

同オンラインコース(piloting a machine learning intensive)によると、さまざま領域で活用されるAIプログラムにおいて、誤った公平性・倫理観は、サービスを展開する上で大きなリスクになりうるという。

公平性を考慮しないと、差別する意図はないのに、大きく差別をするAIを作り上げる恐れがるという。例えば、トレーニングデータに含まれる性別や人種などの違いを拡大解釈して、IAの設計者が意図せずに性別や人種で差別するアルゴリズムになる可能性があるという。最近では、Amazonが女性を差別する人材採用AIツールを廃棄したことも明らかになっている。

また、公平性なくサービスを設計した場合、多くの人にとって快適なサービスを提供できないケースも発生しうるという。例えば、音声認識においては、アメリカ人成人のデータのみをテストデータとした場合、アメリカ人の若者言葉に対応できない、イギリス英語を理解できないなどの現象が生じる恐れもある。アルゴリズムおよびテストデータに公平性も持たせることは、より良いAIプログラムを作り出す上で重要な要素であるという。

ただし、公平性に正解はなく、ある人によっては公平だと思えることでも、他の人によっては不公平だと感じさせることがある。特に、国籍が違えば、その違いは大きくなると同オンラインコースでは指摘している。

AIアルゴリズムを作り出すエンジニアに、公平性を実現するための多様な視点、様々な利用を想定することで、より良いサービスを生み出す結果なることを期待しているという。