Microsoft 透明性を確保のためAIバイアス検知ツールを活用

photo by iStock
最新ニュース

人工知能、AIを活用したサービスはますます拡大しているが、AIの活用を阻む障壁として、IT企業は倫理性の問題に取り組む必要がある。AIは大きな可能性を秘めている一方で、そのデータの活用や公平性に懸念を抱く声も多い。AIの倫理性について、企業の取り組みと、消費者がよりよいサービスとしてAIの恩恵を受けるため持つべき意識も問われている。

米ウォールストリートジャーナル紙によると、10月18日、マイクロソフト社のAIプログラムゼネラルマネージャーティム・オブライエンは、「工学と科学を専攻した人々の多くは、倫理教育の経験が十分ではなかった。ここ数年、AI設計の開発にあたり、倫理的なAIツールの開発を内部で実施してきたが、顧客にも倫理の重要性を意識してもらうときがきた」と語ったという。AIの活用には、透明性や倫理的な懸念が障壁となっていることを示す研究結果があり、インターナショナル・ビジネス・マシーンズ・インコーポレーテッドのビジネスバリュー・インスティチュートによる調査では、幹部5,000人のうち約60%が、AIによるデータ活用について、ルールやコンプライアンスを満たす説明ができるのか懸念があると考えており、約29%だった2012年に比べて増加している。

こうした問題を解決する手助けになるのが、バイアス検知ツールである。クラウドベースのAIバイアス検知ツールは、トレーニングデータや機械学習モデルのバイアスの誤りを開発段階で検出するという。マイクロソフトのほか、IBMやAlphabet Inc.のGoogleなどでも、アルゴリズムの公平性を評価するツールをサポートしている。