デザインツール
アプリケーション

バイアスの解消:AIにDEIが必要な理由

マイクロン・テクノロジー | 2019年12月

想像してください。たとえば、Alexaの声が聞こえない状態でAlexaを使おうとしたら。あるいは、あなたが病気になったとき、アルゴリズムのせいで病院で他の人が肌の色が違うあなたより先に治療を受けたと知ったら。

私たちはしばしば、産業として人工知能(AI)の可能性を活用する新たなアプリケーションの開発にあまりに熱心になり、その恩恵を受けるすべての人々を考慮に入れることを忘れることがあります。あるいは、ダイバーシティ、平等、インクルージョン(DEI)の原則を無視したデータを使用してアプリケーションを構築した場合、その恩恵を受けられない人がいるということを。

AIの良し悪しは、入力されたデータで決まります。最近の研究では、顔認識の精度が白人男性は99%ですが、有色人種の女性では35%に低下することが示されました。なぜかというと、その人口グループが設計段階でテストケースから除外されたためです。

またオークランドでは、犯罪の多い地域を予測するソフトウェアが試験的に導入されました。しかし、アルゴリズムは実際、犯罪率に関係なく、少数民族の人口が多い地域を追跡していたことがわかりました。

これらは、テクノロジーによって増幅された、単純明白な不正の例です。

AIおよびソフトウェア設計では、新技術導入に際しすべての人について考えることが極めて重要です。私たちは、たとえ無意識だとしても、有害な固定概念を持ち続け、加速させるという罪を犯しています。その結果、AIが私たちの生活にもたらすその他のメリットを逃し、このテクノロジーの真の可能性を抑止しています。

マイクロンはこの問題を重く考えています。昨年、Micron Givesは、AIによる社会的利益創出を専門とする主要な大学研究グループおよび非営利組織に100万ドルを提供するAdvancing Curiosityプログラムを発表しました。

Techonomy 19に登壇し、職場における多様性の重要性について話すダイバーシティ、イコーリティ、インクルージョン担当VPのショーン・コナーズ(左) Techonomy 19に登壇し、職場における多様性の重要性について話すダイバーシティ、イコーリティ、インクルージョン担当VPのショーン・コナーズ(左)

この取り組みを通じて、AIのバイアスを特定して解消することを目的とするUCLAのプロジェクトを支援し、バイアスの特定に役立つ厳密な計算方法を開発して機械学習の透明性を促進します。当社は、AI分野でのダイバーシティを推進するために、特に少数派グループの間でこれらの分野への関心を高めることに力を入れているAI4Allとそのキャンプも支援しています。

人種や性別だけではありません。私たちは、ダイバーシティのあらゆる側面に目を向ける必要があります。ほぼすべてのAIアシスタントが音声ベースの機能であり、難聴や聴覚障害の人はこれらのツールの使用対象から排除されているも同然です。Advancing Curiosityプログラムでは、ロチェスター工科大学と共同で、設計ループ全体で難聴ユーザーにとって魅力あるAI支援技術を開発しています。この取り組みにより、ソリューションがユーザーにとって本当に役立つものとなります。

AIにとって質の高いデータ入力を得るには、これらのプロジェクトを開発する人や組織の組み合わせが、私たち全員が暮らす世界の構成を反映することが重要です。米国人口の7%が障害者であるなら、その割合を職場に反映する必要があります。それが、アプリケーション自体の設計と開発に携わる人々のダイバーシティとインクルージョンを通してAIの価値を引き出す方法です。

しかしまた、思考のダイバーシティについても考えなければなりません。誰もが安心してアイデアを共有できるインクルーシブな環境を整えることも等しく重要です。ダイバーシティはあっても人が力を発揮しないと、そのダイバーシティの価値は得られません。

至る所に大規模なAIデータセットが構築されつつある今、私たちは転換点を迎えています。データについて考えること、私たちがサービスを提供し支えたい人々がデータに十分に反映されているかを考えることが不可欠です。そのためには、最高のソリューション、最高のイノベーション、最高のアイデアが、どこから生まれたとしてもトップに上がる職場を作る必要があります。

私は、ダイバーシティ、平等、インクルージョンを備えた従業員の育成に取り組んでいるチームの一員であることに喜びを覚えます。私たちは決して完璧ではありませんが、意志と勢いがあると私は信じています。そして、DEIが私たちの企業文化、イノベーション、競争力に与える価値を私たちは認識しています。マイクロンにおけるダイバーシティ、イコーリティ、インクルージョンへの取り組みについて詳細をお読みになり、最新のDEIレポートをご覧ください。