バイアスの解消:AIにDEIが必要な理由

このストーリーにいいねする
Rating Unavailable
いいねの数

マイクロンエグゼクティブのインサイトブログ

シャーローン・コナーズ

マイクロンのDEI(Diversity, Equality and Inclusion)担当バイスプレジデント

想像してみてください。たとえば、Alexaの声が聞こえない状態でAlexaを使おうとしたらどうなるか。あるいは、病院側で構築したアルゴリズムのせいで、あなたが病気になったとき、他の人より状態が悪いにもかかわらず、肌の色の違いによりあなたより先に治療を受けることができる人がいると知ったら。

私たちはしばしば、産業として人工知能(AI)の可能性を活用する新たなアプリケーションの開発にあまりに熱心になり、その恩恵を受けるすべての人々について考慮に入れることを忘れてしまうことがあります。あるいは、ダイバーシティ(多様性)、イコーリティ(平等性)、インクルージョン(包摂性)(DEI)の原則を無視したデータを使用してアプリケーションを構築した場合、その恩恵を受けられない人が発生します。

AIの良し悪しは、入力されたデータで決まります。最近の研究では、顔認識の精度が白人男性は99%ですが、有色人種の女性では35%に低下することが示されました。なぜかというと、その人口グループが設計段階でテストケースから除外されていたためです。

またオークランドでは、犯罪の多い地域を予測するソフトウェアが試験的に導入されました。しかし、アルゴリズムは実際、犯罪率に関係なく、少数民族の人口が多い地域を追跡していたことがわかりました。

これらは、テクノロジーによって増幅された、単純明白なミスの一例です。

AIおよびソフトウェア設計では、新技術導入に際しすべての人について考えることが極めて重要です。私たちは、たとえ無意識だとしても、誤った固定概念を持ち続け、加速させるという罪を犯しています。その結果、AIが私たちの生活にもたらすその他のメリットを失い、このテクノロジーの真の可能性の足枷となっています。

マイクロンはこの問題について深刻にとらえています。昨年、Micron Givesは、AIによる社会的利益創出を専門とする主要な大学研究グループおよび非営利組織に100万ドルを提供するAdvancing Curiosityプログラムを発表しました。

Sharawn Connors
Sharawn Connors, VP of Diversity, Equality and Inclusion (left) onstage at Techonomy 19 speaking about the importance of diversity in the workplace.

この取り組みを通じて、AIのバイアスを特定して解消することを目的とするUCLAのプロジェクトを支援し、バイアスの特定に役立つ厳密な計算方法を開発して機械学習の透明性を促進します。当社は、AI分野での多様性を推進するために、特にマイノリティの間でこれらの分野への関心を高めることに注力しているAI4Allとそのキャンプも支援しています。

人種や性別だけではありません。私たちは、ダイバーシティのあらゆる側面に目を向ける必要があります。ほぼすべてのAIアシスタントが音声ベースの機能であり、難聴や聴覚障がいを持つ人はこれらのツールの使用対象から排除されているも同然です。Advancing Curiosityプログラムでは、ロチェスター工科大学と共同で、設計ループ全体で難聴ユーザーにとって魅力あるAI支援技術を開発しています。この取り組みにより、ソリューションがユーザーにとって本当に役立つものとなります。

AIにとって質の高いデータ入力を得るには、これらのプロジェクトを開発する人や組織の組み合わせが、私たち全員が暮らす世界の構成を反映していることが重要です。米国人口の7%が障がい者であるなら、その割合を職場に反映させる必要があります。それが、アプリケーション自体の設計と開発に携わる人々のD&Iを通してAIの価値を引き出す方法です。

しかしまた、思考の多様性についても考えなければなりません。誰もが安心してアイデアを共有できる包括的な環境を整えることも等しく重要です。多様性はあってもその環境下で人が力を発揮しないと、真の意味で多様性の価値は得られません。

至る所に大規模なAIデータセットが構築されつつある今、私たちはターニングポイントを迎えています。データについて考えること、私たちがサービスを提供し支えたい人々がデータに十分に反映されているかについて考えることが不可欠です。そのためには、最高のソリューション、最高のイノベーション、最高のアイデアが、どこから生まれたとしてもトップに伝わる職場を作る必要があります。

私は、DEIを備えた従業員の育成に取り組んでいるチームの一員であることを誇りに思っています。私たちは決して完璧ではありませんが、意志と勢いがあると私は信じています。そして、DEIが当社の企業文化、イノベーション、競争力に与える価値について認識しています。DEIに関するマイクロンの取り組みについて、詳しくは、最新のDEIレポートをご覧ください。

+
+