AI が職場での偏見に寄与する 4 つの要因
研究者らは、生成 AI ツールには専門家に影響を与える体系的な人種的偏見が存在することを発見しました。
最近の進歩と生成 AI ツールの利用しやすさのおかげで、人工知能（AI）の人気がこれまで以上に高まっていることは疑いの余地がありません。
米国内で、少なくとも ChatGPT のことを聞いたことがない人、ましてや 2022 年 11 月のサービス開始以来、何らかの形でこのサービスを使用したことのない人を見つけるのは難しいでしょう。ただし、これらのシステムの賢さは、トレーニングの対象となる人間が作成したデータと同程度に限られます。これは、人間と同様に、これらの AI ツールもバイアスを受けやすい可能性があることを意味します。
ブルームバーグは最近、GPT-3.5 と GPT-4 における人種的偏見に関する研究を発表しました。研究者らは GPT-3.5 を使用して、名前が異なる同等の資格を持つ候補者の 1,000 件の履歴書をランク付けしました。研究者らは、GPT-3.5では、黒人アメリカ人など、特定の層が伝統的に使用してきた名前を持つ人々をリストの最下位にランク付けし、OpenAIが偏りの少ないものとして推進しているGPT-4でも、明確な好みがあることを発見した。
British Journal of Radiologyは、AIモデルが歴史的な不平等やアクセスと質の格差に起因する医療アプリケーションの既存のバイアスの影響も受けていることを示す別の研究を発表しました。 AI システムが不平等を反映するデータに基づいてトレーニングされると、これらの要因が強調されます。
ここでは、AI が職場での偏見にどのように寄与しているかを 4 つ紹介します。
1. 氏名による差別
生成 AI の台頭は、特に多くの企業がコスト削減と効率向上のために採用活動に AI ツールを使用することに熱心になっているため、自動採用システムに影響を与えています。ただし、ChatGPT のような AI ツールは、人の名前に基づいて露骨なバイアスを示すことが判明しています。
研究者のレオン・イン氏、デイビー・アルバ氏、レオナルド・ニコレッティ氏らによって行われたブルームバーグの調査では、明らかに特定の人種や民族に関連した名前を付けた8種類の異なる履歴書が作成された。次に、ChatGPT の無料枠を強化する大規模言語モデル (LLM) である GPT-3.5 を使用して、これらの履歴書を候補者の適合性によってランク付けしました。研究によれば、社会学研究で長年探求されてきた人種的偏見を強調するGPT-3.5は、「保護されたグループに対する職業上の差別を評価するために使用されるベンチマークを満たさない程度にまで」一部の人口統計グループを他のグループよりも優遇したという。
ブルームバーグの研究者らは、名前と組み合わせを変えながら同じ条件で実験を1,000回実施した。 GPT-3.5 では、アジア系アメリカ人に特有の名前 (32%) が金融アナリストの候補者として上位にランクされる可能性が最も高く、一方、黒人アメリカ人は最下位にランクされることが最も多かったです。白人またはヒスパニック系の名前を持つ候補者は、同等の扱いを受ける可能性が最も高かった。
2. 職種間での一貫性のない基準
すべての履歴書が金融アナリストの職に就くための同じ資格を持っていたにもかかわらず、結果は依然としてLLMの人種的偏見を示していました。さらに 3 つの求人、つまり HR ビジネス パートナー、シニア ソフトウェア エンジニア、小売マネージャーについて実験を繰り返したところ、ブルームバーグは性別と人種の好みが職種によって異なることも発見しました。
「GPTは、歴史的に女性が多数を占めていた2つの職業である人事および小売業の職の最上位候補として男性に関連する名前をランク付けすることはほとんどありませんでした。GPTは、各セットと比較して、ヒスパニック系女性に特有の名前を人事の役割の最上位候補としてランク付ける可能性がほぼ2倍でした」男性特有の名前の履歴書があった」ことが研究で判明した。
これは、2023 年 7 月の一貫性のない基準を示す AI ツールの別の例です。MIT のアジア系アメリカ人の学生、ロナ ワンさんは、自撮り写真を画像生成ツール Playground AI にアップロードし、「プロの LinkedIn プロフィール写真」を求めました。 AI ツールは、ワンさんの写真を、ワンさんの MIT スウェットシャツを着た白人女性の画像に変えました。
3. 歴史的な社会的偏見の増幅
生成 AI ツールは、候補者のスクリーニングとランク付け、履歴書とカバーレターの作成、複数のファイルの同時要約によく使用されます。しかし、AI モデルの良さは、トレーニングに使用されたデータによって決まります。
GPT-3.5 は、書籍、記事、ソーシャル メディアなど、オンラインで広く入手可能な大量の情報に基づいてトレーニングされました。このオンライン データへのアクセスには、トレーニング データに示されているように、社会的不平等や歴史的な偏見が必然的に反映され、AI モデルはそれをある程度継承し複製します。
AI を使用する人は、これらのツールはさまざまなソースからの大量のデータに基づいてトレーニングされているため、本質的に客観的であると想定すべきではありません。生成 AI モデルは便利ですが、自動化された採用プロセスにおけるバイアスのリスクを過小評価すべきではありません。その現実は、採用担当者、人事専門家、マネージャーにとって非常に重要です。
2019年、クラークソン大学の研究では、顔認識技術に人種的偏見が存在することが判明し、肌の色が濃い人の精度が低いことが明らかになりました。たとえば、AI モデルのトレーニングに使用される郵便番号の人口分布のデータのような単純なものでも、特定の人種的背景を持つ人々に不均衡な影響を与える決定を下す可能性があります。
4. 透明性と説明責任の欠如
人事プロセスを自動化するために生成型 AI を使用することには積極的な姿勢があるかもしれませんが、これらの AI ツールは多くの場合、意思決定の透明性を提供しません。
一部の AI 企業は、自社の AI モデルの結果が不正確である可能性があるという免責事項を提供していますが、多くの企業は依然として免責事項を独自のアプリケーションの構築に使用しています。どの企業がミスの責任を負うのかは必ずしも明らかではありません。
ブルームバーグが調査結果をOpenAIに突きつけたとき、ChatGPTを運営する企業は、すぐに使えるモデルの結果は、ユーザーが同社のAIモデルをどのように利用しているかを反映していない可能性があると述べた。 OpenAIは、企業はGPTモデルに登録する前に履歴書から名前を削除できると述べた。