間もなくアルゴリズムがあなたの人生を動かし、間違って訓練されれば人生を台無しにするでしょう
記述的なラベル付けでトレーニングされたデータを使用する AI システムは、人間が行うよりもはるかに厳しい決定を下す可能性があります。問題を解決するのに遅すぎることはありません。
トロント大学（UoT）のコンピューター科学者の大学間チームによる最近の実験によると、現在AIモデルの設計で何かが起こっており、すぐに修正しない限り、私たち人間に悲惨な結果をもたらす可能性があるという。そしてマサチューセッツ工科大学（MIT）。
すべての AI モデルは、膨大な量のデータに基づいてトレーニングする必要があります。しかし、この方法には大きな欠陥があるとの報告があります。
あなたの周りを見回して、AI がすでにあなたの存在に組み込まれている、大小さまざまな方法に注目してください。ほんの数例を挙げると、Alexa が予約についてリマインドし、ヘルスボットが疲労を診断し、量刑アルゴリズムが懲役刑を示唆し、多くの AI ツールが金融ローンの審査を開始しています。
今から 10 年後、あなたが行うことのほとんどすべてがゲートキーパーとしてアルゴリズムを使用するようになることを想像してください。
したがって、住宅の賃貸やローンに申請書を送ったり、外科手術や自分にぴったりの仕事に選ばれるのを待っているときに、そのすべてで繰り返し拒否された場合、それは単なる問題ではない可能性があります。不可思議で不幸な不運の連続。
むしろ、こうしたマイナスの結果の原因は、AI アルゴリズムを開発した企業が AI のトレーニングにおいてずさんな仕事をしたことである可能性があります。
具体的には、これらの科学者 (Aparna Balagopalan、David Madras、David H. Yang、Dylan Hadfield-Menell、Gillian Hadfield、Marzyeh Ghassemi) がサイエンスの最近の論文で強調しているように、AI システムは記述的な学習を行っています。データは常に人間が行うよりもはるかに厳しい決定を下します。
これらの調査結果は、修正しない限り、そのような AI システムが意思決定の領域に大混乱を引き起こす可能性があることを示唆しています。
トレーニングの放心状態
AI モデルが予測をどのように正当化するかに焦点を当てた以前のプロジェクトで、前述の科学者たちは、研究に参加した人間が、データに説明的なラベルと規範的なラベルを付けるように求められたときに異なる反応を示す場合があることに気づきました。
規範的主張とは、何が起こるべきか、何が起こるべきではないかをはっきりと言う声明です (「彼は試験に合格するためにもっと一生懸命勉強する必要があります。」) ここで機能しているのは価値判断です。説明的な主張は「ある」ことに焦点を当てており、意見は添付されていません。 (「そのバラは赤いです。」)
これはチームを困惑させたので、別の実験でさらに調査することにしました。今回は、異なるポリシーをテストするために 4 つの異なるデータセットをまとめました。
1 つは、攻撃的な犬の侵入を禁止する架空のアパートの規則に使用される犬の画像のデータ セットでした。
次に科学者たちは、データのトレーニング方法を反映するプロセスで、データに「説明的」または「規範的」ラベルを付けるために研究参加者を集めました。
ここからが興味深いことになります。
記述ラベル作成者は、犬が攻撃的か乱暴かなど、特定の事実上の特徴が存在するかどうかを判断するよう求められました。答えが「はい」の場合、基本的にルールに違反していることになります。しかし、参加者は計量時にこのルールの存在を知らなかったので、自分の答えが不幸な犬をアパートから追い出すことになるとは知りませんでした。
一方、規範的ラベラーの別のグループは、攻撃的な犬を禁止する方針について説明を受け、それぞれの画像について判断するよう求められた。
人間は、ルールを知っている場合、その物体を違反としてラベル付けする可能性ははるかに低く、物事を説明的にラベル付けするよう求められた場合、犬を（無意識であっても）攻撃的であると認識する可能性がはるかに高いことが判明しました。
その差も僅差ではなかった。説明的ラベラー（アパートの規則を知らなかったが、攻撃性について考慮するよう求められた人々）は、同じ犬の画像がアパートの規則に違反しているかどうかを尋ねられた人々よりも、知らず知らずのうちに20％多くの犬を犬刑務所に送り込んでいた。
機械の混乱
この実験の結果は、人間の生き方のほぼすべての側面に重大な影響を及ぼします。特に、支配的なサブグループに属していない場合にはその傾向が顕著です。
たとえば、博士号候補者を評価するためにアルゴリズムが設計された「機械学習ループ」の危険性を考えてみましょう。このアルゴリズムには、何千もの過去のアプリケーションが入力され、監視の下で、誰が合格者で誰がそうでないかを学習します。
次に、合格者がどのようなものであるべきかを抽出します。それは、高い成績、トップクラスの大学出身、人種的に白人であることです。
このアルゴリズムは人種差別的ではありませんが、それに供給されたデータは同じ偏った見方をさらに永続させるような形で偏っています。彼らは信用へのアクセスが少なく、貧しいままです」と法学者フランシスコ・デ・アブレウ・ドゥアルテは言う。
今日、この問題は私たちの周りにあふれています。
たとえば、プロパブリカは、米国で被告の量刑に広く使用されているアルゴリズムが、すべての証拠が両方とも反対であるにもかかわらず、白人被告のほぼ2倍の割合で再犯の可能性が最も高い黒人被告を誤って選択する方法について報告しました。判決の時期と今後数年後。
5年前、マサチューセッツ工科大学の研究者ジョイ・ブオラムウィニ氏は、世界中で使用されている同大学の研究室のアルゴリズムが、彼女の顔も含めた黒い顔を実際には検出できなかったことを暴露した。これは彼女が白いマスクを着用したときにのみ変わりました。
AI には、性別、民族、年齢に対する他の偏見も蔓延していますが、人間の偏見による判断よりもさらに危険なものにする大きな違いが 1 つあります。
「ほとんどの人工知能/機械学習研究者は、データやラベルに対する人間の判断には偏りがあると想定していると思いますが、この結果はさらに悪いことを示唆しています」と、MITの電気工学・コンピュータサイエンス研究所の助教授マルジー・ガセミ氏は言う。医療工学と科学。
「これらのモデルは、すでにバイアスがかかっている人間の判断を再現することさえできません。訓練に使用されているデータに欠陥があるからです。人間は、画像やテキストの特徴が判断に使用されるとわかっていれば、それらの特徴に異なるラベルを付けるでしょう」と彼女は付け加えた。 。
実際、彼らは既存の社会的偏見よりもはるかに悪い評決を下しているため、AI データセットにラベルを付けるという比較的初歩的なプロセスは、不適切に実行されれば時限爆弾になってしまいます。