AIにおけるバイアスとの戦いはデータから始まる

IT幹部の大多数は、データの正確性が人工知能の利用にとって重要であると述べています。しかし、完全なデータの正確性を達成したと報告したのはわずか6%です。

偏りのない責任ある人工知能を提供しようとする努力は称賛に値しますが、克服すべき多くの障害があります。主に、AIはそれに入力されるデータと同じくらい公平です。

AIのバイアスと不公平に対処する進展が遅れていることを受けて、ビジネスと技術のリーダーたちは、より「責任ある」AIアプローチに集中する必要があるという合意に達しつつあるかもしれません。Appenが発表し、ハリスポールが実施した504人のITエグゼクティブを対象とした最近の調査では、顧客、市場、機会に関する意思決定をますます推進しているデータに対する懸念が高まっていることがわかります。また、両方のタイプのリーダーが持っているデータが問題を抱えている傾向があり、人々、コミュニティ、ビジネスに損害を与えていることを認識していることを示唆しています。

最も積極的な企業の中でも、マッキンゼーの2021年の調査によると、大多数はまだAIからバイアスを排除するための措置を講じていないことがわかりました。

例えば、回答者の47％、つまり半数未満が、保護された特性や属性の過小表現を検出するために、トレーニングデータとテストデータをスキャンしていると報告しました。

同じ割合の人々が、組織内のデータ専門家がデータ取り込み中に偏ったりバイアスのかかったデータを積極的にチェックしていると報告しました。モデル開発のいくつかの段階でデータ専門家が偏ったりバイアスのかかったデータを積極的にチェックしていると報告したのはわずか36%でした。

Appenの調査によると、質の高いデータの調達はAIの構築における障害となっています。51%の人々がデータの正確性がAIのユースケースにとって重要であると述べていますが、完全なデータの正確性（90%以上）を達成したと報告したのはわずか6%です。「多くの人々が不十分なデータセットで優れたAIを構築しようとする課題に直面しています」と調査の著者は述べています。「AIモデルを成功裏に構築するためには、組織は正確で高品質なデータを必要とします。残念ながら、ビジネスリーダーや技術者はデータの正確性を達成する上で理想と現実の間に大きなギャップがあると報告しています。」

それでも、Appenの調査は企業が「責任ある」AIに焦点を移していることを発見しました。「データ倫理は正しいことをするだけではありません」と調査の著者たちは指摘しています。「それは、貢献者から消費者までのバリューチェーン全体の信頼と安全を維持することです。」ほぼすべての93%が、責任あるAIを提供する必要があると信じていると述べています。彼らは、バイアスや不公平を排除するのに役立つより包括的なデータセットを促進するために、AIプロジェクトの背後にあるデータの質を改善することに焦点を当てていると報告しています。回答者の8割はデータの多様性を非常に重要または重要と考えており、95%は合成データが包括的なデータセットを作成する際の重要な要素になると同意しています。

もちろん、言うは易く行うは難しであり、回答した技術者の少なくとも42％がAIライフサイクルのデータソーシング段階が非常に困難であると述べています。さらに、90％が少なくとも四半期ごとにモデルを再訓練していると報告しています。

これにより、人間をAIのループに保つことが求められます。人間がループにいる機械学習の重要性については強い合意があり、81%が非常に重要または極めて重要であると述べ、97%が人間がループにいる評価が正確なモデルのパフォーマンスにとって重要であることに同意しています。

興味深いことに、データサイエンティストとビジネスリーダーの間のギャップは、AIの課題を理解する上で年々徐々に狭まっています。「特にアプリケーションシナリオに合った高品質のデータがAIモデルの成功にどれほど重要であるかに対する強調が、これらの課題を解決するためにチームを結束させている」と調査の著者たちは指摘しています。