人工知能のバイアスを排除することは、誰にとっても重要な仕事です。
AIの導入に関するさらなる認識とトレーニングの必要性が呼びかけられています。開発者やデータサイエンティストだけでなく、プロダクトマネージャー、経営幹部、マーケティングマネージャー、商品販売者も対象です。
AIに基づく意思決定と運用への依存が日々高まる中、すべての公平性を確保し、バイアスを軽減するためにできることが行われているかどうか、一歩引いて考えることが重要です。AIの導入には、より大きな認識とトレーニングが必要です。開発者やデータサイエンティストだけでなく、プロダクトマネージャー、経営幹部、マーケティングマネージャー、商品販売者にも必要です。これは、Acousticの最高技術責任者であるジョン・ボエズマンの言葉で、AIを正しく活用することの緊急性についての彼の見解を共有しました。
Q: AIの結果における公平性を達成し、バイアスを排除するための企業の取り組みはどの程度進んでいますか？
ボエゼマン：AIにおけるバイアスや歪みを特定することは非常に難しい問題であり、それを検出するだけでなく、修正し補償するためには多くの追加的な配慮、サービス、財政的投資が必要です。多くの企業は、異なるモデルで意図せずバイアスのかかったり不完全なデータを使用してきました。それを理解し、この行動を変えるには、企業内での文化的変化と慎重な計画が必要です。
定義されたデータ倫理の原則に基づいて運営される者は、AIにおけるバイアスを回避するための良い位置にあり、特定された場合にはそれを検出し、修正することができるでしょう。
Q: 企業はAIの結果を定期的にレビューするために十分なことをしていますか？これを行う最良の方法は何ですか？
ボエズマン：AIの監査可能性に関する新しいツールが提供されるにつれて、私たちは多くの企業が定期的にAIの結果をレビューするのを目にするでしょう。今日、多くの企業はAI機能や能力が組み込まれた製品を購入するか、その製品の独自機能の一部として提供されており、監査可能性が明らかにされていません。
企業は特定のユースケースのために基本的なAI機能を構築することもできますが、通常はそのAIの使用レベルを発見することになります。しかし、これらの各ケースでは監査は通常制限されています。監査が本当に重要になるのは「推奨」と「行動」のAIレベルです。この2つのフェーズでは、バイアスを導入せず、結果を歪めないために監査ツールを使用することが重要です。
AIの監査を支援する最良の方法の一つは、大手クラウドサービスプロバイダーのAIおよびMLサービスを利用することです。多くのベンダーは、この情報を追跡するためのツールや技術スタックを提供しています。また、バイアスやバイアスに似た行動を特定することは、データサイエンティストやAIおよびML開発者のトレーニングの一部であることが重要です。人々が何に注意を払うべきかを教育されるほど、企業はAIバイアスを特定し軽減する準備が整います。
Q: ITリーダーやスタッフはAIのバイアスを軽減するために、より多くのトレーニングと意識を受けるべきですか？
ボエゼマン：確かに。データサイエンティストとAI/ML開発者の両方がバイアスと歪みについてのトレーニングを受ける必要がありますが、このトレーニングをプロダクトマネージャー、経営幹部、マーケティングマネージャー、商品管理者にも拡大することが重要です。
常に行ってきたことを続ける罠に陥るのは簡単であり、過去の多くの業界が行ってきたように、バイアス中心のアプローチだけを追求することもあります。しかし、AIのバイアスを軽減するためのトレーニングを受けることで、組織全体のスタッフは、AIが生成するすべてのものが事実であると信頼するのではなく、バイアスを特定できるようになります。そこから、あなたの会社はその影響を軽減する手助けができます。
Q: AIと機械学習の取り組みは数年前から進行中です。企業は最も生産的な導入と展開に関してどのような教訓を学んでいますか？
ボエゼマン：AIはすべてを解決する万能薬ではありません。AIが適切なユースケースであるかどうかに関係なく、あらゆるユースケースにAIを投げ込もうとする多くの試みを見てきましたが、実際の価値を提供することなくマーケティングストーリーを実現するためのものでした。AIソリューションの成功した展開の秘訣は、データの質と意思決定を推進するモデルとアルゴリズムの質の組み合わせです。簡単に言えば、ゴミを入れればゴミが出てきます。最も成功した展開は、明確なユースケースと操作するための明確に定義されたデータを持っています。
Q: 組織のどの分野がAIで最も成功を収めていますか？
ボエズマン：AIには多くの異なる段階がありますが、主に3つの基本的な状態に要約できます：発見、推奨、自動アクション。現在、私が主に使用されているのを見るのは発見の領域です。洞察、アラート、通知などです。ここでは、システムが異常なことが起こっている、または既知のパターンの外にあることを知らせたり、関心を持つべき方向にトレンドがあることを伝えます。この種のインタラクションとモデルは人々に信頼されており、証拠が必要な場合は簡単に協力できます。
マーケターは、キャンペーンの成功を判断するために発見の分野でAIを活用します。別の例として、AI駆動のソリューションを展開して詐欺や顧客の旅に関する問題を検出するマーチャンダイザーが挙げられます。
私がまだ多くのためらいを感じるのは、推奨とアクションの状態です。私は、数量、利益率、値下げまでの時間、倉庫で使用される保管スペースなど、多くのデータポイントに基づいて、製品の最適価格を計算し、ウェブストアフロントに表示する製品を所有していました。そして、この製品は、オンにすれば自動的にアクションを取ることもできました。私たちが見つけたのは、多くのマーチャンダイザーが推奨を見たいと思っている一方で、彼ら自身がアクションを取りたいと考えており、複数のオプションを見たいとも思っていて、最終的には、なぜシステムがオプションを推奨したのかの意思決定ツリーを見たいと望んでいるということです。私たちが最初にそれを立ち上げたとき、私たちは「なぜシステムがXYZを推奨したのか？」という機能を持っていませんでした。マーチャンダイザーが推奨が何に基づいているのかを見る方法を提供するまで、彼らはそれを信頼しませんでした。
Q: どの技術や技術アプローチが最も大きな違いを生み出していますか？
ボエゼマン：この分野で新しい影響力のある技術を毎日発明している企業は多くあります。スパークとアマゾンセージメーカーはその二つの例です。しかし、最も大きな違いを生む技術は、AIモデルのバイアスを特定できるものです。AIアルゴリズムがバイアスを持つと、不公平で不正確な結果をもたらす可能性があります。システム内のバイアスを確認できることで、状況を診断し、軽減することができます。業界が成長し続ける中で、これは各技術スタックがサポートする必要がある重要な基盤能力となるでしょう。