AI 洗濯は汚い仕事です。 Lenovo の COO が回避方法を説明
Lenovo のリンダ・ヤオ氏は ZDNET に対し、AI に関する神話と誤解について語った。ここでは誤解を避ける方法を紹介します。
すべてのケースで印象的かどうかは別として、人工知能 (AI) はどこにでもあるようです。しかし、AI として販売されているものの中には、実際には AI ですらなく、関心と注目を高めるためにラベルが付けられただけの製品もあります。
AI について過剰な主張をするこの行為は、AI ウォッシングと呼ばれます。無害に見えるかもしれませんが、AI ウォッシングは AI ソリューションの完全性を低下させ、実際に何が機能するかを確認することを困難にし、この進化するテクノロジーの成功を評価する方法を複雑にする可能性があります。
私は、Lenovo のリンダ・ヤオ氏 (ソリューション & サービス ビジネスの COO 兼戦略責任者、Al ソリューション & サービスの副社長) と、このコンセプト、ビジネスにとっての意味、何に気をつけるべきか、そして何ができるかについて話す機会がありました。 AI への取り組みの透明性と信頼性を確保するために実行してください。
ZDNET: 自己紹介と、Lenovo でのあなたの役割について背景を教えてください。
リンダ ヤオ: Lenovo の最も成長するビジネスの一環として、私の責任は AI サービスの実践を構築し、お客様とともに革新を続けて最も興味深い課題を解決できるようにすることです。
当社の AI センター オブ エクセレンスは、セキュリティ、人材、テクノロジー、プロセスにわたるコア コンピテンシーを活用し、お客様がユースケースに適した AI 戦略とソリューションを実装できるように支援します。私たちの使命は、AI を迅速かつ責任を持って安全に拡張することで、組織が AI の概念から実際の結果にうまく移行できるよう支援することです。
さらに、私は事業部門の戦略と運営を指揮しています。これにより、自分のシャンパンを飲み、業務プロセスと顧客体験を変革する AI を導入する十分な機会が提供されます。
ZDNET: AI ウォッシングをどのように定義しますか? テクノロジー業界で AI ウォッシングに対する懸念が高まっているのはなぜですか?
LY: 人工知能の可能性は、長い間私たちの想像力を魅了してきました。特に、生成 AI が組織レベルでも個人レベルでも簡単に利用できるようになった今ではそうです。その可能性には限界がないように見えるため、この新しく発見されたテクノロジーをすべての治療法として関連付けたいという衝動があります。
Lenovo のデータは、ほぼすべての企業が AI への投資を増やしていることを示していますが、それらの企業のうち 5 社のうち 3 社がその投資に対する収益 (ROI) に自信を持っていないことも示しています。これらの AI 実装が組織に有意義なビジネス成果をもたらしているかどうかはまだ明らかではありません。
AI の影響はまだ明確に定義されておらず、テクノロジー自体が誰もが明確に理解しているわけではないため、解釈や装飾の余地が残されています。このように、AI 洗浄という用語は、企業が自社製品の環境上の利点について推測的な主張を行う可能性があるグリーンウォッシングと類似しています。
私はそれが不正に行われているとは信じていませんが、AI ウォッシュは消費者や関係者の間で懐疑と不信を招き、今後来る本物の AI の進歩に対する評価と信頼を低下させる可能性があります。
ZDNET: AI ウォッシングが企業や消費者に与える長期的な影響は何ですか?
LY: 企業にとって、チャンスを逃すことへの本当の恐怖 (FOMO) があります。 AI ウォッシングのリスクは、経営陣の注意とリソースが実際の AI イノベーションからそらされる可能性があることです。プロバイダーは、有意義な AI 機能の開発に投資する代わりに、テクノロジーの実際の進歩を遅らせる誤った投資や表面的な機能強化に誘導される可能性があります。
受信側の企業にとって、AI ウォッシングは意思決定を複雑にします。これらの企業は、ノイズの中で真に価値のある AI ソリューションを特定するのに苦労し、圧倒的なテクノロジーへの無駄な投資につながる可能性があります。これにより、デジタル変革の取り組みが妨げられ、イノベーションが阻害され、業績が危険にさらされる可能性があります。
プロバイダーとビジネス ユーザーの両方が、責任を持って AI を使用するための積極的な措置を講じると同時に、適切な AI の選択についてアドバイスする際に倫理的なアプローチをとる、信頼できる AI パートナーと協力することで利益を得ることができます。
AI ウォッシングが消費者に及ぼす影響は、より身近なところで起こります。設計が不十分な AI テクノロジーによるデータ セキュリティとプライバシーのリスク、標準以下のユーザー エクスペリエンスや品質の期待に応えられないテクノロジーに対する幻滅などです。消費者は、信頼できるブランド、過去に役に立ったテクノロジーとフォームファクター、AIをより利用しやすくするためのトレーニングと学習の機会、AIの使用に関するベンダーからの透明性を求めているでしょう。
ZDNET: 企業は AI に関する主張が正確で、倫理的に適切であることをどのように確認できますか?
LY: まず、影響力のある生成型 AI ソリューションを組織に導入するのは簡単ではなく、スケーリングは非常に難しい場合があることを認識することが重要です。組織の人材、プロセス、セキュリティ ポリシーの AI の成熟度に比べれば、テクノロジの導入は最も困難な部分である可能性さえあります。
実際、Lenovo が CIO を対象に行った世界的な調査では、CIO の 76% が、自社の組織には運用上または倫理上の使用に関して AI 対応の企業ポリシーがないと回答していることが示されました。特効薬や即効性のある解決策はほとんどないため、これが段階的なプロセスであり、顧客への重要な情報開示であることを認識することが重要なステップです。 AI サービスプロバイダーは、どのようなツール、データ、手法が使用されているかについて透明性を持たせる必要があり、企業は使用状況を考慮した独自の AI ポリシーの確立を検討する必要があります。
Lenovo 独自のプロセスは、安全で倫理的かつ責任ある AI の開発と使用を保証することを目的としており、これらのベスト プラクティスは、AI 導入の取り組みにおけるお客様との取り組みを支えています。
ZDNET: AI ウォッシングは、AI テクノロジーの真の変革の可能性をどのように損なうのでしょうか?
LY: AI 洗浄は、装飾された現実を混同してしまう可能性があります。これにより、AI 疲労のリスクが永続化し、全体として「幻滅の谷」が深まり、真の AI イノベーションへの進歩と投資が妨げられることになります。
だからこそ私は、AIの導入に対して実践的かつ実践的なアプローチをとることが重要だと信じています。 AI が具体的な結果のない抽象的な概念として扱われると、AI 洗浄による不信感と悪影響がさらに悪化します。
Lenovo では、実証済みの実践的な経験によって有意義なビジネス成果を提供し、AI などのテクノロジーの導入をそれらの成果に直接結び付けることに全力を尽くしています。
ZDNET: 企業は、実際の能力や成果に合わせた方法で AI についてコミュニケーションするためにどのような戦略を使用できますか?
LY: 企業は、自社の AI 機能を正確に伝えるために、事実に基づいたメッセージング、透明性、教育、現実世界のユースケースに焦点を当てる必要があります。 AI がビジネスや人材に与える影響を示す具体的な指標、ケーススタディ、実例を共有します。開発プロセス、データソース、意思決定について透明性を保ちます。
Lenovo では、実践的な経験が重要であると信じており、それを示す具体的なビジネス結果を伴う実際のユースケースを数十件スケールしてきました。収益に何百万ドルも貢献した場合、AI ウォッシュの必要はありません。実証済みの方法と測定可能な影響がそれを物語っています。
ZDNET: 企業における AI への取り組みに関する信頼を構築する上で、透明性はどのような役割を果たしますか?
LY: 透明性は AI イニシアティブにおける信頼の基礎です。それはテクノロジーの謎を解き明かし、期待と現実を一致させ、懐疑論者ではなく支持者として人々を連れて行きます。このオープンさは利害関係者を安心させるだけでなく、情報に基づいたコラボレーションを促進し、イノベーションと AI の真の能力への信頼を促進します。
ZDNET: 通信や業務における AI ウォッシュを回避するために Lenovo が講じた具体的な対策についてお話しいただけますか?
LY: Lenovo では、コンタクト センター、製造現場、営業ブルペンなど、関係者が AI の現実世界への影響を直接確認できるようにすることで、透明性を実践的に実証しています。私たちは、直接的なユーザー エクスペリエンスを通じて、AI ソリューションとメソッドに対する信頼を強化します。
Lenovo は 10 年以上前から自社の IT 環境に AI を導入しており、自社のシャンパンを飲む文化はその数十年前から存在しているため、これは私たちにとって新しいことではありません。
ZDNET: Lenovo は AI ソリューションの開発と導入に伴う倫理的考慮事項にどのように取り組んでいますか?
LY: AI はビジネス環境を変えており、Lenovo は安全かつ責任を持って実装される AI の重要性を認識しています。昨年、レノボは、性別、民族性、障害を超えた多様な背景を代表する従業員のグループである「責任ある AI 委員会」を設立しました。彼らは、ダイバーシティとインクルージョン、プライバシーとセキュリティ、説明責任と信頼性、説明可能性、透明性、環境と社会への影響という中心原則を使用して、社内製品と社外パートナーシップを一緒にレビューします。
当社は、ダイバーシティ、公平性、包括性 (DEI) を優先事項として、自社のソリューションだけでなくパートナーの取り組みにも厳密に取り組んでいます。私たちは専用ツールを使用してデータの偏りを評価し、過小評価されている可能性がある、または何らかの方法でセグメント化されている可能性のある部分母集団を特定します。そのようなツールの 1 つが AI Fairness 360 です。これは、AI アルゴリズムとトレーニング データを評価してバイアスを軽減するオープンソース ソフトウェアです。
ZDNET: AI ウォッシングの原因となる AI に関するよくある誤解は何ですか?
LY: 3 つの通説について話しましょう:
通説: AI はあらゆる問題を解決し、すぐに莫大な ROI をもたらします。
現実: AI は特定のタスクでは優れていますが、普遍的なソリューションとなるアルゴリズムはありません。通常、その利点は慎重に繰り返すことで時間の経過とともに得られます。私たちは、AI の強みと限界について関係者を教育する人間中心の戦略でこれに対処し、AI の導入における私たち自身の実際の経験と、学習が組み込まれるにつれて時間の経過とともに ROI が増加し続ける実際のユースケースに焦点を当てます。
通説: AI は人間の監視なしで自律的に動作します。
現実: ほとんどの AI ソリューション、特に生成型 AI では、効果的な実装と倫理的な使用のために一定レベルのガバナンスが必要です。ここでも、AI の使用を指導し、その結果を解釈する専門家として人間をループに置くことで、人間中心の戦略がここでも機能します。
通説: データが増えれば AI も向上する。
現実: データセットの品質と関連性は、膨大な量よりも重要です。当社の AI サービス実践は、お客様が AI に対するデータの準備状況を評価し、データ資産が希望するビジネス成果を確実に達成できるようにするのに役立ちます。そうでない場合は、当社のデータ サービスがそれを実現するのに役立ちます。
ZDNET: テクノロジー業界で AI ウォッシングに対処しない場合の潜在的なリスクは何ですか?業界標準と規制は、AI ウォッシングに関連するリスクを軽減するのにどのように役立ちますか?
LY: 業界標準は、AI ウォッシングを軽減する上で重要な役割を果たします。今年初め、レノボは、すでに導入されている可能性のある AI ソリューションの問題を修正するための具体的な対策に加えて、AI の悪影響を「予防、軽減、または是正する」という約束である、人工知能の倫理に関するユネスコ勧告に署名しました。市場で。
今年 5 月、私たちは高度な生成 AI システムの責任ある開発と管理に関するカナダ政府の自主行動規範に参加しました。これらは、AI の安全かつ倫理的な使用だけでなく、その説明可能性と透明性についても業界に責任を負わせる重要な取り組みです。
ZDNET: AI の倫理とガバナンスの分野では、今後どのような傾向が予測されますか?
LY: AI の倫理とガバナンスは進化し、強化され続けるため、AI 導入の最前線に立つ企業は、倫理的で責任ある AI の使用について業界の残りの部分を導くために、断固とした行動を起こす必要があります。具体的には 3 つの領域を見てみましょう。
より厳格な規制と説明責任: 企業は、データのプライバシー、偏見、倫理的使用に関するますます包括的な規制に準拠する必要があります。最高 AI オフィサーや最高責任責任者などを通じて、より明確な説明責任を確立し、企業ポリシーが確立され、責任ある AI の実践が保証されるでしょう。こうしたポリシーの定義、ベンチマーク、実装を支援してくれる信頼できる AI アドバイザーを求めることになるでしょう。
倫理ガイドラインと透明性: 業界は標準化された倫理原則に向かって進むでしょう。組織は透明性を義務付け、AI モデルのトレーニング、テスト、検証プロセスの明確な文書を提供することになります。独立した監査と認証がより広く使用されるようになるでしょう。
設計による公正かつ倫理的な AI: 企業は、偏見の軽減、公平性の手法の組み込み、AI 開発への定期的な監査に重点を置くことになります。倫理的考慮事項は最初から統合され、AI ライフサイクル全体を通じて問題が確実に解決されるようになります。 Lenovo のような早期導入企業は、こうした取り組みを推進し、企業がベスト プラクティスを採用し、信頼できる倫理的な AI 環境を促進するよう導きます。
どう思いますか？リンダの推奨事項から、透明性と強固なガバナンスを備えた高品質の AI 実装を保証する方法について何かアイデアが得られましたか?以下のコメント欄でお知らせください。
ソーシャルメディアで私の日々のプロジェクトの最新情報をフォローしてください。毎週更新されるニュースレターを必ず購読し、Twitter/X (@DavidGewirtz)、Facebook (Facebook.com/DavidGewirtz)、Instagram (Instagram.com/DavidGewirtz)、YouTube (YouTube.com/DavidGewirtzTV) をフォローしてください。