信頼のギャップに注意: データに関する懸念により、生成 AI に対する顧客の警戒が高まります
データセキュリティとプライバシーに対する一般的な信頼の欠如が、組織が生成人工知能に全力で取り組むことを妨げています。
生成型人工知能 (AI) は、組織が市場との関連性を確保するために不可欠なものとして支持されていますが、データと信頼に対する懸念から、思い切って導入することをためらう人もいます。
これらの問題は、厳格なデータ ガバナンス ルールと大規模な顧客ベースを持つ分野で事業を展開する企業に特に関係しており、その利点が喧伝されているにもかかわらず、時間をかけて生成 AI ツールを導入する必要に迫られています。
たとえば、スプレッドシートを手動で操作する必要がなく、プロンプトを通じて販売レポートを生成できる機能は、Salesforce の Einstein Copilot などの生成 AI ツールに興味深い可能性をもたらすと、Jollibee Foods Corporation の開発業務責任者である Sarwar Faruque 氏は述べています。フィリピンのレストラン チェーン経営者は、Salesforce の Heroku を使用してアプリケーションを構築し、Mulesoft をミドルウェアとして使用して、ERP や注文管理システムなどのアプリケーションを接続します。
Jollibee は 15,000 人の従業員を擁し、世界 34 か国に約 4,000 店舗を運営しています。同社のアプリケーションは主にクラウド上で実行されるため、小規模なイントラネットを除いて独自のデータセンターは維持していません。
ファルーク氏はまた、AI が製造現場で使用され、生産パイプラインと組み立ての効率を高める可能性があると考えています。たとえば、AI は食品の品質を監視し、需要を予測するのに役立ちます。
ただし、AI の潜在的な使用に対する彼の関心は依然としてバックエンド操作に限定されています。ファルーク氏は、少なくとも現時点では、生成 AI を顧客とのやり取りや顧客対応業務から遠ざけることに断固として取り組んでいます。
このテクノロジーはまだ初期段階にあるため、理解して解決する必要があることがまだたくさんあると同氏は指摘した。
「私たちはそれが生成する出力[と応答]を確認していますが、どのようにして[答えにたどり着く]のかは本当に理解していません」と彼は言いました。 「このブラックボックスがあります…それを解明する必要があります。それがどのように機能するか、どのようにしてその応答に到達するか、そしてこの答えが[質問されるたびに]再現可能かどうかを知りたいのです。」
現時点ではそうではないと同氏は述べ、幻覚のリスクも懸念されていると付け加えた。そして、セキュリティインシデントがなければ、解決すべき本質的なサイバーセキュリティ問題があるかどうかについてはほとんど知られていない、と同氏は指摘した。
ファルーク氏は、「現在、マーケティング（誇大広告）が溢れているだけだ」と述べ、それが正確に何を意味するかについての詳細を明らかにせずに、単に「信頼」について語るだけでは十分ではないと付け加えた。
同氏は、AIベンダーに対し、大規模な言語モデルがどのように形成され、どのようなデータを消費し、応答を生成するために正確に何を行うのかを説明するよう求めた。 「コードが実行されていて、その背後に科学がある場合、彼らはそれが魔法であるかのように振る舞うのをやめる必要がある」と同氏は述べた。 「私たちがそれを理解するのを手伝ってください。[なぜなら]私たちはしっかりと理解していないテクノロジーを採用することを好みません。」
同氏は、AIモデルのトレーニングに使用される顧客のデータが公開されないという保証とともに、説明責任と透明性の必要性を強調した。これは、特に地元の管轄区域のデータ プライバシー規制に準拠する必要がある組織にとって重要です。
これらの問題が解決されるまでは、自社の顧客のデータを危険にさらすつもりはないと同氏は述べた。
シンガポール貿易産業省 (MTI) は、特にデータのプライバシーとセキュリティの観点から信頼を重視しています。同省の下にはEDBやシンガポール観光局など10の政府機関が置かれている。
特に同省のデータはシンガポールに保持する必要があり、これがデータのセキュリティとガバナンスを確保する上で大きなハードルとなっていることが判明している、とMTIの同省ファミリーCIOのシャロン・ン氏は述べた。これは、Salesforce の Einstein Copilot プラットフォームなどの米国ベンダーが実行するものであっても、AI が使用する AI および大規模な言語モデルは独自の環境でホストされる必要があることを意味します。
ファルーク氏と同様に、ン氏も透明性の必要性、特に、使用される暗号化の種類やデータが保持されるかどうかなど、セキュリティ層がどのように動作するかの詳細の必要性を強調したと述べた。
彼女のチームは現在、Salesforce を含む生成 AI ツールが同省にどのようなメリットをもたらすかを模索しており、同省は市場で入手可能なさまざまな AI や大規模な言語モデルの使用に前向きな姿勢を保っています。これにより、独自のモデルを構築するよりもコストが低くなり、市場投入までの時間が短縮されるだろうと彼女は述べた。
ただし、AI モデルの使用には信頼性とセキュリティの考慮が必要になると彼女は指摘しました。 MTI は現在、運用効率を向上させ、全機関にわたる業務を軽減することを目的とした生成 AI パイロットを実施しています。
シンガポールの通信会社 M1 にとって、より良い顧客サービスを提供することは、生成 AI の明確な KPI です。ただし、MTI や Jollibee と同様に、データのコンプライアンスと信頼が重要であると M1 の最高デジタル責任者であるヤン モーゲンタール氏は述べています。同社は現在、生成型 AI が自社のチャットボットと顧客との対話をどのように強化できるか、また英語以外の追加言語をサポートできるかどうかを評価するための概念実証を実行しています。
これは、ベンダーと協力してパラメータを把握し、大規模な言語と AI モデルがどこに展開されているかを理解することを意味するとモーゲンタール氏は述べています。 MTI や Jollibee と同様に、M1 も、クラウド プラットフォームでホストされているデータを含むデータの一部をローカル市場に置くことを要求する規制に準拠する必要があります。
そのため、M1のネットワーク環境でAIモデルのトレーニングを実行する必要があると同氏は述べた。
シンガポールの通信会社は、モデルのトレーニングに使用されるデータや生成された応答にも注意する必要があり、テストして検証する必要があると同氏は述べた。これらは、Salesforce の Trust Layer などのベンダーが規定するガイドラインに照らしてチェックするだけでなく、M1 の親会社である Keppel が設けているガードレールにも照らしてチェックする必要があります。
生成型 AI の信頼ギャップに対処する
AIの使用に対する信頼が低下する中、こうした取り組みは重要であることが判明するだろう。
先月発表された Salesforce の調査によると、組織も消費者も現在、AI の使用に対して以前ほどオープンではなくなっています。企業購入者の約 73% と消費者の 51% がエクスペリエンスを向上させるために使用されるテクノロジーを受け入れており、2022 年のそれぞれ 82% と 65% から低下しました。
また、顧客の 76% は企業が自社の製品やサービスについて正直に主張していると信頼していますが、AI を倫理的に使用していると信頼しているのは 57% です。さらに 68% は、AI の進歩により、企業が信頼できることがより重要になったと考えています。
Tech Research Asiaの創設者兼ディレクターであるTim Dillon氏は、信頼のギャップは組織にとって重大な問題であり懸念事項であると述べ、Zoomが利用規約を変更し、ユーザーのビデオ、音声を使用する権利を与えたときに受けた反発を指摘した、AI モデルをトレーニングするためのチャット データ。
ディロン氏は、今週サンフランシスコで開催されたDreamforce 2023の傍ら、ZDNETのインタビューで、生成AIベンダーは同様のシナリオは避けたいだろうと述べた。 SalesforceやMicrosoftなどの市場関係者は信頼のギャップを埋める努力をしており、これは前向きな一歩だと同氏は指摘した。
調査会社 CapioIT の CEO 兼創設者である Phil Hassey 氏は、信頼の問題への対処とは別に、生成 AI の導入を計画している組織は変更管理の導入にも目を向けるべきであると指摘しました。
これは議論から外されることが多い分野だとハッシー氏はZDNETに語った。組織は、生成型 AI の展開の結果として、必要なコスト、取得する必要のあるスキルセット、再スキルを習得する必要がある役割を把握する必要があります。
適切な変更管理戦略は、スムーズな移行を確保し、人材を維持するための鍵であると同氏は述べました。
シンガポールを拠点とする Eileen Yu は、Salesforce.com の招待により、サンフランシスコで開催された Dreamforce 2023 から ZDNET にレポートしました。