早期導入者は現在、企業内に AI エージェントを導入しており、2025 年には導入が拡大されます。
テクノロジー、イノベーション、戦略の専門家が、AI エージェントの導入と自律型 AI を活用した企業の将来についての視点を共有します。
今後 10 年間にわたって継続的に改善される一連の人工知能 (AI) リソースは、ビジネスと従業員に大きな影響を与えることになります。
当初、AI は広範な増強効果をもたらし、価値の低いタスクを引き継ぎ、人間がより戦略的で創造的な仕事に注力できるようになります。しかし、エージェントファーストの AI 企業は、方向性と速度において前例のない速度で進化しています。
私たちが自律的な作業の 6 つのレベルとして説明しているものは、AI アシスタントと AI エージェントの成熟度レベルを指します。 AI アシスタントとエージェントの職場での導入予測と影響をより深く理解するために、言語の深い理解、推論、意思決定を可能にする大規模言語モデル (LLM) の出現により、AI エージェントの使用が可能になりました。
ただし、エージェントを企業に導入するには、プライベート データへのアクセスの欠如やアクションを実行する機能が組み込まれていないなど、いくつかの制限に対処する必要があります。エージェントの採用を増やすには、これらの懸念に対処する必要があります。
エージェントはさまざまなレベルの自律性を持つことができます。補助エージェント (副操縦士とも呼ばれる) は人間と協力して、単独で行動するのではなく能力を強化します。副操縦士は多くの場合、提案やアクションを調整するために人間の入力やフィードバックを必要とします。
自律エージェントは、人間による直接の監督なしで独立して動作します。これらのエージェントのハイブリッド バージョンは、他の完全に自律的なエージェントとは異なり、必要に応じて人間にタスクをシームレスに引き渡すことができます。適切なガードレールは、信頼性、商習慣の順守、データのセキュリティとプライバシーを確保し、幻覚、毒性、有害なコンテンツを防ぐために非常に重要です。
私は、AI エージェントのビジネス導入、課題と機会、主流導入の予測について理解を深めるために、テクノロジーおよびイノベーションのアナリストとエンタープライズ市場ストラテジストの 2 名と話をしました。
Michael Maozis 氏は Salesforce のイノベーション戦略担当上級副社長です。 Salesforce に入社する前、Maoz は、アナリスト Gartner のリサーチ バイス プレジデントおよび著名アナリストとして、顧客サービスおよびサポート戦略分野のリサーチ リーダーを務めていました。
Ed Thompson は、Salesforce の市場戦略担当上級副社長です。 Salesforce に入社する前は、Thompson は Gartner のリサーチ バイス プレジデントおよび著名アナリストとしてカスタマー エクスペリエンス (CX)、CRM 戦略と実装を担当していました。 Maoz 氏と Thompson 氏は、企業における AI エージェントの将来についての見解を共有しました。
AI エージェントが登場しますが、まだ初期の段階です。いつ、どこで主流になると思いますか?
エド・トンプソン (ET):それが主流になるには、人々が思っているよりも時間がかかると思います。これは技術的な制限によるものではなく、習慣の採用と変化によるものです。大雑把に言えば、エージェントは従業員のアシスタントになることも、従業員の代わりになることもできます。前者のケースでは、彼らは PA のようなもので、完全な形ではなくすでに存在していますが、今後 5 年以内に、ほぼすべてのホワイトカラー ワーカーと一部のブルーカラー スタッフが申請書を目にすることになるでしょう。ユーザーにはアシスタントが組み込まれており、骨の折れる作業に費やす時間を短縮できますが、従業員は依然としてそこにいて、引き続き制御することができます。
2 番目のケースでは、従業員を置き換えます。仕事全体を置き換えるのは難しい要求です。その仕事が嫌われていて繰り返しの多いものでない限り、それには長い時間がかかります。それが主流になるまでには10年かかると思います。そして、それを実現するのは、既存のビジネスではなく、多くのデジタル従業員とともに仕事をゼロから再設計できるスタートアップ企業であると私は確信しています。私が考えているのは、人間の従業員が 2 人しかいないのにデジタル エージェントの従業員が 12 人もいて、従業員 20 人の会社のように見える旅行ブローカー、保険ブローカー、またはファイナンシャル アドバイザーです。
Michael Maoz (MM): どのユースケースが最初になるかという問題は異なりますが、広く採用される時期がいつになるかという問題に関連しています。 Salesforce Agentforce Service Agent のような AI エージェントの初期の使用は、カスタマー サービス エージェントがチャットや電話の対応に必要な情報を自動的に収集するなど、リスクが低く複雑性が低い豊富なユースケースに向けて行われることに同意します。そしてその情報を画面に表示します。
AI エージェントはナレッジ グラフを使用して、人間のエージェントが顧客を支援するために必要な対象コンテンツを提示します。別の AI エージェントは、人間のエージェントが確認して承認するための電子メールまたはテキスト フォローアップを作成します。インタラクションの最後に、さらに別の AI エージェントが会話を要約します。
もう 1 つのユースケースは、次世代のチャットボット用です。現在のチャットボットは厳格な知識ベースを持っており、顧客の意図を推測しようとし、画像やその他のメディアを必要とするマルチモーダルなインタラクションを処理するのが苦手です。新しい AI エージェント ボットは、インテリジェントな知識の回答を備えています。つまり、質問に答えるだけでなく、アクションも実行します。確かにこれらは LLM に基づいていますが、プロンプトはいくつかの点ではるかに豊富です。新しいプロンプトの 4 つの優れた特徴を次に示します。
- プロンプトは、質問者の役割 (または質問している別の AI エージェントの権限) を認識しており、回答のために特定の情報へのアクセスを許可し、他の情報へのアクセスを許可できません。
- プロンプトは高度な自然言語モデリングを使用しており、マルチモーダルであり、特定のコンテキストに関連する知識に焦点を当て、テキスト、音声、画像の組み合わせで応答できます。
- プロンプトでは、「請求フォームの表示」や「注文ステータスの取得」などの一連のアクションを実行したり、添付された写真を分析したりできます。
- プロンプトは、プライバシー、コンプライアンス、または業界の規制に関するルールに基づいて動作できます。
このフィルタリングの有益な副作用は、計算能力が大幅に削減されることであり、これは環境にとって良いことです。
顧客サービスについて言及しましたが、営業フォローアップ メールの作成、一連の電話の調査、動的なマーケティング セグメントと各セグメントに適切なメッセージの作成、プログラマーにとっては自然言語からコードへの翻訳など、他にも多数の用途があります。
これらの例はすべて「何を」に関するものでした。 AI エージェントがいつ主流になるかを予測するには、ジェフリー・ ムーアのキャズムを越えるという観点からこれを見ることができます。同氏は、IT リーダー全体に占める割合としては、通常は 1 桁前半の割合で、先を行って新しいテクノロジを採用するテクノロジ イノベーターが存在すると示唆しています。これらの革新的なショック部隊の背後には、革新的な仲間を見て、その成功を真似したいと考える早期採用者がいます。
高いレベルで言えば、今後数四半期のある時点で、アーリーアダプターを駆り立てた AI エージェントへの魅力は、アーリーアダプターの間で予算やイノベーションの帯域幅についてのより広範な会話に取って代わられるでしょう。ほとんどの企業は、新しいプロセスや新しいサプライヤーとの関係を必要とする新しい IT プロジェクトにリソースを再割り当てする能力が非常に限られています。彼らは、収益増加や業務効率化の可能性が高い新しいビジネス モデルなど、劇的な新機能が期待できる場合にこれを実行します。
経済の減速によって技術革新のサイクルが妨げられない限り、2024 年末までに早期導入者が大規模な AI エージェント プロジェクトの計画を展開し始めるはずです。また、成功事例が業界全体でより理解されるようになったことで、第 2 のプロジェクトが実現することが期待できます。 2025 年の半分は、複数の部門や事業分野にわたって、大規模かつ調整された AI エージェント プログラムがより広範囲に導入される時期です。
そのため、80% を超える購入者の大多数は、IT 変化の影響がよりよく知られ、ビジネス上の利点がより明確になり、実際のコストがより確実に計画できるようになるまで、手をこまねいていることになります。
私たちにジェネレーティブ AI (Gen AI) が登場して 18 か月になりますが、多くの企業が試み、多くは失敗しました。ユースケースを多数の従業員にスケールアップしたのは 9% だけであるため、これをプロセスの実験と呼ぶ人もいるかもしれません。スケールアップの問題の原因は何ですか?
ET: そうですね、セキュリティ、偏見、有害性、ガバナンスのガードレール、規制の順守、著作権とデータの出所、ツールのコストなどの問題があり、さらに最近ではエネルギー使用に関連した問題もあります。 LLM と持続可能性目標への影響。しかし、明らかに大きな問題は、モデルの基礎となっているデータによって引き起こされる、プロンプトからの応答の不正確さです。データソースと品質が主な原因です。
最初のテストで 40% の正確な回答を得た企業と話をしたところ、モデルが学習し、低品質のデータを取り除き、より良いデータソースを追加するにつれて、精度が 1 週間あたり 5% 向上することがわかりました。従業員が 100% 正確であるという意味ではありませんが、少なくとも従業員の行動と正確に一致する必要があります。その結果、多くの従業員が最初に提案された回答やメール、要約を見て、それはくだらないものだと判断し、採用を拒否することになります。したがって、実務者にとっての課題は、多くの場合、カットアンドランして、よりメリットが得られる可能性の高い別のユースケースに移行するか、それとも学習して新しいデータソースを提供する時間を与えるかということです。
MM: Gen AI に関して企業が対処しなければならない現実がいくつかあります。 1 つ目は、すべての Gen AI プロジェクトのリスクを軽減する必要があることです。そのためには、AI のデータが信頼できるよう、優れたデータ ガバナンスが必要です。次に、データを監査できる必要があります。次に、結果にバイアスが組み込まれないように、「倫理的使用」テストを通過する必要があります。プライバシー層が存在する必要があります。ビジネスの場合、外部の Gen AI ツールとは異なり、Gen AI のデータは「ゼロコピー」、つまりデータをまったく保存しない必要があります。これらすべてを実行できなければ、EU の AI 法などの既存または新たな規制に違反する可能性があります。
2 つ目の要因は、たとえ AI の方が正確であっても、人間は人間を好むということです。たとえデータが裁判官の一貫性が AI よりも低いことを示している場合でも、消費者はアルゴリズムよりも裁判官を好みます。自動運転車: たとえ無人運転車の方が正確であっても、大多数の人は人間が運転する自動車の方が好きだと言います。
最後の要素は「人間味」と言えるかもしれません。請求書に関する質問へのサポート、医学的アドバイス、または多くの技術サポートに至るまで、人々は共感、懸念、透明性、理解、信頼を求めています。これらの特性をコスト効率の高い方法でソフトウェアに取り込むのは困難です。
顧客がつながる新しい世界のためのテクノロジーが登場しました。導入を遅らせる可能性がある「ソフト」 要因は何ですか?
MM:おっしゃるとおりです。変化の 3 つの要素のうち 2 つ、テクノロジーとプロセスの変化について説明しましたが、未解決の質問は「経営陣は変化を受け入れる準備ができているか?」ということです。世界中の人事部門の調査によると、従業員は常に、「月の中で最悪の日は上司と話さなければならない日だ」と答えています。その理由を掘り下げてみると、重要な指標に関する不安と透明性の欠如、低賃金または劣悪な条件、適切なトレーニングの欠如、説明責任は一方的なものでしかないという感覚、そしてマネージャーは責任を負っていないという感覚が存在します。彼らを信頼してください。残念ながら、これらは想像以上に現実的です。私は、最も幸せな従業員がいる企業を調べて、「なぜそのような企業を選ぶのか、そしてそれは報われるのか?」と考えることを勧める傾向があります。
部分的には、最も幸せな従業員は、最も成功している企業にもいます。そして、彼らが幸せなのは、勝ち組のほうが楽しいからなのか、それとも、その会社で働くことがより充実しているから勝ち組なのか、と考えなければなりません。 ? ADP、Apple、フェラーリ、コストコ、BMW、シスコ、エアバス、ロスマン、サムスン、セールスフォースはいずれも従業員満足度でトップクラスの評価を受けており、いずれも成功している企業です。彼らは6つの異なる業界を横断しているので、それだけではありません。彼らはよく管理された労働力です。
またまた「マネージャー」という言葉が出てきました。マネージャー、つまり優れたマネージャーは、リーダーである必要があります。これについては、ハーバード ビジネス レビューやその他の研究で十分に述べられています。しかし、彼らは、トヨタが言う「より良く、より良く、決して最善ではない」ことをどのように実現するかについて、常に広い心で準備ができているタイプの起業家である必要がある。
彼らはチームのリーダーであり起業家でもあります。彼らは改善するために合理的なリスクを負い、主に自分自身のためだけにゲームに参加しているのではなく、会社、顧客、従業員の利益のためにゲームに参加しています。また、意思決定を行う際には全体像を見る傾向があり、可能な限りチームと協力して意思決定を行います。
最後に、彼らは直属の部下の成功を重視します。彼らは成功をすぐに称賛するのと同じように、社内外で別の機会を見つけるために必要なレベルでパフォーマンスを発揮できない従業員を助けることも恐れません。このタイプのリーダーは、AI エージェントをチームの新しい一部として受け入れてチームを大胆に先導し、すべてのチーム メンバーの効率性と成功を高めることに専念します。
Salesforce市場戦略担当上級副社長、エド・トンプソン氏はこう語る。
ET:管理 -- このトピックをエージェントの展開と組み合わせると、非常に興味深いトピックになります。エージェント テクノロジーは、マネージャーにとって大きな課題になろうとしています。エージェントが従業員のエージェントアシスタントとして機能する場合はそれほどではありませんが、エージェントが従業員に取って代わると、マネージャーの状況は変わります。これまでのところ私たちが得ている限られた証拠は、エージェントが従業員のアシスタントであり、退屈で日常的な仕事を軽減してくれる場合、マネージャーにとって、それがチーム内の成績の悪い人を改善する優れた方法であるということです。最も高いパフォーマンスを発揮する人にとってのメリットははるかに少ないです。多くの点で、これはマネージャーにとっては恩恵ですが、成績の悪い人が成績の高い人によく似るようになると、業績評価はさらに難しくなります。
しかし、正規のエージェント従業員として機能するエージェントはまだ多くありません。それは経営者と従業員の関係を完全に変えます。ここでマネージャーは、人間とデジタル エージェントの従業員のどちらがより適切に仕事を遂行できるかを判断する必要があります。マネージャーがチーム内に 5 人の人間の従業員と 5 人のデジタル エージェントを抱えている状況を想像してください。確かに、その状況はさらなる摩擦を意味するように思えます。それは優れたマネージャーの定義を変えるでしょう。
しかし、それはどの仕事が置き換えられるかによって異なります。多くの仕事や役割は嫌われます。多くの場合、キャリアの初期には、私たちは最も嫌われるタスクを与えられます。エージェントに仕事が行くことを嘆く人はいるだろうか？同様に、多くの仕事は、内部管理者によって日々管理されていない請負業者や外注業者によって実行されています。
派遣社員、派遣社員、契約社員、外注社員などが、エージェント社員の活用において最初に試される役割になるのではないかと思います。しかし、エージェントの従業員が、誰もが憧れる仕事を置き換え、その役割への昇進を望んでいる人々を飛び越えたらどうなるでしょうか?そうなるとマネージャーの仕事はとても苦痛になります。
私の考えでは、エージェントが経営者や従業員に与える影響は、すべて導入のスピードにかかっています。 Klarnaのように、企業が従業員の50％を2年以内に置き換えることを選択した場合、投資家や経営陣にとっては良いことであっても、従業員や経営者にとっては苦痛となる可能性が高い。それが10年以上続くと、状況は大きく変わります。今ではスーパーマーケットのセルフレジに疑問を持つ人はいないが、導入には10年かかった。したがって、経営陣の満足と不満は実装のスピードに依存すると予想されます。
This article was co-authored by Ed Thompson, who is a senior vice president of market strategy at Salesforce, andMichael Maoz, who is senior vice president of innovation strategy atSalesforce.