完全自律型 AI エージェントと彼らに資金を提供するベンチャーキャピタリストへの道のり
今日のいわゆる AI エージェントは、企業プロセスで行われる意思決定をはるかに強力に制御するプログラムに追い越されるでしょう。
「エージェント AI」または「人工知能エージェント」という用語は急速に一般的になってきており、このテクノロジーに投資している人々は区別する必要があると考えています。
先週公開された一連のブログ投稿の中で、ベンチャーキャピタル会社Menlo Ventures（Anthropicなどの人工知能分野の新興企業に資金提供している）のパートナーたちは、「次のエージェントの波」と、それらがこれまでに導入されたエージェントをどのように超えるかを定義している。
彼らは、明日のエージェントには 4 つの異なる機能があると書いています。
「完全自律型エージェントは、推論、外部記憶、実行、計画という、完全なエージェント機能を組み合わせる 4 つの要素によって定義されます」と著者らは書いています。
「明確にしておきますが、将来の完全自律エージェントは 4 つの構成要素をすべて備えている可能性がありますが、今日の LLM アプリとエージェントは備えていません」と彼らは宣言しています。
著者の Tim Tully、Joff Redfern、Deedy Das、Derek Xiao は、最初のブログ投稿で、何かが「エージェント的」であるとはどういう意味かを探ります。ソフトウェアは最終的に、問題を解決するために取るべきステップを選択する際に、ますます大きな自律性を獲得する必要がある、と彼らは書いています。
「アプリケーションの制御フローに LLM を配置すると、エージェントが出現し、どのアクションを実行するか、どのツールを使用するか、入力をどのように解釈して応答するかを動的に決定できるようになります」と著者らは書いています。
従来の大規模な言語モデルは、LLM にタスクを実行させる外部プログラムなどの「ツール」にアクセスできます。 Anthropic はすでにツール使用機能でこれを実現しており、OpenAI にも同様のものがあります。
しかし、著者らは、ツールの呼び出しは LLM に問題を解決する手段を与えるだけであり、問題の解決方法を決定する制御を提供するものではないと説明しています。
著者らは次のように書いています。「ツールの使用は強力ですが、それ自体を「エージェント的」とみなすことはできません。論理制御フローはアプリケーションによって事前定義されたままになります。」むしろ、エージェントは、使用するツールを選択する幅広い能力、つまり意思決定ロジックを備えている必要があります。
ソフトウェアのいくつかのバージョンは真のエージェントに近づくと著者は説明します。 1 つは「意思決定エージェント」で、大規模な言語モデルを使用して一連のルールの中から選択し、どのツールを使用するかを決定します。彼らは、そのような意思決定システムの例として、ヘルスケア ソフトウェアのスタートアップである Anterior を挙げています。
次に、「エージェント・オン・レール」と呼ばれる高次のエージェントには、「達成すべき高次の目標が与えられる（たとえば、『この請求書と総勘定元帳を照合する』など）」と彼らは書いている。プログラムには、それに適合するためのより多くの自由度が与えられる。高レベルのリクエストとどのルールセットに従うべきか。
著者らは、カスタマーサービス会社Sierraやソフトウェア開発会社All Hands AIなど、複数の新興企業がこの「レール上のエージェント」アプローチを追求していると指摘している。
彼らが言うところの 3 番目の最高レベルのエージェント AI である聖杯は、「動的推論」と、大規模な言語モデルが会社のルールブックを「包含」できるようにする「カスタム コード生成」を備えています。 「汎用 AI エージェント」として知られるこの種のアプローチは、まだ研究段階にあると著者らは指摘しています。例としては、スタートアップ企業 Cognition によって生み出された「初の AI ソフトウェア エンジニア」である Devin 氏が挙げられます。
2 番目のブログ投稿「ボットを超えて: AI エージェントがエンタープライズ オートメーションの次の波を推進している方法」では、著者らはエージェント AI が企業にどのように適用されるかを考察しています。
彼らによると、当面の影響は、UiPath や Zapier などの企業が販売する、人間の基本的な作業の一部をソフトウェアで置き換えるツールである「ロボット プロセス オートメーション」 (RPA) を超えたものになるということです。
最初の投稿で検討した意思決定エージェントとレール上のエージェントは、サプライヤーの請求書と総勘定元帳の照合などのビジネス タスクでの実用的なアプリケーションを見つけます。
ある企業が、海外のサプライヤーからの請求書を自社の台帳と照合する必要があるとします。このプロセスには、請求書通貨、元帳通貨、取引日、為替レートの変動、国境を越えた手数料、銀行手数料などの複数の考慮事項が含まれており、支払いを調整するにはこれらすべてを取得して一緒に計算する必要があります。エージェントはこの種のインテリジェンスを行うことができますが、RPA エージェントはケースを人間にエスカレーションするだけかもしれません。
このブログ投稿の主な目的は、多くのスタートアップがすでにそのような高度なエージェント機能にアプローチするものを販売しているということです。彼らは「単なるSFではない」と書いている。 「このカテゴリーはまだ発展途上ですが、新興企業からフォーチュン 500 企業までの企業がすでにこれらのシステムを購入し、大規模に活用しています。」
著者らは、1 つの軸に沿ったエージェント プログラムの自律性の度合いと、垂直または水平市場への焦点の度合いによって整理された、多数のサービスを示す便利なグラフを提供しています。
2 つのブログ投稿で取り上げられていないのは、既存の生成 AI (gen AI) システムで発生し、エージェントの進歩を妨げる恐れがある 2 つの重要な制限です。
第一に、幻覚や自信を持って主張する誤った出力にどう対処するかについて、著者による実質的な議論はありません。 Gen AI が使用する推論プロセスがどのようなものであれ、ツールがどれほど強力であっても、AI エージェントが従来のチャットボットのように誤った出力を生成しないと考える理由はありません。
少なくとも、意思決定エージェントとレール上のエージェントが幻覚を軽減するかどうかという問題は未解決の研究課題です。
第 2 に、エージェント AI は多くの企業プロセスを自動化できると考えられますが、その自動化の効果やそれが本当に改善であるかどうかに関するデータはこれまでのところほとんどありません。それは幻覚に関する最初の点と部分的に関連していますが、完全に関連しているわけではありません。エージェントの推論や行動が間違っていなくても、人間が行うであろう結果と比べて最適ではない結果が生じる可能性があります。
顕著な例は、プリンストン大学出版局から今月出版された、プリンストンのコンピュータサイエンス学者アルビンド・ナラヤン氏とサヤシュ・カプール氏による著書「AI Snake Oil」で論じられている。 AI モデルは、入院時に肺炎の症状を示した喘息患者の病歴を追跡しました。 AI モデルにより、彼らは病院人口の中で最もリスクの低い患者の一人であることが判明しました。その「推論」を使えば、そのような患者は退院できるだろう。
しかし、このモデルは因果関係を見逃していた。喘息と肺炎の症状のある患者は救急治療を受けていたため、リスクが最も低かったというのだ。単に彼らを退院させただけではそのようなケアは回避され、結果は「壊滅的な」ものになっていた可能性がある、とナラヤンとカプールは断言する。
複雑な因果関係を伴う現実世界の状況では、因果関係ではなくその種の相関関係が最適化されていない結果につながる可能性があります。
また、協力するエージェントも著者の議論の範囲から除外されています。 Hubspot CTOのダルメッシュ・シャー氏が最近ZDNETに語ったところによると、将来のエージェントAIの仕事は単一のエージェントによって行われるのではなく、おそらく相互に連携するAIエージェントのネットワークによって行われることになるだろう。
これらの省略を考慮すると、ベンチャーキャピタリストの広範囲にわたる研究にもかかわらず、ますます強力になる AI エージェントの世界で達成されるものの表面をなぞっただけであることは明らかです。