大規模な言語モデルの数が増えるにつれ、企業には AI ガバナンスが必要になる

企業は今、生成型人工知能アプリケーションのガバナンス フレームワークをどのように作成するかを考え始める時期です。

市場における大規模言語モデル (LLM) の数は成長し、多岐にわたると予想されるため、企業は生成人工知能 (AI) アプリケーションを管理するためのガバナンス フレームワークを必要とします。

Forrester の副社長兼シニアリサーチディレクターの Frederic Giron 氏は、組織には内部機能と外部機能を統合するインテリジェンスの層が必要になると述べています。

このアプローチには、OpenAI の ChatGPT、Anthropic の Claude、Meta の Llama などのサードパーティの有料およびオープンソース LLM と、Salefsforce Einstein GPT などの組み込み AI ツールの使用が含まれます。組織はまた、生成 AI の使用、汎用および特殊化された LLM の活用、主要なプロセス、ポリシー、ビジネス ルールと並行したさまざまな AI アプリケーションの実行など、独自の AI モデルを持つことになります。

今週行われた調査会社の2024年予測説明会で講演したジロン氏は、このアプローチは構造化データと非構造化データによって支えられ、企業が顧客や従業員により多くの会話エクスペリエンスを展開する中で、後者は生成型AIの導入で倍増すると予想されていると述べた。

ユーザーの反応と行動もフィードバック ループに入力し、システムの微調整に使用する必要があります。

これらの要件は、企業がこれらのツールの使用を管理し、安全かつ効率的に使用できるようにする生成 AI アプリケーション アーキテクチャを持つ必要性を強調していると同氏は述べました。

このフレームワークは、アプリケーション パイプを接続し、リクエストを出力に統合し、入出力ゲートウェイを構築する必要があります。これにより、組織は AI モデルに入力されるデータを制御し、応答がビジネスで設定したルールに準拠していることを確認できます。

AI ガバナンスに関する複雑さは、企業がフレームワークの導入から実際の結果を得るまでにしばらく時間がかかる可能性があることを意味します。

Forrester は、生成 AI の変革的な影響が今後 1 年間で恩恵を受けるのはアジア太平洋地域の企業の 30% にとどまると予測しています。 Giron 氏は、データ ガバナンス、品質、インフラストラクチャに関連する主要な課題を指摘しました。

同氏は、企業がギャップを埋めるのを支援するために、サービスプロバイダーが業界パートナーシップの拡大や、AIスタジオやモデル比較などの新しいプラットフォームのリリースなど、サービスモデルの運用と提供方法の変革に投資していると指摘した。

この投資は、より優れた価格設定モデルを推進し、長期的には商用モデルに影響を与えるでしょう。その結果、とりわけ、より成果ベースおよびソリューションベースの価格設定が行われることになります。

同アナリストは、組織の 56% が、従業員の生産性が生成 AI の主要な使用例になると予想しており、次いで 48% がソフトウェア開発とテストを挙げていると付け加えました。さらに 48% は、生成 AI がセルフサービスのデータと分析を可能にするものだと考えています。

当然のことながら、Forrester 社の国際研究および製品担当上級副社長、Dane Anderson 氏によると、生成 AI は過去 40 年間で発生した最大のテクノロジー雷雨であるとのことです。

これは、2009 年にクラウド コンピューティングが登場し、2007 年にモバイル インターネットとスマートフォンの波が台頭した、これまでの「変曲点」テクノロジーに続くものだとアンダーソン氏は述べています。 World Wide Web の変化は 1990 年代に定着し、パーソナル コンピューターは 1981 年にその名を残しました。

これらのイノベーションの中には、他のものよりも大きな変化をもたらし、機会と課題の両方を生み出したものもあると同氏は付け加えた。生成 AI の出現により、「静的」ウェブサイトは今後 20 年間で徐々に放棄されるだろうとアナリストは予測しました。

代わりに、ユーザーはプロンプトを表示したり、質問をしたりするように進化し、それに対する応答がバックエンドで生成 AI を活用して継続的に更新され、インタラクティブ エクスペリエンスが向上するようにカスタマイズされます。

ウェブサイトに対するこれらの変更は検索にさらに影響を与え、検索は現在ほど中心的でも重要でもなくなるだろうとアンダーソン氏は述べた。

このような重要な変革は数年にわたって展開されます。短期的には、より多くの LLM が市場に出現すると予想されるため、組織はオプションを慎重に評価し、望む結果にどのモデルが最適であるかを決定する必要があることを意味します。

アンダーソン氏はまた、より多くの市場参加者が生成 AI 機能を既存の顧客エンタープライズ アプリケーションに無料で組み込み始める可能性についても言及しました。

Forresterの主席アナリストであるレスリー・ジョセフ氏は、最終的に企業にとっての価値はLLMが運営されている層には存在しないと述べ、この市場セグメントはより多くのLLMが出現するにつれてコモディティ化するだろうと付け加えた。

Joseph 氏は、ソフトウェア ベンダーに対し、これらのツールを主に ChatGPT 同等のバージョンとして提供するのではなく、生成 AI 機能を自社の製品に統合し始めるよう促しました。この洗練されたアプローチは、生成 AI 機能が従業員の働き方により深く根付き、企業にとってテクノロジーをより手頃な価格にする職場環境の推進に役立つだろうと同氏は述べた。