生成型 AI の導入に向けて急いでいますか?懐疑的になることが最善の防御策である理由
Gartner の新しい調査によると、企業の 55% が生成 AI ツールを試験運用中か運用モードに移行しています。
一部の組織は生成型人工知能 (AI) の導入を進めており、潜在的なリスクを軽減し、ある程度の懐疑心を持ちながら導入することが重要です。
実際のところ、企業の 45% が現在生成 AI を試験運用しており、10% がすでにそのようなツールを実稼働環境に導入していることが、火曜日に発表された Gartner の調査で明らかになりました。この調査は、生成型 AI のビジネスコストとリスクについて議論するために、先月開催されたウェビナー中に 1,419 人の経営幹部を対象にアンケートを実施しました。
これらの数字は、Gartner が今年 3 月と 4 月に実施した前回の調査よりも大幅に高く、調査では 15% がこのテクノロジーを試験運用していると報告し、これらのツールを運用しているのはわずか 4% でした。
最新の調査では、約 78% が生成 AI の利点がリスクを上回っていると回答し、以前の調査で同様に考えていた 68% を上回りました。
Gartner は、企業の 45% が複数の機能にわたって生成 AI への投資を拡大しており、22% が少なくとも 3 つの異なる機能にわたって拡大していると指摘しました。ソフトウェア開発における生成 AI の投資または導入が 21% と最も高く、次いでマーケティングと顧客サービスがそれぞれ 19% と 16% でした。
Gartner のグループ調査責任者兼著名アナリストである Frances Karamouzis 氏は、「組織は生成 AI についてだけ話しているわけではありません。AI を前進させ、ビジネスの成果を推進するために、時間、資金、リソースを投資しています」と述べ、組織の 55% が次のように述べています。は、10 か月前に生成 AI がパブリック ドメインに登場して以来、生成 AI への投資を増加させてきました。
「経営陣は、生成型 AI がイノベーション、最適化、破壊的破壊を促進する奥深い方法を認識しているため、生成型 AI に対してより大胆な姿勢をとっている」とカラムージス氏は述べた。 「ビジネスとITのリーダーは、『様子見』のアプローチが投資よりもリスクが高いことを理解しています。」
疑問が必要な場合
ただし、企業が前進することを決定した場合は、責任を持って倫理的に生成 AI を導入するためのフレームワークを整備する必要があります。
セールスフォース・ドットコムの責任あるAIの主任アーキテクトであるキャシー・バクスター氏は、AIが適用されたことを検出するために使用されるツールなどに対しても、ある程度の懐疑的な見方をする必要があると述べた。
バクスター氏は、テクノロジーが民主化され、誰もが多くの手すりなしで生成 AI を使用できるようになったと指摘しました。しかし、多くの組織が有害なコンテンツを排除するためにきちんとした仕事をしており、そのような取り組みへの投資を続けている一方で、AI に関して「どの程度の量の割り切り」をすべきかについては、まだ十分な理解が得られていません。生成されたコンテンツ。
バクスター氏はZDNETとのインタビューで、たとえそれが捏造されたものであっても、ユーザーはそのようなコンテンツをすべて事実だとみなしていると述べ、AI検出ツールであっても場合によっては間違っている可能性があるが、常に正確であるとみなされる可能性があると指摘した。このような認識は、生成型 AI とその関連ツールが教育などの一部の分野で使用される場合に悪影響を及ぼし、学生が業務で AI を使用していると不当に非難される可能性があります。
そうしたリスクに対する懸念を表明し、生成AIを利用する個人や組織に対し、「十分な懐疑心」を持って利用するよう呼び掛けた。
業界の他の人々と同様に、彼女も AI の正確さと安全性を確保するために十分なガードレールを設置する必要性を繰り返しました。リスク軽減ツールと並行して導入が展開されれば、それも役立つだろうと彼女は付け加えた。これらには、障害の検出とレポート機能、および人間によるフィードバックを収集して提供するメカニズムが含まれる場合があります。
AIのグラウンディングも重要であると彼女は述べ、AIモデルのトレーニングに使用されるデータの重要性を強調した。しかし、データの衛生状態が良好な組織は多くない、と彼女は指摘しました。
実際、先月発表された経営幹部のグローバル AI 指標レポートによると、自社のデータに完全にアクセスできると回答したのは、ビジネスおよびテクノロジーのリーダーのわずか 4% でした。 Workday の委託により行われたこの調査は、アジア太平洋、日本、北米、EMEA のさまざまな部門を率い、CEO、CIO、CFO を含む 2,355 人の経営幹部を対象にアンケートを実施しました。
調査によると、回答者の半数以上 (59%) が、データがある程度、または完全にサイロ化されていると述べています。
98% が AI と機械学習の導入によってすぐに何らかのビジネス上のメリットがあると信じている一方で、49% はツール、スキル、知識が不足しているため、組織にそのような準備ができていないと回答しました。
約 43% が AI と機械学習の信頼性について懸念を表明し、CEO の 67% が AI と機械学習をもたらす最大のリスクとして潜在的なエラーを挙げています。
信頼を築くには透明性を高める必要がありますが、サイロ化されたデータはリーダーが協力する能力を曖昧にしています。調査対象の組織のうち、59% がデータがある程度、または完全にサイロ化されていると報告しました。データに完全にアクセスできると回答したのは全回答者のうちわずか 4% でした。
Workday の最高技術責任者 (CTO) ジム・ストラットン氏は、「不確実性はあるものの、リーダーたちは AI と機械学習が従業員を増強し、生産性を向上させるだろうと楽観視している。これらのメリットを享受するには信頼が最も重要であり、信頼の構築には適切なデータ基盤とガバナンスへの取り組みが必要である。」と述べた。
Stratton 氏は、テクノロジーの恩恵を受けるために、AI を導入する際にはデータの品質と透明性を優先するよう組織に求めました。