ウェブサイト検索

AIを導入する場合は、まずマネージャーをトレーニングする必要があります

企業は適切なガバナンス システムを確立する前に GenAI に殺到しており、将来的に品質とコンプライアンスに関して深刻な問題が発生する可能性があります。

人工知能を組織に導入するには、AI に関する実践的な知識以上のものが必要です。これは最初のステップにすぎません。最近の調査によると、ほとんどの組織とその IT 部門、特に物事を前進させるためのリソースを管理するマネージャーや幹部は、まだ AI を扱う準備ができていません。さらに、必要なスキル、ツール、ソリューションはまだ整っていません。

SASが発表した1,600人のIT意思決定者を対象とした調査によると、IT部門のリーダーですらAIの影響をまだ理解していません。技術系上級意思決定者の 10 人中 9 人 (93%) が、生成 AI (GenAI) やそのビジネス プロセスへの潜在的な影響について完全には理解していないと認めています。

経営陣は必死に状況を把握する必要がある。調査対象となった CIO の半数未満 (45%) と、組織内での GenAI 導入について「非常に詳しい」と考えている CTO は 3 分の 1 強 (36%) でした。さらに悪いことに、最高デジタル責任者の 13% だけが AI に精通していると認めています。

さらに悪いことに、AI に非常に精通していると主張する IT または情報システムの責任者はわずか 4% であり、IT マネージャーまたはディレクターのわずか 2% です。

全体として、全体的な AI ガバナンスと監視に関する高レベルのトレーニングを提供しているのはわずか 7% であり、さらに 15% が生成型 AI に対してそのような支援を提供しています。回答者の 75% が、組織内で GenAI が使用されている場合のデータ プライバシーとセキュリティを懸念しているため、これは非常に重要です。

これは、AI の実装を妨げる可能性のある問題を克服するには、多くの教育と分析とともに時間がかかる可能性があることを意味します。たとえば、大規模な言語モデルにおけるバイアスとプライバシーのリスクを測定するための信頼できるシステムを導入しているのはわずか 5% です。さらに 42% がプライバシー リスク検出のための社内機能の開発を検討しており、32% がバイアス検出のための社内機能の開発を検討しています。

生成 AI の実装を継続的に自動監視しているのは 29% のみです。 AI 出力の定期的な手動監査を実施しているのは 25% のみです。

「理想的な GenAI への投資は、効率性と顧客エクスペリエンス向上のための明確な機会を提供しますが、多くの組織が戦略的思考にギャップがあり、それが展開の成功に影響を与えていると報告しています」とレポートの共著者は述べています。 「私たちの調査によると、企業は適切なガバナンスシステムを確立する前にGenAIに殺到しており、後に品質とコンプライアンスに関して深刻な問題が発生する可能性があります。」
既存のプロセスやシステムへの AI の統合も問題の原因です。 「多くの企業は、このテクノロジーを既存のタスクやツールと統合することに苦労しています」と調査の著者らは述べています。さらに、意思決定者のほぼ半数 (47%) が、GenAI を実装するための適切なツールを持っていないと報告しています。

AI を使用する組織で発生している主な問題は次のとおりです。

  • 48% が、パブリック データセットと独自データセットの両方を効果的に利用する際に問題が発生していると報告しています。
  • 45% が適切なツールが存在しないと報告しています。
  • 42% は、生成 AI を構想段階から実用化に移行する際に課題を経験していると回答しています。
  • 39% は、現在のシステムとの互換性に問題があると回答しています。

調査によると、社内の AI 専門知識も非常に需要が高いことが示されています。組織の半数 (51%) は、テクノロジーを効果的に使用するためのスキルが社内にないことを懸念しています。回答者の約 10 人中 4 人 (39%) は、社内の専門知識が不十分であり、GenAI の導入の障害になっていると回答しています。

調査の著者らは、成功する AI プロジェクトに関連する次の義務を指摘しています。

  • AI 統合: 「インテリジェントな意思決定などの意思決定フロー ツールを使用して、GenAI モデルを意思決定ワークフロー、AI および機械学習アプリケーション、既存のビジネス プロセスにシームレスに統合する」必要性。
  • データ保護: 「機密情報の保護を提供する合成データの生成、データの最小化、匿名化、暗号化などの堅牢なデータ品質対策により、ユーザーのプライバシーとセキュリティを確保します。」
  • 信頼でき説明可能な結果: 「データ専門家は自然言語処理技術を適用してデータを前処理し、生成された出力をわかりやすい言葉で説明し、幻覚を最小限に抑え、トークン コストを削減できます。」
  • ガバナンスの強化: 「規制遵守からモデルのリスク管理まで、LLM のライフサイクル全体を検証する組み込みのワークフローを使用します。」

投資収益率の予測または計算も、満たさなければならない義務です。 IT 意思決定者の 3 分の 1 以上 (36%) が、GenAI が強力な ROI を提供することを証明するのが難しいと予想しているか、証明するのが難しいと感じていることが調査で示されています。ほぼ半数 (47%) が、GenAI の概念から実用化に移行する際に課題に直面しています。 10 組織中 4 組織 (39%) は、GenAI の使用ポリシーを定めていません。

関連記事