生成 AI ツールの大量導入により、1 つの非常に重要な要素が狂わされていると MIT が指摘
AIの急速な進歩により「シャドウAI」が生み出され、AIを責任を持って使用することが難しくなっていると、MIT Sloan Management ReviewとBCGの調査が警告している。
開発者、データ サイエンティスト、ビジネス アナリストを支援する新しい人工知能 (AI) プラットフォームとツールが日々登場しています。しかし、この新興テクノロジーの急速な成長により、AI システムの責任と説明責任の能力をはるかに超えて、AI コンステレーションの複雑さも増大しています。
これが、MIT Sloan Management Review と Boston Consulting Group (MIT SMR および BCG) が発表した 1,240 人の経営者を対象とした最近の調査の結論です。この調査では、責任ある AI イニシアチブの進捗状況と、社内構築と外部ソースの両方の AI ツールの導入が調査されました。研究者らが「シャドウAI」と呼ぶもの。
AIの約束には結果が伴う、と研究著者のエリザベス・レニエリス氏（オックスフォードAI倫理研究所）、デビッド・キーロン氏（MIT SMR）、スティーブン・ミルズ氏（BCG）は次のように示唆している：「例えば、生成型AIは扱いにくいことが証明されており、予測不可能な事態を引き起こす幅広いユースケースに対する準備が整っていない組織にはリスクが生じます。」
多くの企業が「シャドウ AI の使用が企業全体に広がったことに不意を突かれた」とレニエリス氏と共著者は観察しています。さらに、AIの進歩のペースが速いため、「AIを責任を持って使用することが困難になり、責任あるAIプログラムがそれに追いつくようプレッシャーをかけられている」という。
彼らは、増え続けるシャドウ AI から生じるリスクも増大していると警告しています。たとえば、企業は、供給が急増しているサードパーティ AI ツールへの依存度を高めており、それに加えて、トレーニング データを使用して現実的または一見したところのデータを生成する生成 AI アルゴリズム (ChatGPT、Dall-E 2、Midjourney など) の急速な導入も進んでいます。事実に基づくテキスト、画像、または音声 - 追跡が困難な新たな商業的、法的、評判上のリスクにさらされます。
研究者らは責任ある AI の重要性について言及しており、これを「ビジネスに変革的な影響を与えながら、個人と社会に利益をもたらす AI システムの開発と運用を保証するための原則、ポリシー、ツール、プロセスを備えたフレームワーク」と定義しています。 。」
もう1つの問題は、多くの企業が「業界の人員削減の広範な傾向の一環として、責任あるAIに充てられる社内リソースを縮小しているようだ」という事実に起因していると研究者らは警告している。 「こうした責任あるAIへの投資の削減は、おそらく最も必要なときに起こっているのでしょう。」
たとえば、従業員による ChatGPT チャットボットの広範な使用は多くの組織を驚かせており、セキュリティに影響を与える可能性があります。研究者らは、責任あるAIフレームワークは「生成AIツールが突然導入する想像を絶する数のリスクに対処する」ようには書かれていないと述べている。
この調査によると、組織の 78% が、商用 API、事前トレーニング済みモデル、データなどのサードパーティ AI ツールへのアクセス、購入、ライセンス供与、またはその他の使用を報告していると報告されています。半数以上 (53%) はサードパーティの AI ツールのみに依存しており、独自の AI テクノロジーを社内で設計または開発していません。
責任ある AI プログラムは「社内で構築された AI ツールとサードパーティ製の AI ツールの両方をカバーする必要がある」とレニエリス氏と共著者は主張しています。 「AI システムがどこから来たとしても、同じ倫理原則が適用されなければなりません。最終的には、何か問題が発生した場合、悪影響を受ける人にとっては、そのツールが構築されたか購入されたかは問題ではありません。」
共著者らは、「サードパーティの AI リスクや、さらに言えばあらゆる種類の AI リスクを軽減する特効薬はない」と警告しながらも、今日の広く開かれた環境において責任ある AI を確保するためには、多面的なアプローチを推奨しています。
このようなアプローチには次のものが含まれます。
- ベンダーの責任ある AI 実践の評価
- 責任ある AI 原則の順守を義務付ける契約文言
- ベンダーの事前認証と監査 (利用可能な場合)
- 社内の製品レベルのレビュー (サードパーティのツールが製品またはサービスに統合されている場合)
- 関連する規制要件または業界標準の遵守
- 倫理的な AI 開発のガイドライン、リスク評価フレームワーク、監視および監査プロトコルなど、一連の包括的なポリシーと手順を含める
AIシステムの導入に伴って、法律や政府の命令という亡霊により、そのような行動が必要になる可能性があると共著者らは警告している。