AIへの関心が高まる中、透明性が著しく欠如している
基礎となる AI モデルをどのようにトレーニングしているかについて企業にオープンにしてもらうことは、課題であることが判明しています。
基礎モデルのトレーニング方法に関する透明性は依然として不足しており、より多くの組織が人工知能 (AI) の導入を検討するにつれて、このギャップがユーザーとの緊張の増大につながる可能性があります。
中国を除くアジア太平洋地域では、AI への支出が 2022 年の 255 億ドルから 2027 年までに 907 億ドルへと 28.9% 増加すると IDC は予測しています。調査会社は、この支出の 81% が予測および解釈型 AI アプリケーションに向けられると推定しています。
そのため、生成 AI については多くの誇大宣伝が行われていますが、この AI セグメントはこの地域の AI 支出のわずか 19% を占めるに過ぎないと、IDC アジア太平洋担当副社長の Chris Marshall 氏は断言しました。マーシャル氏は今週シンガポールで開催されたインテル AI サミットで、この調査は生成 AI を超えた AI への広範なアプローチを必要とする市場を浮き彫りにしていると述べた。
ただし、IDC は、アジア太平洋地域の組織の 84% が、生成 AI モデルの活用がビジネスに大きな競争力をもたらすと信じていると指摘しました。これらの企業は、業務効率と従業員の生産性の向上を達成し、顧客満足度を向上させ、新しいビジネスモデルを開発することを望んでいる、と調査会社は付け加えた。
また IDC は、この地域の組織の大多数が 2024 年にエッジ IT 支出を増加すると予想しており、2025 年までに企業データの 75% が従来のデータセンターやクラウド以外のエッジで生成および処理されると予測されています。
インテルのアジアパシフィック日本担当CTO、アレクシス・クロウェル氏は声明で、「AIを真にあらゆる場所に導入するには、使用されるテクノロジーが個人、業界、社会全体にアクセシビリティ、柔軟性、透明性を提供する必要がある」と述べた。 「AI投資の増加が見られる中、市場にとって今後数年間は、責任ある思慮深い方法でAI成熟度の基盤を構築することが重要となるでしょう。」
業界関係者や政府は、AIの信頼性と透明性を構築すること、そして消費者がAIシステムが「公平で説明可能で安全」であることを知ることの重要性を頻繁に宣伝してきた。しかしZDNETが、オープンな大規模言語モデル（LLM）と基盤モデルのトレーニング方法に関して現時点で十分な透明性があるかどうか尋ねたところ、クロウェル氏は「いいえ、十分ではありません」と答えた。
彼女は、スタンフォード大学、マサチューセッツ工科大学、プリンストンの研究者らによる 10 の主要な基礎モデルの透明性を評価した研究を指摘しました。この研究では、最高スコアのプラットフォームは 54% のスコアしか管理していませんでした。 「これは不合格だ」と彼女はサミットでのメディアブリーフィング中に述べた。
この研究によると、平均スコアはわずか 37% でした。この研究では、トレーニング データ、モデルのアーキテクチャとリスク、モデルを管理するポリシーに関する情報など、モデルの構築に関わるプロセスを含む 100 の指標に基づいてモデルを評価しました。使用。最高得点者は Meta の Llama 2 で 54%、次に BigScience の Bloomz が 53%、OpenAI の GPT-4 が 48% でした。
「主要な基礎モデル開発者は誰も適切な透明性を提供できておらず、AI業界における透明性の根本的な欠如を明らかにしている」と研究者らは指摘した。
透明性は必要だ
Crowell 氏は、AI の開発を監視するベンチマークや組織が利用可能になることで、この状況が変わるかもしれないという希望を表明しました。同氏は、ニューヨーク・タイムズ紙がOpenAIやマイクロソフトに対して起こした訴訟のような訴訟は、法的明確性をさらに高めるのに役立つ可能性があると付け加えた。
ユーザーが自分のデータがどのように使われているかを知るためには、欧州のGDPR（一般データ保護規則）を含むデータ管理法と同様のガバナンスフレームワークが必要だと同氏は指摘した。同氏は、企業はデータがどのように取得され、どこに行くのかに基づいて購入を決定する必要があると述べ、透明性の向上を求めるユーザーからの緊張の高まりが業界の行動を促進する可能性があると付け加えた。
米国、英国、アイルランド、オーストラリア、フランス、ドイツ、インド、シンガポールの約 6,000 人のナレッジ ワーカーを対象とした最近の Salesforce の調査によると、現状では、AI ユーザーの 54% が AI システムのトレーニングに使用されたデータを信頼していません。 、スイス。
一般的な考えに反して、正確性は透明性を犠牲にする必要はない、とクロウェル氏はボストン コンサルティング グループ主導の調査報告書を引用して述べました。このレポートでは、価格設定、医療診断、破産予測、購買行動など、約 100 のベンチマーク分類データセットに対してブラック ボックスとホワイト ボックスの AI モデルがどのように機能したかを調査しました。データセットのほぼ 70% について、ブラック ボックス モデルとホワイト ボックス モデルは同様に正確な結果を生成しました。
「言い換えれば、多くの場合、正確さと説明可能性の間にトレードオフは存在しなかった」と報告書は述べている。 「精度を犠牲にすることなく、より説明可能なモデルを使用できる可能性があります。」
しかし、完全な透明性を確保することは依然として困難であるとマーシャル氏は述べた。同氏は、AIの説明可能性に関する議論はかつて盛んだったが、対処が難しい問題であるため、その後は下火になったと指摘した。
AIシンガポール（AISG）のAIイノベーション担当ディレクター、ローレンス・リュー氏によると、主要な基盤モデルを支える組織は、訴訟されることへの懸念から、トレーニングデータについて公表したがらない可能性があるという。同氏は、トレーニングデータを厳選することもAIの精度率に影響を与える可能性があると付け加えた。 Liew 氏は、AISG が独自の LLM イニシアチブである SEA-LION (Southeast Asian Languages in One Network) で公開されているすべてのデータセットを使用すると潜在的な問題が発生するため、特定のデータセットを使用しないことを選択したと説明しました。
その結果、オープンソース アーキテクチャは、今日の市場にある一部の主要な LLM ほど正確ではない、と同氏は述べました。 「それは絶妙なバランスだ」と同氏は述べ、高い正解率を達成するには、利用可能なあらゆるデータを使用するオープンなアプローチを採用する必要があると付け加えた。 「倫理的」な道を選択し、特定のデータセットに触れないことは、商用プレーヤーが達成する精度よりも精度が低いことを意味すると同氏は述べた。
シンガポールはSEA-LIONで高い倫理基準を選択したが、LLMの精度を向上させるためにより多くのデータセットを活用するよう求めるユーザーからの挑戦が依然として多いとリュー氏は述べた。
シンガポールの著者と出版社のグループは先月、自分たちの作品がシーライオンの訓練に使用される可能性について懸念を表明した。彼らの不満の中には、自分たちの著作の使用に対して「公正な対価を支払う」という約束が明らかに欠けていることがある。彼らはまた、LLM の創設と訓練においては、国の知的財産法と著作権法、および既存の契約上の取り決めが支持されることを明確にし、明示的に認める必要があると指摘した。
オープンソースについて透明性を保つ
Red Hat CEOのマット・ヒックス氏によると、こうした認識はAIアプリケーションを開発するオープンソースのフレームワークにも拡大されるはずだという。
モデルは著作権を持つ人々から提供された大量のデータに基づいてトレーニングされており、これらの AI システムを責任を持って使用するということは、使用されているライセンスを遵守することを意味するとヒックス氏は今週 Red Hat Summit 2024 に伴うバーチャルメディアブリーフィングで述べました。
これは、GPL などのコピーレフト ライセンスや Apache などの寛容なライセンスなど、さまざまなライセンス バリアントを持つオープンソース モデルに関係します。
同氏は、透明性の重要性と、データモデルの理解とモデルが生成する出力の処理に責任を負うことの重要性を強調した。 AI アーキテクチャの安全性とセキュリティの両方を確保するには、モデルが悪意のあるエクスプロイトから確実に保護されるようにする必要があります。
Red Hat は、サミットで発表した Red Hat Enterprise Linux AI (RHEL AI) などの多数のツールを通じて、顧客のこうした取り組みを支援したいと考えています。この製品は、Open Granite 言語と InstructLab コミュニティのコード モデルを含む 4 つのコンポーネントで構成されており、Red Hat によってサポートおよび補償されます。
このアプローチは、アプリケーションやモデルのライフサイクル管理など、組織が AI 導入でしばしば直面する課題に対処するものであると、オープンソース ベンダーは述べています。
「[RHEL AI]は、オープンソースライセンスのGenAIモデルを企業に導入するための基盤モデルプラットフォームを作成します」とRed Hatは述べた。 「Red Hat は、InstructLab アライメント ツール、Granite モデル、RHEL AI を使用して、これらの障害を取り除く取り組みとして、自由にアクセスして再利用可能、透明性があり、貢献にオープンである真のオープンソース プロジェクトの利点を GenAI に適用することを目指しています。 。」