OpenAIがクラウドで何を構築しているのかを知らないことには大きなリスクがあるとオックスフォードの学者が警告

オックスフォード大学とその協力者による報告書は、サービスとしての言語モデル業界は、信頼性と信頼性に関する重要な詳細を隠蔽していると警告しています。

2023 年の人工知能 (AI) における影響力のある出来事の 1 つは、ChatGPT の作成者である OpenAI が、最新の大規模言語モデル (LLM) である GPT-4 プログラムを 2023 年に導入した際、それに関する情報をほとんど開示しないという決定でした。行進。

OpenAI とそのパートナーである Microsoft 以外には、コンピューティング クラウドのブラック ボックスで何が起こっているのか誰も知らないため、この突然の秘密主義への移行はテクノロジー業界にとって大きな倫理問題となっています。

この難読化は、オックスフォード大学の学者エマヌエーレ・ラ・マルファ氏と、アラン・チューリング研究所とリーズ大学の共同研究者らによる今月の報告書の主題となっている。

arXiv プレプリント サーバーに投稿された論文の中で、La Malfa 氏らは「Language-Models-as-a-Service」(LMaaS) 現象を調査し、ユーザー インターフェイスの背後でオンラインでホストされる LLM について言及しています。 API経由で。このアプローチの主な例は、OpenAI の ChatGPT と GPT-4 です。

「商業的な圧力により、顧客向けのサービスとしてのみアクセス可能で、ユーザーのテキスト入力に応じて文字列またはトークンを返す、大規模で高性能な LM [言語モデル] の開発が行われました。ただし、そのアーキテクチャや実装に関する情報は含まれていません、トレーニング手順、トレーニング データは利用できず、内部状態を検査または変更する機能も提供されていません」と著者は書いています。

オープンソース言語モデルと LMaaS の違い。オープンソース プログラムのユーザーは完全に制御できますが、LMaaS サービスの顧客はブラウザーまたは API を通じて取得したものを使用して対処する必要があります。

これらのアクセス制限は、「LMaaS に固有のものであり、そのブラックボックス的な性質と相まって、LMaaS をよりよく理解し、信頼し、制御するという一般の人々や研究コミュニティのニーズと矛盾している」と彼らは観察しています。 「これは、この分野の中核で重大な問題を引き起こします。最も強力でリスクの高いモデルは、同時に分析が最も難しいのです。」

この問題は、OpenAI の競合他社、特にクローズドソース コードを打ち負かすためにオープンソース コードに頼っている企業を含む多くの関係者によって指摘されている問題です。たとえば、画像生成ツール「Stable Diffusion」などのツールを開発する生成AIスタートアップStability.aiのCEO、Emad Mostaque氏は、GPT-4のようなクローズドソースプログラムを信頼できる企業はないと述べた。

「個人データにはオープンモデルが不可欠だ」とモスタク氏は5月に記者団と幹部が集まった小規模な会合で述べた。 「その中にあるものをすべて知る必要があります。これらのモデルは非常に強力です。」

ラ・マルファ氏とチームは、さまざまな言語モデルの文献をレビューし、アクセシビリティ、複製可能性、比較可能性、信頼性という 4 つの重要な要素に沿って、難読化によってプログラムの監査がどのように妨げられるかを特定しました。

著者らは、これらの懸念はAI倫理における新たな展開であると指摘し、「これらの問題はLMaaSパラダイムに特有のものであり、言語モデルに関連する既存の懸念とは異なる」としている。

アクセシビリティはコードの秘密保持の問題に関係しており、これは莫大な研究開発予算を持つ大企業に不釣り合いな利益をもたらす、と著者らは主張する。

「計算能力が不均等に分散され、少数の企業に集中しているため、技術的優位性はあっても計算能力がない企業はジレンマに直面している。自社の LMaaS をオープンソース化することで、市場でのエクスポージャーと、コミュニティによるコードベースへの貢献により、モデルを強化するコードをリリースすると、より高い計算リソースを持つプレイヤーに有利になり、競争上の優位性が急速に失われる可能性があります。」

さらに、LMaaS プログラムの価格は一律であるため、発展途上国の人々はツールにアクセスする際に不利な立場にあります。 「これらの問題を軽減するための出発点は、LMaaS、そしてより一般的には、スタンドアロンで普及した破壊的テクノロジーとしての従量課金制の人工知能サービスの影響を分析することです」と彼らは示唆しています。

もう 1 つの問題は、LLM のトレーニング方法におけるギャップが増大していることです。商用の LLM は顧客プロンプトを再利用できるため、公開データのみを使用するプログラムとは一線を画すことができる、と著者らは観察しています。

LMaaSの商用ライセンスは「サービスを提供、維持、改善するためにプロンプトを使用する権利を企業に付与する」ため、全員が利用するトレーニングデータの共通のベースラインは存在しないと彼らは書いている。

彼らは、言語モデルがトレーニングと「微調整」（場合によっては言語モデルの能力を強化する段階）のために顧客のプロンプトを収集するかどうか、およびユーザーにオプトアウトを許可するかどうかの差異を評価するグラフ（以下）を提供しています。

言語モデルがデータに関して顧客にオプトアウトを提供するかどうか、およびブラックボックス モデルのトレーニングと微調整にデータを使用するかどうかの比較。

さまざまなリスクを詳細に説明した後、ラ・マルファ氏とチームは4つの分野に対処するための「暫定的な議題」を提案し、「研究者、政策立案者、国民が信頼できる解決策を見つけるためにコミュニティとして協力する必要がある」と主張した。 LMaaS。」

その一例として、彼らはLMaaSプログラムの「企業はソースコードを公開すべき」であり、一般公開しないとしても、「LMaaSは少なくとも監査人/評価者/レッドチームが共有に制限を設けて利用できるようにすべきである」と推奨している。

彼らは、企業は新しい言語モデルを展開する際に、古い言語モデルを完全に廃止すべきではないと提案しています。あるいは少なくとも、「モデルを構成するすべてのパラメータはハッシュされるべきであり、メンテナがモデルを更新する際に、モデルメンテナによって『モデルコミット』のログがユーザーに提供されるべきである。」そして、ジャーナルや会議を含むこの分野は、そのような予防策を追求しない「モデルの使用を阻止」すべきである。

ベンチマークの場合、ベースラインを正確に設定できるように、LMaaS がプロンプトのどの要素を消化したかをテストするツールを開発する必要があります。

LMaaS によって、AI 倫理のテーマが新たな段階に入ったことは明らかです。重要な情報が厳重に保管される段階であり、倫理的な選択は誰にとってもこれまでよりも困難な問題となっています。