合成データは AI のプライバシー問題を解決できるでしょうか?この会社はそれに賭けている

主にAIは顧客情報を保護するために合成テキスト製造業者を立ち上げました。それがどのように機能するか、モデルの崩壊を心配するかどうか。

オーダーメイドのユースケースや製品の生成 AI (gen AI) に投資する企業が増えるにつれ、大規模言語モデル (LLM) をトレーニングする上で独自のデータがますます重要になっています。インターネットから収集した数十億の公開データ ポイント (電子メール、スクリプト、ソーシャル メディア、書類) でトレーニングされた ChatGPT とは異なり、エンタープライズ Gen AI は多くの場合、その企業の顧客データに合わせて指定する必要があります。

ただし、実際の顧客からのデータには個人を特定できる情報 (PII) が含まれる可能性があるため、使用するとプライバシーのリスクが生じます。そこで構造化合成データ会社Mostly AIの出番です。

同社は火曜日、合成データの生成プロセスを自動化し、ユーザーの元のデータセットのパターンを保存する合成テキスト機能を開始した。

Mostly AI は、合成データを使用してモデルをトレーニングすることで、電子メール、サポートトランスクリプト、チャットボットのやり取りなどの顧客データから得られる洞察を犠牲にすることなく、企業がプライバシーのリスクを回避できるようにすることを目指しています。同社によれば、合成データは元のデータよりも多様性を表現できるという。

プライバシー以外にも、データセットを再調整してモデルに合わせたりバイアスを除去したり、ソフトウェア テスト用のモック データを生成したりするユースケースもあります。

仕組み

企業は独自のデータセットを Mostly AI ジェネレーターにアップロードします。Mostly AI ジェネレーターは、元のデータのメタデータを含むプライバシーが保護された再利用可能なバンドルです。ユーザーは、ローカル デバイスまたは別の外部ソースからデータをアップロードし、Mostly AI のプラットフォーム上でジェネレーターを微調整できます。

ZDNETに送信されたデモで示されている主にAIのプラットフォーム

正しい構成とエンコードの種類を確認したら、ユーザーは使用したい Mostly AI モデルを選択し、次に HuggingFace の事前トレーニングされたオプションを含むいくつかの言語モデルから選択します。

出現するのは、元の統計パターンを保存した、プライバシーが保護されたデータの合成バージョンです。

機種選定

この設定は、企業のジェネレーターのトレーニングに役立ちます。その後、ユーザーはモデルのレポートを使用して合成データと実際のデータを比較し、精度を確保できます。

Mostly AI は、自社のデータセットは「企業の元の顧客データと同じくらい本物で、同じ詳細情報が含まれていますが、元の個人データ ポイントは含まれていないため、企業が GDPR や CCPA などのプライバシー保護規制に準拠するのに役立ちます」と述べています。同社は、同社の合成テキストは「GPT-4o-miniが実際の例をまったく提供しないか、ほんの数個しか提供しないことによって生成されたテキストと比較して、パフォーマンスが35％も向上する」と付け加えた。

では、合成データは本当に AI の未来なのでしょうか?

AGartner の 4 月のレポートでは、合成データにはソフトウェア エンジニアリングにおいて実現されていない可能性があることが判明しましたが、慎重に導入する必要があると推奨されています。合成データを効果的に使用するには、ユースケースごとに特定のテスト段階が必要となるため、合成データの作成にはリソースが大量に消費される可能性があります。

「現在、モデルが公開データソースを使い果たし、収益が減少しているため、AIトレーニングは頭打ちになっている」とMostly AIの最高経営責任者（CEO）トビアス・ハン氏はリリースで述べた。 「現在使用されている残りの公的データよりもはるかに大きな価値と可能性をもたらす高品質の独自データを活用するには、グローバル企業は思い切って構造化合成データと非構造化合成データの両方を活用して、今後の生成 AI ソリューションを安全にトレーニングして展開する必要があります。 」

一般的な懸念は、モデルが取り込むための公的に利用可能なデータが不足していることが原因の 1 つとして、AI バブルがはじけようとしているということです。それは技術的には真実ではありませんが、人間のあらゆる活動はデータになり得ますが、単に体系化、収集、構造化され、無料ではない可能性があります。モデルをトレーニングするためにより使用可能なデータが必要であることは現実です。結局のところ、手書きのメモの乱雑なページをデジタル化するよりも、合成データの生成を上手に行う方がはるかに簡単 (そして安価) です。 EvenMeta は人間のデータと合成データの両方を使用して Llama 3.1 405B をトレーニングしました。

しかし、モデルの崩壊、つまり合成データを大量に取り込むとモデルが劣化するという考えについてはどうでしょうか?

Mostly AIはZDNETへの電子メールで、モデルの繰り返しトレーニングに使用されるのではなく、「合成データが一度生成され、下流のタスクに直接適用される」ため、この可能性を回避していると述べた。

業界全体で合成データの使用が増加することで、モデル崩壊のより大きな脅威が生じるかどうかはまだわかりません。それまでは、Mostly AI のツールに興味のある企業は、同社の Web サイトにアクセスできます。