OpenAI の音声エンジンは、15 秒のクリップから音声のクローンを作成できます。自分で聞いてください

このモデルの高度な機能にもかかわらず、OpenAI はまだそれを一般公開していません。その理由は次のとおりです。

ChatGPT をリリースし、生成 AI 時代を迎えて以来、OpenAI は、印象的なテキストからビデオへのジェネレーターである Sora などの最先端の AI テクノロジーで時代の先を行き続けています。金曜日、同社は、テキスト入力と 15 秒の音声サンプルを使用してリアルで感情的な音声を作成できる音声クローン AI モデルである Voice Engine の小規模プレビューからの洞察を共有することで、さらに前進しました。

以下のクリップに見られるように、このテクノロジーは、リファレンス クリップの音声によく似た、非常にリアルなサウンドの音声を生成できます。わずか 15 秒のサンプルから誰かの声になりすますことができる AI 音声ジェネレーター -- 何が問題になるでしょうか?

OpenAI は音声エンジンをリリースしたばかりです。
テキスト入力と単一の 15 秒音声サンプルを使用して、元の話者によく似た自然な音声を生成します。
基準音声と生成音声は非常に近いため、区別するのが困難です。< br>詳細については🧵をご覧ください。 pic.twitter.com/tJRrCO2WZP

OpenAIは音声クローンモデルのリスクを認識しており、その結果、2022年後半に初めて音声エンジンを開発したにもかかわらず、まだ一般公開していない。選挙の年には特に念頭に置かれることだ」と同社はブログ投稿で述べた。

2023 年、OpenAI は、潜在的なユースケースや安全対策などを含むモデルについて同社がさらに学ぶのを助けるために、少数のパートナー グループと音声エンジンの非公開テストを開始しました。

Voice Engine をテストするパートナーは、元の話者の同意なしに個人または組織になりすますことを明示的に禁止する OpenAI の使用ポリシーに同意する必要がありました。その他の保護策には、視聴者が聞いている音声が AI によって生成されたものであることの開示、音声エンジンに遡る透かし、モデルの使用状況の監視、独自の音声の作成の禁止などが含まれます。

OpenAI のパートナーは、Voice Engine を採用し、潜在的にプラスの影響をもたらすユースケースを開発しました。

たとえば、エドテックのスタートアップ企業 Age of Learning は、Voice Engine を使用して、事前にスクリプト化されたナレーション コンテンツとパーソナライズされた応答を生成することで、本を読まない人や子供たちに読書支援を提供しました。同様に、AI アバターを生成するスタートアップ HeyGen は、話者の音声を複数の言語に翻訳するツールを Voice Engine 上に構築しました。

OpenAI は今のところ音声エンジンをプレビューのままにしていますが、他の同様のモデルがすでに一般公開されています。 AI を活用した音声生成プラットフォームの肯定的なユースケースと否定的なユースケースの両方で見出しを飾った新興企業、イレブンラボズを例に挙げてみましょう。イレブンラボのテクノロジーの最もよく知られた例は、おそらく、有権者に投票所に来ないよう奨励したジョー・バイデン大統領の最近の偽ロボコールだろう。

イレブンラボの音声クローン作成ツールは、アクセスも使用も簡単です。必要なのは、イレブンラボのアカウント、数分間の音声サンプル、およびテキスト プロンプトだけです。

OpenAI は音声クローン分野への参入を遅らせるのが賢明です。テクノロジー業界は、AI が生成した音声のリスクについて認識を高め、聞いたことや見たことを信じる前に情報源を確認することの重要性をユーザーに強調する必要があります。