世界に衝撃を与えたAI音声生成プラットフォームが不正行為と戦うためにアップデートされる
イレブンラボの音声クローン機能は、良いユースケースにも悪いユースケースにも活用されています。最新のアップデートで悪用を阻止できるでしょうか?
生成 AI は、テキスト、アート、画像、さらには音声など、あらゆる種類のコンテンツを生成する機能を備えています。
AI スタートアップの Celebrities は、1 月のベータ版のリリース以来、テキスト読み上げの生成と音声のクローン作成をサポートしており、累計登録ユーザー数は 100 万人を超えています。
また: Meta が友人や愛する人の声を再現する Voicebox AI を発表
火曜日、イレブンラボは、1,900万ドルのシリーズAラウンドの終了と、最大の論争に対処するものを含むプラットフォームへのいくつかの主要なアップデートを発表した。
発売以来、イレブンラボの音声生成テクノロジーはプラスの影響とマイナスの影響の両方をもたらしてきました。
イレブンラボが説明するポジティブな用途には、「独立した著者がオーディオブックを作成すること、開発者がビデオゲームのキャラクターの声を担当すること、視覚障害者がオンラインで書かれたコンテンツにアクセスできるようにサポートすること、世界初の AI ラジオ チャンネルを強化すること」などが含まれる。
これらのユースケースはポジティブであり、さまざまな業界のビジネスプロセスを前進させますが、同様に有害なアプリケーションもあります。
人の声の一部を取り出して新しい音声を生成する音声クローン ツールは、公人が恐ろしい差別的な発言をしているかのように見せかけ、悪質な手段に使用されてきました。
ベータ版をリリースしてから数週間後、イレブンラボはすぐにツイッターで「音声クローンの悪用事件」に対処した。同社は、追加のアカウント検証、音声の著作権の検証、音声クローンの有料枠への移行、さらには各リクエストの手動検証など、この問題に対処する可能性のある方法を提案しました。
また: Vimeo に一連の AI ツールが追加され、ビデオ作成が大幅に簡単になりました
本日、この問題に対する同社の解決策と思われるAI音声分類器を一般公開した。このツールは、アップロードされた音声に Celebrities が AI で生成した音声が含まれているかどうかを解読できるようになります。
「AI音声分類器のリリースは、同社の透明性への取り組みの最新のステップであり、安全な生成メディア環境を構築するという同社の取り組みの基礎となる」とイレブンラボズはリリースの中で述べている。
このツールを発表した以前の投稿によると、このツールはオーディオが変更されていないことを識別する際に 99% 以上の精度を維持します。
ただし、リリースによると、音声がコーデックまたはリバーブ変換を受けると、精度は 90% 以上に低下し、コンテンツが処理されるほど精度は低下します。
このツールは悪用を防ぐものではなく、最初の被害が発生した後の混乱を解消するのに役立つだけです。問題解決におけるその有効性には疑問がありますが、小さな一歩です。
AI生成技術が悪用されて公人が狙われるのはこれが初めてではない。たとえば、AI 音楽ジェネレーターは、どちらのアーティストも実際にはトラックに参加していないにもかかわらず、本物のように聞こえるドレイクとザ・ウィークエンドのコラボレーションを生成することができました。
また:AI が生成した音楽は音楽賞を受賞できますか?グラミー賞が新たなルールを発表
AI アートおよび画像ジェネレーターは、特定の活動を行っている著名人の偽のリアルな画像を生成するためにも使用されています。これらの画像の中には、政治的プロパガンダとして否定的に使用されているものもあれば、フグのコートを着た教皇フランシスコのミームなど、単に娯楽目的で使用されているものもあります。
AI Speech Classifier に加えて、イレブンラボ社は、同社の製品スイートに「プロジェクト」が追加されたことも発表しました。
「プロジェクト」は、長文の音声コンテンツを編集および作成するためのワークフローで、現在早期アクセスが可能です。リリースによれば、これはオーディオ編集のニーズに対応するワンストップショップとして機能し、オーディオ作成に「Google Docsレベルのシンプルさ」を提供することを目的としているという。
「プロジェクト」機能の追加は、Vimeo、TikTok、Adobe Express などの他のクリエイティブ プラットフォームで見られたものと似ています。これらすべてのプラットフォームの目標は、ユーザーのワークフローを最適化し、コンテンツの最適化された作成を容易にする方法で AI を実装することです。