リアルタイムのディープフェイク検出: インテル研究所が AI を使用して誤った情報と戦う方法
Intel の Ilke Demir 氏が、ディープフェイク技術がどのように機能するのか、そして AI 研究者が人類学者、社会科学者、学術研究者と協力することがなぜ不可欠なのかについて説明します。
数年前、ディープフェイクは、その作成者が本格的なコンピューティング能力に依存している新しいテクノロジーのように見えました。現在、ディープフェイクは至る所に存在しており、誤った情報、ハッキング、その他の不正な目的に悪用される可能性があります。
Intel Labs は、この増大する問題に対処するために、リアルタイムのディープフェイク検出テクノロジーを開発しました。 Intel の上級研究員である Ilke Demir が、ディープフェイクの背後にあるテクノロジー、Intel の検出方法、およびそのようなツールの開発と実装に伴う倫理的考慮事項について説明します。
ディープフェイクとは、俳優やアクションが本物ではなく、人工知能 (AI) によって作成されたビデオ、音声、または画像です。ディープフェイクは、敵対的生成ネットワーク、変分自動エンコーダー、その他の AI モデルなどの複雑なディープラーニング アーキテクチャを使用して、非常に現実的で信頼できるコンテンツを作成します。これらのモデルは、合成パーソナリティ、リップシンクビデオ、さらにはテキストから画像への変換を生成する可能性があるため、本物のコンテンツと偽物のコンテンツを区別することが困難になります。
ディープフェイクという用語は、酩酊しているように見せるために加工された2019年のナンシー・ペロシ元下院議長の動画など、改変された本物のコンテンツに適用されることがある。
デミール氏のチームは、機械によって生成されたコンテンツの合成形式である計算ディープフェイクを調査しています。 「これがディープフェイクと呼ばれる理由は、生成 AI の複雑なディープラーニング アーキテクチャがすべてのコンテンツを作成しているためです」と彼女は言います。
サイバー犯罪者やその他の悪者は、ディープフェイク技術を悪用することがよくあります。使用例としては、政治的な誤った情報、有名人や同意のない個人が出演するアダルト コンテンツ、市場操作、金銭的利益を目的としたなりすましなどが挙げられます。これらの悪影響は、効果的なディープフェイク検出方法の必要性を強調しています。
Intel Labs は、世界初のリアルタイムディープフェイク検出プラットフォームの 1 つを開発しました。このテクノロジーは、偽造品を探すのではなく、心拍数などの本物を検出することに重点を置いています。この検出システムは、光電容積脈波計と呼ばれる技術を使用して、酸素含有量による静脈の色の変化を分析し、コンピュータで可視化できます。この技術は、人格が本物の人間なのか合成なのかを検出できます。
「私たちは何が本物で本物なのかを見ようとしている。心拍数は（信号の）1つだ」とデミル氏は語った。 「心臓が血液を送り出すと、血液は静脈に送られ、酸素含有量によって静脈の色が変わります。それは私たちの目には見えません。このビデオを見て心拍数を確認することはできません。しかし、その色の変化は計算上可視化されます。」
インテルのディープフェイク検出テクノロジーは、ソーシャル メディア ツール、通信社、放送局、コンテンツ作成ツール、新興企業、非営利団体など、さまざまなセクターやプラットフォームに導入されています。このテクノロジーをワークフローに統合することで、これらの組織はディープフェイクや誤った情報の拡散をより適切に特定し、軽減することができます。
悪用の可能性があるにもかかわらず、ディープフェイク技術には正当な用途があります。初期の用途の 1 つは、デジタル環境で個人をよりよく表現するためのアバターの作成でした。デミール氏は、ディープフェイクを利用してオンライン プラットフォーム上のプライバシーを強化する「MyFace、MyChoice」と呼ばれる特定のユースケースについて言及しています。
簡単に言うと、このアプローチにより、個人がオンライン写真での自分の外見を制御し、認識されたくない場合に自分の顔を「定量的に似ていないディープフェイク」に置き換えることができます。これらの制御により、プライバシーと個人のアイデンティティの制御が強化され、自動顔認識アルゴリズムに対抗するのに役立ちます。
AI テクノロジーの倫理的な開発と実装を確保することが重要です。インテルの Trusted Media チームは、人類学者、社会科学者、ユーザー研究者と協力してテクノロジーを評価し、改良しています。同社には、責任ある AI 評議会もあり、潜在的な偏見、制限、潜在的な有害な使用例など、AI システムの責任ある倫理原則を審査します。この学際的なアプローチは、ディープフェイク検出などの AI テクノロジーが人間に害を及ぼすのではなく、確実に利益をもたらすようにするのに役立ちます。
「私たちには法律関係者、社会科学者、心理学者がいます。そして彼ら全員が協力して、アルゴリズムのバイアス、体系的なバイアス、データのバイアス、あらゆる種類のバイアスの有無を確認するために限界を特定しています」とデミール氏は言います。 。チームはコードをスキャンして、「人々に害を及ぼす可能性のあるテクノロジーの使用例」を見つけます。
ディープフェイクがより蔓延し、洗練されるにつれて、誤った情報やその他の有害な結果と戦うための検出テクノロジーの開発と実装がますます重要になっています。 Intel Labs のリアルタイム ディープフェイク検出テクノロジーは、この増大する問題に対してスケーラブルで効果的なソリューションを提供します。
インテルは、倫理的配慮を取り入れ、さまざまな分野の専門家と協力することで、AI テクノロジーが社会の向上のために責任を持って使用される未来に向けて取り組んでいます。