コンテンツ認証情報とは何ですか? Adobe の新しい AI がこのメタデータを最前面に置く理由は次のとおりです
説得力があり、本物に見える偽のコンテンツがかつてないほど簡単に作成できる時代において、デジタル コンテンツ用のこれらの「栄養ラベル」が役に立ちます。
アドビは、生成 AI 分野の最前線に立っており、従来のテキストから画像へのジェネレーターから企業向けに特化したツールに至るまで、多くの AI ソリューションを発表してきました。アプリケーションに関係なく、変わらないことが 1 つあります。それは、コンテンツ認証情報の存在です。
今週の Adobe Summit で、同社は、Firefly と Adobe Experience Manager の新しい Structure Reference を含む、Content Credentials をクリエイティブおよびエンタープライズ アプリケーションに拡張しました。
この追加は、コンテンツの作成方法に関する情報を含む改ざん防止メタデータを含めることで、視聴者が本物のコンテンツと偽のコンテンツを区別できるようにするというアドビの継続的な取り組みを強調しています。この問題は、生成 AI ツールの存在感の増大によって悪化しています。
AdobeのContent Authenticity Initiative担当シニアディレクターのAndy Parsons氏は、「ここでのテクノロジーの問題は解決するのが最も簡単で、私たちはそれを解決しました。次に解決が難しいのは導入ですが、私たちは牽引力を示しています」とZDNETに語った。 。
サミットでアドビは、PricewaterhouseCoopers (PwC)、NBCUniversal News Group、WPP、および Autodesk が、「コンテンツの信頼性と来歴に関するオープンな業界標準の採用」を促進する組織である Content Authenticity Initiative に参加したことを発表しました。過去 1 年間、OpenAI、Meta、Google などの大手テクノロジー企業がコンテンツ認証情報の使用をサポートしてきました。
「これらの大手ブランドは、ロゴを提供してこれが良いアイデアだと言うだけでなく、実際にコンテンツ資格情報を実装するために参加していることがわかります」とパーソンズ氏は付け加えました。
コンテンツ認証情報とは何ですか?
では、なぜこれらの企業が一斉にコンテンツ認証情報に注目しているのでしょうか?コンテンツ認証情報とその使用方法を見てみましょう。
コンテンツ資格情報は、デジタル コンテンツの「栄養ラベル」として機能し、ユーザーが作成者の名前、作成日時、コンテンツの作成に使用されたツール (カメラやソフトウェア プログラムなど)、行われた編集など、コンテンツの重要な成分を確認できるようにします。 。
情報は暗号化メタデータと透かしを介してコンテンツに永続的に追加されるため、誰かがデータやコンテンツを変更した場合でも、資格情報は添付されたままになります。
コンテンツ認証情報は無料のオープンソース技術に基づいているため、作成者はコンテンツ認証情報を任意のコンテンツに添付して、適切なクレジットが付与されていることを確認できます。さらに、Adobe Firefly などの多くの AI アプリケーションは、コンテンツ認証情報を自動的に実装してコンテンツを生成します。
したがって、OpenAI や Meta などの生成 AI 分野の主要企業が、コンテンツ認証情報を使用して AI モデルで生成された画像にラベルを付けることにコミットメントを示し、すべての AI 生成画像にラベルが付けられる世界に向けて取り組んでいることは重要です。きちんと。
AI が生成した画像にラベルを付けることが非常に重要な理由
生成 AI ツールの人気が高まり、本物のように見える偽画像の作成がこれまで以上に簡単になるにつれて、AI によって生成されたコンテンツを適切に識別する必要性がますます重要になっています。
「[生成 AI] ツールが民主化され、低コストまたは無料になり、それらの低コストまたは無料ツールが生成する品質が現実と区別できなくなるにつれて、当然のことながら、[コンテンツ認証情報] はますます重要になります」とパーソンズ氏は述べています。
悪意のある攻撃者は生成 AI を使用して偽のコンテンツを作成し、誤った情報を広め、一般大衆を誤解させる可能性があります。この傾向は、選挙の年に特に差し迫った脅威をもたらします。
「本当の懸念は、おそらく2024年の今年の選挙がAI選挙の季節になるのではないかということだ。そこで人々は何が本当なのか、候補者が何をしているのか、何をしていないのかを理解できなくなるだろう...[それで十分だ]」システムに多くのノイズを加える欺瞞的なコンテンツです」とパーソンズ氏は付け加えた。
この脅威に対処するために、Adobe Firefly は、コンテンツ認証情報に加えて、AI 世代の政治家や有名人が侵入できないようにするための他の手段を講じています。
Adobe AI は、Adobe Stock 画像と著作権の期限が切れたパブリック ドメイン コンテンツについてのみトレーニングされました。この技術はこのデータに基づいてトレーニングされていないため、有名人や政治的候補者の画像を生成できません。
「つまり、これらのチェックの間には、そのメタデータを追加する機能と、オープンにライセンスされたコンテンツで画像モデルをトレーニングする方法が含まれます -- 私たちはオープンなインターネットをスクレイピングしているわけではありません -- Firefly 画像モデルではミッキーマウスを作成できませんでした本質的にミッキーマウスやドナルド・トランプが現れるわけではないからです」と、アドビの製品マーケティング担当副社長ディーパ・サブラマニアム氏はZDNETに語った。
著名人の生成を禁止しておらず、インターネットをスクレイピングしてトレーニングされているアプリケーションの場合でも、コンテンツ認証情報の存在により、ユーザーが画像の出所を簡単に確認できるため、出所とコンテンツの信頼性の問題に取り組むことができます。メタデータについて何も知らなくても大丈夫です。
コンテンツ認証情報の使用方法
消費者にとって、コンテンツ認証情報の使用を開始するのは簡単です。コンテンツの横に [コンテンツ資格情報] ピンが表示されている場合は、それをクリックすると、記事の上部の画像にあるように、画像の最も重要な情報がすべて表示されます。ピンが使用できない場合は、画像をコンテンツ資格情報 Web サイトにアップロードできます。
写真がアップロードされると、メタデータ内にコンテンツ認証情報がある場合、それらが表示されます。そうでない場合は、あなたの画像をインターネット上の類似の画像と照合し、それらの画像が AI によって生成されたかどうかを知らせます。
私はこのテクノロジーを試し、ダウンジャケットを着た教皇フランシスコの拡散画像のスクリーンショットを撮り、それをコンテンツ資格情報サイトにアップロードしました。スクリーンショットだったので、画像にはメタデータがありませんでした。しかし、以下の画像に見られるように、サイトはその写真をインターネット上で見つかった他の画像と照合し、AIによって生成されたものであることを特定しました。
コンテンツ認証情報の使用は直感的で簡単で、知りたいことを見つけるのに役立ちました。コンテンツ認証情報のピンがインターネット上に存在するようになると、時間の経過とともにさらに簡単になるでしょう。
「私自身、消費者として物事について学ぶ最善の方法は、実際に動作しているところを見ることだと思います。触ったり、クリックしたり、どのように機能するかを確認することです」とパーソンズ氏は語った。 「つまり、これらのリソースはすべて contentcredentials.org で入手できます。」
開示:サブリナ オルティスの Adobe Summit のためのラスベガスへの旅行費用は、業界の長距離旅行の一般的な慣行である Adobe によって負担されました。 ZDNETのライターや編集者の判断や意見は、 常に取材対象企業から独立したものです。