確実な AI ウォーターマークを求めて
課題は、AI コンテンツが向上するにつれて、電子透かしを入れる AI 出力がより複雑になることです。
本物とほとんど区別がつかない(余分な指を除いて)「ディープフェイク」写真、AIが生成した本物のように聞こえる記事や期末レポート(それでも高尚な印象を与えるが)、AI。 -生成されたレビュー、その他多数。さらに、AI システムは著作権で保護された素材や知的財産をトレーニング データとして Web サイトからスクレイピングし、ユーザーを潜在的な違反にさらす可能性があります。
問題は、もちろん、AI コンテンツが改良され続けていることです。 AI によって生成されたマテリアルを識別する絶対確実な方法はいつか現れるのでしょうか?そして、AI クリエイターとその企業は、新たな技術について何を理解すべきでしょうか?
Constellation Researchのバイスプレジデント兼主席アナリストのアンディ・トゥライ氏は、「生成AIの当初のユースケースは娯楽と教育目的であったが、現在では悪意のある目的でAIを利用する悪意のある者が数多く見られる」とZDNETに語った。
画像、ビデオ、オーディオファイルなどのメディアコンテンツは、特に「クレジットが誤ってクレジットされたり、盗用されたり、盗まれたり、あるいはクレジットがまったくクレジットされない」可能性が高いとトゥライ氏は付け加えた。これは、「クリエイターが適切な信用や収入を得られなくなる」ことを意味します。同氏は、さらなる危険は「意思決定に影響を与える可能性のある偽情報の拡散」だと述べた。
シカゴ大学のアロニ・コーエン助教授率いる研究者らによって執筆された最近の論文によると、テキストの観点から見ると、重要な問題は、言語モデルに対する複数のプロンプトと反復によって透かしが消えてしまったり、最小限の情報しか提供されない傾向があることだという。大学。彼らは、新しいアプローチであるマルチユーザー ウォーターマークを求めています。これにより、「適応的なプロンプトが存在する場合でも、モデルによって生成されたテキストを個々のユーザーまたは共謀しているユーザーのグループまで追跡できるようになります」。
テキストとメディアの両方にとっての課題は、言語モデルと AI 出力に電子透かしを入れることであり、変更または削除できない検出可能な信号を埋め込む必要があります。
絶対確実な AI ウォーターマークを開発するための業界全体の取り組みが進行中です。たとえば、Adobe、Arm、Intel、Microsoft、Truepic の提携を通じて結成された共同取り組みであるコンテンツ来歴と信頼性に関する連合 (C2PA) は、パブリッシャー、クリエイター、および消費者に提供することを目的としたオープンな技術標準を開発しています。」さまざまな種類のメディアの起源を追跡する能力。」
C2PA は、デジタル メディアのコンテキストと履歴を提供するシステムに焦点を当てている Adobe 主導の Content Authenticity Initiative (CAI) と、デジタル ニュース エコシステムにおける偽情報に取り組む Microsoft と BBC 主導の取り組みである Project Origin の取り組みを統合します。
Shutterstock の Alessandra Sala 氏は、国際電気通信連合 (ITU)、つまり国連が発行した報告書の中で、「検出ツールへの標準化されたアクセスがなければ、コンテンツが AI によって生成されたものであるかどうかを確認することはコストがかかり、非効率で、場当たり的なプロセスになる」と述べています。デジタル技術の代理店。 「実際には、利用可能な AI 検出ツールをすべて一度に試してみても、一部のコンテンツが AI によって生成されたものかどうか確信が持てないことになります。」
生成 AI プラットフォームの普及により、「汎用検出ツールとともに透かし入りモデルの公開レジストリが必要になります」とサラ氏は主張しました。 「それまでは、倫理的な AI ユーザーは、コンテンツに透かしが入っているかどうかを確認するために、各企業の透かしサービスにアドホックにクエリを実行する必要があります。」
C2PA イニシアチブは、「コンテンツ認証情報、デジタル コンテンツに添付できる改ざん防止メタデータの広範な採用」を促進するとトゥライ氏は説明しました。 同氏は、コンテンツの認証情報を、クリエイターがデジタル コンテンツに添付できる「栄養ラベル」に相当し、コンテンツの出所を追跡するために使用できると考えています。」 このオープン スタンダードにより、出版社、クリエイター、消費者は「出所を追跡し、画像、ビデオ、オーディオ、ドキュメントなどのメディアの進化です」と彼は付け加えた。
その仕組みは、コンテンツ作成者が「作成したコンテンツに自分の名前やソーシャルメディアアカウントなどの情報を直接添付することで、オンラインで自分の作品を評価してもらうことができる」とトゥライ氏は語った。これには、コンテンツに付けられたピンをクリックするか、Web サイトにアクセスして出所を確認するだけです。このようなツールは「関連情報を検証するだけでなく、時間の経過に伴う詳細な変更履歴も提供します」。