すべての「Made With AI」画像が AI によって作られたわけではない
クイックリンク
- AI メディアは非常にリアルなので、現実と区別するのに助けが必要です
- Meta のラベリングは AI 生成と AI 支援をひとまとめにする
- AI 生成と AI 支援に違いはありますか?
- Meta の AI ラベリングは確実ではない
- 写真の新しいスタンダードが目前に迫っています
Meta は最近、ユーザーが本物のコンテンツと AI で生成されたコンテンツを区別できるようにする新しい「Made with AI」タグを導入しました。問題は、完全にAIで作成された画像とAIで編集しただけの画像にタグが無差別に表示されることだ。これにより、AI がどの程度画像を汚すのに十分なのかについての議論が巻き起こり、何が本物で何が偽物なのかについてさらに混乱が生じています。
AI メディアは非常にリアルなので、現実と区別するのに助けが必要です
スタイリッシュなダウンジャケットを着た教皇の写真を覚えていますか?一見すると、それはまったく普通のことのように見え、私たちは皆、教皇の品物の上で眠っているだけだと思っていました。しかし、後にその写真はAIが生成したものであることが判明した。
目の細かい櫛でもう一度確認してみると、画像が AI によって生成されたものであることがわかります。しかし、それが問題なのです。それほど熱心に Web を閲覧している人は誰もいません。
AI 画像生成サービスの普及により、数百万とは言わないまでも、数千枚の AI 生成画像が Web 上に出回っています。 Facebook にはすでに AI によって生成された大量の画像があふれており、他のソーシャル メディア プラットフォームもそれに遠くありません。
ほとんどの人は、これらの画像が AI によって生成されたものであるという兆候を見逃して、それらを現実の正確な表現だと考えるでしょう。選挙シーズンが近づき、誤った情報や嘘が蔓延する時代において、捏造と現実を区別できるかどうかのリスクはかつてないほど高まっています。
これを念頭に置いて、Meta は Facebook、Instagram、Threads にアップロードされた AI 生成画像にラベルを付けて、人々が簡単に見分けられるようにし始めました。ただし、誰もがこの計画の実行方法に満足しているわけではありません。
Meta のラベリングは AI 生成と AI 支援をひとまとめにする
Meta の AI ラベル付けをめぐる騒動は、同社が AI を使用して写真のようにリアルな画像を生成することと、AI プロセスを使用して写真を編集することを区別していないという事実に端を発しています。メタに関する限り、どちらも同じカテゴリに分類されます。
多くの被害を受けた写真家がソーシャルメディアで自分たちの身に起こった例を共有している。元ホワイトハウスカメラマンのピート・ソウザさんは、バスケットボールの試合で撮った写真を投稿する際に「AIで作成」のチェックを外すことができなかったと不満を漏らした。
別の写真家、ピーター・ヤン氏は、生成 AI ツールを使用して写真内のゴミ箱を削除したため、富士山の画像に「Made With AI」のタグが付けられました。
AI 生成と AI 支援に違いはありますか?
Meta の AI タグをめぐる議論の核心は、生成 AI ツールで最小限の編集しか行われていない画像であっても、画像に「Made With AI」というラベルを付けることが公平であるかどうかです。
当然のことながら、生成 AI ツールを使用する写真家は、自分の作品に「Made With AI」というラベルを付けたくないでしょう。この用語は、多くの AI プログラムが同意なしに著作権で保護された作品に基づいてトレーニングされていることを考慮すると、シーンが捏造されたものであることを示唆し、他人の作品から利益を得ていることを暗示しています。さらに、彼らの作品に「Made With AI」というラベルが付けられると、最終的な写真の作成にかかる労力とスキルが損なわれてしまいます。
反対側では、Meta のラベル付けを支持する人々は、どんなに小さなものであっても、生成 AI ツールを使用すると AI が導入されると主張します。したがって、その写真はもはや撮影したシーンを正確に表現したものではなく、技術的には「Made With AI」のカテゴリーに分類されるはずです。
アンチラベラーは、人々は永久に写真を編集していると反論します。AI で写真の背景を削除することと、魔法の杖を使用することの間に、本当に違いがあるのでしょうか?メタが現実をありのままに描写することをそれほど重視しているのであれば、写真が何らかの方法で変更されたときを識別するタグがあるべきではないでしょうか?
彼らは続けて、Galaxy S20 Ultraの「スペースズーム」からAdobe Photoshopのジェネレーティブフィルなどの業界標準の写真編集アプリに至るまで、あらゆるものにAIツールが組み込まれていると指摘しています。AIによる微調整を加えた画像に「Made With」というラベルを付けることで、 AI」としてメタが作成した「オオカミ少年のシナリオ」では、罪のない画像が「AI 製」というラベルが付けられ、人々がそのラベルに対する信頼を失い、実際の誤った情報を伝える AI コンテンツの影響を受けやすくなります。
妥協点を見つけようとして、AI による最小限の変更しか加えられていない画像には別の「AI 支援」タグを付けることを提案する人もいます。しかし、その考えはすぐに困難に直面します。写真が「AI で作られた」とみなされるまで、AI による修正はどの程度許可されるべきですか?そして、そのようなシステムは何らかの目的を果たすでしょうか?悪意のある者が AI を使って画像の一部を変更して、誤解を招くシーンを作成することはできないでしょうか?
Meta の AI ラベリングは確実ではない
いずれにしても、その気になれば誰でもタグを完全に避けられる可能性があるため、「Made With AI」に関する議論全体が議論の余地があるかもしれません。メタは写真のメタデータ内の情報に基づいて AI プロセスを識別しますが、それを削除するのは簡単です。 PetaPixel はテストで、単に画像をコピーして空白のドキュメントに貼り付けるだけでタグを回避でき、画像のスクリーンショットを投稿することでもタグを回避できることを発見しました。
Meta のプラットフォームには明らかに AI によって生成されたタグのない画像がいくつか存在するため、ラベル付けの信頼性も疑われます。対照的に、AI のない他の画像には、AI が適用されます。
写真の新しいスタンダードが目前に迫っています
現在の混乱した状況にもかかわらず、地平線には希望が見えてきます。大手デジタル メディア プレーヤーの多くは、写真やビデオの出所と認証に重点を置いて再考しています。この分野は今後数年間で大きな変革が起こるのではないかと私は考えています。すでに、デジタル メディアを認証するための新しい取り組みが行われており、その最大のものは、Coalition for Content Provenance and Authenticity (略して C2PA) です。
C2PA は、Adobe、Arm、Intel、Microsoft、Google などの大手テクノロジー企業間の共同プロジェクトで、すべてのデジタル メディアにコンテキストと歴史を提供することを目的としています。その背後にある考え方は、撮影の瞬間からデジタル記録が作成され、すべてのメディアに結合され、どこで、どのカメラで、誰によって撮影されたのかが詳細に記録されるということです。その後、被写体に対して行われたすべての編集もこの記録に追加され、このすべての情報が最終閲覧者に提供されるため、最終閲覧者は写真の出所を常に認識できるようになります。
C2PA はまだ初期段階にありますが、この規格をサポートする新しいカメラはすでに生産されており、それが標準になるまでそう長くはかからないと思われます。
AI が生成したものと何が本物であるかを区別することはこれまで以上に困難になっており、メタの新しいラベルが問題を解決するのに役立っているわけではありません。 C2PA のような取り組みは暗いトンネルの先にある光ですが、一般に普及するにはまだ時間がかかります。
自分が消費するメディアを批判的な目で評価し、見ているものが本物であることを確認するのはあなたの責任です。出典に疑問を持ち、追加情報を求めてください。また、すべての「Made With AI」画像が AI によって作成されたわけではないことを覚えておいてください。