Facebook で AI 画像が横行中、見分ける方法は次のとおりです

重要なポイント

AIで生成された写真はFacebookに氾濫しているが、テクノロジーの向上により気づかれないことも多い。
AI が生成した偽物を誰もが見分けられるわけではありません。AI が生成したビデオの登場は、まったく新しい問題を引き起こすでしょう。
AI によって生成された偽のコンテンツは、あらゆるソーシャルネットワークや Google Image などのリソースに蔓延しており、ウェブ全体の問題を引き起こしています。

AI 生成コンテンツの拡散は止めることができない大波であり、Facebook のようなソーシャルネットワークはその波で溢れています。では、このコンテンツはどのようにして見つけられるのでしょうか?また、なぜ本格的に共有されるのでしょうか?

AIが生成した写真がFacebookを引き継ぐ

DALL-E や Midjourney などのツールを使用してイメージを生成するには数秒かかりますが、これらのツールは更新されるたびに改善されています。 AI によって生成された写真を簡単に見分けることができる人もいますが、Facebook フィードに表示される内容に疑問を持たない人もいます。

「百聞は一見に如かず」はもはや真実ではありません。これは、Photoshop の初期の偽物の時代からずっと問題になっています。しかし、画像が手作業で加工されたことを示す明らかな兆候はいくつかありますが、AI によって生成された写真を特定するのははるかに難しい場合があります。

2024 年初頭、ペットボトルという奇妙なテーマを中心とした画像の波が Facebook を襲いました。これらの画像には、AI が生成した、完全にペットボトルで作られた物体の写真と、その作成を担当した人物 (通常は子供) が一緒に写っているのが一般的でした。

この流行は Facebook グループ内で始まったようで、彫像の多くは本質的に宗教的なものです。初期の例を次に示します。

しかし、このミームはすぐに人気を博し、多くのページが同じまたは類似のコンテンツを投稿および再投稿し、一見本格的に見えました。これらの画像には多くの場合、「私の息子がこれを作りました」風のキャプションが付けられており、AI によって生成された残忍な特徴が特徴でした（全体的なテーマの怪しさをさらに高めるため）。

これらの画像を投稿する主な動機は、エンゲージメントです。それらは特定の層、特に偽物であることにすぐに気づかない人々の共感を呼びます。ユーザーはコメントやリアクションを残すことでコンテンツに関与し、投稿のリーチがさらに高まります。 Facebook にはボットも溢れており、問題はさらに複雑になっています。

これは、Facebook などのネットワークでコンテンツが拡散される方法に影響します。投稿のエンゲージメントが高まるほど、投稿はさらに広がります。一部のページにとって、このリーチはスポンサー付きの投稿やアフィリエイトリンクで収益を得る機会を意味しますが、他のページにとっては、影響力のある立場に立つという行為で十分です。

AI の偽物を見分ける

AI が生成した写真の見分け方の基本については過去に説明しましたが、これは完璧な科学ではありません。画像を「スキャン」するために使用できるツールは 1 つだけではなく、すべての写真に偽物の特徴があるわけでもありません。そうは言っても、覚えておくべき基本的なことがいくつかあります。

現在のテクノロジーの現状を考えると、AI は完璧には程遠いです。多くの場合、AI によって生成された画像には問題があります。特に、指、持っている物体、メガネ、髪の毛などの細かい部分がゲームに影響を与える可能性があります。無生物の場合は、フェンスの支柱、窓枠、マテリアルの交差方法などの細い細部に注目してください。

この記事全体に点在する忌まわしいペットボトルのいくつかからわかるように、AI によって生成された画像の多くには、特定するのが難しい「見た目」や「オーラ」があります。顔が非人間的に見える「不気味の谷」効果の可能性があります。照明が平坦で不一致な場合があり、被写体が別の光源から照らされているかのように輝いて見える場合があり、オブジェクトを隣り合わせて配置すると正しく見えない場合があります。

ペットボトルの像の場合、どのロゴも適切に形成されていません。それらはどれも漠然と認識できるブランドのように見えますが、どれもあなたが期待するものとは異なります。彫刻の中でボトルが交差する方法は、しばしば意味をなさない。ペットボトルの構造は本物であり (温室を作るために使用されることもあります)、最近作られた AI の偽物とはまったく似ていません。

私たちは長い間、オンライン、特に Facebook で何を読むかを疑うように言われてきました。私たちは、ニュース記事、募金要請、偽の求人広告、詐欺師の可能性などに疑問を抱くのは普通のことだということを受け入れるようになりました。それを視覚メディア全体に拡張し、健全なレベルの懐疑心を維持する時期が来ています。

次はビデオです

コンピューター生成画像 (略して CGI) は、何十年にもわたって人々を魅了してきました。これらは映画で見られるエフェクトであり、人間によって手作りされ、実際の映像とブレンドされて映画のような魔法が生み出されます。 CGI は、説得力のある偽物のオンラインビデオを作成するためにも広く使用されています。

AI によって生成されたビデオは少し異なります。人間がイリュージョンを作成して手作業でブレンドするのではなく、プロンプトからビデオクリップを作成するために実際の映像でトレーニングされたモデルに依存します。 AI によって生成された説得力のあるビデオはまだ初期段階にありますが、OpenAI の SORA のようなモデルは、驚くべきペースでテクノロジーを前進させています。

プラスの面としては、AI によって生成されたビデオは、AI によって生成された写真を悩ませる多くの問題から逃れることはできません。 AI によって生成されたビデオを特定することは可能ですが、テクノロジーが向上するにつれて、それはさらに困難になります。それはまた、多くの人が疑問を持たない新境地でもあります。

私たちは何十年も画像の Photoshop を行ってきましたが、ビデオははるかに困難です。ビデオでは、ペットボトルから作られた動物や、印象的だがありそうもないエンジニアリングの偉業だけでなく、実在の人物、模擬ニュースレポート、欺瞞的な「公式」発表などが含まれます。

実際に知っている人々と連絡を取り合うためのツールとしてのみネットワークを使用する「Facebook クラシック」に戻る時期が近いかもしれません。近いうちに、毎日たくさんの面白い写真や感動的な写真やかわいい写真やビデオを信頼できなくなるかもしれません。このオプションは、「フィード」メニューの「友達」を選択すると見つかります。

Facebookだけの問題ではない

Facebook を名指しするのは不公平に感じますが、世界最大のソーシャルネットワークがたまたま AI が生み出すおバカ行為の温床になっているだけです。ページ管理者は、「いいね！」、フォロワー、リーチ、そして最も重要なエンゲージメントを求めて争うので、これは常にこのようになるでしょう。

Google 画像にも AI が生成した画像が氾濫しています。数年前に AI によって生成された写真の猛攻がウェブ上を襲って以来、アーティストたちは信頼できる参考資料の喪失を嘆いています。趣味のかぎ針編みをしている人たちが、存在しない誤解を招くパターンを避けるためのヒントを共有しています。

ブルームバーグは、Google の検索結果に表示される本物の写真を装った AI 生成画像の蔓延に関する記事とクイズを掲載しています。場合によっては、AI によって生成された画像が有名な人物や出来事の検索とともに表示され、現実を歪める可能性があります。

私たちは嘘だらけのインターネットの崖っぷちに立っている。これはウェブ全体の問題であり、あらゆるソーシャルネットワークとプラットフォームに影響を与えます。 AI 画像 (および近々ビデオ) 生成により、TikTok や Instagram などのプラットフォーム向けのコンテンツの作成が簡単になり、自然な音声合成ジェネレーターによりプロセスがさらに高速化されます。

これがインターネットの将来にとって何を意味するのか、少し考えてみる価値はあります。死んだインターネット理論は、私たちがオンラインで目にするコンテンツやインタラクションのほとんどはもはや人間のものではないという仮説を立てています。たとえこれが現在真実ではないとしても、将来そうなることを想像するのは難しくありません。

現時点では、AI によって生成されたとわかっているコンテンツを友人や家族が「いいね！」したり、コメントしたり、共有したりしているのを見かけたら、すぐに話し合う時期かもしれません。これを止めることはできませんが、より多くの人がこの問題に気づき始めており、これは重要な第一歩です。