AI によって生成されたビデオを特定する方法は次のとおりです (現時点では)
クイックリンク
- AI が生成したコンテンツを見つけるのは難しい場合があります
- 微妙な変化と「幽霊」に注意してください
- AI は指、メガネ、細かい要素に苦戦
- 画像の背景にあるオブジェクトをよく見る
- 照明と「AIオーラ」
- 不気味の谷効果
- ナンセンスに注意してください
- このコンテンツをより正確に見つけられるように自分を訓練してください
OpenAI の SORA テキストからビデオへのモデルの登場により、私たちは AI 生成ビデオで満たされた避けられない未来を目の当たりにしています。ただし、このテクノロジーはまだ完成されていないため、（現時点では）AI によって生成されたビデオを見つけるためのヒントをいくつか紹介します。
AI が生成したコンテンツを見つけるのは難しい場合があります
一見すると、AI が生成したビデオを本物だと見誤るのも無理はありません。もう少し深く観察し始めて初めて、何かがおかしいことに気づき始めるかもしれません。
この記事で説明するすべての例は、2024 年 2 月に発表された OpenAI の SORA テキスト-ビデオ モデルに関するものです。これは、テキスト プロンプトを動画に変換する、この種のモデルの中で最も先進的なモデルです。 2023 年初頭にスパゲッティを食べる悪名高きウィル・スミスの Reddit 投稿が浮上して以来、状況は大きく前進しました。この記事を書いている 2024 年 3 月の時点では、SORA はまだクローズド テスト中です。
AI によって生成された写真やビデオを発見することは、精密な科学というよりはむしろ芸術です。写真が AI によって生成されたものであるかどうかを確認する方法はありますが、一貫して機能するわけではありません。 AI コンテンツを検出するように設計されたツールは、たとえテキストであっても信頼できないことがよくあります。
ここでの目的は、少なくとも現時点では、AI によって生成されたコンテンツを選択できる方法をいくつか紹介することです。モデルは常に進化しているため、これらの特徴を見つけるのはますます困難になることに注意してください。場合によっては、ビデオの主題とコンテキストの選択が大きな違いを生むことがあります。
微妙な変化と「幽霊」に注意してください
微妙な変化を探すことは、説得力のある AI の偽物を見分ける方法の 1 つですが、それは決して簡単ではありません。 OpenAI の SORA の一例には、ネオンが輝く東京の街を歩く女性が描かれていました。このシーンは、テキストからビデオへのツールとしては印象的であり、映像の終わりの方のワードローブの変化を見逃したかもしれないほど印象的です。
冒頭シーンの女性の服装は、赤いドレスにフルレングスのカーディガンと革のジャケットを着ています。カーディガンはジャケットに溶け込んでいるように見える点で少し奇妙ですが、私はミスターファッションというわけではないので、パスします。
同じ服をクローズアップして見てみると、ドレスには黒い斑点があり、レザー ジャケットのラペルは中心からずらして大きくなっていることがわかります。
これは非常に微妙なため、ほとんどの人はそれを見つけるために映像を何度も見る必要があります。シーンは密度が高く、映り込みや背景の俳優でいっぱいで、失言から注意をそらすのに役立ちます。
他に注意すべきものは、幽霊、つまり存在と消滅を繰り返す物体です。ゴールドラッシュに沸くカリフォルニアの町を映した OpenAI のビデオは、その良い例です。この漠然とした見た目の人物を見てください。おそらくあなたの脳は、馬を連れた男性として解釈します。
2秒後、人影は完全に消えた。ビデオを見ると、この人物が幽霊であるかのように土の中に溶け込んでいるのがわかります。
AI は指、メガネ、細かい要素に苦戦
AI 生成モデルの最大の問題の 1 つは、四肢と細い線です。特に、手、持っている物体、眼鏡、および物体と人間の特徴 (帽子、ヘルメット、髪の毛など) との相互作用をよく観察してください。
ビデオでは、AI で生成された写真に比べて、この種のエラーはシーンごとに変化する可能性があるため、発見しやすくなります。
指と手の配置は、AI にとって特に困難です。生成モデルでは、予想よりも指が多かれ少なかれ手を生成する傾向があります。時々、物事が正しく見えなかったり、指が非常に細かったり、指の関節が多すぎたりすることがあります。手に持った物体も同様の奇妙さを示し、フレーム内の人間が手に持っているものを吸収したように見えることもあります。
左右対称ではないメガネ、または顔に溶け込んでいるメガネを探してください。ビデオでは、ビューが段階的に表示されたり表示されなくなったり、シーン間で変化したりする場合もあります。腕と脚にも同じことが当てはまります。ナイジェラのラゴスの人々を映したこの SORA ビデオをご覧ください。
あなたの3本目の腕を私の足から外してもらえますか？
画像の背景にあるオブジェクトをよく見る
AI で生成されたビデオに関しては、写真以上に背景の詳細がまったく役に立たないことがよくあります。優れたフェイクは、背景が本来あるべき動きをしていないことに注意をそらしてしまうほど、被写体に説得力があるかどうかにかかっています。
東京の夜景の動画をもう一度見てみましょう。このシーンは非常に密度が濃いので、すべてを額面どおりに受け取るのは簡単ですが、背景で歩いている人々、特に被写体の左側にいる人々をよく見てください。
この動きの一部は正しく見えません。ある時点で、人は自分自身を複製しているように見えます。その後、人々のグループのように見えるものが、あたかも全員が同じスカートやオーバーコートを着ているかのように、段階的に 1 つのオブジェクトに変化します。一部のエリアでは、歩行アニメーションも奇妙です。
AI によって生成されたビデオを特定するために、疑わしいバックグラウンド アクティビティに注意してください。木、野原、森林などの自然物が奇妙な方法で相互作用していることに気づくことがあります。視点がずれているように見えたり、動いているオブジェクトがアニメーションで描かれているパスと完全に一致しない場合があります。
もう 1 つの例は、OpenAI のビッグサー海岸線のドローン撮影です。自然界でこれほどまっすぐに見える波を見たことがありますか?
照明と「AIオーラ」
これは、AI が生成した写真でよく見られるもので、客観的に識別できる特徴というよりは、おそらく「感触」に近いものです。もっと変化が予想される場面で、照明が特に平坦で不自然に感じられる場合は、それが現実ではない可能性があることを示している可能性があります。
たとえば、ブルーミング、ハイライトの白飛び (レンズに入る光が多すぎるためにハイライトが失われる)、またはシャドウ ロールオフ (光がないために影のディテールが失われる) などのカメラの欠陥がないことは、単に問題ではありません。現在。
すべてが高度に制作されたミュージック ビデオのように見えたり、リアルなライティングやレイトレーシングがなかった時代のビデオ ゲームのように見えたりすることがあります。被写体が完全に明るくなっていないと予想される場合でも、被写体が完全に明るく見えることがあります。
不気味の谷効果
不気味の谷効果とは、人間の特徴と非人間的な特徴が混ざり合って、見る人に不快感を与えることを表すために使用される用語です。アンドロイドや人間に似たロボットは、外見的には人間であるが、同時に避けられない非人間性であるため、よく例に挙げられます。
多くの場合、不気味の谷効果は単に感情によって引き起こされます。何かがおかしいと感じることはできますが、それが何なのかを正確に特定することはできません。この効果は、AI が生成した写真やビデオでよく表れますが、私がそれを体験した領域の 1 つは、SORA の宇宙飛行士のビデオです。
問題の宇宙飛行士がニットの宇宙用ヘルメットをかぶっていることを一瞬無視すると、この顔には背筋がゾクゾクする何かがあります。
また、誕生日のろうそくの火を吹き消し損ねた同様に残忍な祖母もいますが、動いているとさらに悪く見えます。
ナンセンスに注意してください
これは危険信号を見つけるのが最も簡単なように思えますが、場合によっては脳が物事を無視してしまうことがあります。前述の宇宙飛行士のビデオはその良い例です。ドア、ハンドル、レバー、 または何かの意味不明な短いシーンがあります。
これは何ですか？アニメーションが逆再生されているように見えるのはなぜですか?ニットヘルメットは許せるが、これは見た瞬間から私を困惑させた。
動きも同様です。 SORA の猫のベッドビデオは印象的ですが、動きが正しくありません。猫の飼い主は、その行動が奇妙で不自然であることに気づくでしょう。被験者の行動と状況のコンテキストの間に不一致があるように感じます。時間が経つにつれて、これは改善されます。
文字化けしたテキストは、AI 生成プロセスがよく間違えるもう 1 つの良い例です。 SORA の東京の夜景ビデオにある日本語の文字はごちゃ混ぜで、道路やお店の標識の一部も同様です。ほとんどの人が日本語と悪い賛辞を区別できないシーンを選択したことは、OpenAI 側の賢明な選択でした。
このコンテンツをより正確に見つけられるように自分を訓練してください
AI が生成したコンテンツを見つけるために自分を訓練する最良の方法は、自分で学習することです。ほとんどの生成モデルには、Web と Reddit などのソーシャル メディア プラットフォームの両方に活発なコミュニティがあります。いくつか見つけて、人々が何を思いついたのか見てみましょう。
これに加えて、Stable Diffusion などのツールを使用して独自の画像を生成することもできます。この記事の執筆時点では、OpenAI の SORA は一般公開されていないため、自分で使用する前に待つ必要があります。
AI によって生成されたビデオは、印象的で魅力的であると同時に恐ろしいものでもあります。時間の経過とともに、モデルが弱点を克服するにつれて、これらのヒントの関連性は薄れる可能性があります。まだ何も見ていないので、シートベルトを締めてください。