OpenAI の新しいツールは独自の DALL-E 3 AI イメージを検出できるが、落とし穴がある
このツールは、DALL-E 3 ジェネレーターによって作成されたイメージの 98% を識別することに成功しましたが、イメージが変更されるとその割合は低下しました。
AI が生成した画像を使用すると、偽のコンテンツを本物だと信じ込ませることができます。そのため、ChatGPT 開発者の OpenAI は、画像が独自の DALL-E 3 画像ジェネレーターを使用して作成されたかどうかを予測することを目的としたツールを開発しました。ただし、画像検出分類器の成功率は、画像が変更されたかどうか、およびどのように変更されたかによって異なります。
火曜日、OpenAI は最初のテスター グループに新しい画像検出ツールへのアクセスを許可しました。目標は、独立した研究者に協力してツールの有効性を検討し、現実世界での有用性を分析し、ツールがどのように使用できるかを判断し、AI によって生成されたコンテンツを決定する要因を調査することです。興味のある研究者は、DALL-E Detection Classifier Access Program Web ページでアクセスを申請できます。
OpenAI は社内でこのツールをテストしており、これまでの結果はある意味では期待が持てるものでしたが、他の面では残念なものでした。 DALL-E 3 によって生成された画像を分析すると、このツールは約 98% の確率で画像を正確に識別しました。さらに、DALL-E 3 によって作成されていない画像を分析する場合、このツールが DALL-E 3 によって作成されたものと誤認される確率はわずか約 0.5% でした。
OpenAIによると、画像への軽微な変更もほとんど影響を与えなかったという。内部テスターは、DALL-E 3 で作成された画像を圧縮、切り抜き、彩度の変更を適用することができ、このツールは成功率は低いものの、それでも比較的高い成功率を示しました。ここまでは順調ですね。
残念ながら、このツールは、より大規模な変更が加えられた画像ではうまく機能しませんでした。 OpenAIはブログ投稿の中で、「ただし、その他の変更によりパフォーマンスが低下する可能性がある」とだけ述べただけで、これらの事例の成功率については明らかにしていない。
OpenAIの研究者であるSandhini Agarwal氏は、画像の色相を変更するなどの条件下ではこのツールの有効性が低下するとウォール・ストリート・ジャーナルに語った（購読が必要）。 OpenAIは、外部テスターにツールへのアクセスを提供することで、この種の問題を解決したいとAgarwal氏は付け加えた。
内部テストでは、他社の AI モデルを使用して作成された画像を分析するツールにも挑戦しました。このような場合、OpenAI のツールはこれらの外部モデルからの画像の 5% ～ 10% しか識別できませんでした。アガルワル氏は同誌に対し、色合いを変えるなど画像に修正を加えることも効果の急激な低下につながると語った。これも OpenAI がさらなるテストで修正したいと考えているもう 1 つの制限です。
OpenAI の検出ツールの利点の 1 つは、透かしに依存しないことです。他の企業は、画像が自社の AI ツールによって生成されたものであることを示すためにウォーターマークを使用していますが、これらは非常に簡単に削除でき、効果がなくなってしまいます。
AI によって生成された画像は、選挙の年には特に問題になります。国の内外を問わず、敵対的な政党はそのようなイメージを簡単に利用して、政治的候補者や理念を否定的に描くことができます。 AI 画像ジェネレーターが進歩し続けていることを考えると、何が本物で何が偽物かを見極めることはますます困難になってきています。
この脅威を念頭に、OpenAI と Microsoft は、有権者や脆弱なコミュニティにおける AI 教育とリテラシーを拡大するために、200 万ドルの社会回復基金を立ち上げました。世界中で 20 億人が今年の民主選挙にすでに投票したか、投票する予定であることを考えると、その目標は、個人がデジタル情報をより適切にナビゲートし、信頼できるリソースを見つけられるようにすることです。
OpenAIはまた、C2PA（Coalition for Content Provenance and Authenticity）の運営委員会に参加するとも発表した。 C2PA は、コンテンツが特定のソースからのものであることを証明するために使用され、ソフトウェア プロバイダー、カメラ メーカー、オンライン プラットフォームによって採用されているデジタル コンテンツ認証の標準です。 OpenAIによると、C2PAメタデータはDALL-E 3とChatGPTで作成および編集されたすべての画像に含まれており、間もなくOpenAIのSoraビデオジェネレーターで作成されたビデオにも表示される予定だという。