Snap は、透かしを使用して Snapchat の AI 生成画像を識別できるようにしたいと考えています

透かしは、Snap の AI ツールで作成され、カメラ ロールにエクスポートまたは保存された画像に表示されます。

Snap は、実際の画像と AI ツールによって生成された画像をより適切に区別できるようにする透かし機能を展開する予定です。火曜日、モバイル メッセージング会社は、Snapchat が Snap の生成 AI ツールを使用して作成された画像に透かしを追加すると発表しました。

透かしは、おなじみの輝きアイコンが付いた小さなゴースト ロゴとして描かれ、エクスポート、ダウンロード、またはカメラ ロールに保存された画像に表示されます。画像を受け取った人は誰でも、Snapchat 内とプラットフォーム外の両方でロゴとアイコンを見ることになります。

近年、Snap は AI を活用したさまざまなツールをデビューさせました。 AI を使用して壁紙を生成して会話を盛り上げたり、奇妙なレンズで顔を変えたり、Snapchat Dreams を通じてさまざまなシーンに自分を配置したり、My AI チャットボットとチャットしたり、仮想ペットを作成したりすることもできます。

ここでのジレンマは、AI が生成した画像が本物であると人々が簡単に騙されてしまう可能性があることです。確かに、私がエイリアンやタコのように見えるフィルターをかけて撮影した写真を共有した場合、相手はそれが本物ではないことを知っています（エイリアンや話す海の生き物を信じている場合を除く）。また、AI ツールによって何かが非常に正当なものであるかのように見える場合もあります。

Snap はすでに、AI が生成した特定のアイテムにタグを付けるためにいくつかのトリックを使用しています。 AI を活用した Snapchat 機能を操作すると、コンテキスト アイコン、シンボル、ラベルが表示されます。 AI によって作成された Dreams 画像には、より詳細なコンテキスト カードが表示されます。拡大ツールを使用してさらにズームアウトして表示される画像には、AI が生成したものであることを示す輝きのアイコンが追加されます。

AIは政治的な理由で使用および悪用されるため、Snapはまた、従業員が政治広告に誤解を招くようなコンテンツの使用がないか精査していることにも言及した。特に、AI が欺瞞的な画像を作成するために使用された兆候を探します。

Snapはニュースリリースの中で、同社は自社のAIモデルに潜在的な欠陥を見つけてテストすることも試みていると説明した。 Snap は、内部または外部の人々が脆弱性を悪用したり生成 AI モデルの安全装置をすり抜けようとするハッカーや攻撃者になりすますプロセスであるレッドチームを使用します。 Snap の場合、レッド チーマーは潜在的にバイアスがかかっている AI の結果とコンテンツを探します。

Snapはリリースの際、「私たちはAIテクノロジーがコミュニティの自己表現能力や相互接続能力を向上させる大きな可能性を信じている。そして私たちはこれらの安全性と透明性のプロトコルを改善し続けることに全力で取り組んでいる」と述べた。