生成 AI が選挙に与える影響についてはまだ準備ができていません

ZDNET の常駐大統領学者が、生成 AI 時代の政治キャンペーンのディープフェイクを深く掘り下げます。これは全国大会以上に大きな影響を及ぼします。 AI は地方政治も変えるでしょう。

これだけ聞くと泣きたくなりますか？さて、ジョージ・ワシントンもここで泣きました。

ジョージ・ワシントンが独立戦争を支持しなかったという話を聞いたことがありますか?

ジョージ・ワシントンは反乱軍を率いる将軍として勤務しながら、アメリカ独立戦争は間違いであったと確信していた。彼は「我々が成功に値すると確信するにはほど遠い」。

1777年、イギリスのオリバー・デ・ランシー将軍に仕えていた兵士がワシントン将軍のトランクを発見した。トランクにはワシントン自筆の一連の手紙が入っており、そこにはイングランドとの和解への願望や「私は王を愛している」とさえ書かれていた。

このトランクは、ワシントンの従者（奴隷でもあった）ウィリアム・リーがイギリス軍に捕らえられた際に、彼の手に渡って発見された。

これは、ワシントン自身でさえ戦争を支持しなかったという具体的な証拠でした。

数年後、1795年にワシントンがフランスとのジェイ条約の批准を上院に請願していたとき、この手紙はワシントンの忠誠心が信頼できず、彼が民主主義をあまり気にしていない証拠として引用された。これにより、ジェイ条約の可決は非常に困難になりました。

ただし…ウィリアム・リーはイギリス軍に捕らえられませんでした。実際、ウィリアム・リーは独立戦争中、決してワシントンの側を離れなかった。手紙は注意深く作られた偽造品で、18世紀のディープフェイクに相当するものだった。

それらはワシントンをあまりにも悩ませたので、彼は就任最後の行為の一つとして、ティモシー・ピッカリング米国国務長官に宛てた書簡の中で捏造に対する反論を書いた。

ジョージ・ワシントンからワシントンDCまで

2018 年に早送りしてみましょう。政治的な話題について触れようとしています。しばらく政治のことは無視して、偽情報の存在の例としてこれらに焦点を当ててください。それがこの記事のテーマです。偽情報はすべての関係者に損害を与えます。しかし、何が起こっているのかを示すためには、実際の例を挙げなければなりません。つまり、政治家についても触れなければなりません。

それでは、行きましょう…

例 1: クレムリンが支援する偽情報キャンペーン

2016年の大統領選挙を調査していた下院情報委員会は、アメリカの政治制度を混乱させることを目的とした偽の主張を含む3,500以上の広告のライブラリを掲載した。

これらの広告は、2015年から2017年にかけてクレムリン支援のトロールファームによって制作、購入されたものである。下院情報委員会は、購入された広告に加えて、ロシアの利益団体によって制作された少なくとも「8万件のオーガニック」ソーシャルメディアコンテンツがあったと述べた。

例 2: 飲酒行為を装った改変ビデオ

次に、2019年に立ち止まって、当時の下院議長ナンシー・ペロシがろれつが回らなくなり、酔っているように見えるビデオを見てみましょう。これは、アメリカ進歩センター（リベラル寄りの「シンクタンク」）のイベントで演説するペロシ氏のビデオからのものだった。

Facebook上で4万5000回以上シェアされ、2万3000件以上のコメントが寄せられたこの動画は偽物だった。元のビデオは「彼女の声が歪んで聞こえるように」編集されており、彼女が酩酊しているように見えた。

政治運動における生成型 AI の武器化

写真、ビデオ、音声、さらには手書きの手紙さえも、政治的な汚いトリックのために長年にわたって偽造されてきました。偽造者のスキルに応じて品質は異なりますが、この慣行は新しいものではありません。

生成 AI の時代におけるディープフェイクの議論に進むときは、このことを念頭に置いてください。前世でロナルド・レーガン大統領の筆頭スピーチライターだったペギー・ヌーナンは、ウォール・ストリート・ジャーナルのコラムで次のように書いています。

ほぼすべての集会で人工知能の話題が出てきました。私が思うに、人々は AI を最大限に活用し、AI が生活をより良くするために何ができるのかを知りたいという現実的な取り組みによって醸成された、自由に浮かぶ不安を持って AI に近づいているのだと思います。流れを止めることができないのと同じように、それを止めることはできません。「それは癌の最も深い暗号を破るかもしれない」という感覚と、「それは私たちを攻撃し、私たちを核攻撃するかもしれない」という感覚があります。

以上が要約です。ヌーナンは稀有な政界を旅しているが、この発言は政界の上層部ですら生成 AI を懸念の念を持って見ている証拠である。

もちろん、だからといって彼らがテクノロジーを有利に利用することを止めるわけではありません。

先月、フロリダ州知事であり、世論調査データに基づいて現在第 2 位にランクされている共和党大統領候補であるロン・デサンティスの支持者が、AI が生成した音声を使用してトランプ大統領を模倣し、元共和党大統領であるかのように見せかけた広告を作成しました。共和党を攻撃していた。

明確にしておきたいが、AIが話した言葉は、ソーシャルメディアネットワーク「Truth Social」上でのトランプ大統領の実際の投稿に基づいている。この広告はネバー・バック・ダウンPACによって資金提供されたが、厳密にはデサンティス知事とは無関係である。しかし、PACはデサンティスを強く支援している。おそらくPACは、アナウンサーがナレーションで元大統領の言葉を話すよりも、元大統領の声と自分の言葉を併用するほうが効果的で現実的だと考えたのだろう。

デサンティスのものとされる別の広告では、トランプ大統領がアンソニー・ファウチ博士を抱き締めている様子が描かれている。これはAIが生成した画像でした。ファウチ氏はトランプ大統領のコロナウイルス対策特別委員会の元メンバーであり、元大統領首席医療顧問であり、約40年間にわたり国立アレルギー感染症研究所の所長を務めた。ほとんどの人が知っているように、ファウチ氏はパンデミックの初期に意見を対立させる人物となった。デサンティス陣営は政治的利益を得るためにトランプ氏とファウチ氏を結び付けようとしていたようだ。

この記事の目的は、政治広告の内容について議論することではありません。代わりに、AI の使用とそれが今後何を意味するかに焦点を当てることです。トランプ氏がファウチ博士を抱き締める画像が注目に値したのは、AIが生成したものだったからだ。

3月、ニューヨーク・タイムズ紙は、民主党が資金調達メッセージの草稿作成にAIの利用をテストしており、「すべて人間が書いたメッセージよりも優れたパフォーマンスを発揮することが多い」と報じた。

同紙はまた、トランプ大統領がニューヨーク市で逮捕されたことを示すソーシャルメディア上で流された偽画像についても報じた。

AI が国政選挙で戦力を倍増させる可能性があることは間違いありませんが、私は、低予算でリソースをより創造的に使用する必要がある選挙運動で多用されると予想しています。インサイダー紙で報じられているように、そのようなキャンペーンの 1 つはトロント市長に対するものでした。インサイダーは、アンソニー・フューリー候補に代わって作成された選挙チラシの画像を共有しました。そこには3本の腕を持つ女性が描かれていました。

The Insider が引用した回覧をオンラインで見たところ、記事に掲載されている写真は掲載されていませんでした。その間違いはフューリーか彼の選挙キャンペーンチームによって修正されたのではないかと思います。いずれにせよ、フューリーは敗れ、勝者が得た票のわずか 10% をわずかに上回る 4 位となった。

したがって、AI は偽の画像を作成したり、コストを削減したりするのには役立つかもしれませんが、勝利を保証するものではありません。何も起こりません。

それはどういう意味ですか?

キャンペーンで生成 AI が使用されているからといって、それが兵器化されるわけではありません。キャンペーンにおける生成 AI ツールの使用には主に 4 つのカテゴリがありますが、本質的に完全にネガティブなものは 1 つだけです。

ディープフェイクと偽造: これは最も破壊的な可能性があるものです。キャンペーンで情報が偽装される場合は常に、それは破壊的であり、汚いトリックのカテゴリーに分類されます。これをさらに厄介にしているのは、AI によって、より多くの人が偽の画像を生成できるようになっているため、キャンペーンだけでなく、このようなことがさらに頻繁に起こる可能性があるということです。

広告や手紙の作成を支援: AI がキャンペーンスタッフの広告や手紙の作成を支援することが期待されます。内容には虚偽や虚偽の表現が含まれている可能性がありますが、それは新しいことではありません。選挙運動員たちは、生成型 AI が登場するずっと前から文書で真実を曲げていました。

大規模な支援のためのコンテンツのスピードとカスタマイズの向上: 最も効果的なキャンペーンには、多くの場合、将来の有権者、特に将来の寄付者に関する詳細なデータベースが存在します。彼らはリストを購入し、以前のキャンペーンや他の候補者からのデータを集約し、見込み客を正確にターゲットにするのに役立つプロフィールを構築しようとします。生成 AI を使用して、各見込み顧客へのアウトリーチ活動を個別に調整し、それを一括して行うことが期待されます。

インサイトを求めてトレンド分析とセンチメント分析を実行する: 前回の記事では、インサイトを得るためにデータマイニングを行う際に AI がいかに強力であるかを示しました。キャンペーンではエンタープライズレベルのデータマイニングソフトウェアがよく使用されてきましたが、コードインタープリターを備えた ChatGPT Plus のようなツールのパワー、使いやすさ、および比較的低価格によって、これらの機能をキャンペーンのすべてのレベルで利用できるようになると期待されています。

Gartner の新興テクノロジーおよびトレンド - セキュリティ担当バイスプレジデントであるローレンス・ピングリー氏は、このトピックについていくつかの洞察を追加しました。同氏はZDNETに次のように語った。

新たな最大の危険は、Generative AI の大規模言語モデルが自動化できるようになったということだと思います。その自動化 (例 - AutoGPT、BabyAGI) は、目標指向の誤った情報キャンペーンを行うために使用できます。

これにより、政党または国家の両方が影響力を行使することが非常に容易になります。

LLM をディープフェイク技術と組み合わせて、音声やビデオを実行できるキャンペーンを実行することもできます。ソーシャルメディアに持ち込まれるこの種のツールは、真実を知りたい有権者にとって非常に困難なデジタル環境を生み出す可能性があります。

選挙運動における生成 AI に注目すると、実際の影響は大統領選挙運動の外に及ぶでしょう。結局のところ、大統領選挙には巨額の資金が必要だ。

連邦選挙委員会によると、「大統領候補者は2019年から2020年の選挙サイクルの24か月間に41億ドルを集め、支出した」という。選挙支出を追跡するオープン・シークレットによると、2018年の選挙で勝利した米国上院候補の平均支出額は1,570万ドル、下院候補者の平均支出額は200万ドルだった。

一部のローカルキャンペーンでは、比較的大きなキャンペーン予算が設定されています。たとえば、2024年のロサンゼルス市議会選挙とロサンゼルス統一学区選挙に向けて、第2区市議会候補のアドリン・ナザリアン氏はすでに43万2,000ドルを集め、LAUSD第3区の候補者ジャニー・ダム氏はすでに3万8,000ドルを集めています。

ここで、ロサンゼルス第 2 区の 2020 年の人口が 793,342 人だったことを思い出してください。全体として、ロサンゼルス郡自体の人口は 970 万人です。対照的に、私が住んでいるここオレゴン州の小さな歴史ある田舎町は、人口が 10,000 人未満です。

小規模なキャンペーン、特に私と同じくらいの規模の町でのキャンペーンでは、全国的なキャンペーンよりもはるかに小さい軍資金が含まれます。生成 AI ツールは、これまで 6 桁や 7 桁の予算のキャンペーンでしか利用できなかった分析ツールを、最小のキャンペーンでも提供できるようになります。

したがって、大統領選挙陣営が AI を利用して対立候補者を妥協的な立場に追い込むこと (または、少なくとも赤血球の支持者がソーシャルメディアで共有することを選択するような方法で候補者を描写すること) が期待できる一方で、生成的手法の最大の効果が期待されます。 AI はチケットのはるか下にあります。

AI生成広告の猛攻撃に対する少なくとも防御策として、Googleは現在、AI生成広告に、広告が合成手段によって生成されたことを示す免責事項を含めることを要求している。もちろん、それは不正なプロモーターがその指示に従うという意味ではありません。政治工作員や敵の工作員によるダンプアンドラン戦略は、今後も免責条項なしで AI 生成の広告を何千件も投稿し、その後新しいアカウントに移行して、スピードと機敏性を利用して Google の要件を事実上回避するというダンプアンドラン戦略を目にする可能性が高くなります。さらなる軍拡競争へようこそ。

キャンペーンの卑劣なトリックは永遠に存在しますが、誰もがそれらを実行することを非常に簡単にするツールにアクセスできるようになった今、もっと多くのトリックが見られるはずですので、今後も注目してください。

これだけ聞くと泣きたくなりますか？覚えておいてください、ジョージ・ワシントンはここで泣きました。