選挙が生成 AI 時代に突入し、サイバー防衛に注目が集まる
人間は IT システムよりも簡単に侵害されるため、誤った攻撃者は生成 AI を使用してこの機会を悪用します。
生成人工知能 (AI) が特徴的な新時代において各国が大規模な選挙の実施を準備している中、人間はハクティビストや国民国家主体の主な標的となるでしょう。
生成 AI によってコンテンツの拡散方法は変わっていないかもしれませんが、その量は加速し、その精度に影響を与えています。
Forrester Research の主席アナリストである Allie Mellen 氏によると、この技術は、攻撃者が標的の候補者や選挙に関する情報にアクセスするために、より優れたフィッシングメールを大規模に生成するのに役立っています。メレン氏の研究は、セキュリティ運用と国家の脅威だけでなく、セキュリティ ツールでの機械学習と AI の使用もカバーしています。彼女のチームは、2024 年の誤った情報と偽情報の範囲を綿密に追跡しています。
メレン氏は、2016 年の米国選挙の再現を避けるために、誤った情報や偽情報の拡散を防ぐためにソーシャル メディア企業が果たす役割について言及しました。
Yubico と Defending Digital Campaigns が発表した最近の調査によると、米国の有権者のほぼ 79% が、AI で生成されたコンテンツが政治候補者になりすましたり、詐欺的なコンテンツを作成するために使用されることを懸念していると述べています。さらに43％は、そのようなコンテンツが今年の選挙結果に悪影響を与えると考えていると回答した。 OnePoll が実施したこの調査は、2024 年の選挙キャンペーンにおけるサイバーセキュリティと AI の影響を評価するために、米国の登録有権者 2,000 人を対象に実施されました。
回答者にはAIの音声を使って録音された音声クリップが提供され、41％がその声は人間のものであると信じたと回答した。また、約 52% は、キャンペーンからのものと思われる電子メールまたはテキスト メッセージを受信したことがあるが、フィッシングの試みではないかと疑っていると述べています。
ディフェンディング・デジタル・キャンペーンズの社長兼最高経営責任者（CEO）のマイケル・カイザー氏はプレスリリースで、「今年の選挙は候補者、スタッフ、選挙運動関係者を狙ったサイバー攻撃のリスクが特に高い」と述べた。 「適切なサイバーセキュリティを導入することは選択肢ではありません。これは政治活動を行うすべての人にとって不可欠です。そうでないと、選挙活動は貴重なデータを失うだけでなく、有権者を失う危険があります。」
Yubico のソリューション アーキテクチャ担当バイスプレジデントである David Treece 氏は、キャンペーンは信頼に基づいて構築されていることに言及し、視聴者と直接やり取りするソーシャル メディア上の詐欺メールやディープフェイクなどの潜在的なハッキングがキャンペーンに影響を与える可能性があるとリリースの中で付け加えました。ツリース氏は候補者に対し、選挙運動を保護するための適切な措置を講じ、有権者との信頼を築くためにサイバーセキュリティ慣行を導入するよう促した。
メレン氏はZDNETに対し、人間が最後の防衛線であるため、偽コンテンツに対する一般の意識を高めることも重要だと語った。
同氏はさらに、選挙の確保は単なる政府の問題ではなく、業界のあらゆる組織が検討しなければならない広範な国家的課題であることをテクノロジー企業が認識する必要性を強調した。
何よりもガバナンスが重要であると彼女は言いました。すべてのディープフェイクやソーシャル エンジニアリング攻撃を適切に特定できるわけではありませんが、従業員が外部ソースに送金するのを防ぐための適切なゲートとプロセスを通じて、組織がその影響を軽減することができます。
「最終的には、症状ではなく問題の原因に対処することが重要です」とメレン氏は言う。 「私たちが最も懸念すべきは、適切なガバナンスを確立し、取引が合法であることを保証するための検証[層]を確立することです。」
同時に、ディープフェイクやAIを利用した生成型の不正コンテンツを検出する能力の向上を継続する必要があるとも述べた。
生成 AI テクノロジーを利用する攻撃者のほとんどは国家主体であり、他の攻撃者は主に既に機能している攻撃手法に固執しています。同氏は、国家を脅かす攻撃者は攻撃の規模を拡大する意欲を高めており、他の方法ではアクセスできなかったシステムにアクセスするための新しい技術や方法を推進したいと考えていると述べた。これらの関係者が誤った情報を広めることができれば、国民の信頼を失い、社会を内部から引き裂く可能性があると彼女は警告した。
人間の弱点を突く生成AI
サイバーセキュリティ企業テナブルのチーフセキュリティストラテジスト、ネイサン・ウェンツラー氏は、この意見に同意すると述べ、国民国家主体による誤った情報や偽情報を通じて信頼を悪用する取り組みがおそらく増加するだろうと警告した。
ウェンツラー氏のチームは今年、生成AIの出現による新たなタイプのセキュリティ脅威に気付いていないが、このテクノロジーにより攻撃者は規模と範囲を拡大できるようになったと述べた。
この機能により、国民国家の主体は、オンラインで見たものに対する国民の盲目的な信頼と、それを事実として受け入れる意欲を悪用することが可能となり、生成AIを利用して目的にかなうコンテンツをプッシュするようになる、とウェンツラー氏はZDNETに語った。
説得力のあるフィッシングメールやディープフェイクを生成する AI テクノロジーの能力も、攻撃を開始する実行可能な触媒としてソーシャル エンジニアリングを支持しているとウェンツラー氏は述べました。
サイバー防御ツールは技術的な弱点を埋めるのに非常に効果的となっており、IT システムの侵害がより困難になっています。同氏は、脅威の敵対者はこの事実を認識しており、より容易な標的を選択していると述べた。
「テクノロジーが破られるのが難しくなるにつれて、人間は破られるのがより簡単であることが証明されており、GenAIはそのプロセスにおける（ハッカーを支援する）新たなステップです」と同氏は述べた。 「これにより、ソーシャル エンジニアリング（攻撃）がより効果的になり、攻撃者はコンテンツをより迅速かつ効率的に、高い成功率で生成できるようになります。」
同氏によると、サイバー犯罪者が 1,000 万通のフィッシングメール メッセージを送信した場合、ターゲットをクリックさせるのに効果的なコンテンツの作成が 1% 改善されただけでも、さらに 10 万人の被害者が発生するという。
「重要なのはスピードと規模だ。GenAIはこうしたグループにとってソーシャルエンジニアリング攻撃を構築するための主要なツールとなるだろう」と同氏は付け加えた。
政府は AI を利用した生成リスクについてどの程度懸念すべきでしょうか?
「彼らは非常に懸念しているはずだ」とウェンツラー氏は語った。 「それは信頼への攻撃に戻ります。これは人間の心理に大きく影響しています。人々は自分が見ているものを信頼したいし、お互いを信じたいと思っています。社会の観点から見ると、私たちは自分が見ているものに疑問を抱くのに十分な仕事をしていないのです」そして、GenAI のおかげで、それはますます困難になっています。」
「健全な懐疑論を生み出したいが、私たちはまだそこまで至っていない」と同氏は述べ、被害はすでに生じており、一部の国民が自分たちの考えを誤って信じてしまうため、事後修復は難しいと指摘した。しばらく見た。
最終的には、セキュリティ企業がディープフェイク検出などのツールを開発し、自動化された防御インフラストラクチャの一部としてこの課題に効果的に対処できるようになるだろうと同氏は付け加えた。
大規模な言語モデルには保護が必要です
組織は、AI モデルのトレーニングに使用されるデータにも留意する必要があります。
メレン氏は、大規模言語モデル（LLM）のトレーニングデータは精査し、データポイズニングなどの悪意のある攻撃から保護する必要があると述べた。汚染された AI モデルは、誤った出力を生成する可能性があります。
Check Point Software の脅威インテリジェンス グループ マネージャーである Sergy Shykevich 氏も、OpenAI の ChatGPT や Google の Gemini などの主要なプラットフォームをサポートするためのより大きな AI モデルなど、LLM を巡るリスクを強調しました。
国家主体はこれらのモデルを標的にしてエンジンにアクセスし、生成AIプラットフォームによって生成される応答を操作する可能性があるとシケビッチ氏はZDNETに語った。そして、彼らは世論に影響を与え、選挙の流れを変える可能性があります。
LLM をどのように保護すべきかを管理する規制はまだ存在しないため、同氏は、これらのプラットフォームを運営する企業の透明性の必要性を強調しました。
生成 AI は比較的新しいため、管理者がそのようなシステムを管理し、応答が生成される理由や方法を理解することも困難になる可能性があるとメレン氏は言います。
Wenzler 氏は、組織は、生成型 AI アプリケーションのトレーニングに使用されるデータを管理および保護するために、より小規模でより焦点を絞った専用の LLM を使用することでリスクを軽減できると述べました。
大規模なデータセットを取り込むことには利点がある一方で、企業がリスク選好度を検討し、適切なバランスを見つけることを推奨しました。
ウェンツラー氏は各国政府に対し、より迅速に行動し、生成型 AI を巡るリスクに対処するために必要な義務と規則を確立するよう求めた。これらのルールは、組織が生成型 AI アプリケーションを採用および展開する際の指針となると同氏は述べた。