気をつけろ：Googleの新しいレポートによると、生成AIはサイバー攻撃をレベルアップさせる

生成 AI により、サイバー攻撃はさらに賢くなります。期待できることは次のとおりです。

生成型 AI などの開発によりテクノロジーが賢くなるにつれて、サイバーセキュリティ攻撃も同様に賢くなります。 Google の新しいサイバーセキュリティ予測は、AI の台頭が注意すべき新たな脅威をもたらすことを明らかにしています。

水曜日、Google は、Google Cloud サイバーセキュリティ予測 2024 を発表しました。このレポートは、多数の Google Cloud セキュリティ チームとの協力を通じてまとめられ、来年のサイバー環境を深く掘り下げたものです。

このレポートでは、生成 AI とラージ言語モデル (LLM) が、音声やビデオなどのコンテンツやマテリアルをより正当なものに見せる目的で、フィッシング、SMS、その他のソーシャル エンジニアリング操作などのさまざまなサイバー攻撃に利用されることがわかりました。

たとえば、生成 AI は自然言語を模倣することに優れているため、生成 AI を採用すると、文法のスペルミスや文化的背景の欠如など、フィッシング攻撃の完全な痕跡を見つけるのがさらに困難になります。

他の例では、攻撃者は LLM の正当なコンテンツをフィードし、攻撃者の目的に合った、元の入力と同じスタイルを維持した修正バージョンを生成する可能性があります。

このレポートはまた、攻撃者が少ない労力でより効率的に攻撃を展開できるようにするために有料サービスとして提供される LLM やその他の生成 AI ツールが、今後どのように開発されるかについても予測しています。

ただし、生成 AI を使用してコンテンツを作成する (請求書リマインダーの作成など) こと自体は悪意のあるものではありませんが、攻撃者が自らの目的のために被害者をターゲットにするために悪用される可能性があるため、悪意のある AI や LLM が完全に必要になるわけではありません。

たとえば、ZDNETは以前、詐欺師がAIを利用して、困っている家族や友人の声になりすまし、お金をだまし取る方法を取り上げた。

もう 1 つの潜在的な生成 AI の脅威には、情報操作が含まれます。 AI プロンプトを使用するだけで、攻撃者は生成 AI モデルを使用して、偽のニュース、偽の電話、ディープフェイクの写真やビデオを作成できます。

報告書によると、こうした作戦が主流のニュースサイクルに入る可能性があるという。こうした活動の拡張性により、ニュースやオンライン情報に対する国民の信頼が低下し、誰もがより懐疑的になるか、自分たちが利用するニュースを信頼しなくなるまでに至る可能性があります。

「これにより、近い将来、企業や政府が視聴者と関わることがますます困難になる可能性がある」と報告書は述べている。

攻撃者は攻撃を強化するために AI を使用していますが、サイバー防御者もこのテクノロジーを活用して、より高度な防御で対抗することができます。

Google Cloud on AI の CISO である Phil Venables 氏は次のように述べています。「AI はすでにサイバー防御者に多大な利点をもたらしており、サイバー防御者が能力を向上させ、労力を軽減し、脅威からより適切に保護できるようになります。」 「防御側がテクノロジーを所有し、特定の使用例を念頭に置いて開発を指揮するため、これらの機能と利点が 2024 年に急増すると予想しています。」

防御者向けの生成 AI の使用例には、生成 AI を活用して大量のデータを合成し、実用的な検出を生成し、より迅速にアクションを実行することが含まれます。