ChatGPT と新しい AI は、刺激的かつ恐ろしい方法でサイバーセキュリティに大混乱をもたらしています

Recorded Future の CEO、Christopher Ahlberg 氏は、サイバー犯罪者は倫理や法律に束縛されず、AI を利用して革新的な新しいハッキングを見つけようと競い合っていると述べています。

生成人工知能はサイバーセキュリティを変革し、攻撃者と防御者の両方を支援します。サイバー犯罪者は AI を利用して、洗練された斬新な攻撃を大規模に仕掛けています。そして、脅威インテリジェンス プラットフォームである Recorded Future の CEO、Christopher Ahlberg 氏は、防御側も同じテクノロジーを利用して重要インフラ、政府機関、企業ネットワークを保護していると述べました。

生成 AI は、攻撃者が新しい攻撃戦略を革新して開発するのに役立ち、サイバーセキュリティ防御の一歩先を行くことができます。 AI は、サイバー犯罪者が攻撃を自動化し、攻撃対象領域をスキャンし、さまざまな地理的地域や人口統計に響くコンテンツを生成するのに役立ち、さまざまな国にまたがるより広範囲の潜在的な被害者をターゲットにできるようになります。サイバー犯罪者は、説得力のあるフィッシングメールを作成するためにこのテクノロジーを採用しました。 AI によって生成されたテキストは、攻撃者がターゲットを欺く可能性がより高い、高度にパーソナライズされた電子メールやテキスト メッセージを作成するのに役立ちます。

「これは実際に（サイバー犯罪者が）作者になるのに役立つ可能性があることに気づくのに、それほど創造的に考える必要はないと思いますが、それは問題です」とアールバーグ氏は語った。

防御側は AI を使用して攻撃を防御しています。組織はこのテクノロジーを利用して、漏洩を防ぎ、ネットワークの脆弱性を積極的に発見しています。また、特定のキーワードに対するアラートの設定やオンラインでの機密情報の検出などのタスクを動的に自動化します。脅威ハンターは AI を使用して異常なパターンを特定し、大量のデータを要約し、複数の情報ソースと隠れたパターンの点を結び付けています。

この作業には依然として人間の専門家が必要だが、ChatGPT などのプロジェクトで見られる生成 AI テクノロジーが役立つ可能性があるとアールバーグ氏は言う。

「思考のスピードで分析できるよう、分析サイクルを高速化したいと考えています」と同氏は語った。 「それは非常に難しいことですが、ここで画期的な進歩が見られると思います。それは非常にエキサイティングです。」

アールバーグ氏は、高度なインテリジェントマシンがもたらす可能性のある潜在的な脅威についても議論した。世界のデジタル化と相互接続が進むにつれ、現実を曲げたり、認識を形作ったりする能力が悪意のある者によって悪用される可能性があります。これらの脅威は国民国家に限定されず、状況はさらに複雑かつ非対称になっています。

AI には、こうした新たな脅威からの保護に役立つ可能性がありますが、独自のリスクも存在します。たとえば、高い処理能力を備えたマシンは、人間よりも速く、より効果的にシステムをハッキングする可能性があります。これらの脅威に対抗するには、AI が防御的に使用され、誰が制御しているのかを明確に理解する必要があります。

AI の社会への統合が進むにつれ、議員、裁判官、その他の意思決定者がテクノロジーとその影響を理解することが重要になります。技術専門家と政策立案者との間で強力な連携を構築することは、脅威ハンティングやそれ以降の分野で AI の将来をナビゲートする上で極めて重要です。

サイバーセキュリティにおける AI の機会、課題、倫理的考慮事項は複雑であり、進化しています。公平な AI モデルを確保し、意思決定への人間の関与を維持することは、倫理的課題の管理に役立ちます。高度にインテリジェントなマシンの潜在的な長期的な脅威に対処するには、警戒心、コラボレーション、テクノロジーの明確な理解が重要です。

アールバーグ氏はまた、中国、ロシア、経済的敵対国が自律型機械を導入していることについても懸念を表明した。これらの国はAI開発を遅らせたり、倫理的配慮を共有したりすることはないだろう。このようなマシンの「プラグを抜く」機能を持つことは賢明な安全策ですが、社会や世界経済へのテクノロジーの統合により、切り離すのが難しくなる可能性が高いと彼は示唆しています。アールバーグ氏は、製品や機械を誰が管理しているのかを明確にして設計する必要性を強調しています。

「このすべてにおいてインターネットがもたらした大きなことは、インターネットが世界中のあらゆる情報が移動する場所になったことです」とアールバーグ氏は語った。 「これらの大規模な言語モデルは、思考サイクルをスピードアップするために、非常に魔法のようなことを行っています。」

同氏はさらに、「今後 25 年で、世界はインターネットを反映したものになるだろう」と付け加えた。