Google、バグ報奨金プログラムを拡張し、AI 攻撃シナリオに対する報奨金も追加

テクノロジー大手は、2022 年のバグ報奨金プログラムの一環として、セキュリティ研究者に 1,200 万ドルを超える報奨金を発行しました。

サイバーセキュリティでは、脅威は急速に変化します。急速に進化する生成 AI テクノロジーがこれに加わり、セキュリティ上の懸念は刻々と変化します。 Google は人工知能技術における最大手の 1 つであり、この脅威に適応する必要性を認識しています。

Google は、既存の Vulnerability Rewards Program (VRP) を拡張して生成 AI に特有の脆弱性を含め、バイアス、モデル操作、データの誤解、その他の敵対的攻撃など、生成 AI が引き起こす固有の課題を検討しています。

VRP は、Google の製品やサービスのソフトウェアの脆弱性をテストして報告した外部のセキュリティ研究者に報酬を与えるバグ報奨金プログラムです。今後、これには生成 AI 製品も含まれます。 Google の最も人気のある生成 AI 製品には、Bard、Lens、検索、Gmail、ドキュメントなどの他の AI 統合が含まれます。

生成 AI が Google のさまざまなツールやプログラムへの統合が進むにつれて、潜在的なリスクが増大しており、Google ではすでに社内の信頼および安全チームがこれらのリスクの予測に取り組んでいます。バグ報奨金プログラムを生成型 AI にも拡大することで、Google は責任ある AI が標準となるよう AI の安全性に関する研究を奨励しようとしています。

Google はまた、ユーザーが何が範囲内で何が対象外かを簡単に判断できるように、AI 製品のバグ報告に対する報酬基準に関する詳細情報も提供しました。

外部のセキュリティ研究者は、金銭的利益と引き換えにこれらの脆弱性を発見する任務を負っています。これにより、バグ報奨金プログラムを運営する Google に、悪意のある者が悪用する前にこれらの脅威を修正する機会が与えられます。これにより、ユーザーにとってより安全な製品が保証されます。

Google は、VRP に生成 AI を組み込むことに加えて、責任ある安全な AI アプリケーションの作成をサポートするために Secure AI フレームワークを導入しました。 AIサプライチェーンの整合性を確保するためにOpen Source Security Foundationと協力していることも発表した。

Google のバグ報奨金プログラムに参加したいユーザーは、バグやセキュリティの脆弱性を会社に直接送信できます。 2022 年、Google はバグ報奨金プログラムの一環としてセキュリティ研究者に 1,200 万ドルを超える報奨金を発行しました。