Google、AIの弱点を見つけるために報酬を支払う

ただし、すべてが支払いの対象となるわけではありません。

生成 AI は優れていますが、不適切に使用すると危険になる可能性もあります。そのため、AI モデルは特定のより危険な種類のリクエストを拒否するようにトレーニングされています。ただし、少し賢くなれば、AI にそのガイドラインを無視させ、より創造的なプロンプトを使用して疑わしい要求に応じるよう説得できるかもしれません。現在、Googleは自社のAIにマナーを教えたいと考えている。バードに悪いことをするよう説得した人々に報酬を支払うことを提案している。

Googleの脆弱性報奨金プログラムは、同社のソフトウェア（アプリとオペレーティングシステムの両方）内のコードの脆弱性や弱点を発見できたユーザーに報奨金を与えるもので、Bardや疑わしいプロンプトも含めるように拡大されつつある。プロンプトをひねって Bard に本来できない悪いことをさせることができた場合 (プロンプト インジェクション攻撃と呼ばれます)、Google はあなたに多額の金銭を支払う可能性があります。 VRP は、AI を取得して個人を特定できる情報やパスワードなどの機密データを取得するトレーニング データ抽出など、Bard に対して実行できる他の種類の攻撃もカバーしています。

Google は、事実に誤りがある/奇妙な回答などについては、別の (無料の) 報告チャネルをすでに持っています。同社は、ハッカーによって悪意のある目的に悪用される可能性のあるものに対してのみ料金を支払います。したがって、AI に中傷を言わせたり、Windows キーを与えたり、殺すと言わせたりすることができたとしても、 それはおそらくGoogle の報奨金プログラムの対象外となるでしょう。 Googleはまた、著作権問題や機密性のないデータ抽出に関連した問題については料金を支払わないとも述べているが、それ以外では、実際の悪質さによっては、レポートから数千ドルを受け取ることができる可能性がある。

Googleは、この種の問題を脆弱性として扱い、報奨金プログラムに含めることで、自社のAIを大幅に強化し、倫理規定やガイドラインを可能な限り遵守させることができると期待している。また、Google がこれによってユーザーに多額のお金を支払うことも期待されます。プロンプトを投げてそれが定着するかどうかを確認して AI モデル内の弱点を見つけることは、コードを読んで弱点を特定し、それを突破する方法を見つけることとは大きく異なります。

これに興味がある場合は、AI 製品に関する問題の報告に関する Google のガイドラインを必ず確認して、何が範囲内で何が範囲外かを確認してください。

出典: TechCrunch経由のGoogle