OpenAI の Sora ビデオ ジェネレーターを使って今すぐ始められる、儲かる 3 つの副業

脅威テストとレッドチームのエンジニアリングは、Amazon の最初の「フロンティア」モデルの最も興味深い貢献です。

Amazon の新境地モデル Reel が生成した動画で、「ベネチアン ゴンドラに乗った雪だるま、4K、高解像度」というフレーズが使用されています。

新しいチップと新しいデータセンターをもたらした今月初めの AWS の re:Invent カンファレンスに関するほとんどのレポートは、クラウド巨人が初の生成人工知能の「フロンティア」モデルを発表したこと、つまり OpenAI の最高のものと競合できるコードを見逃していた。グーグル。

Amazon は、「最先端のインテリジェンスと業界をリードする価格パフォーマンスを提供する新世代の最先端の基盤モデル」である Nova をデビューさせました。

GoogleのGeminiとOpenAIのGPT-4が注目を集める中、フロンティアのパフォーマンスの戦いに参加しなかったAmazonは、追いつきを急いでいる。テキストと画像を含む複数のモダリティを処理する Nova のモデルには、ビデオ生成 (OpenAI の Sora に似た) と画像生成に適したフレーバーがあり、テキストと画像を統合する大規模な言語モデルの標準となっています。

モデルには気のきいた名前も付いています。「Reel」はビデオ生成モデルの名前で、「Canvas」は画像生成フレーバーの名前です。 OpenAI や Google で見たものに似た機能の見栄えの良いデモンストレーションがあります。「ベネチアン ゴンドラに乗った雪だるま、4K、高解像度」というキーワードを使用して Reel によって生成されたビデオと、ゴンドラの滑らかな写真があります。 「とってもおしゃれなフレンチレストラン」というキャンバスを使った内装。

Nova は、Amazon 独自のテストで、データベースを利用するための検索拡張生成 (RAG) アプローチと、一種の推論演習として扱われる出力を生成するプロセスである「思考の連鎖」を広範囲に利用しています。 AIモデル。

これらはすべて、現在では Gen AI の業界標準になっています。

では、Amazon の Nova には一体何が新しいのでしょうか?

商用 AI ソフトウェアの場合と同様に、Amazon の技術レポートでは Nova モデルがどのように構築されているかについて貴重な情報がほとんど開示されていないため、何とも言えません。 （レポートの著者名さえも公開されていません！）

同社は、Google の 2017 年の画期的な AI 言語モデルに言及して、Nova モデルは「Transformer アーキテクチャに基づいている」と述べています。また、トレーニングの連続ラウンドによって、さまざまなデータ領域のモデルの処理を改良する「微調整」アプローチもあります。

Amazon の Nova Canvas フロンティア LLM を使用して作成された、フォトリアリスティックなインテリアの画像。「とてもおしゃれなフレンチ レストランです。」というプロンプトが表示されます。

モデルを構築するためのトレーニングデータも開示されておらず、Amazonは「当社のモデルは、ライセンスデータ、独自データ、オープンソースデータセット、および必要に応じて公開されているデータを含む、さまざまなソースからのデータでトレーニングされた」とだけ述べている。

この研究の最も注目すべき部分は、「責任ある AI」、つまり悪意のある攻撃者による AI モデルに対する敵対的攻撃などを回避することについて広範に議論されていることです。

「アライメントガードレールをバイパスしようとするような敵対的な入力に対するモデルの堅牢性を確保するために、私たちはモデルを使用してアプリケーションを構築する開発者と、それらのアプリケーションを介してモデルを操作するユーザーの両方に当てはまるリスクに焦点を当てました」と著者は書いています。テクニカルレポートの。

特に、Amazon のエンジニアは、いわゆるレッドチームを多用し、「プロンプト インジェクション」などのさまざまな種類の攻撃を作成し、モデルの攻撃を促すキーワードやフレーズを使用して言語モデルのプロンプトを作成し、モデルを破壊しようとしました。そのガードレールを壊す。

その一部には、悪意のあるプロンプトの自動生成が含まれていました。「言語的、構造的、モダリティベースのプロンプト変異技術を採用し、RAI に準拠しない応答を生成する際の各変異の有効性を評価することで、手動で厳選した敵対的プロンプトの多様性を強化しました。 [責任ある AI] の目的、その成功の可能性、モデル改訂に対する手法の新規性。」

「合計で 300 以上の異なる技術を特定して開発し、技術を個別に、またさまざまな組み合わせを連鎖させてテストしました。」と報告書は述べています。

Amazon が Gen AI の信頼性と安全性テストで新たな一歩を踏み出したかどうかはまだ分からない。フロンティアモデルの多くの作品と同様、悪魔は細部に宿っており、細部は知的財産保護策の背後に隠されています。

確かに、技術レポートではその意図が野心的に聞こえます。 Amazon のレッドチーム化を、オープンソースとクローズドソースの両方の競合手法と比較するには、この分野全体が適切な評価 (ベンチマーク、指標など) を作成できるようになるまで待たなければなりません。