DeepMind の RT-2 により、AI チャットによるロボット制御が可能になります

ロボットへの指示は、画像や言葉と同じプロンプトでアクションを処理する大規模な言語モデルの問題にすぎません。

DeepMind のロボティクス トランスフォーマー バージョン 2 は、画像やテキストだけでなく、空間内のロボットの動きの座標データでもトレーニングされる大規模な言語モデルです。トレーニングが完了すると、画像とコマンドを提示して、行動計画とコマンドを完了するために必要な座標の両方を吐き出すことができます。

ロボット工学の未来の重要な要素は、人間がどのようにリアルタイムで機械に指示できるかということです。しかし、ロボット工学においては、どのような指示が行われるのかは未解決の問題です。

Google の DeepMind 部門による新しい研究では、OpenAI の ChatGPT に似た大規模な言語モデルに、単語と画像の関連付け、およびロボットから記録されたデータのダッシュが与えられると、会話するのと同じように簡単に機械に命令を入力する方法が作成されることが提案されています。 ChatGPTを使って。

DeepMind による論文「RT-2: Vision-Language-Action Models Transfer Web Knowledge to Robotic Control」は、Anthony Brohan 氏と同僚が執筆し、ブログ投稿内に投稿されたもので、RT-2 と呼ばれるものを紹介しています。言語アクション」モデル。 (関連する GitHub リポジトリもあります。) RT という頭字語は、「ロボット トランスフォーマー」を表します。

課題は、画像とテキストを使用して、ロボットにとって意味のある一連のアクションを出力として生成するプログラムをどのように取得するかです。 「視覚言語モデルがロボットを制御できるようにするには、アクションを出力するように訓練する必要がある」と彼らは述べています。

この研究の重要な洞察は、「ロボットの動作を別の言語として表現している」ことだとブローハン氏とチームは書いている。つまり、インターネットからのテキストでトレーニングされて ChatGPT が新しいテキストを生成するのと同じように、ロボットから記録されたアクションが新しいアクションのソースになる可能性があります。

ロボットの動作は、自由度として知られる空間内の座標としてロボット変換器にエンコードされます。

「アクション空間は、ロボット エンドエフェクターの 6-DoF [自由度] の位置および回転変位、ロボット グリッパーの伸張レベル、およびトリガーされる必要があるエピソードを終了するための特別な個別のコマンドで構成されます」正常に完了したことを知らせるポリシーによって。」

トークンは、単語の言語トークンや画像のイメージ トークンと同じフレーズでトレーニング中にプログラムに供給されます。ロボットの座標はフレーズの単なる一部になります。

ロボットの動作は、自由度として知られる空間内の座標としてロボット変換器にエンコードされます。トークンは、単語の言語トークンや画像のイメージ トークンと同じフレーズでトレーニング中にプログラムに入力されます。ロボットの座標はフレーズの単なる一部になります。

座標の使用は重要なマイルストーンです。通常、ロボットの物理学は、言語や画像のニューラル ネットとは異なる低レベルのプログラミングによって指定されます。ここで、すべてが混ざり合っています。

RT プログラムは、PaLI-X と PaLM-E と呼ばれる 2 つの Google の以前の取り組みに基づいて構築されており、どちらもビジョン言語モデルと呼ばれるものです。名前が示すように、ビジョン言語モデルは、テキストのデータと画像のデータを混合するプログラムです。これにより、プログラムは、画像にキャプションを割り当てたり、画像に何が含まれているかについての質問に答えるなど、この 2 つを関連付ける能力を開発します。 。

PaLI-X は画像とテキストのタスクのみに焦点を当てていますが、最近 Google によって導入された PaLM-E は、言語と画像を使用して出力としてコマンドを生成し、ロボットを駆動することでさらに一歩進んでいます。 RT は、行動計画だけでなく、空間内の移動の座標も生成する点で、PaLM-E を超えています。

カリフォルニア大学バークレー校電気工学部准教授セルゲイ・レバイン氏は、RT-2は「大きな進歩だ」とZDNETとの電子メールで述べた。 「基本的にRT-2は、PaLM-E + RT1が1つのモデルで達成できることのエンドツーエンドのバージョンと考えることができます」とPaLM-Eプロジェクトに携わったレバイン氏は述べた。 「これにより、インターネット規模の知識をより直接的にロボットに伝達できるようになり、将来的にはよりスケーラブルなクラスのアプローチが提供される可能性があります。」

RT-2の場合、昨年のRT-1の後継バージョンとなります。 RT-1 と RT-2 の違いは、最初の RT が小さな言語およびビジョン プログラムである EfficientNet-B3 に基づいていたことです。ただし、RT-2 は、PaLI-X および PaLM-E、いわゆる大規模言語モデルに基づいています。つまり、プログラムの熟練度を高める傾向にある、より多くのニューラル ウェイト (パラメーター) があることを意味します。 PaLI-X には、あるバージョンでは 50 億のパラメータがあり、別のバージョンでは 550 億のパラメータがあります。 PaLM-Eは120億です。

RT-2 のトレーニングには、画像とテキストの両方の組み合わせと、記録されたロボット データから抽出されたアクションが組み込まれています。

RT-2 のトレーニングが完了したら、作成者は一連のテストを実行します。このテストでは、プロンプトに自然言語コマンドと画像を入力することで、ロボットが物を拾う、移動する、落とすなどの作業を行う必要があります。 、ChatGPT に何かを作成するよう依頼するのと同じです。

たとえば、プロンプトが表示された場合、画像には大量の缶とキャンディーバーが置かれたテーブルが表示されています。

Given  Instruction: Pick the object that is different from all other objects

ロボットは、キャンディーバーを拾うための座標を伴うアクションを生成します。

Prediction: Plan: pick rxbar chocolate. Action: 1 128 129 125 131 125 128 127

3 桁の数字は、座標移動のコードブックへのキーです。

RT-2 は、プロンプトが与えられると、行動計画と、それらの行動を実行するための一連の座標をスペーサー内に生成します。

重要な点は、タスクの多くの要素がまったく新しい、これまでに見たことのないオブジェクトである可能性があることです。 「RT-2 は、推論、シンボルの理解、人間の認識を必要とするさまざまな現実世界の状況に一般化できます」と彼らは述べています。

その結果、「多数の新たな機能が観察されました」。 「このモデルは、ロボット データから学習したピック アンド プレイス スキルを再利用して、特定の数字やアイコンなどの意味的に示された位置の近くにオブジェクトを配置できます。これらの手がかりはロボット データには存在しません。また、このモデルは、オブジェクト間の関係を解釈することもできます。ロボットのデモンストレーションではそのような関係が提供されていないにもかかわらず、オブジェクトを選択して、どのオブジェクトを選択し、どこに配置するかを決定します。」

RT-1 および他のプログラムに対するテストでは、PaLI-X または PaLM-E を使用した RT-2 はタスクの完了においてはるかに熟練しており、これまでに見たことのないオブジェクトを使用したタスクの平均達成率は約 60% でしたが、それに対して達成したタスクの割合は 50% 未満でした。以前のプログラム。

ロボット専用に開発されていないPaLI-Xと、ロボット専用に開発されているPaLM-Eの間にも違いがあります。 「また、大規模なPaLI-Xベースのモデルは平均してシンボルの理解、推論、人物認識のパフォーマンスが向上する一方、小規模なPaLM-Eベースのモデルは数学的推論を含むタスクでは優位性があることにも注目しています。」著者らは、その利点を「PaLM-Eで使用される異なる事前トレーニング混合物により、主に視覚的に事前トレーニングされたPaLI-Xよりも数学的計算能力が高いモデルが得られる」ことに起因すると考えている。

著者らは、視覚・言語・行動プログラムを使用することで「ロボット学習の分野を、他の分野の進歩に合わせてさらに改善できる戦略的な位置に置く」ことができ、言語や画像の処理が改善されるにつれてこのアプローチが恩恵を受ける可能性があると結論付けている。

ただし、注意点が 1 つあり、 それはロボットをリアルタイムで制御するという考えに戻ります。 大規模な言語モデルは計算量が非常に多いため、応答を取得する際に問題が生じます。

「これらのモデルの計算コストは高く、これらの方法は高頻度の制御が必要な設定に適用されるため、リアルタイム推論が大きなボトルネックになる可能性があります」と彼らは書いています。 「将来の研究の興味深い方向性は、そのようなモデルをより高いレートで、またはより低コストのハードウェアで実行できる可能性のある量子化および蒸留技術を探索することです。」