AWS が新しい Trainium AI チップと Graviton 4 を発表、Nvidia とのパートナーシップを拡大
第 2 世代の Trainium チップは、1 兆を超えるパラメーターを持つニューラル ネットワーク モデルを対象としています。
Graviton 4 チップ（左）は、SAP などが大規模なワークロードに使用している汎用マイクロプロセッサ チップであるのに対し、Trainium 2 は生成 AI などの非常に大規模なニューラル ネットワーク プログラム用の専用アクセラレータ チップです。
Amazon は火曜日、ラスベガスで開催された年次 AWS re:Invent 開発者カンファレンスで、ニューラルネットワークをトレーニングするための専用チップである Trainium 2 の新バージョンを発表しました。 Trainium 2 は、いわゆる大規模言語モデル (LLM) および基盤モデル (OpenAI の GPT-4 などの生成 AI プログラムの一種) のトレーニング用に特別に調整されています。
同社はまた、カスタムマイクロプロセッサの新バージョン「Graviton 4」も発表し、クラウドコンピューティングサービスでNvidiaの最先端チップを実行するためにNvidiaとの提携を拡大すると述べた。
Trainium 2 は、数兆のパラメーター、つまりニューラル ウェイトを備えたニューラル ネットワークを処理するように設計されています。これらのパラメーターは、一般的に言えば、規模と能力を与えるプログラムのアルゴリズムの関数です。より大きなパラメータへのスケーリングは、AI 業界全体の焦点です。
人間の脳には 100 兆個のニューロン接続があると考えられているため、1 兆パラメータの数は業界の強迫観念のようなものになっています。そのため、1 兆パラメータのニューラル ネットワーク プログラムは、それが機能しているかどうかに関係なく、人間の脳に関連しているように見えます。事実は。
このチップは、前世代に比べて「最大4倍のトレーニングパフォーマンスと3倍のメモリ容量を実現するように設計されており」、「エネルギー効率（パフォーマンス/ワット）を最大2倍向上させている」とAmazonは述べている。
Amazonは、「Trn2」インスタンスとして知られる同社のEC2クラウドコンピューティングサービスのインスタンスでこのチップを利用できるようにしている。このインスタンスは連携して動作する Trainium 2 チップを 16 個提供しており、100,000 個のインスタンスまで拡張できると Amazon は述べています。これらのより大きなインスタンスは、Elastic Fabric Adaptor と呼ばれる同社のネットワーキング システムを使用して相互接続されており、合計 65 エクサフロップスのコンピューティング能力を提供できます。 (1 エクサフロップは 1 秒あたり 10 億回の浮動小数点演算に相当します。)
この規模のコンピューティングでは、「顧客は 3,000 億のパラメータ LLM を数か月ではなく数週間でトレーニングできる」と Amazon は述べています。
Amazon には、顧客にサービスを提供することに加えて、AI シリコンの限界に挑戦し続ける追加のインセンティブがあります。同社は、OpenAI から独立したグループである非公開の生成 AI スタートアップ Anthropic に 40 億ドルを投資しました。この投資により、同社はマイクロソフトとOpenAIとの独占契約と競合できる立場に立つことになる。
Graviton 4 チップは、ARM Holdings のマイクロプロセッサの知的財産に基づいて構築されており、古い x86 チップ規格に基づく Intel および Advanced Micro Devices のプロセッサと競合します。 Graviton 4 は「コンピューティングパフォーマンスが 30% 向上している」と Amazon は述べています。
AI 用の Trainium チップとは異なり、Graviton プロセッサはより従来のワークロードを実行することを目的としています。 Amazon AWS は、Datadog、DirecTV、Discovery、Formula 1、Nielsen、Pinterest、SAP、Snowflake、Sprinklr、Stripe、Zendesk を含む顧客が Graviton チップを「データベース、分析などの幅広いワークロードを実行するために使用している」と述べました。 、Web サーバー、バッチ処理、広告配信、アプリケーション サーバー、およびマイクロサービス。
SAP は用意されたコメントの中で、Graviton チップ上で HANA インメモリ データベースを実行することで「分析ワークロードのコスト パフォーマンスが 35% 向上」することができたと述べ、「Graviton4 とそれがもたらす利点を評価することを楽しみにしている」と述べました。私たちの共通の顧客に。」
新しいチップは、2021 年に Graviton 3 とオリジナルの Trainium が導入されてから 2 年後に登場します。
アマゾンのニュースは、マイクロソフトが先週、同社初のAI用チップを発表したことに続くものだ。 AmazonやMicrosoftと並ぶもう1つのクラウド大手であるAlphabet傘下のGoogleは、2016年にAI用の初のクラウドチップであるTPU（Tensor Processing Unit）を両社に先駆けてリリースし、それ以来複数世代を提供してきた。
アマゾンは、2つの新しいチップに加えて、AIチップ大手エヌビディアとの戦略的提携を拡大したと発表した。 AWS は、Grace ARM ベースの CPU と Hopper H100 GPU チップを組み合わせた Nvidia の次期 GH200 Grace Hopper マルチチップ製品を実行する最初のクラウド サービスになります。
来年出荷開始予定のGH200チップは、今年初めに発表されたGrace Hopperコンボチップの次期バージョンで、すでに初期バージョンがDellなどのコンピュータに出荷されている。
GH200チップは、Nvidiaの専用AIコンピューター「DGX」を介してAWSでホストされ、両社はこれにより、1兆を超えるパラメータを持つニューラルネットワークのトレーニングが高速化されると述べた。
Nvidiaは、AWSを「MLの研究開発のための主要なクラウドプロバイダー」にするつもりだと述べた。