次の Android スマートフォンには、クラウド不要の ChatGPT のようなチャットボットが搭載される可能性があります

クアルコム チップセットは、多くの Android スマートフォンやタブレット、さらに一部の Windows PC や組み込みデバイスに搭載されています。本日、同社は、次の Android スマートフォンに、外部サーバーや有料サブスクリプションを必要とせずに、独自のローカル ChatGPT のようなチャットボットや Stable Diffusion のような画像ジェネレーターが搭載されることを意味するいくつかの進歩を明らかにしました。

クアルコムは本日、アプリ開発者に最適化された AI モデルへのアクセスを提供する「Qualcomm AI Hub」や、「AI 搭載 5G」を搭載した新しいモデムなど、AI 関連の発表を数多く行いました。同社はまた、Qualcomm の Snapdragon チップを搭載した Android スマートフォン上で大規模なマルチモーダル モデル (LLM) を実行することについても議論しており、これにより、ChatGPT、Microsoft Copilot、Galaxy AI などの外部サービスを使用する代わりに、より多くの AI タスクをスマートフォン上でローカルに実行できるようになる可能性があります。このアプローチには、プライバシーと使いやすさの点で利点があります。応答を処理するために外部サーバーが必要なく (コストがかかる可能性があります)、すべてのデータがデバイス上に残ります。

クアルコムはプレスリリースの中で、Androidスマートフォン上で動作する世界初のLMMを搭載していると述べているが、使用されている正確なハードウェア（おそらくクアルコムの最新のSnapdragon 8 Gen 3チップを搭載したスマートフォン）については言及していない。同社はこのデモについて、「テキストや画像を含む複数の種類のデータ入力を受け入れ、画像に関する AI アシスタントとの複数ターンの会話を生成できる 70 億以上のパラメータ LMM が Android スマートフォン上で初めて実行される」と説明しています。 」 LLaVAモデルの改良版です。

クアルコムはまた、Android スマートフォン上で動作する人気の AI 画像生成ツールである Stable Diffusion の修正ビルドも披露しました。 Stable Diffusion は「Low Rank Adaption」モード (LoRA) で実行されており、適切な品質とパフォーマンスを維持しながらトレーニング データのサイズを削減します。このセットアップは、フル デスクトップ グラフィックス カードやリモート GPU サーバーでの Stable Diffusion ほどうまく機能しませんが、それでも印象的です。クアルコムは 2023 年に Android スマートフォンで安定拡散の別のデモをテストしましたが、これでは 512x512 の画像を 15 秒以内に生成できました。

これらのデモは、何よりもクアルコムのハードウェアの技術ベンチマークとして存在しており、これが Android スマートフォンやタブレットで実行できる洗練されたアプリになるかどうかは不明です。クアルコムが新しい「AIハブ」でその成果を共有し、他の開発者がそれを独自の携帯電話やタブレットのアプリで使用できるようになる可能性がある。もう少し作業を進めれば、クラウドを必要とせずに、制限付きの ChatGPT のようなアシスタントを Android 携帯電話に搭載できるでしょう。Apple が iPhone 向けに開発を進めていると噂されています。

出典: クアルコム