独自の無修正ローカル GPT のようなチャットボットをインストールする方法は次のとおりです

重要なポイント

無検閲の応答には GPT4All を使用して、データのプライベートを保ちます。
ダウンロードは簡単ですが、十分なスペースがあることを確認してください。
モデルを更新し、ドキュメントを分類することで、ローカルチャットボットを効果的に実行します。

人工知能は多くの人にとって優れたツールですが、無料モデルにはいくつかの制限があり、状況によっては使用が困難になります。ここでは、検閲のない GPT のようなチャットボットをローカルマシンにインストールする簡単な方法を紹介します。

ローカル GPT のようなボットを選択した理由

私はしばらく ChatGPT を使用しており、以前はこのエンジンでゲーム全体をコーディングしたこともありました。ただし、そのバージョンではオンライン専用の GPT エンジンを使用したため、応答が少し制限されていることがわかりました。将来のプロジェクトのためのソリューションを探していたところ、家庭用マシン上で LLM をプライベートに実行するコードを備えた GitHub プロジェクトである GPT4All を見つけました。主に次のような理由から、これをインストールすることにしました。

私のデータはプライベートのままなので、OpenAI がモデル内で使用するデータを収集することを心配する必要はありません。
回答は OpenAI の検閲ガイドラインによってフィルタリングされません。
個人的な文書でローカル LLM を使用すると、書き方や考え方に基づいて、よりカスタマイズされた応答を得ることができます。
接続が切断されても、ローカルマシンには LLM が残っており、必要なときにいつでも使用できます。

あなたが私と同じで、自分自身を検閲しないお気に入りの LLM のローカルバージョンが必要な場合は、その方法について詳しく説明します。

GPT4Allをダウンロード

これを始めるのは、GPT4All クイックスタートサイトからパッケージをダウンロードするのと同じくらい簡単です。パッケージのダウンロードは簡単で、インストールも簡単です。どのモデルも含まないベースアプリケーションには約 1 GB のストレージ容量が必要になることに注意してください。インストール場所を選択したら、リポジトリがすべてのファイルをダウンロードするまで待つ必要があります。

Nomic の開発方法のおかげで、インストールは最も一般的なオペレーティングシステムで動作します。クイックスタートサイトには、Windows だけでなく、Linux や macOS 用のディストリビューションもあります。インストールする前に注意する必要があるのは、スペース要件だけです。

GPT4All の実行

インストールが完了したら、アプリを検索するのと同じくらい簡単に GPT4All を実行できます。起動すると、ローカルドキュメントをフィードしたり、オンボードモデルとチャットしたりするなど、いくつかのオプションが表示されます。ウィンドウの左側に沿って、以前に行った他のチャットにアクセスしたり、ローカル AI チャットボットを更新するために使用したローカルドキュメントを確認したりできます。ただし、ここで最も重要なのは [モデル] タブです。

デフォルトでは、モデルがインストールされていない状態で開始されますが、完全に無料でダウンロードして使用できるさまざまなモデルにアクセスできることがすぐにわかります。この空のチャットボットを本当に素晴らしいものに更新する方法を見てみましょう。

ローカルチャットボット用の新しいモデルを入手する

画面の左上にあるモデルタブを開くと、利用可能なモデルをざっと確認できる領域が開きます。各モデルには、そのモデルが何を提供し、何に適しているかを示す記述子があります。また、モデルのインストールに必要なサイズ (2 GB からなんと 7 GB の容量まで) もわかります。

完全なオフラインモデルを目指しているので、Mistral (HuggingChat で有名) モデルを使用することをお勧めします。実際の ChatGPT の使用を避けるべきなのはなぜですか?その理由を紐解いてみましょう。

まず、ChatGPT 4 には API アクセスキーが必要であり、料金を支払う必要があります。 3.5 モデルは無料で利用できますが、処理範囲は限られています。 GPT4All では、ユーザーが API アクセスの力を活用することもできますが、これには、モデルが OpenAI にプロンプトデータを送信することが含まれる場合があります。ローカル文書にはあなただけがアクセスできます。 OpenAI は、API 経由で収集したデータは LLM のトレーニングには使用されないと主張していますが、唯一の保証は会社の言葉です。

ChatGPT は最もよく知られたチャットボットの 1 つですが、利用できる AI エンジンはこれだけではありません。利用可能なモデルは非常に多用途であるため、ChatGPT を GPT のようなローカルチャットボットとして使用することに限定されません。

Llama3 Instruct、Mistral、Orca などのモデルはデータを収集しないため、多くの場合、高品質の応答が得られます。好みに応じて、これらのモデルは ChatGPT よりも優れたオプションである可能性があります。最善の方法は、実験してニーズに適したモデルを決定することです。モデルを保存するためのスペースが必要になるため、1 つだけを使用する場合は、マシン上に複数のモデルを置かないでください。

ローカルドキュメントへのアクセスを設定する

ドキュメントの作成を支援したり、その他のことをガイドしたりするためにローカルチャットボットを使用することを計画している場合は、まずドキュメントコレクションを設定する必要があります。幸いなことに、GPT4All を使用するとこれが簡単になります。モデルにアクセスさせたいすべてのドキュメントをアクセスしやすいフォルダーに置き、[コレクションの追加] ボタンを使用してエンジンがそのフォルダーを指すようにするだけです。処理時間はフォルダーにあるドキュメントの量によって異なりますが、それほど長くはかかりません。

ローカルドキュメントフォルダーを追加すると、チャットボットはドキュメントにアクセスして読み取り、質問したことについてアドバイスできるようになります。これは、特定の主題について学びたいが、百科事典を調べる時間がない場合に非常に便利です。コンテンツとチャットして、そこから必要なものを取得する方がはるかに効率的です。

ローカルチャットボットを効果的に使用するためのヒント

チャットボットは作成した分だけ役に立ちます。オフラインチャットボットの新規ユーザーが知っておく必要があることがいくつかあることがわかりました。

まだ言及していない最も重要なことの 1 つは、GPT4All は少なくとも 8GB の RAM で実行されるということです。それ未満の環境でボットを実行することはできますが、それはお勧めできません。

さまざまなドキュメントカテゴリに対して個別のコレクションを構築できます。たとえば、カジュアルなプロジェクトで使用する一連のドキュメントと、プロとして使用する一連のドキュメントがある場合、ボットは要求に基づいて 2 つのスタイルの応答を開発できます。各ドキュメントコレクションは、重複を避けるために個別に処理できます。

最後に、モデルを常に最新の状態に保つことを忘れないでください。

チャットボットをより効率的に使用するには、更新されたモデルを時々確認する必要があります。新しいモデルには最新のユースケースが付属している場合もあるため、リリースノートを読むと、希望する動作にモデルを適応させることができます。新しいモデルを使用している場合は、そのモデルを使用してドキュメントを再処理する必要があることに注意してください。古いモデルとの下位互換性はありません。

さまざまな状況に適したツール

チャットボットは、学習を迅速に進めたり、小説の執筆などのクリエイティブな作業を支援したりするための強力な方法となり得ます。ただし、これらはまだ単なるツールであり、その優れた点は、使用するデータと処理を実行するモデルによって決まります。ローカルチャットボットを使用すると、ボットがアクセスして学習するデータを制御できるようになります。また、オンラインモデルよりも具体的な応答が得られます。一度最新の状態にしておけば、優れたアシスタントとして機能します。