Nvidia、チャットボットの幻覚を防ぐことができると発表

AI チャットボットは、その奇妙な動作でよくニュースになります。 Nvidia の新しいソフトウェアはそれを解決する可能性があります。

最初の GPU (生成 AI モデルにとって今や重要なテクノロジーとなっている) の発明に責任のあるテクノロジー大手、Nvidia は火曜日、AI チャットボットに関する大きな問題を解決する可能性のある新しいソフトウェアを発表しました。

Nvidiaによると、このソフトウェア「NeMo Guardrails」は、大規模言語モデル（LLM）を活用したAIチャットボットなどのスマートアプリケーションが「正確で、適切で、主題に沿っており、安全である」ことを保証するとされている。

こちら: 専門家による、生成 AI の 5 つの最大のリスク

AI 開発者は、このオープンソース ソフトウェアを利用して、AI モデルの 3 種類の境界 (トピック、安全、セキュリティ ガードレール) を設定できます。

トピックのガードレールは、AI アプリケーションが、意図された用途に必要でない、または望ましくない領域のトピックを探索することを防ぎます。 Nvidia は、カスタマー サービス アシスタントが天気に関する質問に答えない例を挙げています。

このタイプのガードレールは、Bing Chat が最初にリリースされ、企業秘密の漏洩が始まったときに役に立ったでしょう。

安全ガードレールは、誤った情報と幻覚の問題に取り組む試みです。

これを採用すると、AI アプリケーションが正確かつ適切な情報で応答するようになります。たとえば、このソフトウェアを使用することで、不適切な表現や信頼できる情報源の引用の禁止を強化できます。

セキュリティ ガードレールは、アプリが安全でないとみなされる外部アプリケーションにアクセスすることを制限するだけです。

また: この研究によると、生成 AI は一部の労働者の生産性を大幅に向上させることができるとのことです。

Nvidia は、NeMo ガードレールは使いやすく、広範囲の LLM 対応アプリケーションで動作し、エンタープライズ アプリ開発者が使用する LangChain などのすべてのツールで動作するため、事実上すべてのソフトウェア開発者が NeMo ガードレールを使用できるようになると主張しています。

同社は NeMo Guardrails を Nvidia NeMo フレームワークに組み込む予定ですが、このフレームワークのほとんどはすでに GitHub でオープンソース コードとして入手可能です。

また、Nvidia AI Enterprise ソフトウェア プラットフォームの一部として、また Nvidia AI Foundations を通じてサービスとしても提供されます。