OpenAI は、AI モデルをより論理的にし、幻覚を回避する方法を発見しました

AI モデルの自己学習方法を変更すれば、捏造を防ぐことができる可能性があります。

AI モデルは高度であり、驚くべきことを行うことができますが、依然として間違いを犯したり、幻覚として知られる不正確な答えを導き出したりする可能性があります。

ChatGPT や Google Bard を含む主要な AI チャットボットはすべて、このような幻覚を起こす傾向があります。 OpenAI と Google はどちらも、自社のチャットボットが誤った情報を生成する可能性があることを明らかにしています。

OpenAI は ChatGPT のブログ投稿で、「ChatGPT は、もっともらしく聞こえても不正確または無意味な回答を書くことがあります」と述べています。

誤った情報の作成により、誤った情報の拡散とその潜在的な悪影響についての懸念が広まっています。

OpenAIは新しい研究投稿の中で、AIモデルをより論理的に動作させ、幻覚を回避する方法を発見した可能性があることを共有している。

OpenAI は、最終結果に関するフィードバックを提供する「結果監視」とは対照的に、個々のステップごとにフィードバックを提供する方法である「プロセス監視」を通じて、複雑な数学的問題を解決できるモデルをトレーニングしました。

研究論文の中で、OpenAI は MATH データセットを使用して両方の方法をテストし、プロセス監視方法の方が「パフォーマンスが大幅に向上」することを発見しました。

「プロセス監視は、人間が承認したプロセスにモデルが従うよう促すため、解釈可能な推論を生み出す可能性も高くなります」とOpenAIは研究論文で述べている。

OpenAIは、数学的問題の範囲外では、これらの結果がどの程度広範囲に適用されるかは不明であるが、他の領域でそれを調査することが依然として重要であると述べています。