AI 検索は Google が考える特効薬ではない、その理由は次のとおりです
クイックリンク
- Google の将来の検索ビジョンは AI を活用する
- AI 検索はインターネット スパムと戦うための Google の戦略です
- AI 検索の問題は、幻覚を引き起こし、信頼を損なうことです
- AI によるニュアンスの喪失の概要
- AI の概要がオープン インターネットを消滅させる可能性がある
- 結局のところ、人々は人間的な体験とコンテンツを望んでいます
最近、Google は検索に AI を組み込むと発表しました。これにより、大量の検索結果を最初に探し回らなくても、必要な情報を簡単に見つけられるようになります。ただし、それが機能しない理由はいくつかあります。
Google の将来の検索ビジョンは AI を活用する
Google I/O 2024 で、同社は「ジェミニ時代の検索」、つまり AI を検索に統合していることを紹介しました。 Googleはしばらくの間、検索生成エクスペリエンスを通じたAI検索のアイデアを検討してきたため、この動きは驚くべきことではなかった。
カンファレンスでGoogleは、検索でのプランニング、AIで構成されたページ、ビデオ検索など、いくつかの新しい実験的なAI機能を披露した。しかし、話題をさらったのは AI 概要です。
AI 概要の背後にある考え方は、複数の Web ページをスキャンして必要な情報をつなぎ合わせる代わりに、Google がユーザーに代わってグーグル検索を行うというものです。 Google の上位の検索結果から最も重要な情報を抽出し、きちんとした概要を提供します。これらの回答の表示を微調整して、回答をより明確にしたり、段階的に細分化したりすることもできます。
AI 検索はインターネット スパムと戦うための Google の戦略です
Google が AI 検索に参入する大きな理由の 1 つは、AI 検索が同社の長年の問題の 1 つであるインターネット スパムの解決策であると考えているためです。
Google はその存続期間のほとんどの間、システムを悪用して大量のインターネット トラフィックを迂回させようとするインターネット スパマーとの絶え間ない競争を続けてきました。 Google がアルゴリズムを改善するたびに、これらのスパマーはアルゴリズムを悪用する新しい方法を見つけます。
しかし、2022 年後半、パワーバランスを変える何かが変化しました。 Open AI は、その生成 AI モデル ChatGPT を発表し、その際に、知らず知らずのうちにこれらのインターネット スパマーに核コードを配信し、記事を迅速かつ安価に量産できるようにしました。これらのスパム記事は上位にはランクされないかもしれませんが、状況を濁らせ、Google のエクスペリエンスをすべての人にとって質的に悪化させます。これは、「Google は滅びる」という常に存在する感情がここ数カ月で強まった理由も説明するかもしれません。
GoogleはAI Searchがこの問題を解決することを期待しているが、その計画にはいくつかの問題がある。
AI 検索の問題は、幻覚を引き起こし、信頼を損なうことです
Google が AI 概要を展開すると最初に発表したとき、私が最初に考えたのは、「彼らは幻覚の問題に対して何をするつもりなのだろう?」ということでした。
結局のところ、答えは「あまり多くはない」でした。 AI 概要が発表されてから少しして、壊れたフィルム カメラの修理方法に関する質問に対するデモ ビデオ内の提案の 1 つが、問題の解決に役立つというよりも、すべての写真を台無しにする可能性が高いことに人々が気づきました。
しかし、それで終わりではありませんでした。 AI の概要が展開され始めてすぐに、人々はその答えの一部がばかげている、あるいは有害であることに気づきました。たとえば、スパゲッティを作るためにガソリンを使うことや、毎日少なくとも2リットルの尿を飲むことなどが提案されている。
でも、だから何？インターネット上にあるものをすべて信じてはいけないことは誰もが知っていますし、他のチャットボットもでっち上げを行っているのに、なぜこれが大問題なのでしょうか?
問題は、検索における AI の幻覚が信頼性の問題を引き起こすということです。新しい実験的な AI チャットボットが時折嘘をついたり、情報を捏造したりすることは別問題です。人々が Google を信頼しているために Google がそれを行うとなると、まったく別のボールゲームになります。
Google は、AI 概要の奇妙な結果に対処し、追加の安全対策を講じたと述べていますが、私はまだ懐疑的です。一部の専門家は、幻覚は治すことができず、LLM の基本的な部分であるとさえ信じています。これが本当であれば、検索エンジンさえも含めて、オンラインでは何も信頼できないインターネットの時代が到来する可能性があります。
AI によるニュアンスの喪失の概要
Google の AI 概要は、トレーニング データのみに基づいて応答を生成しません。また、Google のトップ Web ページも参照します。これは幻覚を避けるのに役立つはずですが、文脈とニュアンスに関する新たな問題も引き起こします。
このことは、「ピザからチーズが滑り落ちるのを防ぐには?」という話題ですでに取り上げられています。 AI がピザに接着剤を追加することを提案した場所をクエリします。この回答は 11 年前の Reddit の投稿から引用されましたが、元の文脈で見れば誰でも冗談や荒らしのコメントとして簡単に無視してしまうでしょう。しかし、Google の AI 概要ではこのニュアンスが取り除かれ、他の選択肢を示唆するのと同じ権威ある方法で厳然たる事実として提示されています。
もう 1 つの例は、毎日少なくとも 1 つの小さな石を食べるという AI の推奨です。繰り返しになりますが、Google の AI 概要は、この情報を情報源 (この場合は風刺的なオニオン記事) から切り取り、文脈を奪い、厳然たる事実として提示しました。
これらは明らかな間違いであり、無害なものとして無視するのは簡単です。しかし、次に AI 概要が、発見するのが容易ではない重要なことを微妙に誤解した場合はどうなるでしょうか?
AI の概要がオープン インターネットを消滅させる可能性がある
AI の概要は、インターネットのビジネス構造全体を脅かします。ウェブサイトは広告収入に依存して利益を上げており、この広告収入はトラフィックに依存します。したがって、Web サイトには、人々がサイトにアクセスし続ける優れたコンテンツを作成するインセンティブが生じます。
AI オーバービューが Web サイトから直接情報を取得すると、この構造に問題が生じます。実際に Web サイトにアクセスする必要がなくなるため、トラフィックと広告収入が削減されます。 Web サイトが事業を継続するためにコンテンツをペイウォールの内側にロックせざるを得なくなるのは自然な流れかもしれません。
Googleは、AI概要内のリンクが従来のリストよりも多くのクリックを獲得していると主張しているが、これを裏付けるデータは提供していない。また、これらのリンクが AI 概要の結果の最下部に埋め込まれていることを考慮すると、その可能性は低いように思えます。たとえ下位のページではそれが当てはまっていても、上位の結果については信じがたいです。
コンテンツが存続するためにペイウォールの背後にロックされたら、インターネットはどうなるでしょうか?これは、インターネットが単なる単語予測の認識できない煮込みになるまで、オープンな Web に残るのは互いのコンテンツを際限なくリサイクルする多数の LLM だけになる、という死んだインターネット理論につながる可能性があるという人もいます。
結局のところ、人々は人間的な体験とコンテンツを望んでいます
Google は AI 概要に善意を持っています。しかし、問題は、人々が検索に求めているもの、つまり信頼性を根本的に誤解していることです。
人々は一般的なコンテンツに飽きています。彼らはただの逆戻りしたアドバイスではなく、人間としての本当の経験を求めています。そのため、問題について真の洞察力を持つ実際の人間からの意見を求めて Reddit を検索する人が増えています。
AI を増やす代わりに、本物のコンテンツと実際の体験に報酬を与えるアルゴリズムが検索の未来に役立つかもしれません。