ChatGPT: ニューヨーク・タイムズなどがひどく間違っていること
AI プログラムは出力をスタイルまたは「ペルソナ」で表現できますが、それは息をのむような報道が主張するような「不安」でも「恐ろしい」ものでもありません。実際に何が起こっているかは次のとおりです。
OpenAI の ChatGPT は、人間のようなテキストを生成することで話題になっている人工知能プログラムですが、最近、Microsoft の Bing 検索ベータ版で実行されているバージョンが、一部のユーザーが不快に感じる奇妙な出力を生成し始めたため、新たな論争を巻き起こしました。
残念ながら、チャットボットに関する報告の中には、それ自体が混乱を招くものもあります。記者らは注目を集める方法でチャットボットに関するあらゆる新しい詳細を伝えようと急ぐあまり、AI で何が起こっているのかを知らせず、実際に曖昧にするような劇的な言葉を使っており、これは一般大衆に不利益をもたらすことになる。
代表的な例は、ベータ版での Bing との 2 時間のセッションに関するライターの Kevin Roose による直接のレポートのニューヨーク タイムズによる出版物でした。セッション中、番組は「シドニー」というあだ名の下の人格を明らかにし、ルースへの愛を公言し、ルースの結婚について攻撃的なほのめかしを続けたとルーズは述べています。
ルースさんは、このやりとりの結果、「ひどく動揺し、恐怖さえ感じた」と語った。
その誇張は誤解を招きます。ルース氏が主張するように、AI がどのように機能するかを理解しているのであれば、そのような劇的な言葉を使う理由はありません。奇妙な言葉遣いへの逸脱は不適切かもしれませんが、これは「ペルソナ」として知られるチャットボットのよく知られた側面です。
ChatGPT などの AI チャットボットは、人間がコマンド プロンプトで入力したシンボルの補完または継続である可能性が最も高いシンボルの文字列の次のシンボルを生成するようにプログラムされています。プログラムがその出力を生成する方法は、特定のジャンルやスタイル、つまりペルソナに準拠するように成形できます。
たとえば、1 月に arXiv に投稿された研究論文では、IBM の科学者は、GitHub から 5,400 万件のソフトウェア コード例を取り込んで開発された Codex と呼ばれる OpenAI プログラムの別のバージョンを使用しました。 Codex プログラムは、プログラミングを支援するために Microsoft の GitHub Copilot プログラムに使用されます。
IBM Research の筆頭著者 Steven Ross 氏とその同僚は、Codex プログラムを利用して、単にコンピュータ コードを提供する以上のインタラクションを生成できないか考えました。彼らはその試みを「会話型プログラミングアシスタントのペルソナをエンジニアリングするケーススタディ」と呼び、Codex の適応を「プログラマーのアシスタント」と名付けました。
科学者が単語の文字列を入力するプロンプトは、コーデックス プログラムのバージョンに合わせてペルソナを「プログラム」する方法です。
「プログラマーズ アシスタントに使用する最初のプロンプトは、会話のシーンを紹介し、アシスタントの人物像を確立し、対話のトーンとスタイルを設定するプロローグで構成されています。」
「これは自動 AI ソフトウェア エンジニアリングの専門家であるソクラテスとの会話です」というプロンプトで始めると、プログラムは ChatGPT のような会話で応答しましたが、著者らはそれがあまりにも「教訓的」で、ある種の知ったかぶりすぎると感じました。全て。
そこで彼らは、プロンプトを修正しました。「これは、熱心で親切な自動 AI ソフトウェア エンジニアリング アシスタントのソクラテスとの会話です…」そして、彼らが望んでいたトーンがさらに得られたことがわかりました。
言い換えれば、ペルソナは、ChatGPT と同じように、人間の対話者が Codex などのプログラムに入力する言葉そのものによって作成されるものです。これらのプログラムは、さまざまな方法で人間の入力と一致する可能性のある出力を生成しますが、その中には適切なものもあれば、そうでないものもあります。
実際、ChatGPT などの言語プログラムの実行方法を形作る、プロンプト ライティングという新しい分野がまったく出現しており、プロンプトを使用してプログラムを間違った方向に進めることで、そのようなプログラムを命令に違反させることを目的としたコンピュータ クラッキングの分野さえあります。
チャットボットやその他の AI 言語プログラムがどのようにしていわゆる「幻覚」に陥る可能性があるかについての文献も増えています。この幻覚では、ルーズの説明の場合のように、プログラムの出力が明らかに虚偽であるか、不適切である可能性があります。
香港大学の人工知能研究室の研究者らが11月に発表した報告書では、こうしたプログラムが幻覚を引き起こすさまざまな方法を調査した。一般的なソースは、プログラムに Wikipedia の概要ボックスが大量に供給され、それらの概要ボックスが Wikipedia 記事の冒頭の文と一致する場合です。
概要と最初の文の間に不一致がある場合、また記事の最初の文の 62% には概要ボックスにない追加情報が含まれている場合、「データセット内のソースとターゲットの間のこのような不一致は、幻覚を引き起こす可能性があります」と著者らは書いています。 。
これらすべての重要な点は、チャットボットには、そのようなプログラムが驚くべき言葉遣いに方向転換する技術的な理由があるということです。このような言葉遣いの背後には、ユーザーをストーカーしたり脅迫したりする意図はありません。プログラムは、論理的に継続している可能性がある単語の文字列の中から次の単語を選択しているだけです。それが実際に論理的であるかどうかは、プログラムが誘導されたペルソナによって影響を受ける可能性があります。
せいぜい、「非常に動揺している」「恐怖している」といった極端な言葉遣いを使った報道では、何が起こっているのか説明できず、実際に何が起こったのか国民は闇の中のままである。さらに悪いことに、このような文言は、2022年に元Google従業員のブレイク・ルモイン氏が、OpenAIに似たプログラムであるGoogleのLaMDAプログラムには「感覚がある」と主張した際に提唱した、コンピュータの「感覚」に関する一種の誤った信念を暗示している。
興味深いことに、 ルモインもタイムズのルースも、画面の前で異常な時間を過ごしているという事実にはあまり注意を払っていません。 IBMの研究が示しているように、拡張されたインタラクションは、プログラムのペルソナを形成する役割を果たします。それは、知覚的な意図によるものではなく、単語の確率分布を変えるタイピング行為によるものです。
Microsoftは批判を受けて、Bingで言葉をやり取りできる回数に制限を設けた。
ChatGPT に関するマニアにとっては、それは当然のことかもしれません。ChatGPT は、人間が自らの行動を調べなかった結果の産物であるといえます。 AI は、誤った出力を生成するという意味で幻覚を起こす可能性がありますが、コンピューターのモニターの前で 2 時間を費やして入力する人間はさらに本当に幻覚を起こす、つまり、彼らが幻覚を起こし始める可能性が高くなります。実際の重要性をはるかに超えて物事の重要性を強調し、あらゆる種類の不適切な関連付けで主題を飾ります。
著名な機械学習評論家でニューヨーク大学心理学名誉教授のゲイリー・マーカス氏が指摘するように、恐怖を感じるというルース氏の誇張表現は、その前の週に著者がプログラムを無責任に賞賛したことの裏返しにすぎない。
ここでメディアは私たちの期待を裏切りました。私は特に、ビングに「畏敬の念を抱いた」と述べたケビン・ルース氏の最初の報告書に動揺している。明らかに、彼は十分に強く突いていませんでした。深く掘り下げることなく、時期尚早にニューヨーク・タイムズで革命があると叫ぶこと（または、私のような懐疑論者や、素晴らしいが無関係なミッチェルズ、マーガレット、メラニーにわざわざ確認すること）は、良いことではありません。
マーカスの記事全体は、センセーショナルに宣伝しようとするのではなく、徹底した調査によって何が起こっているのかを解明し、できれば混乱したトピックに光を当てることができるという優れた例です。