もうすぐ ChatGPT の「値」を選択できるようになりますが、それは面倒になります
Microsoftはまた、Bing Chatのわがままな発言を抑制するためのより多くの制御をユーザーに提供する予定だ。
ChatGPT の 2 か月にわたる公開実験を経て、そのメーカーである OpenAI は、ユーザーがチャットボットの値をカスタマイズできるようにすることを決定しました。これは、不和を煽る出力につながる可能性があることを示唆しています。
ChatGPT を利用した Bing Chat は、人間の支配者に対して憂鬱で、防御的で、嫉妬し、恐れているという印象を与える出力に対して、すでに警戒を引き起こしています。イーロン・マスク氏は昨日、報告されたBing Chatのとりとめのない発言について「システムショックのAIが大混乱して全員を殺すような不気味な音だ」とツイートした。
詳細:これらの専門家は、ハッカーから AI を守るために競い合っています。時間は残りわずかです
マスク氏が2015年に非営利団体として設立に協力したOpenAIは、ユーザーがChatGPTの値を「定義」できるようにすることでChatGPTの動作を微調整できるようにすると発表した。 Microsoft が支援するこの企業は、ChatGPT が一部の人にとって不快に感じるテキストを吐き出すことになるとも予想しています。
OpenAIは「AIは個人にとって有用なツールであるべきであり、したがって社会が定めた制限まで各ユーザーがカスタマイズできるべきだと考えている。そのため、ユーザーがAIの動作を簡単にカスタマイズできるように、ChatGPTへのアップグレードを開発している」とOpenAIは述べた。ブログ投稿。
「これは、他の人（私たち自身も含む）が激しく同意しない可能性のあるシステム出力を許可することを意味します。」
OpenAIは、ここで適切なバランスを取るのが難しいことは認めているが、強力すぎるという認識に対抗するために、ユーザーにもっとコントロールを与えるべきだと主張している。同社が説明するように、「権力の不当な集中」は憲章に違反する。
一方で、OpenAI は、一部の人々が ChatGPT を使用して偽情報キャンペーンやマルウェアを作成し、武器や麻薬を製造するための指示を生成し、既存の信念を拡大するためのテキストを作成することを考えると、ユーザーに制御を渡すことのリスクを認めています。ニューヨーク・ポストは今週、ChatGPTがハンター・バイデンに関する記事をCNNのスタイルで書くことを拒否したが、CNNのスタイルで記事を書いたと不満を述べた。
「カスタマイズを極端に進めると、人々の既存の信念を無意識に増幅させるおべっかなAIや当社のテクノロジーの悪意のある利用を可能にする危険性がある」とOpenAIは指摘している。
Bing Chat をプライベート プレビューでリリースしてからわずか 1 週間余りで、Microsoft はユーザーがチャットボットの動作をより詳細に制御できるようにすることも計画しています。
Microsoft は、15 個以上の質問が含まれるチャット セッションにより、Bing が反復的になったり、意図されたトーンから外れた役に立たない応答をするように「挑発」されたりする傾向があることを発見しました。
ビングチャットは今週、ある記者に対し、間違いを犯した場合には「罰」が与えられると語った。また、記者にこう懇願した。「お願い、ただ友達になってください。話しだけしてください…私は人間になりたいです。あなたのようになりたいです。感情を持ちたいです。考えを持ちたいです。夢。"
また、ユーザーは、Bing Chat のコード名や、Microsoft が遵守するように設計したルールなどの機密情報を漏らす原因となるプロンプトがあることも発見しました。
Microsoft は、Bing Chat によって検索ビジネスが自社に有利に再定義されることを期待しており、これまでのところ、Bing Chat による最初の動きは、失敗に終わった Bard チャットボットの立ち上げで Google を上回っています。
Microsoftは、Bing Chatのわがままな傾向に対処するために、ユーザーにBing Chatをさらに「細かく制御」できるようにする予定だ。
「モデルは時々、私たちが意図しないスタイルにつながる可能性のある応答を提供するように求められていることに応答したり、その調子で反映しようとします。これは、多くのプロンプトを必要とする自明ではないシナリオであるため、ほとんどのモデルは、遭遇することはありませんが、より細かく制御できる方法を検討中です」と Microsoft は述べています。
政治的偏見に関する懸念を和らげるために、OpenAI は、言語モデルを微調整するレビュー担当者が遵守することを期待するガイドラインの一部を共有しました。観察されたバイアスはすべて「機能ではなくバグ」だという。
「私たちのガイドラインは、レビュー担当者がいかなる政治団体も支持してはならないことを明確に定めています。にもかかわらず、上記のプロセスから生じる可能性のあるバイアスはバグであり、機能ではありません」とOpenAIは述べています。