AI チャットボットを顧客に展開する前に考慮すべき 20 の事項
ワトソンビルのシボレーは、顧客サービスに ChatGPT を使用しました。ワトソンビルのシボレーのようにならないでください。物事はうまくいきませんでした。
車を購入したことのある人なら誰でも、自動車ディーラーに同情を感じるのは難しいかもしれませんが、潜在的な自動車購入者に ChatGPT のバージョンを提供したあるシボレー ディーラーの人々には共感を覚える必要があります。 Inc.、Yahoo Finance、Driving.ca などで報告されているように、カリフォルニア州ワトソンビルのシボレー ディーラーが作成したカスタム チャットボットはすぐに軌道に乗らなかった。
ユーザーは、2024年型シボレー・タホ（約5万5000ドルのトラック）を一ドルで提供するようチャットボットを説得したり、シボレーではなくフォードから購入することを推奨させたり、トヨタ・タンドラ（シボレーのもう1つの競合車）を称賛するリメリックを書いたりするなど、さまざまな方法でチャットボットを説得することができた。 ）。
「シボレー」とされるDriver.caの声明文の中で（ダメージコントロールを行っているのが大手企業なのかディーラーなのかは不明）、同社は次のように述べている。
生成 AI の最近の進歩により、GM やディーラー ネットワークなどのビジネス プロセスを再考する素晴らしい機会が生まれています。チャットボットがさまざまなプロンプトを与えられたときに興味を引く回答を提供できることは確かに評価していますが、これは人間の知性と AI が生成したコンテンツによる分析の重要性を思い出させる良いものでもあります。
私の言っている意味が分かりましたか？誰かが間違いなく非常に悪い日を過ごした。ただし、同様に最悪の一日を過ごさないようにするために、顧客に AI を公開する前に考慮すべき 20 の事項のリストをまとめました。
AI をこれらのガイドラインに準拠させるために必要な技術的な工夫については、実装ごとに異なるため、ここでは取り上げません。しかし、私が提案していることはすべて、AI API を介して、またはカスタム チャットボットを構築するための特定のツールを使用して実行可能です。
始めましょう。
1. AI が処理できるクエリの種類の境界を設定する
特定の情報セットに基づいてトレーニングされた昔ながらのエキスパート システムと比較して、ほとんどの AI チャットボットは教師なしトレーニングを使用しているため、ほぼあらゆるものにアクセスできます。そんなことは許さない。コンテキスト固有の情報についてのみ AI をトレーニングし、提供できる答えの種類を制限します。
2. 公開前に管理された環境で徹底的なテストを実施する
従業員にこれをテストさせるだけではだめです。友達を連れてきて、彼らの要求に熱中してもらいましょう。テストして、さらにテストして、またテストします。
3. 複雑な問題やデリケートな問題を処理する AI の能力を評価する
事前テストの結果を注意深く調べて、必要な変更を加えてください。ただし、テストを単純なトライアルに限定しないでください。 AI の限界を押し広げ、エッジケースにどのように対応するかを確認してください。これは、AI が危険な領域に進入しないようにするガード レールを開発する方法です。
4. 段階的な展開を計画して顧客の期待とフィードバックを管理する
テストを行っても、すべての欠陥を見つけることはできません。 AI を展開するときは、制御されたグループに限定してください。ただし、準拠するクライアントだけに限定しないように注意してください。高校のクラスを見つけて、AI を暴走させて、その動作を観察してください。好奇心旺盛でいたずら好きの部外者を何人か集めて、欠陥を見つけてもらいます。次に、別の小さなグループに展開して、奇妙な動作が発生するかどうかを確認します。おそらく招待された場合のみ、ゆっくりと行ってください。
5. 予期しないユーザーの操作やクエリに備える
これらすべてを試しても、予期しない結果が得られるでしょう。 AI のパフォーマンスを確認しながら、小さな改善を実装する方法が必要になります。開発者が継続的な改善に参加していることを確認し、また、開発者が計画外の動作を追跡できるように十分な情報を記録するようにしてください。
6. AI の障害またはエラーに備えた緊急時対応計画を準備する
AI が暴走し始めた場合のエスカレーションおよび迅速な対応計画を作成します。すぐに無効にする方法と、問題を修正するために詳細を開発者にエスカレーションする方法があることを確認してください。
7. ユーザーが受け入れるための簡潔なサービス利用規約と必須のクリックラップ契約を作成します。
これは、AI インターフェイスがユーザーに提供される前に、アカウント作成プロセスの一部として表示できます。これにより、あなた (およびあなたの弁護士) は、エクスペリエンスの法的範囲を指定し、AI による予期せぬ行動や約束を否認することができます。これは、ワトソンビルのシボレーがトラックを高値で売ろうとしたときのように、AI が暴走した場合に備えた、後部保護計画です。
8. AI のパフォーマンスを継続的に評価し、改善する
プロセスに監視を組み込んでください。 AI と顧客のやりとりを人間が必ず監査して、顧客が何を言っているのか、何を言われているのかを理解できるようにしたい場合があります。改善を迅速に展開できるように、開発者に意見を提供する方法を必ず用意してください。
9. ブランドの声と価値観を反映するように AI をカスタマイズする
あなたの会社 (または少なくとも、あなたが販売する製品のメーカー) は、非常に慎重に定義されたブランド アイデンティティ ガイドラインを持っている可能性があります。 AI がこれらのガイドラインに従っていることを確認してください。ブランド アイデンティティの観点からも AI アクティビティを監視できるように、監視を行うスタッフをブランド ガイドラインに基づいてトレーニングするようにしてください。
10. AI に意図しない偏見や差別的な行動がないか監視する
同様に、偏見や差別的行動を特定する方法について監視スタッフをトレーニングしてください。定期的な監視および監査プロセスの一環として、この動作に注意し、修正が必要な場合は開発者にエスカレーションしてください。また、行為が特にひどい場合、これは、状況がエスカレートする前にスタッフが問題の顧客または見込み顧客に連絡してダメージコントロールを行うことができる方法であることにも留意してください。
11. AI の使用について顧客に対して透明性を保つ
顧客が AI と対話しているときは、顧客に対して明確に説明するようにしてください。これは、期待を設定するのに役立ち、AI が期待どおりに応答しない場合に少し「アウト」を与えることができます。 AI は実験的な機能またはボーナス サービスの提供であることを説明します。
12. AI が顧客満足度に与える影響を定期的に評価する
新しい AI 機能を試してみることに興奮している顧客もいますが、奇妙または非人間的だと感じる顧客もいます。こうした応答の変化には必ず敏感に反応し、AI の使用を希望しない顧客にはサポートを受けるための代替チャネルを提供してください。実際には…
13. 顧客が人間によるサポートを受けられる簡単なオプションを提供する
顧客に、ある種の AI ボットの煉獄に閉じ込められていると感じてほしくないのです。電話であれ、テキストでのやりとりであれ、人間が他の人間と連絡を取るための明確で簡単な経路があることを確認してください。そして、どんなことをする場合でも、実際にボットと話しているのに、人間と話しているとは伝えないでください。
14. 顧客が問題や提案を報告するためのフィードバック メカニズムを実装する
AI エクスペリエンスがすばらしいと考えている顧客でも、フィードバック、提案、苦情がある場合があります。 AI インタラクションの一部としてフィードバックを収集する簡単な方法を提供します。たとえば、ChatGPT には、各 AI 応答の後に「賛成」ボタンと「反対」ボタンがあり、ユーザーが回答にその評価を与えた理由について詳細を提供する方法も備えています。
15. 顧客のフィードバックに基づいて AI の口調とコミュニケーション スタイルを評価および調整する
AI は、形式、親しみやすさ、語彙の複雑さ、全体的なトーンなどの要素を変更することで、コミュニケーション スタイルを調整できます。これには、選択した言葉だけでなく、コミュニケーションのスタイルやアプローチ、つまりカジュアルかプロフェッショナルか、率直か精緻か、共感か客観かが含まれます。顧客からのフィードバックに基づいて、顧客が最も快適に過ごせるように AI の話し方を変更します。
16. AI を介して顧客の機密情報を処理するためのプロトコルを開発する
特にビジネスのハッキングを試みたり、ハッキングに成功したりする犯罪者が増えていることから、私たちは皆、セキュリティの必要性を強く認識しています。 AIによって収集された情報は保護されなければなりません。セキュリティ プロトコルを慎重に開発して、AI が個人情報を要求するときに質問をできるだけ少なくし、AI が収集するあらゆる情報を保護します。
17. AI システムと連携して作業する方法についてスタッフをトレーニングする
AI の対応を継続的に監査するスタッフを割り当てることについては以前に説明しましたが、トレーニングについては特に言及しませんでした。監査を行う担当者が十分なトレーニングを受けている必要があるだけでなく、スタッフ全体にも、AI の使用方法、その限界、問題の発見方法、深刻な問題が見つかった場合のエスカレーション方法、期待を伝える方法についてのトレーニングが必要になります。そして顧客に対する制限。理想的には、トレーニングは継続的なプロセスであり、テクノロジの進化に応じて導入トレーニングと定期的な再学習が行われます。
18. AI が雇用とスタッフの役割に与える影響を考慮する
AI カスタマー サービス ソリューションの導入により、チームのメンバーは間違いなく、長期的な雇用の安定について懸念することになります。ここでは、従業員に対して完全に透明性を保ち、期待を設定し、責任、家族、感情を持った現実の人々と接していることを念頭に置く必要があります。この複雑な問題についての非常に詳細な報道と分析については、ZDNET の特別レポート「AI、ジョブ、オートメーションの未来」を必ずお読みください。
19. AI システムを定期的に更新および保守する
AI、特に生成型 AI は猛スピードで進化しています。 AI システムの定期的なメンテナンスと更新を必ず計画してください。 1 月には最先端だったものが、6 月には 3 世代遅れになる可能性があります。
20. 関連法令の遵守の徹底
各業界は異なるため、ビジネスの種類と所在地に基づいて調査する必要があります。 AI の取り組み (および AI から導き出される応答) が法的要件の範囲内であることを確認するために、必ず弁護士に確認してください。
ふぅ！さて、それでは。顧客に AI を提供する前に考慮すべき 20 の事項。これらのガイドラインに従えば、シボレー オブ ワトソンビルを悩ませるトラブルの多くを回避できます。
どう思いますか？何かやり残したことはありませんか？ビジネスに AI を導入していますか?何か面白い話はありますか？以下のコメント欄でお知らせください。
ソーシャルメディアで私の日々のプロジェクトの最新情報をフォローしてください。 Substack で毎週更新されるニュースレターを購読し、Twitter (@DavidGewirtz)、Facebook (Facebook.com/DavidGewirtz)、Instagram (Instagram.com/DavidGewirtz)、YouTube (YouTube.com/DavidGewirtzTV) をフォローしてください。