人工知能により人間中心のデザインを取り入れるよう呼びかける

多くのAIシステムは、「私たちがAIに望むことは何でも、ボタンを押せば、まるで魔法のように結果が得られる」という前提の下で開発されています。

人工知能は、特定の質問に対する最終的な答えであることを皆が望む不透明な結果をもたらす「大きな赤いボタン」を通じて起動されるべきではありません。むしろ、結果が何を伝えているのかを理解できる人間の制御の下にあるべきです。

スタンフォード大学の准教授ゲ・ワンの言葉によれば、AIアプリケーションとシステムには人間中心のデザインアプローチが必要だと彼は主張しています。スタンフォードHAI（人間中心のAI）が主催した最近のウェブキャストで、ワンはAI開発者やデザイナーに一歩引いて人間の重要な役割を考慮するよう促しました。「私たちはAIに関する答えから非常に遠く離れており、ほとんどの質問さえまだわかっていません」と彼は指摘しています。

今日の多くのAIシステムは大きな赤いボタンを中心に設計されていると彼は言います。「私たちがAIに求めるものは何であれ、ボタンを押せば、まるで魔法のように結果が私たちに届けられる」とワンは言います。「AIにはこの魔法のような特質があるという認識があり、言葉が足りないために言うと、知性を示しています。そして、複雑なタスクをこなすことができます。AIは私たちが今までに作った中で最も強力なパターン認識器です。」

では、問題は「私たちはAIから本当に何を望んでいるのか？」ということになります。ワンは続けます。「私たちは常に正しい答えを示すオラクルを望んでいるのか、それとも私たちが学び、上達するために使えるツールを望んでいるのか？そして、定義上、人間と対話的なツールを望んでいるのか？」

人間をAIのループにもっと取り込む方法は、必ずしも複雑である必要はありません。ワン氏は、AIアプリケーションのユーザーインターフェースに「スライダー」を導入することが非常に効果的なアプローチになるだろうと提案しています。AIシステムの設計は「この上にスライダーを置けるか？」というシンプルな質問から始まることができるとワン氏は言います。それは何を意味するのでしょうか？それはシステムをどのようにより有用または興味深いものにするのでしょうか？

スライダーを使用することで、ユーザーは質問に対するAIの強度を軽いタッチから完全なAI出力まで調整できるようになります。ワンは、彼の学生のプロジェクトの一例として、法的文書を平易な英語に翻訳するAIシステムを挙げています。「興味深いのは、出力における法的用語を制御するスライダーの追加です」と彼は述べています。このスライダーは、文書を元の法的用語に近い状態に保つことができ、完全に翻訳された平易な言語まで調整できます。「このスライダーが追加される瞬間、これは堅苦しい大ボタンシステムから、制御できるシステムに変わりますが、異なる人々が自分のニーズに合わせて特定できるシステムでもあります。もし私たちのツールが実際にAIでそれを可能にしたらどうなるでしょうか？」

この種の人間参加型デザインの利点は、システムが実際にどのように機能しているかについて、しばしば重要な透明性を得ることができるということです」とワンドは述べています。「また、設計の仕方によっては、人間の判断を効果的に取り入れる方法でもあります。これは単なる圧力測定です。私たちは、実際に人間をループに組み込んだシステムを構築しようとするたびにこれを目にします。完璧なアルゴリズムの構築から大きな赤いボタンへの圧力を測定すべきです。このものは、完璧である必要はなく、永遠に箱から出す必要はありません。なぜなら、人間は出力を洗練させることができるからです。

その結果、AI出力に対する人間の制御を強化するスライダーのような適応は、「ほぼ常に、より強力なシステムを可能にし、より弱いものではない」と王は要約しています。

AIは他の先進技術と同様に、人々や組織の上に単に投げ込まれても成功しません。人々はAIベースのツールを活用して、顧客や従業員のためにより良い世界を作るのに役立つアイデアやアプローチを創造し、実行できる必要があります。