AI を正直に保つには人間の監視が鍵
ニュース集約プラットフォームである SmartNews のトラスト責任者は、人工知能を利用したツールが、人々がどのコンテンツを読むべきかを決定するのに任せるべきではないと述べ、人間が常に最新情報を把握しておく必要がある理由を説明しています。
情報を解読するために必要な重要な特性がまだ不足しているため、人工知能 (AI) が人間にどのコンテンツを読まなければならないかを独断で決定すべきではありません。
SmartNews の信頼、安全性、顧客エクスペリエンス部門の責任者、アルジュン ナラヤン氏は、適切なコンテンツを確実にユーザーにプッシュするには人間による監視とガードレールが重要であると述べています。
このニュース アグリゲーター プラットフォームは世界中の 3,000 のニュース ソースから記事を厳選しており、ユーザーはそのアプリに 1 日平均 23 分を費やしています。 Android と iOS で利用できるこのアプリは、5,000 万回以上のダウンロードを記録しています。東京に本社を置くスマートニュースは、言語学者、アナリスト、政策立案者で構成されるチームを日本と米国に置いています。
同社が掲げる使命は、現在オンラインで入手できる膨大な量の情報の中で、信頼性があり、ユーザーにとって関連性のあるニュースを広めることです。 「ニュースは信頼できるものでなければなりません。私たちのアルゴリズムは何百万もの記事、シグナル、人間のやりとりを評価して、現時点で最も重要な記事の上位 0.01% を配信します」と SmartNews はウェブサイトで宣伝している。
このプラットフォームは、機械学習と自然言語処理テクノロジーを使用して、ユーザーが必要なニュースを特定し、優先順位を付けます。ニュースソースの信頼性と正確性を評価するための指標があります。
真実性が疑わしいソーシャルメディアを通じて情報が消費されることが増えているため、これは非常に重要であるとナラヤン氏は述べた。
独自の AI エンジンは、フォローしているトピックなど、ユーザーの個人的な好みに基づいて調整されたニュース フィードを強化します。また、さまざまな機械学習システムを使用して、インデックスに登録された記事を分析および評価し、コンテンツが会社のポリシーに準拠しているかどうかを判断します。準拠していない情報源は除外される、と同氏は述べた。
カスタマー サポートは彼のチームに直属しているため、ユーザーのフィードバックをすぐに確認して、必要に応じて反映できると彼は付け加えました。
他の多くの企業と同様に、同社は現在、生成 AI に注目し、コンテンツの発見と検索をさらに強化するために新しいテクノロジーを使用する最適な方法を評価しています。ナラヤン氏は、これらの新機能がどのようなものであるかについて詳細を明らかにすることを拒否した。
ただし、一部の分野ではまだ不十分な AI の使用の中で、人間の監視を維持することの重要性を強調しました。
たとえば、大規模な言語モデルは、速報ニュースや時事ニュースの処理には効率的ではありませんが、DYI やハウツー記事などの常緑コンテンツの分析に使用すると、より高い精度と信頼性で実行されます。
これらの AI モデルは、大量のコンテンツを要約したり、コンテンツ配信の強化などの一部の機能をサポートしたりする場合にも優れていると同氏は指摘しました。彼のチームは、特定のコンテンツが会社の編集ポリシーを満たしているかどうかを判断するために、大規模な言語モデルを使用することの有効性を評価しています。 「それはまだ初期段階で初期段階にある」と彼は語った。 「私たちが学んだのは、AI モデルの正確さ（のレベル）は、それに供給してトレーニングするデータと同じくらい優れているということです。」
今日のモデルはほとんどが「意識的」ではなく、文脈の理解を欠いているとナラヤン氏は言う。これらの問題は、より多くのデータセットやデータがモデルに入力されるにつれて、時間の経過とともに解決できると同氏は述べた。
トレーニング データが「処理」され、バイアスがないか、不一致が正規化されていることを確認するには、同等の労力を投資する必要があります。これは、AI モデルのトレーニングにオープン データセットが一般的に使用される生成 AI にとって特に重要であると同氏は指摘しました。同氏は、これが業界の「いかがわしい」部分であり、著作権や知的財産権の侵害に関連する問題につながると述べた。
「現時点では、どのような種類のデータが AI モデルに取り込まれているかについてはあまり公開されていません」と彼は言いました。 「これは変える必要があります。これらの AI モデルが私たちの世界観を形作ることになるため、AI のトレーニング方法と意思決定ロジックに関して透明性が確保されるべきです。」
同氏は、AI が偽の情報を生成して、現実的な人々が真実であると思い込む「幻覚」について懸念を表明しました。
このような問題は、ユーザーにプッシュされるコンテンツを人間が監督する何らかの形のガバナンスの必要性をさらに強調している、と同氏は述べた。
組織は、AI モデルから得られるものを監査し、必要なガードレールを実装する必要もあります。たとえば、AI システムが爆弾の製造や盗作記事の執筆に関する指示を求められた場合には、セーフティ ネットを設置する必要があります。
ナラヤン氏は「現時点でAIは単独で稼働させることができる段階にない」と述べ、常に人間の能力と監視への投資が必要だと付け加えた。 「ガードレールが必要です。校正や事実確認が行われていないコンテンツは望ましくないのです。」
そして、誇大宣伝の中で、生成 AI の限界に留意することが重要です。生成 AI のモデルは、ニュース速報を処理するようにまだトレーニングされておらず、リアルタイム データではうまく動作しません。
AI がよりうまく機能したのは、SmartNews がユーザーの読書パターンなどの特定の背景信号に基づいて、関心が高いと思われる記事を優先するために使用するレコメンデーション エンジンの強化です。これらの AI システムは過去 10 年間にわたって使用されており、ルールとアルゴリズムは継続的に微調整されてきたと同氏は説明しました。
同氏は、生成型AIをどのように組み込むことができるかについて詳細を明かすことには消極的だったが、人間と機械の相互作用を容易にするというその可能性を指摘した。
適切な質問の仕方を知っていれば、技術的な背景がない人も含めて、誰でも必要な回答を得ることができます。その後、その回答を日常の活動に再利用できると同氏は述べた。
ただし、生成 AI の一部の領域は依然として灰色のままです。
ナラヤン氏によると、同社のニュースプラットフォームでは、完全にAIによって書かれた記事や、人間が書いてAIで強化された記事をどのように管理すべきかについて、ニュースプラットフォーム上で出版社と継続的な議論が行われているという。そして、そのような記事に対してルールが確立された場合、どのように施行されるのでしょうか?
さらに、読者が AI がいつどのように使用されるかを知るために、さまざまなバリエーションに適用すべき開示レベルについての質問もあります。
これらが最終的にどのように対処されるかに関係なく、義務として残っているのは編集上の監督です。ナラヤン氏は再び透明性の重要性を強調し、あらゆるコンテンツが正確さと信頼性に関するスマートニュースの編集方針を満たさなければならないと述べた。
同氏は、AI倫理チームと信頼チームの排除を伴う技術者解雇に懸念を表明した。 「今から言いますが、（人間による）監視と安全ガードレールへの投資を継続することが非常に重要です。勤勉さが欠けていると、我々は怪物を生み出すことになります」と同氏は語った。 「自動化は優れており、システムを拡張できるようになりますが、人間の創意工夫に匹敵するものはありません。」