AI テクノロジーによりオンライン ゲームの有害性がようやく軽減される方法
まとめ
- オンライン ゲーム コミュニティは、有害なテキストや音声チャット ロビーのせいで、プレーヤーに安全感を感じさせ、参加者に受け入れられていると感じさせることができない場合があります。
- AI チャット モデレーションは有害な可能性のある行為にフラグを立て、人間のモデレーター チームがレビューして対処できるようにします。
- AI ボイスチャットモデレーションは、コール オブ デューティ、Among Us、GTA オンラインなどの人気のマルチプレイヤー ゲームですでに使用されています。
ゲームロビーやチャットで時間を過ごすのは、ひどい気分になることがあります。一部のコミュニティは有害になり、プレイヤーがゲームに参加する前にゲームから遠ざかってしまいます。一部のパブリッシャーは、自社のゲームをすべてのプレイヤーにとって親しみやすいものにするための解決策として AI が使えるのではないかと考えています。
ゲームには毒性の問題がある
私は昔ながらのゲーム好きの人間なので、形成期のほとんどはシングルプレイヤー ゲームやコンソールでのソファ対戦に費やされました。トラッシュトークは当時の風潮でしたが、友達の隣のソファに座っていると自分の限界がわかり、誰もトラッシュトークを個人的に受け取ることはありませんでした。インターネットがすべてを変えました。
Steam ではローカル マルチプレイヤー ゲームをプレイできますが、通常はロビーでオンラインでプレイします。 ヴァロラントやコール オブ デューティなどのオンライン マルチプレイヤー シューティング ゲームをプレイすると、多くのオンライン シューティングゲームが苦労している有害性の問題の程度にすぐに気づくでしょう。 2022 年のデータによると、 おそらくコール オブ デューティがすべてのファン層の中で最も有毒であり、新しいファンの目にはゲームが悪く見えることが示されました。このゲームには、数年前の悪名高い「スワッティング」トレンドなど、有害な行為の悪名高い歴史もあります。
コール オブ デューティの発行元である Activision はこれに満足せず、状況を変える時期が来たと判断しました。
プレイヤーは長い間、毒性のないゲームを求めてきました。しかし、ほとんどのゲーム会社は、プレイヤーベース間の有害性の問題にどのように取り組むべきかを知りません。最近コール オブ デューティは、AI を使用してロビーでの有害な行動を捕捉し、プレイヤーベースで否定的な行動を促進するプレイヤーに対処するシステムを実装しました。結果は驚くほど効果的でした。
AI は有害なプレーヤーにどのように対処するか
あなたがゲームロビーにいると、誰かがトラッシュトークであなたの顔に向かって激怒します。それは最終的には嫌な言葉になり、中傷します。あなたはその男を通報しましたが、それについて何かが行われるかどうかさえわかりません。
これが最近の多くのオンライン ゲーム スペースの現実です。 Activision によると、2024 年 1 月の時点で 400 万を超えるアカウントが有害な行為を理由に取り締まりを受けていますが、その行為は今も続いています。
Activision の古いアプローチは機能しなかったため、ギアを変更することにしました。
同社は以前、テキストベースのモデレーションのために Community Sift と提携しており、それがうまく機能しているように見えました。ただし、コンソールベースのロビーでは、ほとんどのコミュニケーションが音声で行われるため、音声ベースのモデレーションが必要です。ここで、同社の AI ベースのボイスチャット モデレーターが登場します。
ToxMod として知られるモデレータは Modulate.ai 社の出身であり、コール オブ デューティエコシステム内で大きな権力を持っています。 ToxMod は、声のニュアンス、発話パターン、ストレス、その他の要素を使用して、ユーザーが他のロビー メンバーに対して有害なことを言っているかどうかを判断します。モデレーターは警告を発したり、人間による強制や禁止の対象としてプレイヤー アカウントにフラグを立てたりすることができます。
現在 AI チャット モデレーターを実行しているのはどのゲームですか?
Among Us やグランド セフト オート オンライン などのタイトルには、両方とも AI チャット モデレーターが実装されています。 GTA オンラインのプレイヤーは、2023 年 12 月に ToxMod のベータ テストを初めて体験しましたが、多くのユーザーはプライバシーを懸念していました。ゲームのパブリッシャーであるロックスターは、システムをテストしているだけであり、2024 年に施行を検討するとプレイヤーに伝えました。しかし、これまでのところ、AI モデレーションに関する更新はあまりありません。
Among Us も、2024 年 4 月の VR リリースにこのシステムを実装しました。これらの人気ゲームにより、疑わしい言論に対処し、ゲーム ロビーを誰にとっても快適なものに保つという点で ToxMod が非常に人気になりました。これは、マルチプレイヤー オンライン ゲームがその有害な過去を脱却し、より多くの人々にとってより親しみやすいものになるよう支援するための一歩です。
フラグが立てられるものと問題ないもの
ToxMod によると、AI 音声モデレーターは感情的な手がかりを使用して、攻撃的な発言があったかどうかを判断します。ただし、攻撃的な発言を特定するためにチャットの応答も使用します。
このシステムは、ToxMod が音声会話の詳細なログを人間のモデレータに送信するため、人間が最終決定権を持つように設計されており、会話が行動規範に違反していると判断した場合、モデレーターは禁止を発行することができます。これは、完全に自動化されたモデレーション システムではなく、問題の特定を支援するように設計されたフラグ ツールです。
では、ユーザーが有害なプレイヤーに関するレポートを送信する方法がすでに存在するのに、なぜ ToxMod がこれほど大きな問題なのでしょうか? Activision の問題は、レポート画面に入るとプレイヤーがゲームから離れてしまうということです。そうなると、ゲームを続けたいと思う可能性は低くなります。 ToxMod の自動機能は、プレイヤーに代わってレポートを作成することでプレイヤーを夢中にさせます。
私たちの多くは、単に問題のあるプレイヤーをミュートして続行することに慣れていますが、ToxMod は、扇動者に対処できるように報告が確実に作成されるようにします。
ToxMod は Call of Duty にどのように役立ちましたか?
AI 音声モデレーターによってコール オブ デューティのようなゲームの毒性が薄れるのではないかと推測するのは簡単ですが、確かな事実がある方がずっと良いです。この場合、Activision は、タイトル Call of Duty: Modern Warfare III とCall of Duty: Warzone において、北米での有害なボイス チャットが最大 50% 減少したと推定しています。 >。同じ情報源は、再犯者が 8% 減少し、プラットフォーム上の有害性が全体的に 25% 減少することを示唆しています。
数字から、ToxMod がチャット エコシステムにプラスの影響を与えていることは明らかです。ただし、これは割り引いて考える必要があります。 AI の音声モデレーションでは、一部の地域のアクセントで問題が発生する傾向があるため、問題を回避するには人間が禁止を発行することが不可欠です。
それでも、一部のゲーマーはボイスチャットが認可されたことに不満を抱いています。 AI による音声モデレーションは優れていますが、それでも間違いが起こる可能性はあります。今年は、特に毒性が軽減された新しいコール オブ デューティをチェックするのに最適な年であると考えています。
私たちが望むゲームの未来の構築
人工知能は、PC 上での強力な画像生成から個人的なフィットネス トレーナーとしての使用まで、さまざまな用途に使用できます。マルチプレイヤー ゲームで不快なボイス チャットを緩和して、より歓迎的な雰囲気を作る方法を誰かが見つけるのは当然のことです。
私は、人々が協力的であり、偏見から仲間のプレイヤーを虐待しないマルチプレイヤー ゲーム コミュニティを望んでいます。トラッシュトークには時と場所がありますが、それが意地悪で虐待的なものに移行するラインもあります。
AI ボイス チャット モデレーターが、私たちを再びゲームが楽しい場所に連れて行ってくれる方法であるなら、私はそれが実装されることに大賛成です。