Google と Microsoft が OpenAI と提携して AI 安全監視グループを設立

「フロンティア・モデル・フォーラム」と呼ばれるこの提携は、将来のAIの安全かつ透明性の高い開発について話し合うために、先週ホワイトハウスで同じ企業に加えてアマゾンとメタとの会合が行われた後に行われた。

AI を安全に保つために、テクノロジー業界の大手企業が結集しています。テクノロジー大手の Google と Microsoft は、AI テクノロジーが「安全かつ責任ある」方法で進歩することを保証するために、OpenAI および Anthropic と提携しています。

この提携は、将来の AI の安全かつ透明性の高い開発について話し合うために、先週ホワイトハウスで同じ企業に加えて Amazon と Meta との会議が行われた後に行われました。

フロンティア・モデル・フォーラムと呼ばれる監視団体は、世界中の一部の政府がAIの安全を守るための措置を講じているが、それらの対策は十分ではないと指摘した。むしろ、それはテクノロジー企業次第です。

Google サイトのブログ投稿で、フォーラムは 4 つの主な目的を列挙しました。

• AI の安全性研究を改善して将来のリスクを最小限に抑える
• 将来のモデルの責任ある開発と展開のためのベスト プラクティスを特定する
• 政策立案者、学者、その他の人々と協力して、AI の安全性リスクに関する知識を共有する
• 気候変動やがん検出などの人類最大の問題を解決するための AI 利用の開発をサポート

OpenAIの代表者は、フォーラムは政策立案者と協力するが、政府のロビー活動には関与しないと付け加えた。

フォーラムのメンバーシップは、フロンティア モデルの開発と展開、フロンティア モデルの安全性への強い取り組みの実証、他のメンバーとの共同イニシアティブへの参加意欲という 3 つの基準を満たす企業であれば誰でも参加できます。 「フロンティアモデル」とは何ですか？フォーラムでは、これを「現在の機能を超え、広範囲にわたる機能を持つ大規模な機械学習モデル」と定義しています。

AIには世界を変える可能性があるが、フォーラムは「リスクを軽減するには適切なガードレールが必要だ」としている。 OpenAIのグローバルアフェアーズ担当バイスプレジデント、アンナ・マカンジュ氏は声明を発表し、「AI企業、特に最も強力なモデルに取り組んでいる企業が共通の立場で足並みを揃えることが極めて重要だ。これは緊急の取り組みだ。そしてこのフォーラムは良い位置にある」と述べた。 AI の安全性を向上させるために迅速に行動する必要があります。」

Microsoftのブラッド・スミス社長もこうした意見に同調し、AI技術を安全に人間の管理下に置くかどうかは、最終的にはAI技術を開発する企業次第だと述べた。