Anthropic、政府が18か月以内に規制しなければAIの大惨事になると警告
同社は「事前のリスク防止の窓口は急速に閉まりつつある」としている。その理由は次のとおりです。
米国大統領選挙を数日後に控えたAI企業アンスロピックは、手遅れになる前に独自の規制を導入するよう主張している。
安全性を重視することで業界で傑出している同社は木曜日、同社が「壊滅的な」AIリスクと呼ぶものの増大に関する潜在的に懸念すべきデータとともに、政府に対し「対象を絞った規制」を導入するよう勧告を発表した。
リスク
Anthropic 氏はブログ投稿の中で、わずか 1 年で AI モデルがコーディングとサイバー攻撃においてどれほどの進歩を遂げたかを指摘しました。 「SWE ベンチのソフトウェア エンジニアリング タスクでは、モデルは現実世界のコーディング問題のテスト セットの 1.96% を解決できるようになりました (Claude 2、2023 年 10 月)、13.5% (Devin、2024 年 3 月)、そして 49% ( Claude 3.5 Sonnet、2024 年 10 月）」と同社は書いています。 「社内では、当社のフロンティア レッド チームは、現在のモデルがサイバー攻撃関連の幅広いタスクをすでに支援できることを発見しており、次世代モデルでは長期にわたる複数ステップのタスクを計画できるようになるだろうと期待しています」 --さらに効果的になるでしょう。」
さらに、ブログ投稿では、ベンチマーク テスト GPQA によると、今年 6 月から 9 月だけで、AI システムによる科学的理解が 18% 近く向上したと指摘しています。 OpenAI o1 は、テストの最も難しいセクションで 77.3% を達成しました。人間の専門家のスコアは 81.2% でした。
同社はまた、化学、生物学、放射線、核（CBRN）誤用に関するいくつかのモデルに対する英国AI安全性協会のリスクテストを引用し、「モデルは生物学と化学に関する専門家レベルの知識を得るために使用できる」ことが判明したと述べた。また、科学の質問に対するいくつかのモデルの回答は「博士レベルの専門家による回答と同等だった」ことも判明した。
このデータは、サイバーと CBRN のリスクが 2 ～ 3 年以内に差し迫ったものになるという Anthropic の 2023 年の予測を覆します。同ブログでは、「上記の進展を踏まえると、われわれは現在、そのようなリスクにかなり近づいていると考えている」と述べた。
政府向けのガイドライン
「賢明で対象を絞った規制により、リスクを軽減しながら AI の利点を実現するという、両方の利点を最大限に活かすことができます」とブログでは説明されています。 「足を引きずると、両方の世界の最悪の事態につながる可能性があります。つまり、計画が不十分で、行き当たりばったりの規制であり、進歩を妨げるだけでなく、効果も発揮できません。」
Anthropic は、独自の Responsible Scaling Policy (RSP) を「プロトタイプ」として使用しますが、代替品ではなく、科学と商取引にわたるイノベーションを妨げることなくリスクを軽減するための政府の行動に関するガイドラインを提案しました。 Anthropic は、ガードレールをいつ実装するかを予測するのは難しいことを認識しており、RSP を日常的なテストを通じて AI の能力の成長に合わせて調整する比例的なリスク管理フレームワークであると説明しました。
「『if-then』構造では、安全性とセキュリティ対策を適用する必要がありますが、 それはモデルがそれらを保証するのに十分な能力を備えた場合に限られます」とAnthropic氏は説明しました。
同社は、AI 規制を成功させるための 3 つの要素、透明性、セキュリティの奨励、シンプルさと焦点を特定しました。
現在、一般の人々は AI 企業が自社の安全ガイドラインを遵守しているかどうかを検証できません。アンスロピック氏は、より良い記録を作成するために、政府は企業に「RSPのようなポリシーを持って公表する」こと、どの安全策がいつ発動されるのかを明確にし、システムの各世代のリスク評価を公表することを要求すべきだと述べた。もちろん、政府はこれらすべての企業声明が実際に真実であることを検証する方法も持たなければなりません。
アンスロピック氏はまた、政府がより質の高いセキュリティ慣行を奨励するよう推奨しました。 「規制当局は、合理性の基準に基づいてRSPが対処すべき脅威モデルを特定し、詳細は企業に任せることもできる。あるいは、RSPが満たさなければならない基準を単に指定することもできる」と同社は提案した。
たとえこれらのインセンティブが間接的であっても、アンスロピック氏は政府に対し、インセンティブを柔軟に保つよう求めています。 「規制プロセスは、静的なものではなく、進化するベストプラクティスから学ぶことが重要だ」とブログは述べているが、官僚的なシステムではそれを達成するのは難しいかもしれない。
言うまでもないことかもしれませんが、アントロピック氏はまた、法律は理解しやすく、実行しやすいものであるべきだと強調しました。理想的な規制を「外科的」と表現した同社は、アドバイスの中で「シンプルさと焦点」を提唱し、気が散る可能性のあるAI企業に不必要な「負担」を与えないよう政府に奨励した。
「壊滅的なリスクを防ぐために起こり得る最悪の事態の一つは、リスクを防ぐために必要な規制と、煩わしい、または非論理的な規則との間にリンクが形成されることだ」とブログでは述べている。
業界のアドバイス
Anthropic はまた、仲間の AI 企業に対し、規制をサポートする RSP を導入するよう促しました。同報告書は、リスクによる損害が発生した後ではなく、事前にコンピュータのセキュリティと安全性を設定することの重要性、そしてそれがその目標に向けた採用の重要性を指摘しました。
「適切に実装されると、RSP は組織構造と優先順位を推進します。RSP は単なる紙上のポリシーではなく、製品ロードマップの重要な部分になります」とブログでは述べています。 Anthropic 氏は、RSP は開発者に対し、たとえそれが抽象的なものであっても、脅威モデルを探索し再検討するよう促していると述べました。
それで、次は何でしょうか？
アントロピック氏は、「今後1年間、政策立案者、AI業界、安全擁護活動家、市民社会、議員が協力して、上記の条件を満たす効果的な規制の枠組みを構築することが重要である」と結論付けた。 「米国では、これは連邦レベルで実現するのが理想だが、緊急性を理由に各州が開発することが求められるかもしれない。」