AIのリーダーたちがAIの危険性を公然と認める声明に署名

業界リーダーや研究者らによると、人工知能は人類を絶滅させる可能性があるという。

AIについて証言するサム・アルトマン。

3月には、テクノロジー業界の専門家が主導する公開書簡で、このテクノロジーが「社会と人類に重大なリスク」をもたらす可能性があるという懸念から、高度なAIモデルの開発を中止するよう求めた。

今週、AIの「ゴッドファーザー」であるOpenAI CEOのサム・アルトマン氏らの共同署名による声明は、AIが人類を絶滅に追い込むリスクを軽減することを目指している。声明の序文は、業界リーダーに対し、AIの最も深刻な脅威についてオープンに議論するよう奨励している。

声明によると、人類に対するAIのリスクは世界的なパンデミックや核戦争に匹敵するほど深刻だという。他の共同署名者は、Google DeepMind の研究者、Microsoft の最高技術責任者である Kevin Scott、およびインターネット セキュリティの先駆者である Bruce Schneier です。

Altman の ChatGPT によって普及した今日の大規模言語モデル (LLM) は、まだ汎用人工知能 (AGI) を実現できません。しかし、業界リーダーらはLLMがそこまで進歩することを懸念している。 AGI は、人間の知能と同等またはそれを超える人工知能を定義する概念です。

AGI は、OpenAI、Google DeepMind、Anthropic がいつか達成したいと考えている成果です。しかし、各企業は、自社のテクノロジーが AGI を達成すれば重大な結果が生じる可能性があることを認識しています。

アルトマン氏は今月初めの議会での証言で、AIが「世界に重大な害をもたらす」ことが最大の懸念であり、この害はさまざまな形で起こる可能性があると述べた。

ほんの数週間前、ヒントン氏はグーグルでニューラルネットワークに取り組んでいた職を突然辞任し、自分は「これらのものが私たちよりも賢くなっていることに突然気づいた単なる科学者だ」とCNNに語った。