AI専門家によると、AIは気候変動よりも世界破滅を引き起こす可能性が高い

AI が成長を続けるにつれて、懸念も増大しています。この専門家の警告は特に憂慮すべきものである。

『ターミネーター』のような古典的な作品であっても、『ミーガン』のような最近のものであっても、SF 映画を観たことがある人なら、おそらく人工知能が世界の安全を脅かすストーリー展開をよくご存じでしょう。

ChatGPT のリリースによって始まった最近の AI の急速な進歩により、これらの脅威はフィクションではなく現実のものになる可能性があります。

また: ChatGPT、Bing、Bard に、何が心配なのかを尋ねました。 Google の AI が私にターミネーターを仕掛けた

ジェフリー・ヒントン氏は、この分野への重要な貢献により「AIのゴッドファーザー」の一人とみなされているが、最近、AIのリスクについて声を上げたいという理由で、10年間勤務したアルファベット社の役職を辞任した。

ヒントン氏はロイターとの最近のインタビューで、AIのリスクを気候変動のリスクと比較するところまで述べた。

「私は気候変動の価値を軽視したくありません。『気候変動について心配する必要はない』とは言いたくありません。それも大きなリスクだ」とヒントン氏はロイターに語った。 「しかし、これは最終的にはより緊急なものになるかもしれないと思います。」

また: ChatGPT と新しい AI は、刺激的かつ恐ろしい方法でサイバーセキュリティに大混乱をもたらしています

AIの危険性について懸念を表明したのは同氏が初めてではない。 Tesla CEOのElon Musk氏、Apple共同創設者のSteve Wozniak氏、Stability AIのCEOであるEmad Mostaque氏を含む他のテクノロジーリーダーも、巨大なAI実験を中止するよう請願書に署名した。

しかし、AI 分野における彼の広範な貢献と経験により、ヒントン氏の懸念は非常に重要です。

1986 年、ヒントンはバックプロパゲーションに関する論文を共同執筆しました。バックプロパゲーションは、今日のニューラル ネットワーク アプリケーションと AI テクノロジの基礎となる深層学習の成功において重要なマイルストーンです。彼の貢献により、2018 年にはチューリング賞も受賞しました。

ヒントン氏は、潜在的な危険を軽減するために処方できる簡単な治療法がないため、AI のテーマは解決がより難しいと示唆しています。

ヒントン氏はロイターに対し、「気候変動に関して、何をすべきかを勧めるのは非常に簡単だ。二酸化炭素の燃焼をやめればいいだけだ。そうすれば、最終的には物事はうまくいくだろう」と語った。そのためには何をすればいいのか全く明確ではありません。

懸念の声が上がっているにもかかわらず、業界関係者の間では AI の進歩が続いているようです。つい先週、Microsoft は自社の AI チャットボットへのアクセスを誰でも公開し、Bing と Edge に間もなく AI の主要なアップデートが提供されると発表しました。