人間のように考える機械：AGIとAIの議論3について知っておくべきこと
3.5時間にわたり、ゲイリー・マーカスとヴァンサン・ブーシェが率いる学者たちは、伝説の「人工一般知能」をもたらす可能性のあるツールと、その実用的および道徳的な影響について議論しました。
1年の休止の後、ゲイリー・マーカスとヴァンサン・ブーシェが主催するAIディベートが再開され、今回はノーム・チョムスキーのようなAIの分野外の政策関係者や学者を含む多くのAI思想家が参加しました。
1年間の休止の後、モントリオール.aiとNYU名誉教授でAIの異端者であるゲイリー・マーカスによって組織された年次人工知能討論会が金曜日の夜に戻り、2020年と同様に再びバーチャル専用イベントとして開催されました。
「問題は非常に一般的で重要です」とチョムスキーは言いました。「メディアは、GPT-3やその子孫、最近ではChatGPTの驚くべき成果についての主要な考察を行っており、他の分野における同様のものとともに、人間の本質に関する根本的な問いについての重要性を伝えています。」
彼は「有用性を超えて、これらのアプローチから認知、思考、特に人間の認知の核心要素である言語について何を学ぶことができるのか？」と尋ねました。
チョムスキー氏は、「大規模な言語モデルでは多くの欠陥が検出されている」と述べ、「より多くのデータ、より多くのパラメータ」で改善されるかもしれないと述べた。しかし、「非常に単純で根本的な欠陥があり、それは決して修正されない」と述べた。「その設計により、システムは可能な言語と不可能な言語を区別しません。」
チョムスキーは続けた、
T システムが改善されるほど、失敗は深刻化します […] 彼らは言語と思考、一般的な認知、また人間であることについて何も教えてくれません。私たちは他の領域ではこれを非常によく理解しています。可能な粒子と不可能な粒子を少なくとも区別しない素粒子の理論に誰も注意を払うことはありません […] GPT-3やそれに類似した洗練されたシステムに価値はあるのでしょうか？それを見つけるのは非常に難しいです […] では、何のためにあるのでしょうか？チューリング、ニュエル、サイモン、ミンスキーのようなこの分野の先駆者たちの目標であった異なる種類のAIは存在するのでしょうか？彼らはAIを新興の認知科学の一部と見なし、思考、言語、認知、その他の領域の理解に貢献し、デルフィの神託に関して、私たちはどのような生き物なのかという、何千年にもわたって重要な質問に答える手助けをするようなAIです。
マーカスはチョムスキーの後に、自身のプレゼンテーションで認知の四つの未解決要素、すなわち抽象、推論、構成性、事実性について話しました。
マーカスは次に、GPT-3のようなプログラムが各要素に従ってどのように失敗するかを示す例を示しました。例えば、「事実性」に関して、マーカスは深層学習プログラムは結論を引き出すための世界モデルを保持していないと述べました。
マーカスは、AIが認知の4つの未解決要素である抽象、推論、構成性、事実性においてどのように失敗するかについてスライドショーを提供しました。
ペンシルベニア大学のペン統合知識教授であるコンラッド・コーディングは、事前に録画された脳に関する講演でマーカスに続きました。（コーディングはイベントの間、旅行中でした。）
コーディングは、因果関係の概念をコンピュータに持ち込む探求について話し始めました。コーディングによれば、人間は一般的に「悪い探偵」ですが、結果を観察するために物事を「撹乱する」ことが得意です。
彼はマイクロチップトランジスタを摂動させ、因果関係を実際に観察するために電圧のトレースを追うことについて説明しました。彼は、人間は世界の豊かなモデルに焦点を当てていると言いました。
コンラッド・コーディングの録画プレゼンテーションからのスライド。
AGIに焦点を当てているGoogleのDeepMind部門の神経科学者ディリープ・ジョージが次に登場しました。「私はエンジニアです」と彼は聴衆に語りました。ジョージは1903年の初飛行機と1919年の初の非停止横断大西洋飛行という2つの歴史的な日付の例を挙げ、全員にヒンデンブルクの惨事の年を推測するよう挑戦しました。答えは1937年で、ジョージは飛行機の進歩から非常に長い時間が経過したため、人々にとって驚くべきことだと言いました。
ジョージは、「現在のAIプログラムを『スケールアップ』すること」と「現在のモデルと人間のような知能との根本的な違いを理解すること」を区別することが重要だと言った。
マーカスはスピーカーの最初の質問をしました。彼はチョムスキーに、チョムスキーの著作における「生得性」の概念、つまり人間の心に「組み込まれている」何かについて尋ねました。AIは生得性にもっと注意を払うべきでしょうか？
チョムスキーは「初期状態から安定状態への成長と発展には三つの要因が関与する」と述べました。一つは初期状態の内部構造、二つ目は「入ってくるデータのすべて」、三つ目は「自然の一般法則」と彼は言いました。
「私たちが発見するすべての領域で、生来の構造が並外れた役割を果たしていることがわかりました。」
言語を習得するなど、学習の典型的な例と見なされるものについて、「それを分解し始めると、データはほとんど影響を与えないことがわかります。音韻的可能性の選択肢の構造は、幼児が聞くことができる音の種類に対して非常に制限的な影響を持っています。 […] 概念は非常に豊かで、習得するためにほとんど証拠は必要ありません。いくつかの提示 […] 私の疑念は、特定の事柄を調べれば調べるほど、視覚システムや私たちが理解するほぼすべてのものと同様に、私たちが発見することが増えるということです。
ディープマインドの神経科学者ディリープ・ジョージ。
マーカスは、メタのAI科学者たちによるシステム「シセロ」に関する論文を称賛しました。これは単にスケールアップするという流れに逆らったためです。彼は、このモデルが計画と言語のための別々のシステムを持っていることに注目しました。
ディリープ・ジョージは、AIは「世界についてのいくつかの基本的な前提を持つ必要がある」と述べ、「私たちの世界の構造には、いくつかの前提、たぶん半ダースにも満たない前提を持ち、それらの教訓を繰り返し適用して世界のモデルを構築することを可能にする魔法のようなものがある」と付け加えました。
そのような仮定は、実際には深層学習モデルの内部に存在しますが、直接的な観察からは離れたレベルであるとジョージは付け加えました。
マーカスは94歳のチョムスキーに、何が彼を動機づけるのか尋ねました。「私を動機づけるのはデルフィの神託です」とチョムスキーは言いました。「自分を知れ。」チョムスキーは、実質的に人間の間に遺伝的な違いはないと付け加えました。彼によれば、言語は人類の出現以来変わっておらず、どの文化の子供でも言語を習得できることがそれを証明しています。「私たちはどんな生き物なのか？」というのが質問です、とチョムスキーは言いました。チョムスキーは、言語がAIの核心となり、人間を種としてユニークにしているものを解明するだろうと提案しました。
マーカスは、コンピュータシステムにおける実用的な推論の達成に関する第二の質問に移りました。彼は、ワシントン大学のブレット・ヘルセル教授であるチェ・イェジンを最初のスピーカーとして招きました。
チョイは「今後数年でAIによるますます素晴らしいパフォーマンスが見られるだろう」と予測しました。
ワシントン大学のブレット・ヘルセル教授、イェジン・チョイ。
「それでも、これらのネットワークは敵対的およびエッジケースにおいて間違いを犯し続けるでしょう」とチョイは言いました。それは「私たちがネットワークの深さを単に知らないからです」。チョイは物理学における暗黒物質の例を挙げました。科学はそれについて知っていますが、測定することはできません。「言語と知性の暗黒物質は常識かもしれません。」
チョイはここで言った、ダークマターとは人間には簡単だが機械には難しいものだ。
次に登場したのは、IBMワトソンプロジェクトの元メンバーで、新しい会社エレメンタル・コグニションの創設者であるデビッド・フェルッチです。
フェルッチは、彼の興味が常に人と会話できるプログラムにあったと言いました。「私は、彼らが出力を生成している理由を説明できない限り、機械がこのビジョンを実現することはできないと常に想像していました。」
フェルッチは、GPT-3が常識的推論タスクで失敗した例を挙げました。そのようなシステムは、十分なデータが与えられれば、「私たちが常識と考えるものを反映し始める」と述べました。GPT-3を探ることは「新しい惑星を探検するようなもので、ある種の素晴らしいことだ」と彼は言いましたが、それでも「最終的には満足できない」とも言いました。なぜなら、それは出力に関するものであり、その出力の理由についてではないからです。
フェルッチによれば、彼の会社は言語モデルを使用して仮説を出力として生成し、その上で「因果モデル」を使用して推論を行う「ハイブリッド」アプローチを追求しています。そのようなモデルは出力から「誘導」することができますが、機械と人間が相互作用することも必要です。それにより、言語モデルの上に「構造化された表現」が生まれることになります。
デビッド・フェルッチ、元IBMワトソンプロジェクトのメンバー。
フェルッチの後、ディリープ・ジョージが常識と「メンタルシミュレーション」についていくつかのポイントを述べました。彼は、人間が常識的な推論の質問に答えるためにシナリオを想像し、シミュレーションを行う方法について話しました。このシミュレーションにより、仮定の質問に関する多くの質問に答えることができるようになります。
ジョージは、シミュレーションが感覚運動系から生じ、"知覚+運動系"に保存されていると仮定しました。
言語は、ジョージが提案したように、「シミュレーションを制御するもの」です。彼は、会話を一人の人間が他の人間の中で「シミュレーションを実行しようとする」試みとしてのアイデアを提案しました。
マーカスはQ&Aに移りました。彼はフェルッチの「知識は言語に投影される」というコメントに気づきました。
「私たちは今、大規模な言語モデルから多くの知識を得ることができるというパラダイムを持っています」とマーカスは言いました。それが一つのパラダイムだと彼は言いました。マーカスは「私たちはパラダイムシフトが必要だ」と提案し、その中には「言語から引き出せる知識を他のすべてと統合する」ものが含まれると述べました。マーカスは、言語モデルは「多くの種類の入力が欠けている」と言いました。
スイスAIラボIDSIA（ダッレ・モレ研究所）の科学ディレクターであるシュミットフーバーが口を挟んだ。シュミットフーバーはマーカスに対して「これは古い議論だ」と応じ、世界モデルを持つシステムを意味した。「これらはすべて80年代と90年代の概念であり、「具現化」に重点を置いている。」最近の言語モデルについてシュミットフーバーは「限界があることはわかっている」と述べた。
スイスAIラボIDSIAの科学ディレクター、ユルゲン・シュミットフーバー。
しかし、シュミットフーバーは、欠点に対処するためのシステムが存在していると述べました。結果を予測するための別のネットワークや、メンタルシミュレーションを行うためのものなどです。
「今日私たちが議論していることの多くは、少なくとも原則的には、何年も前に解決されてきた」とシュミットフーバーは言った。「一般目的のニューラルネットワークを通じて。」そのようなシステムは「まだ人間ほど優れてはいない。」
シュミットフーバーは、「古い考え方」が戻ってきていると述べ、コンピュータの処理能力が数年ごとに安くなっていると指摘しました。「これらの古いアルゴリズムを使って、当時はできなかった多くのことができるようになりました。」
マーカスはシュミットフーバーとジョージに、ミンスキーの学生テリー・ウィノグラッドによって行われたSHRDLUの古い実験について尋ねました。それには、名前を付けて操作する単純なオブジェクトの「ブロックワールド」が含まれています。マーカスは、ディープマインドの「ガトー」ニューラルネットワークがブロックワールドができなかったことをできるのかという挑戦を提起しました。「そして、1960年代にウィノグラッドが彼の論文で行ったことをAIが試みるための合理的なベンチマークになるのだろうか？」
ジョージは、もしそれが世界から抽象を取得し、物を積み上げるなどのタスクを実行できるシステムについてであれば、そのようなシステムは達成されていないと答えました。
シュミットフーバーは、コンピュータシステムはすでにビデオゲームなどのシミュレーションでうまく操作できているが、現実の世界では新しい実験を選ぶことが重要であり、「科学者のように」、「正しい質問をする」ことだと答えました。
「自分のプログラムをどのように発明すれば、実験を通じて効率的に学び、それを自分の世界モデルの改善に活用できるのか？」と彼は提案した。
「なぜまだ映画のようではないのか？」とシュミットフーバーは尋ねた。
"そのような問題のために、賢明に活用しなければならないトレーニング例は少なく、私たちは純粋なニューロン手法を通じてそこに到達しつつありますが、まだそこには至っていません。それは大丈夫です、なぜなら計算コストはまだ私たちが望むところには達していないからです。"
マーカスは、現実世界とシミュレーションされた世界があり、それらを言語を通じて結びつけようとする問題があると付け加えました。彼はブロックワールドからの自然言語の発言を引用しました。マーカスは「ブロックワールドでの会話のレベルは、現在のAIが達成するにはまだ難しいと思います」と述べました。
マーカスは次にロンドンのシティ大学のコンピュータサイエンスの教授アルトゥール・ダビラ・ガルセスに向きました。ダビラ・ガルセスは、この問題は再び生得性の問題であると提案しました。「最近、制約のある深層学習が多く見られ、これらの抽象化が追加されています。」そのようなプログラムは「アプリケーション特有」です。
ダビラ・ガルセスは、象徴的なAIを取り入れることが問題かもしれないと述べました。
チョイは「生得性に関して、発達心理学から学ぶべきことがあると思います」と、エージェンシーや物体、時間と場所についてコメントしました。「いくつかの概念を異なる方法で扱うために、根本的な再考が必要かもしれません。」
チョイは「解決策は過去にはないと思う」と言い、「ただパラメータの層を重ねるだけだ」と述べました。過去数十年のいくつかの正式なアプローチは、現在のアプローチと互換性がないかもしれません。
ジョージは、物体のような特定の要素が低次の機能から「現れる」可能性があると述べました。ジョージによれば、「空間は内蔵されている」という仮定がありましたが、今ではそれが時間から導かれる可能性があると信じています。「感覚運動のシーケンスから純粋に空間的表現を学ぶことができる -- ただ純粋に時間と行動だけで。」
フランチェスカ・ロッシは、トーマス・J・ワトソン研究所のIBMフェローでありAI倫理のグローバルリーダーで、シュミットフーバーに質問を投げかけました。「なぜ私たちは、まだ持っていない能力を持たないシステムを目にするのでしょうか？ユルゲン、定義された技術が現在のシステムにまだ反映されていないことをどう説明しますか？」
シュミットフーバー："それにお答えできて嬉しいです。現時点では主に計算コストの問題だと思います。"
シュミットフーバーは続けた。
再帰型ネットワークは任意のアルゴリズムを実行でき、その最も美しい側面の一つは、学習アルゴリズムを学ぶこともできるということです。大きな疑問は、これらのアルゴリズムのうちどれを学習できるのかということです。より良いアルゴリズムが必要かもしれません。学習アルゴリズムを改善する選択肢があります。その種の最初のシステムは1992年に登場しました。私は1992年に最初の論文を書きました。当時、私たちはほとんど何もできませんでした。今日では、数百万や数十億の重みを持つことができます。最近、私の学生たちとの共同研究で、これらの古い概念が少しの改善を加えることで突然非常に美しく機能し、例えばバックプロパゲーションよりもはるかに優れた新しい学習アルゴリズムを学ぶことができることが示されました。
マーカスは、自身と共同研究者による新しい論文「AIにおける幼児レベルの物理的推論の進捗のベンチマーキング」についての発表でセクションを締めくくり、これは「私たちが今話していたことに非常に関連している」と述べました。マーカスは、この論文が討論のウェブサイトに掲載されると述べました。
マーカスは次に、ハンソンロボティクスの最高科学者であり、シンギュラリティネット財団とAGI協会の責任者であるベン・ゴーツェルを招き、第三部を開始しました。ゴーツェルが「AGI」という用語を作るのに貢献したことを指摘しました。
ハンソンロボティクスのチーフサイエンティスト、ベン・ゴーツェル。
ゴーツェルは、彼の現在のプロジェクトがAGIと「具現化された一般的知能システム」の構築を目指していると述べました。彼は「訓練を超えて飛躍する」システムは「今やかなり実現可能である」と示唆しましたが、それには数年かかるかもしれません。また、現在の深層学習プログラムはAGIに向けてあまり進展しないだろうと予言しました。ゴーツェルは「ChatGPTは自分が何を話しているのか全く分かっていない」と言いました。しかし、「ファクトチェッカーと組み合わせれば、少なくとも明らかに馬鹿げたことを言わなくなるかもしれませんが、それでも人間の心のように一般化する能力を持たせることはできません。」
「一般知能は、想像力と「オープンエンドの成長」においてより能力を持つだろう」とゴーツェルは述べた。
マーカスは「メタラーニングについてあなたに完全に同意します」と付け加え、「AGIへの多くの道というアイデアが大好きです」と述べました。
マーカスは次に、メタのヤン・ルカンやチューリング賞受賞者のジェフリー・ヒントン、ヨシュア・ベンジオが深層学習を開拓したという神話に対して一撃を加えました。彼はシュミットフーバーを再び紹介し、「深層学習が実際にどのように発展したかの決定的な歴史を書いただけでなく、彼もまた30年以上にわたり深層学習に多くの重要な貢献をしてきた」と述べました。
シュミットフーバーは「メタ学習というアイデアに本当に魅了されています。なぜなら、それは私たちが達成したいすべてを包含しているように思えるからです」と述べました。彼が言うには、重要なのは「これらすべてのことを学ぶことができる最も一般的なタイプのシステムを持つことであり、状況や環境、目的関数に応じて、この種の問題やこのクラスの問題に適した学習アルゴリズムを発明することです」とのことです。シュミットフーバーは「微分可能な」アプローチを使用することで、すべてが可能であると述べました。
シュミットフーバーは、「本当に重要なことの一つは、人工知能のこの人工科学者の側面であり、これは自動的に答えが欲しい質問を発明することに関するものだと思います」と付け加えました。
シュミットフーバーは、すべてのツールが存在するとまとめ、"これらのパズルのピースをすべて組み合わせることが問題です。"と述べました。
マーカスは、詳細ではなくともメタ学習の原則についてシュミットフーバーに「完全に同意する」と述べ、フランチェスカ・ロッシの話を持ち出しました。
ロッシは彼女の講演を「AIにおける速い思考と遅い思考」と題し、ダニエル・カーネマンの同名の著書を暗示し、「SOFAI」と呼ばれる「マルチエージェントシステム」を説明しました。これは、さまざまな「ソルバー」を使用して問題に対する解決策を提案し、提案された解決策を仲裁する「メタ認知」モジュールを持っています。
ロッシは、「制約のあるグリッドにおける逐次的決定」と「古典的および認識的シンボリックプランニング」と呼ばれる「2つの広範なモダリティ」の組み合わせについて詳しく説明しました。
ロッシは、人間をループに組み込むことの重要性を強調し、統合されたアーキテクチャが「非人間」に対しても人間の意思決定の方法を拡張でき、機械が「人間と相互作用し、人間が自分のシステム1、または彼または彼女のシステム2、あるいは彼または彼女のメタ認知を使うように促す方法で行動する」ことができると述べました。
「したがって、これは人間がSOFAIアーキテクチャによって導き出される情報の種類に応じて、これらの3つのモダリティのいずれかを使用するように促す方法です。」したがって、速い思考と遅い思考は、機械を構築する方法と、それが人々とどのように相互作用するかのモデルとなるでしょう。
フランチェスカ・ロッシ、IBMフェローでトーマス・J・ワトソン研究所のAI倫理グローバルリーダー。
ロッシに続いて、ブリティッシュコロンビア大学のコンピュータサイエンスの准教授ジェフ・クルーネが「AI生成アルゴリズム：AGIへの最速の道」について議論するために呼ばれました。
クルーンは、今日のAIは「ビルディングブロックを特定する」ことによって「AIへの手動の道」を使用していると言いました。つまり、あらゆる種類の学習ルールや目的関数などが含まれ、彼はそれについてのスライドを持っていました。しかし、それはすべてのビルディングブロックをどのように組み合わせるかという課題を残し、「それはヘラクレスのような挑戦だ」とクルーンは言いました。
実際には、手作りのアプローチは自動生成されたアプローチに取って代わると彼は主張した。
クルーンは「三つの柱」を提案しました。「私たちはアーキテクチャをメタ学習する必要があり、アルゴリズムをメタ学習する必要があり、最も重要なのは、効果的な学習環境やデータを自動的に生成する必要がある。」
クルーンは、AIがGPT-3などのさまざまな進歩の「肩の上に立つ」ことで改善されると観察しました。彼は、人々がゲームをプレイしている動画がマインクラフトをプレイする機械に「大幅なスピードアップ」をもたらしたOpenAIプロジェクトの例を挙げました。
クルーンは「第四の柱」、すなわち「人間のデータを活用すること」を追加することを提案しました。
クルーンは、2030年までにAGIを達成する可能性が30%あると予測しました。AGIは「経済的に価値のある人間の仕事の50%以上を行う能力がある」と定義されています。クルーンは、この道は「現在のパラダイム内にある」と付け加え、新しいパラダイムは必要ないと述べました。
クルーンは「私たちはAGIの準備ができていない」と述べ、「今すぐ計画を立て始める必要がある」と締めくくりました。
マーカスは「2030年にAGIの30%の確率で賭けを受ける」と言った。
ブリティッシュコロンビア大学のコンピュータサイエンスの准教授、ジェフ・クルーネ。
クルーンの後に、非営利の研究所Cohere For AIを率いるサラ・フッカーが「なぜいくつかのアイデアは成功し、他は失敗するのか？」というテーマで話しました。
「進歩のために必要な要素は何ですか？」とフッカーは問題提起しました。
バックプロパゲーションと畳み込みの発明から、深層学習が認識されるまでに30年かかりました。なぜですか？と彼女は尋ねました。
彼女は答えがGPUの台頭であると言いました。「幸運な偶然です。」
「成功したアイデアの運は、利用可能なツールと互換性があることに本当にかかっています」とフッカーは述べました。
AIのための非営利研究所Cohereの責任者であるサラ・フッカー。
Hooker氏によると、次のブレークスルーには新しいアルゴリズムと新しいハードウェアとソフトウェアが必要になるという。AIの世界は現在のフレームワークを「倍増」させ、「専門のアクセラレーターに傾倒」し、「柔軟性を放棄した」と彼女は述べた。
フッカーは、その分野がハードウェアに固定されてしまい、神経ネットワークのスケーリングだけで成功できるというような悪い「仮定」が生まれたと述べました。彼女は、それが「ロングテール」の現象を「記憶する」ための大きな費用などの問題を引き起こすと指摘しました。
フッカー氏によると、進歩とは「さまざまなハードウェア、ソフトウェア、アルゴリズムの組み合わせのコストを削減する」ことを意味するという。
マーカスは再びダビラ・ガルセスを呼び寄せ、「持続可能なAI」についてのスライドプレゼンテーションを行わせました。
「国連の持続可能性目標に関連して持続可能なAIについて話し始める時が来た」とダビラ・ガルセスは述べた。
ダビラ・ガルセスは、最初のAI討論以来、深層学習の限界が「非常に明確」になったと述べ、その他にも公平性、エネルギー効率、堅牢性、推論、信頼などが含まれるとしました。
「これらの制限は、深層学習の大きな成功のために重要です」と彼は言った。ダビラ・ガルセスは、神経シンボリックAIを前進の道として提案した。神経シンボリックに関する関連の研究は1990年代に遡るとダビラ・ガルセスは述べ、http://www.neural-symbolic.orgの背景資料を引用した。
ダビラ・ガルセスは、「信頼と説明責任の措置」や「説明の忠実性」、持続可能な開発目標との整合性など、いくつかの重要な課題を提案しました。そして「正確な結果」だけではありません。
ロンドン大学シティ校のコンピュータサイエンス教授アルトゥール・ダヴィラ・ガルセス。
カリキュラム学習は特に重要になるだろうとダビラ・ガルセスは述べた。彼は「セマンティックフレームワーク」に関する神経シンボリックAIの新しい論文が近日中に発表されることを指摘した。
クルーンはQ&Aを開始し、「ChatGPTはGPT-3よりもその欠点が少ないと思いませんか？そして、GPT-3はGPT-2やGPT-1よりも少ないですか？もしそうなら、それらの欠点を解決したのは同じプレイブックで、ただスケールアップしただけです。では、なぜ今、スケールアップの現在のパラダイムを受け入れるのではなく、停止してより多くの構造を追加すべきだと結論づけるべきなのでしょうか？」
ジョージが最初の反応を示した。「スケーリングがより印象的な結果をもたらすことは明らかだ」と彼は言った。しかし、「欠陥が少ないとは思わない」とジョージは言った。「システムは改善されているが、それは多くのアルゴリズムの特性だ。問題はスケーリングの効率性だ。」
チョイは「ChatGPTはGPT-3 DaVinciよりも大きくはないが、大量の人間のフィードバックを通じてより良く訓練されている。これは人間の注釈に帰着する」と答えた。チョイによれば、このプログラムは「彼ら[OpenAI]がそのような人間の注釈データを作成するために1000万ドル以上を費やしたかもしれないという噂を生み出した。だから、これはおそらくより多くの手動データのケースだ」と述べた。チョイはChatGPTがより優れているという考えを否定した。
チョイは言った、プログラムは刺激的だが、「私たちはAGIを達成するために対処しなければならないコーナーケースやエッジケースの幅と深さを本当に理解しているとは思わない。私の予想では、それは私たちが期待するよりもはるかに大きなモンスターだ。」人間の知能と次のバージョンのGPTとのギャップは「今日私たちが想像するよりもはるかに大きい。」
マーカスは自らの反論を述べた。「ここでのリスクは早すぎる結論であり、私たちは効果的だと思う答えを選ぶが、それが正しい答えではないということだ。」
そのグループはその後、5分間休憩しました。
休憩後、カナダの国会議員ミシェル・レンペル・ガーナーが最初に発表しました。
マーカスは、チャットGPTについて懸念を示した政府の最初の人々の一人としてレンペル・ガーナーを紹介しました。
レンペル・ガーナーは「政治家の見解」を提供しました。AGIの到来のタイムラインは「不確か」であると彼女は述べましたが、政府がこの問題にどのようにアプローチすべきかについての不確実性も重要です。「出てきた努力は、比較的狭い懲罰的枠組みに焦点を当てています。」彼女は、それが技術の発展のスピードに追いつけない「反応的」な姿勢であるため問題であると述べました。「政府の役割に関する現在の議論は、素朴で悲観的なアプローチになりがちです。」
カナダの国会議員ミシェル・レンペル・ガーナー。
政府は、レンペル・ガーナー氏が述べたように、単なる民間資本以外の広範な研究を刺激するのに役立つ重要な「レバー」を持っています。しかし、政府はそのレバーを活用する際に問題に直面しています。一つは、社会的慣習が新しい技術に常に適応しているわけではないということです。また、政府は常に人間を唯一の認知形態と見なす文脈で運営されています。政府は、人類が他の認知形態と地球を共有することを考慮するようには設計されていません。
レンペル・ガーナーは、「立法者としての私の懸念は、私たちの政府が人間が支配の頂点にある文脈で運営されていることです」と述べましたが、「政府は、そのような状況でない世界を想像すべきです」とも言いました。
レンペル・ガーナーは、Web3に関する法案を議会で通過させる試みの中で「生きた経験」を提供しました。彼女はそれが「党派的な行為」となったことに驚き、「このダイナミクスはAGIで繰り返されるべきではない」と述べました。
彼女は続けて言った。「政府は、AGIの発展がもたらす課題と機会に対応するために、現在の運営パラダイムを革新し、超越しなければならない。AGIの出現のタイムホライズンが不確実であるとしても、政府の伝統的な硬直性を考慮すると、これは昨日から始める必要がある。」
チョイは、レンプル・ガーナーの後に2回目のプレゼンテーションを行い、「AIの安全性」、「公平性」、および「倫理」がどのように関連しているかについて自分の立場を詳述しました。
チョイは、ChatGPTが常識に反し、質問に対して危険な提案をする悪い例を挙げました。
チョイは、言語モデルの上に「常識的な道徳モデル」を構築するための「デルファイ」研究プロトタイプについて説明しました。彼女は、デルファイがいくつかの発言が危険な提案である可能性があると推測できると述べました。
チョイは、デルファイは強化学習を通じて「社会的規範に沿う」ことができるが、「事前知識」なしでは不可能だと述べました。「人間の価値」を教える必要性は、「価値の多元主義」、つまり多様な文化システムを尊重する「安全なAIシステム」を持つ能力の必要性につながるとチョイは言いました。
マーカスは次に、カーネギーAI倫理評議会のアンヤ・カスペルセンを呼び上げました。
カスペルセンは、AGIに関して「誰が決定するのか？」という問いと「AIは権力分配に関してどのような立場にあるのか？」について議論を促進するために6つの観察を共有しました。
彼女の最初のテーマは「デジタル技術とAIによって人間の状態は改善されるのか、それともAIが人間の状態を変えるのか？」でした。
「AI開発の現在の目標には、人間であることの意味を歪める可能性がある本当のリスクがあると私は見ています」とカスペルセンは述べました。「現在のインセンティブは、人間を置き換えることに向けられている側面が強く、人間の尊厳と幸福を高めることを目的としたAIシステムには向いていません」と彼女は言いました。
「もし私たちがそれをすべて再方向付けしなければ、私たちは共犯者になり、人間であることの意味と人間であることに与える価値を破壊するリスクを冒し、独裁政治を助長することになります」と彼女は言った。
第二に、「物語の力と、私が無制限の科学主義と呼ぶものの危険性」です。
アンヤ・カスペルセン、カーネギーAI倫理評議会の上級研究員。
「社会的および政治的システムに深く影響を与える技術について議論する際には、科学主義が一種の生態学となるような、ボトムアップの還元主義的な視点を提供することに非常に注意を払う必要があります。」
彼女は、「人類のガスライティングの危険がある」と述べ、「個々の人間の能力の欠点を強調する物語」があると語った。
カスペルセンは、1963年にスピーチを行った科学者J・ロバート・オッペンハイマーの例を挙げました。「彼は言った、世界の知識とそれが人類に与える力は、人類にとって内在的な価値を持つものでなければ、科学者であることは不可能である」と。オッペンハイマーの結果に関する考えは、彼女が言うには、意思決定を行う人々から、今では科学者自身にますます移行しているとのことです。
第三に、AIは「力についての物語」であると彼女は言った。「現在の革命」であるデータとアルゴリズムは「力を再分配している」。彼女は「デカップリング」の落とし穴についてマーカスの指摘を引用した。
「声を上げようとする人々は、ガスライティングされ、押し戻され、いじめられる」と彼女は言った。
彼女が言った四つ目は、社会学者ピエール・ブルデューから借用した「すべての社会科学の力」であり、社会の中で「現在の取り決めに最も大きな利害関係を持つのは誰か」や「特定の問題を公の議論から遠ざけることに関心を持つのは誰か」という問いです。
カスペルセンは第五に、AIの問題に対処する方法が「ガバナンスの不可視のマント」となり、「それらに対処する名の下に私たちの科学的方法やシステムの問題や限界を隠す方法」になるという問題があると述べました。
カスペルセンの第六および最後のポイントは、「この分野、つまりAIに倫理を埋め込むことが何を意味するのかについて、いくつかの混乱がある」ということでした。カスペルセンは、重要な点は、コンピュータサイエンスがもはや単なる「理論的」なものではなく、「人間であることの意味に深く影響を与える決定的な特徴となっている」ということです。
カスペルセンに続いて、クルーネとロッシが応答として簡単な発言をしました。
クルーンは、「機械に明示的な価値観をプログラムすべきか？」という質問に答えていると述べました。
「私の答えは、いいえです」と彼は言った。質問は「重要です」と彼は言った。「なぜならAGIがやってくるからで、それは私たちの生活のほぼすべての側面に織り込まれ、影響を与えるでしょう。」
クルーンは「賭けはこれ以上ないほど高い。私たちはAIの倫理と価値を自分たちのものと一致させる必要がある」と述べた。しかし、価値はハードコーディングすべきではない。なぜなら「第一に、すべての兆候は、学習したAIやAGIが手動でコーディングされたものをはるかに上回ることを示している…そして社会は最も強力なAIを採用することになる」と彼は言った。そして理由の第二は「私たちは倫理をプログラムする方法を知らない」と彼は言った。「それはあまりにも複雑だ」と彼は付け加え、「例えばアシモフの三原則の作品を見てください」と言い、アイザック・アシモフのロボット工学の三原則を指した。
クルーンは、倫理に取り組む最良の方法は、人間のフィードバックと組み合わせた強化学習を使用することであり、「終わりのない例、議論、討論、エッジケースの流れ」を含むと提案しました。
クルーンは、AIとAGIが「 unscrupulous actors」によって作られたときに起こることが最も深刻な危険であると示唆しました。特に、大規模言語モデルのトレーニングがますます容易になるにつれて。
ロッシは「問題は、AIシステムに価値を埋め込むべきかどうかである」と提起し、「私の答えははいである」と述べました。
ロッシは「データを見たり、データから学んだりするだけでは価値は得られない」と述べ、「人間のデータが必要であり、ルールが必要であり、これらの価値を埋め込んで定義するために神経シンボリックアプローチが必要だ」と言いました。ロッシは、価値をハードコーディングすることは不可能かもしれないが、「ある時点で外部から明示的に見られる必要がある」と述べました。
ロッシに続いて、フェルッチは二つの点について簡単な観察を提供しました。一つ目は、「透明性が重要です」と彼は言い、「AIシステムは、なぜその決定を下しているのかを説明できるべきです」と述べました。しかし、彼は、透明性は「どこかで設計され、合意された」価値体系の必要性を排除するものではないと述べました。
フェルッチは、「ひどい決定が下され、その結果を説明できるからといってそれが許される状況にはいたくない。そうした決定は、集団として意味を成す何かに従うべきであり、それは事前に確立されなければならない」と述べました。
チョイはフェルッチを追い、倫理について人間がしばしば意見が異なることを観察しました。「人間は人々が意見を異にしているときにそれを知ることができる」と彼女は指摘しました。「AIも正確にそれができるべきだと思います」と彼女は言いました。
スタンフォード大学人間中心のAI研究所のエリック・ブリンジョルフソン。
最後のセグメントでは、スタンフォード大学人間中心のAI研究所（HAI）のジェリー・ヤンおよび山崎明子教授であり、スタンフォードデジタルエコノミーラボのディレクターであるエリック・ブリンジョルフソンが、「人間のようなAIの約束は、生産性を高め、より多くの余暇を楽しみ、そしておそらく最も深くは、自分自身の心を理解することを改善することです」と述べました。
アラン・チューリングの「イミテーション・ゲーム」の一部は今やより現実的になってきているとブリンジョルフソンは述べたが、人間を模倣すること以外にも別の側面があり、それは人間を補完または強化することを行うAIである。
「私のMITでの研究は、人間を補強または補完することが、単に人間の労働を代替または模倣するAIよりもはるかに大きな経済的利益をもたらすことを示しています」とブリンジョルフソンは述べました。
残念ながら、彼は、技術者、産業界の人々、政策立案者の3つのタイプの利害関係者が「非常に不一致であり、人間の労働を補完するのではなく、代替することを好むインセンティブを持っている」と述べました。
そして、「もし社会が人間の能力を模倣する多くの種類のAIを追求し続けるなら」とブリンジョルフソンは言った。「私たちは経済的な罠にはまることになるだろう。」彼がチューリングトラップと呼ぶその罠は、むしろ歪んだ利益を生み出すことになる。
彼は「もしデダルスがギリシャ神話の中でロボットを開発していたら」と言いました。「彼らは3000年前のその時代において、タスクを自動化することに成功し、彼のロボットは当時の古代ギリシャ人が行っていた陶器や織物などの各タスクを自動化することに成功しました。」「良いニュースは、人間の労働はもはや必要なくなり、人々は余暇の生活を送ることになるでしょうが、当時の遺物や生産物に縛られているため、特に高い生活水準の世界ではないこともわかります。」
「生活の質を大幅に向上させるためには、単に人間の労働を代替し模倣する機械を作るのではなく、私たちの能力を拡張し、新しいことをする必要があります」とブリンヨルフソンは提唱しました。
さらに、ブリンヨルフソンは、自動化が経済力の集中を高めると述べ、例えば賃金を引き下げることによってそれを実現すると言いました。
彼は、今日の技術は人間の能力を拡張するものではなく、過去200年間の技術が人間の能力を向上させてきたのとは異なると主張した。
「私たちは人間を補完する技術について真剣に考える必要があります」と彼は言い、より大きな経済のパイを作り出すだけでなく、富をより均等に分配することも目指しています。彼が主張するには、根本的な問題は技術者、産業家、政策立案者の三者の歪んだインセンティブです。
ブリンヨルフソンの後に、元グーグルおよびマイクロソフトの幹部であり、現在はベンチャーキャピタル会社シノベーション・ベンチャーズの責任者であるリー・カイフが登場しました。リーは新しい著書『AI 2041』を引用し、「自分自身と議論する」と提案しました。
カイフー・リー、元グーグルおよびマイクロソフトの幹部で、現在はベンチャーキャピタル会社シノベーション・ベンチャーズの責任者。
本書では、彼はAIの「驚くべき力」、特に「AIGC」、AI生成コンテンツについて主に肯定的な見解を示しており、「確かに信じられないほどの能力を示す驚異的な能力の発揮」、特に商業分野において、検索エンジンのパラダイムを変えたり、TikTokの広告機能を変えたりすることについて述べています。
「しかし今日は、これが引き起こす可能性のある危険について主に話したい」と彼は言った。
過去に、リーは「アルゴリズムを考えるか、少なくとも技術的解決策を想像することができた」と言った。「しかし今、私は簡単な解決策を容易に想像できないので、行き詰まっています。AIが生成した誤情報は、特に商業的に強力なターゲットを絞った誤情報です」とリーは述べました。
もしも、アマゾン、グーグル、フェイスブックが「各個人をターゲットにして、誤解を招き、利益の根本的な不一致があるため、大企業が私たちに製品を見て、コンテンツを見て、クリックして見て、中毒になり、次世代の製品が[...]単に資本主義の力とスタートアップ企業の貪欲さに影響を受けやすくなるようにしたいので、商業企業にとって非常に良い答えを出すことができるとしたらどうでしょうか」と述べましたそしてVCは資金を提供し、莫大な富を生み出し、制御が非常に難しい技術で業界を混乱させる活動を行うでしょう。
彼はそれがAIの「基盤モデル」を制御する「大きな巨人」企業をさらに強力にするだろうと言いました。
「そして、二つ目の大きな危険は、これが非国家主体や悪用したい人々にとって、AIを利用するための技術のセットを提供することになるということです。」リーは、より洗練されたAIGCによって動かされるため、ケンブリッジ・アナリティカよりもはるかに悪化したケンブリッジ・アナリティカスタイルのスキャンダルの可能性を示唆しました。彼が示唆したように、非国家主体は「人々を考えに導く」かもしれず、それが選挙を混乱させたり、他の恐ろしいことを引き起こす可能性があります。---「私が「ステロイドを使ったケンブリッジ・アナリティカ」と呼ぶものの始まりです。」
リーは仲間たちにその「最大の危険」を回避する方法を考えるよう促しました。
彼は「私たちは、この素晴らしい技術革新をよりポジティブで、より制御され、より抑制された商業的悪用の可能性を持つようにするために、人々が技術に取り組むための行動を呼びかける必要があります」と言いました。
マーカスはリーに心から同意した後、D.C.地域のデジタルコンサルティング会社ラフトの人工知能シニアディレクターであるアンジェラ・シェフィールドを最後のスピーカーとして紹介しました。
ワシントンD.C.地域のデジタルコンサルティング会社ラフトの人工知能シニアディレクター、アンジェラ・シェフィールド。
シェフィールドは、"アメリカ政府や国際政府の上級意思決定者との頻繁な会話"を引用し、"AIをどのように規制するかについて、私たちの上級意思決定者や政策立案者の間に本当の緊急感がある"と述べました。
「私たちはAGIがすぐには実現しないことを知っているかもしれません」とシェフィールドは言いましたが、「それを言っても政策立案者には役に立たない」と述べました。「彼らは今すぐに立法を助け、他国の上級意思決定者と関わるための何かが必要です。」
「単なる枠組み以上のものが必要です」と彼女は言った。「意味のある現実の問題にこれを適用し、問題のパラメータを設定し、具体的にすること […] ダーツを投げるための何かです。カイフーから聞いた動機のおかげで、今こそより速く動く時です。」
彼女は「私たちでなければ、誰が？」という質問を投げかけました。
シェフィールドは、特に核拡散に関して、国家安全保障における自らのAIに関する研究を指摘しました。「私たちは、AIアルゴリズムを新しいデータソースと組み合わせることで、核兵器を開発している悪者を見つけるアプローチを強化する機会を見つけました。」とシェフィールドは述べました。AIを「指揮と統制の方法を強化する」ために使用することへの希望があると彼女は言い、「情報を受け取り、それを理解し、何をするかを決定し、それを実行する人々のグループの方法」を意味しています。
締めくくりのセグメントで、マーカスは「ライトニングラウンド」を宣言し、各参加者が30秒以内で「学生に一つのアドバイスを与えるとしたら、例えば、どのAIの質問が最も研究を必要としているか、またはAIがますます中心的な存在になる世界に備える方法について、そのアドバイスは何ですか？」と答える機会を与えました。
ブリンジョルフソンは、AIにおいて「断続的平衡」の改善があったと述べましたが、「私たちの経済機関、私たちのスキル、私たちの組織」にはそのような改善がなかったため、重要なのは「私たちの機関をどのように再発明できるか」ということです。
フェルッチは次のように提案しました。「あなたの脳、あなたの仕事、そしてあなたの最も基本的な信念は、AIによってこれまでにないほど挑戦されるでしょう。それを理解し、どのように機能し、どこでどのように使用されているのかを確認してください。」
チョイ："私たちは、特に多元主義に重点を置いて、AIを人間の価値観に合わせることに取り組まなければなりません。これは私たちが直面している本当に重要な課題の一つだと思います。また、堅牢性、一般化、説明可能性などの課題にも広く対処する必要があります。"
カスペルセン：「サイロから解放されなさい。それは単に前例のない技術の収束の一種です。倫理的考慮事項や不確実性を乗り越えるために、本当に良い質問をしてください。」
ジョージ：「スケーリングの方にするか、基礎研究の方にするか選んでください。なぜなら、彼らは異なる軌道を持っているからです。」
ダビラ・ガルセス：「私たちは人間を理解するAIと、AIを理解する人間が必要です。これは民主主義、説明責任、そして最終的には教育に影響を与えるでしょう。」
リー：「私たちは、人間ができないことやうまくできないことを行う技術に取り組むべきです […] そして、単により大きく、より速く、より良いアルゴリズムを追求するのではなく、電力だけでなく、技術が安全で使いやすいことを確保するための回路ブレーカーについても考えるべきです。」
シェフィールド：「特定のドメインアプリケーションに特化することを検討してください。私たちの研究と開発、そして特定の問題や特定のドメインにAIを適用することによる人間社会への貢献には非常に多くの豊かさがあります。」
クルーン："AGIはすぐにやってくる。したがって、AIを開発している研究者には、エンジニアリング、アルゴリズム、メタラーニング、エンドツーエンド学習などに基づく技術に取り組むことをお勧めします。これらは私たちが作成しているAGIに最も吸収される可能性が高いからです。非AI研究者にとって最も重要なのはおそらくガバナンスの問題です。AGIが開発されたときのプレイブックは何ですか？そのプレイブックを決定するのは誰ですか？そして、地球上のすべての人々がそのゲームプランに同意するようにするにはどうすればよいですか？"
ロッシ：「現時点でのAIは単なる科学や技術ではなく、社会技術的な学問です。 […] 自分の専門外の人々と話し始めて、AIや自分が取り組んでいることの影響を一緒に評価し、科学的進歩が人間の進歩を支える未来に向けてこれらの技術を推進できるようにしましょう。」
マーカスは、最後の討論での発言「AIを育てるには村が必要だ」を思い出しながら、夜を締めくくりました。
「今はそれがさらに真実だと思います」と彼は言った。「AIは以前は子供でしたが、今はちょっとやんちゃなティーンエイジャーのようで、まだ完全に成熟した判断力を持っているわけではありません。」
彼は「この瞬間は刺激的であり、危険でもあると思います」と結論付けました。