ニューラルネットが独自のニューロンを選択するようになったとき、驚くべきことが起こりました
この研究は、地球上の生命、そしてさらに驚くべきことに機械にとっての進化の多様性の重要性を明らかにしています。
純血種の犬がステータスシンボルだった時代がありました。飼い主はジャーマン・シェパードやコッカー・スパニエルの非の打ちどころのない血統について叫び、時には何世代にもわたって同じ家族内で単一の血統をたどる血統を自慢することもありました。
純粋さへのこの魅力は、ヒトラーのナチスドイツ時代に高まり、ジャーマンシェパードの「汚染された」血統は嫌悪されました。しかし、人々が犬の近親交配を執拗に行ったのは 1800 年代のビクトリア朝時代で、現在私たちが目にするすべての犬種、そして股関節やその他の関節の問題などの病気はその近親交配の過程の結果であると言えるほどになりました。
現在、純度の重視は変化しており、私たちは遺伝学、特に衰弱性の健康問題や不安定な気質を獲得する最速の方法が近親交配であることについてさらに学び続けています。
さて、雑種のルールです。環境の多様性が大きければ大きいほど、それに適応した後に出現する生物の多様性も大きくなり、最終的には私たちが住む世界の安定性も高まることを私たちは知っています。
現代世界では、現代人類の歴史のどの時代よりも多様な遺伝子プールが求められており、特に不安定な環境や気候変動問題により、より丈夫な種が必要とされるためです。このプロセス自体は、地球の法則として、理解するのはそれほど難しいことではありません。
しかし、機械が、より多様なエンジニアリング設定の下でもより優れたパフォーマンスを発揮する同じ能力を示した場合はどうなるでしょうか?
さらに、マシンが独自の内部を形成することを許可された後、 実際に多様性を選択し、その選択によってプロセッサ速度が比類のないほど向上した場合はどうなるでしょうか?
AIのメタ学習
この疑問は、さまざまな機関（ノースカロライナ州立大学、インド科学研究所）の研究者チーム（アンシュル・チョーダリー、アニル・ラダクリシュナン、ジョン・F・リンドナー、ウィリアム・ディットー、スデシュナ・シンハ）によって行われた画期的な実験によって証明された。 、モハリ、ウースター大学）。彼らの目的は、ニューラル ネットなどの高度な AI が独自のデバイスに任せた場合にどのような操作上の選択を行うかをテストすることでした。
「私たちは、AIが多様性の欠如ではなく多様性を選択するかどうか、そしてその選択によってAIのパフォーマンスが向上するかどうかを確認するために、人間以外の知能である人工知能（AI）を備えたテストシステムを作成しました」と論文共同者は述べています。著者のウィリアム・ディット氏は、ノースカロライナ州立大学物理学教授であり、ノースカロライナ州立非線形人工知能研究所（NAIL）の所長でもある。
「私たちの実際の脳には、複数の種類のニューロンがあります」と同氏はこの実験についてさらに推測し、マシンの神経学的多様性とパフォーマンスとの関係の見方を再定義し始めていると語る。
「そこで私たちは、AI に内部を見て、ニューラル ネットワークの構成を変更する必要があるかどうかを判断する機能を与えました。本質的に、私たちは AI に自分の脳の制御ノブを与えました。そうすれば AI は問題を解決し、結果を見て、最も有利なニューロンが見つかるまで、人工ニューロンの種類と混合を変更します。これは AI のメタ学習です。」
多様性は、機械を含め、生存と最高のパフォーマンスのために進化の必然です。
ニューラル ネットワーク（ほとんどの従来型の高度な AI の中心）は、私たちの脳の仕組みを模倣しています。私たちの脳が接続の強さに応じて電気インパルスを送受信するのと同じように、ニューラル ネットワークもトレーニング時に数値の重みとバイアスを調整することによって行われます。
ニューラル ネットワークがトレーニングを受け、たとえばバスの写真の大規模なコレクションを調べてバスがどのようなものであるかを識別しようとすると、ネットワークは数値の重みを調整し、正しいバス画像と間違ったバス画像をネゴシエートしながらバランスをとります。
これらのニューロン間の接続の強さはトレーニング プロセス中に変動しますが、構成に関しては基本的にロックされたままになります。
それは科学者たちがニューラルネットに自らを活性化する自由を与えるまでのことだった――そしてその後、何か驚くべきことが起こった。
最高のパフォーマンスを得るために多様性を選択する
まず、ネットワークは完全に異なる、または異種の非線形ニューロン配置を選択しました。
言い換えれば、システムは「学習された多様性」と呼ばれるプロセスにおいて、同一性よりも多様性を選択しました。
そして、同じトレーニングを行った場合でも、自己選択型の異種ニューラルネットが同種ニューラルネットよりも優れたパフォーマンスを発揮することが判明しました。
チームが AI に「標準的な数値分類演習」を実行するよう依頼したところ、自己選択型の多様な AI 演習は、精度の点で同種の AI 演習を 70% から 57% 上回りました。
同氏は、多様な AI は従来のニューラル ネットワークよりも 10 倍も正確である可能性があると述べています。
「私たちは、AI に内面を見つめ、どのように学習するかを学ぶ能力を与えると、AI の内部構造、つまり人工ニューロンの構造が変化し、多様性を受け入れ、効率的に学習して問題を解決する能力を向上させることを示しました。より正確には」と同氏は言います。
同氏は、問題がより複雑で混沌としたものになるにつれて、多様なAIニューラルネットのパフォーマンスは、非多様なAIと比較して時間の経過とともに実際に向上すると付け加えた。
科学者らによると、この学習された多様性により、ハミルトニアン ニューラル ネットワークなど、物理学に基づいた既存の AI のパフォーマンスも向上する可能性があります。
AI がほぼすべてのアプリケーション (航空機や自動運転車など、生死に関わる機能に関わるアプリケーションが多くあります) に導入されるにつれて、より堅牢で高速なシステムが必要になります。
多様な進化の軌跡により、人間、動物、植物、そしてこれまで地球上で生き残ってきたほとんどすべてのものは成功物語となっています。また、それが機械の世界で勝者と敗者を分けているようにも見えます。