IBMの産業変革の青写真がAI、5G、そしてコラボレーションをどのように活用しているか

「モータルコンピュテーション」とは、アナログコンピュータがAIをハードウェアに密接に結びつけることで、GPT-3をトースターに搭載し、数ワットの電力で1ドルで動作させることを意味します。

AIの先駆者ジェフリー・ヒントンによると、機械学習の形態の人工知能はコンピュータシステムに革命をもたらし、AIをトースターに組み込むことができる新しい種類のハードウェアとソフトウェアの統合を生み出すだろう。

ヒントンは、10年前の論文「深層畳み込みニューラルネットワークによるImageNet分類」に対する認識として、会議で講演を行うよう依頼されました。この論文は、彼の大学院生アレックス・クリジェフスキーとイリヤ・サツケバーと共著で書かれました。この論文は、分野に「大きな影響」を与えたとして会議の「時の試練」賞を受賞しました。この研究は2012年に発表され、畳み込みニューラルネットワークがImageNet画像認識コンペティションで人間レベルで競争した初めての事例であり、現在のAIの時代を動かすきっかけとなったイベントでした。

ヒントンは、コンピュータサイエンスにおける業績に対してACMチューリング賞を受賞した人物であり、この分野のノーベル賞に相当します。彼は、同じくチューリング賞受賞者であるメタのヤン・ルカンやモントリオールのMILA人工知能研究所のヨシュア・ベンジオと共に、機械学習の衰退した分野を復活させた「ディープラーニング陰謀団」を結成しました。

その意味で、ヒントンはこの分野におけるAIの王族です。

彼の招待講演で、ヒントンはほとんどの時間を、ほとんどすべてのニューラルネットワークで使用されるバックプロパゲーション技術を排除した新しいアプローチであるフォワードフォワードネットワークについて話しました。彼は、バックプロップを取り除くことで、フォワードフォワードネットが実際の脳で起こることをより現実的に近似できるかもしれないと提案しました。

前向きな作業の草案が、彼が名誉教授であるトロント大学のヒントンのホームページに掲載されています（PDF）。

ヒントンは、前向きなアプローチが人間の計算ハードウェアに適しているかもしれないと述べた。

「もしそのようなことが実現するなら、特定のハードウェアで動作する学習手順を持たなければならず、その特定のハードウェアの具体的な特性を知らなくても、それを利用する方法を学ぶ必要があります」とヒントンは説明しました。「しかし、前方前方アルゴリズムは、その小さな手順の有望な候補だと思います。」

新しいアナログモルタルコンピュータを構築する際の障害の一つは、人々が数百万のデバイスでソフトウェアを実行する信頼性に執着していることだと彼は述べた。

「それを置き換えると、各携帯電話は赤ちゃんの携帯電話として始まり、携帯電話としての使い方を学ばなければならない」と彼は提案した。「そして、それは非常に痛みを伴う。」

その技術に最も精通したエンジニアでさえ、不確実性への恐れから、完璧で同一の不死のコンピュータというパラダイムを手放すのは遅れるでしょう。

「アナログ計算に興味を持っている人々の中で、不死を諦めることを厭わない人は非常に少ない」と彼は言った。それは、一貫性や予測可能性への執着によるものだと彼は言った。「アナログハードウェアに毎回同じことをさせたいなら... これらの余分な電気的なものやその他の問題が本当に厄介だ。」