※本記事は、AI for Good主催のセッション「How to build a mind: Exploring insect-inspired AI for autonomous robots」の内容を基に作成されています。本セッションの詳細情報および動画は https://www.youtube.com/watch?v=BJ8ief4M0V8 でご覧いただけます。本セッションでは、Transformerをはじめとする現代のAIアプローチがロボット自律性にもたらす可能性を踏まえつつ、それらが抱えるハードウェア・データ・訓練・推論面での莫大な資源コスト、環境負荷、そして堅牢性・適応性の課題を整理し、地球上で最も小さな脳の一つである昆虫脳の研究が、より効率的で堅牢なロボット自律性への道筋をいかに示し得るか、また、そこから生まれた新しいクラスのAIがすでに市場に登場しつつある現状について論じられています。登壇者は、Opteran社のCentre for Machine Intelligence所長を務めるJames A. R. Marshall氏です。AI for Goodは、革新的なAIの応用事例を発掘し、スキルと標準を構築し、パートナーシップを推進することで、地球規模の課題解決を目指す取り組みです。AI for Goodは、ITU(国際電気通信連合)が50を超える国連パートナーと連携し、スイス政府との共催により運営されています。本記事では、セッションの内容を要約しております。なお、本記事の内容は原著作者の見解を正確に反映するよう努めていますが、要約や解釈による誤りがある可能性もありますので、正確な情報や文脈については、オリジナルの動画をご視聴いただくことをお勧めいたします。また、AI for Goodのネットワーキング・コミュニティ・プラットフォーム(https://aiforgood.itu.int/neural-network/)もあわせてご参照ください。
1. 人類が描く人工知能の夢と、現実世界が突きつける困難
1-1. 共に暮らし働く人工知能という長年の夢と、近年の商用デモが生む期待感
Speaker: ありがとうございます。まず冒頭に申し上げたいのは、人類が非常に長きにわたって、人工知能というものを創り出すという夢を抱き続けてきたという事実です。それも単に道具として作るのではなく、私たちと並んで暮らし、私たちと社会的に関わり合い、私たちと共に働いてくれるような存在として作り出すこと、これが古くからの人類の夢であったわけです。そして近年の人工知能分野の進展を見ますと、いよいよその夢を実現する直前まで近づいてきたかのように感じられる状況になってきました。
Questioner: 確かに、ここ最近の商用デモンストレーションを目にしていますと、本当に目覚ましいものがありますね。場面によっては、もはや人間と見分けがつかないのではないかと思わせるような出来栄えのものも出てきています。世の中の一部の方々が、私たちはいよいよ「汎用人工知能(artificial general intelligence)」と呼ばれるものに手が届くところまで来ているのではないかと語り始めているのも、無理のないことのように感じます。
Speaker: はい、そのとおりです。ああした商用デモンストレーションが非常に印象的なものであることは、私自身も否定するつもりはありません。実際にあのような映像や事例を見せられますと、いよいよ汎用人工知能の実現が目前に迫っているのではないかという感覚を、多くの人が持つようになっています。あの種のデモンストレーションが世の中に与えている期待感、そして「もうすぐそこまで来ている」という空気感は、確かに非常に強いものがあります。私が今日この場で議論を始めたい出発点も、まさにそこにあります。私たちはあのような映像を見て、本当に夢の実現が目前にあると考えてよいのでしょうか。共に暮らし、共に働くパートナーとしての人工知能を、本当に私たちは手にしようとしているのでしょうか。この問いから議論を始めたいと思います。
1-2. 雑然とした現実世界が自律システムに突きつける課題と、ロボタクシー駐車場に見る深刻な失敗モード
Questioner: 商用デモンストレーションの輝かしい印象に対して、先生は少し慎重な見方をされているように感じます。実際の現実世界では、状況はそれほど単純ではないということでしょうか。
Speaker: そのとおりです。私たちが日々暮らしている現実世界というのは、非常に雑然としていて、非常に厄介な場所なのです。デモンストレーション映像の中の整えられた環境とは、まったく違う性質を持っています。私が今日お見せする実例は、正直に申し上げますと少し古い映像でして、その点は最初にお断りしておきたいのですが、それでもこの映像は、現実世界の自律システムが直面する課題というものを非常によく代表してくれている例です。私たちが日常生活の中で何の苦もなくこなしている環境、それを実際の自律システムに扱わせようとしたとき、いかに大きな困難が立ち現れるかということを、この映像はよく示しているのです。
Questioner: 一般的な現実世界ではなく、もっと制約された問題領域に絞った場合はいかがでしょうか。たとえば自動運転、いわゆる無人運転車のような分野であれば、状況はかなり制御しやすくなるのではないかと思いますが。
Speaker: おっしゃるとおり、無人運転車という問題領域は、現実世界全般に比べればはるかに制約された設定です。さらに踏み込んで、人間というファクターを方程式から完全に取り除いてしまった場合、たとえば人間がまったく介在しないロボタクシーの駐車場という場面を考えてみても、それでもなお失敗モードは深刻になり得るのです。私が紹介したい事例の一つが、まさにそのロボタクシー駐車場での出来事です。人間を排除した、ある意味で最も制御しやすいはずの環境であってさえ、自律システムの振る舞いは深刻に破綻し得る、ということがあの場面では露わになっています。
Questioner: つまり、人間という不確定要素を取り除いてもなお、現実世界の堅牢な自律性という問題はそれほどまでに難しいということですか。
Speaker: はい、まさにそのとおりです。堅牢な自律性という問題は、本当に難しいのです。商用デモンストレーションの華やかな見え方と、現実世界における自律システムの実際の振る舞いとの間には、私たちが思っている以上に大きな隔たりがあります。共に暮らし共に働くパートナーとしての人工知能、その夢を本気で実現しようとするのであれば、私たちはこの隔たりに正面から向き合う必要があるのです。
2. 現行の自律化アプローチが抱える資源・環境上の負担
2-1. ムーンショットと呼ばれる自律化への投資規模 — 自動運転車だけで1,000億米ドル超
Speaker: さて、自律性の問題がそれほどまでに難しいという事実を踏まえますと、こうした取り組みはしばしば「ムーンショット・プログラム」と呼ばれる種類のものとして語られることになります。月面着陸に匹敵するような、社会全体で挑むべき巨大プロジェクトという位置づけです。そうした言葉で語られる以上、私としては一歩立ち止まって、私たちが社会としてこの問題に対して実際にどれだけのお金を投じてきたのか、その規模を冷静に確認しておくことが非常に有益だと考えています。
Questioner: なるほど、ムーンショットと呼ぶ以上は、それに見合うだけの社会的投資が実際になされているということですね。具体的にはどれくらいの金額が動いているのでしょうか。
Speaker: 一つの代表例として、無人運転車の領域だけに絞って数字を申し上げますと、これまでに投じられてきた金額は1,000億米ドルを優に超えているのです。これは無人運転車という、自律化のごく一部の問題領域だけを取り出した場合の数字です。自律性という大きなテーマ全体ではなく、その中のたった一つの応用領域に対して、すでに1,000億米ドル超の資金が社会から動員されている、ということです。「ムーンショット」という言葉が単なる比喩ではなく、実際の投資規模としてもそう呼ぶに値する水準に到達しているということを、まずは押さえておいていただきたいのです。
2-2. アポロ計画予算の四分の一に迫る支出と、人間のティーンエイジャーが20時間で習得する課題との対比
Questioner: 1,000億米ドル超という金額は確かに巨大ですが、本物のムーンショット、つまり実際に月面に人を送り込んだアポロ計画と比較するとどうなのでしょうか。比喩としてのムーンショットと、本物のムーンショットとの間には、まだ大きな開きがあるのではないかという気もしますが。
Speaker: その比較こそ、私が皆さんにぜひ示しておきたかった点なのです。インフレ調整後のドル建てで見ますと、無人運転車に投じられてきた金額は、アポロ計画全体の予算のおよそ四分の一にすでに到達しています。アポロ計画と申しますのは、人類で初めて人間を月面に歩かせることに成功した、まさに本物のムーンショット・プログラムです。その全予算のうちの四分の一に近い額が、無人運転車という一領域だけで、すでに費やされている、ということなのです。
Questioner: それはかなり衝撃的な比較ですね。本物の月面着陸計画の四分の一にも迫る規模の資源を投じて、私たちは今、自動運転車で何を達成できているのでしょうか。
Speaker: ここがまさに、私が皆さんに考えていただきたい論点です。これほどの巨額の資源を投じておきながら、私たちが達成しようとしているのは、何のことはない、人間のティーンエイジャーが平均してわずか20時間程度の練習をすればゼロから習得できる課題なのです。しかも、その課題を「信頼性をもって」達成することにすら、まだ届いていない。アポロ計画の予算の四分の一に迫るお金を使って、ティーンエイジャーが20時間でできるようになることを、まだ堅牢な形では実現できていない、というのが現状の率直な姿だと私は理解しています。投じた資源の規模と、得られている成果の質との間にある、この大きな乖離を直視する必要があると思うのです。
2-3. 計算資源・データ・エネルギー・レアアースに依存する手法が抱える環境的代償
Questioner: 金額の話だけでなく、そうしたアプローチが「何を消費して」成り立っているのかという点も、おそらく重要ですね。
Speaker: はい、まさにそこに踏み込みたいと思っていました。今展開されているこれらのアプローチは、極めて計算資源集約的であり、同時に極めてデータ集約的でもあります。そしてそれを動かすためには、莫大なエネルギーコストを払い続けなければなりません。さらに、それを支えるハードウェアを作り出すためには、レアアース(希土類金属)という形での膨大な物質的コストもかかってきます。計算資源、データ、エネルギー、そして物質、これらすべての面で、現行のアプローチは非常に重い負担を環境に対して課しているわけです。
Questioner: ただでさえ地球環境が逼迫している時代に、それだけの負荷をかけ続けるというのは、社会としてかなり厳しい選択になるのではないでしょうか。
Speaker: そこが核心です。私たちが暮らしているこの環境というのは、すでに私たちが日々課している要求に対して、その資源面でも生態系の面でも、辛うじて持ちこたえているような状態にあります。それほどまでに環境の余力がない時代に、計算資源・データ・エネルギー・レアアースのすべてを大量に消費し続けるアプローチを、果たして社会としてこのまま支え続けてよいのかという問いに、私たちはまっすぐ向き合う必要があるのです。私が冒頭で「投資規模を冷静に確認しておくことが有益だ」と申し上げた理由も、まさにここにあります。アポロ計画の予算の四分の一に迫るお金を投じて、ティーンエイジャーが20時間で身につける課題にすらまだ届いていない、しかもそれを実現しようとしているアプローチ自体が、これだけの環境的・資源的負担を社会に強い続けている、というのが、現行路線が抱えている真の姿なのです。
3. 昆虫の脳に学ぶエレガントな自律性の解と、進化という事前学習
3-1. 数十万ニューロン・約1立方ミリメートルの脳容積で堅牢な自律性を実現する昆虫
Speaker: ここまで現行アプローチが抱える資源面・環境面での負担をお話ししてきましたが、これらの状況はすべて、脳がこの自律性という問題をいかにエレガントに解いているかという事実と、まったく対照的な姿として立ち現れてきます。たとえば昆虫を例に挙げてみたいと思います。昆虫というのは堅牢で、しかも独立した自律エージェントです。誰かに細かく指示されながら動いているわけではなく、雑然とした現実世界の中を、自分自身の判断で動き回って生きている存在です。
Questioner: 昆虫が堅牢な自律エージェントだという言い方は新鮮ですね。私たちはどうしても昆虫を「単純な生き物」として軽く見てしまいがちですが、改めて考えると、現実世界で生き延びるという課題を彼らはきちんとこなしているわけですよね。
Speaker: そうなのです。しかも驚くべきは、その昆虫たちが備えている脳の規模です。彼らの脳は、ニューロン数のオーダーで言えば数十万個の規模に過ぎません。動物の体の中で、おそらく1立方ミリメートル程度の空間しか占めていないような、非常に小さな脳です。さらに消費しているエネルギー量に至っては、現代の人工知能アプローチと比較すれば、文字どおり無限小と言ってよい桁違いに小さな量しか必要としていません。前のセクションでお話ししたような、計算資源、データ、エネルギー、レアアースのすべてを大量に消費するアプローチと比べてみてください。同じ「自律性」という課題に対して、まったく異なる解が、すでにこの地球上には存在しているわけです。
3-2. 現代AIの大量データ・大規模シミュレーション学習との対比
Questioner: これだけ小さな脳で、しかもごくわずかなエネルギーしか使わずに、堅牢な自律性を実現できているという事実は本当に対照的です。では、脳というのはいったいどのようにして、この自律性の問題を解いているのでしょうか。
Speaker: その問いに入る前に、まず現代の人工知能アプローチがどのようにしてこの問題に挑んでいるのかを、改めて整理しておきたいと思います。現代のAIアプローチは、まず非常に大量のデータを集めるところから始まります。そしてロボティクスの事例においては、そのデータに加えて、計算資源を惜しみなく投入する形で、非常に大規模なシミュレーションを実施し、それによって生成モデルを訓練していくという手法を採っています。データ収集と大規模シミュレーション、この二つを膨大な計算資源で回し続けることで、ようやくモデルを学習させようとしているわけです。
Questioner: つまり、現代AIは「データと計算で殴る」ことで、自律性を獲得しようとしている、ということですね。それに対して脳の側は、何かまったく別の道を通ってきているということでしょうか。
Speaker: はい、脳は本質的にまったく別の道を通って、この問題に対する解にたどり着いています。そして、その別の道こそが、次にお話ししたい論点です。
3-3. 過去6億年にわたる地球生命の100%忠実な物理シミュレーションとしての進化
Speaker: 脳というものは、過去6億年という途方もない時間をかけて、自律性の問題を解くためにすでに進化してきました。しかも、その進化のプロセスがどのような環境の中で進んできたのかを考えていただきたいのです。それは、地球上の生命そのものを舞台とした、徹底的に並列で、しかも100%忠実な物理シミュレーションだったのです。誰かが設計した近似モデルの中での学習ではありません。物理法則がそのまま完璧に適用される、現実そのものを舞台にした6億年規模の事前学習が、脳に対してすでに済んでいる、ということなのです。
Questioner: 現代AIが今懸命に取り組んでいる大規模シミュレーションは、要するに人工的に作り出したシミュレーション環境ですよね。それと、地球そのものを舞台にした6億年の物理シミュレーションを比べてしまうと、これはもう、規模も忠実度もまったく次元が違うということになりますね。
Speaker: そのとおりです。人工的なシミュレーションで、その規模と忠実度に追いつくのは、もはや単に難しいというレベルの話ではなく、原理的に不可能なのです。これは私の意見というよりも、定義からして追いつけないという問題です。それだけの規模の事前学習が、進化というプロセスを通じて、すでに脳の中に書き込まれてしまっている、ということなのです。
Questioner: そう聞きますと、ある種の絶望的な結論になりそうですが、それは「だから人工的にはお手上げだ」という話なのでしょうか。
Speaker: いいえ、私が申し上げたいのはまったく逆のことです。私たちは、その6億年分の事前学習を、人工シミュレーションで一から再現する必要などないのです。なぜなら、その学習結果はすでに目の前にある生物の脳の中に、完成した形で存在しているからです。私たちがすべきは、その脳がたどり着いた解を理解し、そこから学ぶことであって、ゼロから同じ規模のシミュレーションをやり直そうとすることではない、というのが私の主張です。これが、自律性の問題に対する、現行AIアプローチとはまったく異なる切り口となる出発点なのです。
4. 神経科学が解き明かす昆虫脳のナビゲーション回路と、シリコンへの実装
4-1. VRを含む最新技術による神経科学的解明と、小さな脳をモデル系として再評価する動き
Questioner: 進化が6億年かけて到達した解を、私たちはゼロから再現するのではなく、すでに完成しているものを理解するところから始めればよい、というお話でした。では実際のところ、神経科学はどこまで脳の秘密を解き明かしているのでしょうか。
Speaker: 神経科学者というのは、実はかなり長い時間をかけて、脳の秘密を一つひとつ解きほぐしてきています。しかも、対象とする動物の種は非常に多様です。ある一つの種に偏ることなく、さまざまな生物を対象にして、その脳の中で何が起きているのかを調べてきました。そこで用いられているのが、最新の各種技術です。たとえば、バーチャルリアリティもその一つです。
Questioner: バーチャルリアリティを神経科学に使う、というのは少し意外な印象を受けますが、具体的にどのように活用されているのでしょうか。
Speaker: 興味深いことに、バーチャルリアリティは昆虫を対象にしてさえ使うことが可能なのです。昆虫を仮想環境の中に置いて、その挙動を観察しながら、同時に脳の中で何が起きているかを記録できる、という形で活用されています。こうした手法を含め、神経科学はこれまで、どちらかと言えば大きな脳に焦点を当ててきました。哺乳類の脳のように、構造が複雑で、人間自身の脳と近縁な対象を研究することに、多くの労力が注がれてきたわけです。しかし最近になって、研究者の側に少しずつ認識の変化が生まれてきています。
Questioner: 大きな脳ではなく、小さな脳に注目するということでしょうか。
Speaker: はい、まさにそうです。地球上で最も小さい部類に入る脳に目を向けることが、自律性を理解するという目的にとって、実は極めて示唆に富むのだ、ということに多くの科学者が気づき始めているのです。とりわけ昆虫は、自律性を理解するための神経科学のモデル系として、本当に大きな価値を発揮しつつあります。これは、前のセクションで申し上げた「小さな脳で堅牢な自律性を実現している」という事実とちょうど呼応する話で、研究の対象としても、その小ささそのものが大きな利点になり始めているということです。
4-2. ショウジョウバエ脳の中心複合体に存在する核心的ナビゲーション回路と、哺乳類脳との共通性
Questioner: 昆虫の中でも、特にどのような対象から重要な知見が得られているのでしょうか。
Speaker: ここで取り上げたいのが、ショウジョウバエの脳です。ショウジョウバエの脳は、昆虫の脳を代表する存在として研究の最前線に位置しています。その中でも特に重要なのが、「中心複合体(central complex)」と呼ばれる領域に存在する、ある一つの回路です。研究者たちは、入念に設計された行動実験と、最新の遺伝学的手法、そして高度な顕微鏡技術を組み合わせることで、この脳がどのようにして自律性の問題を解いているのかを、一つひとつ解きほぐしてきました。
Questioner: その「中心複合体の中の一つの回路」というのは、具体的にどのような働きを担っているものなのでしょうか。
Speaker: これは、昆虫の脳における「核心的なナビゲーション回路」だと言えるものです。自分は今どちらを向いているのか、そしてどちらに向かおうとしているのか、という問題を解くための回路です。そして大事な点は、この回路が単に昆虫だけのものではない、ということです。
Questioner: と申しますと、人間の脳にも同じような仕組みがあるということでしょうか。
Speaker: はい、皆さんの脳の中にも、自分が空間のどの方向を向いているのか、そしてどこに行きたいのか、という問題を解いている細胞群が存在していて、それらの働き方と、このショウジョウバエの中心複合体の回路の働き方とは、共通点があるのです。つまり、昆虫の脳で見つかった解が、私たち哺乳類の脳における解と原理的に通じ合っている、ということです。神経科学が小さな脳に目を向けることの価値が、まさにここに表れています。
4-3. 米国の科学者らが10年以上前に明らかにしたリングアトラクター回路のシリコン実装
Questioner: その回路が最初に明らかにされたのは、いつ頃のことなのでしょうか。
Speaker: この回路は、10年以上前に米国の科学者たちによって、最初に解きほぐされたものです。10年以上前と申しましたが、それから現在に至るまでに、関連する理解はさらに着実に深まってきています。そして私が強調したいのは、こうして発展してきた理解を、私たちはシリコンの上で、つまり実際のアルゴリズムとして再現できるという点です。
Questioner: つまり、生物の脳の中で動いている回路を、そのまま人工的なシステムとして動かせるようにする、ということですね。
Speaker: そのとおりです。生物の脳で解き明かされた回路の理解を、ロボット制御に展開できる「行動生成回路(behavior generating circuits)」としてアルゴリズム化し、シリコンの上で実装するわけです。ここで重要なのは、これが既存のAIアプローチをすべて置き換える、という発想ではないという点です。むしろ、既存のAIアプローチを「補完する」ものとして適用できるのです。脳から得られた回路と、現在広く用いられている機械学習の手法とを組み合わせる、という方向で力を発揮するものだとお考えいただきたいのです。
4-4. マンチェスター大学による深層強化学習との組み合わせ実験と50%の性能向上
Questioner: 既存のAIアプローチを補完するという話は、抽象論としては理解できるのですが、実際にそれがうまく機能した、という具体的な実証例はあるのでしょうか。
Speaker: はい、その問いに答えるのにふさわしい実例があります。機械学習アルゴリズムを評価するためのベンチマーク問題集として、ビデオゲームというものが広く知られています。マンチェスター大学で行われた研究では、まさに先ほどお話しした「リングアトラクター回路(ring attractor circuit)」、つまり昆虫脳から得られたあのナビゲーション回路を取り出して、これを標準的な深層強化学習アルゴリズムと組み合わせる、ということを実際にやってみたのです。
Questioner: その結果として、どのような違いが現れたのでしょうか。
Speaker: 学習データが限られているシナリオにおいて、性能が50%向上したのです。これは、ただ単に脳由来の回路をそのまま単独で動かしたわけでも、強化学習を単独で動かしたわけでもありません。両者を組み合わせた結果として、訓練データが限られた状況下でも50%の性能向上が得られた、ということです。前のセクションでお話ししたように、現代のAIアプローチは大量のデータと大規模シミュレーションに極度に依存しています。その「データへの依存」という弱点が顕在化する場面、つまり訓練データが限られた状況において、脳由来の回路がはっきりとした差を生み出したわけです。
Questioner: ただし、ビデオゲームというのはあくまでベンチマークであって、現実世界そのものではありませんよね。
Speaker: 鋭いご指摘です。現実世界は、ビデオゲームよりもはるかに複雑です。私たちが本気で「真の自律性」を目指すのであれば、そして自律エージェントが人間と並んで働き、暮らしていけるようにしたいのであれば、最終的にはこの現実世界の複雑さに向き合わなければなりません。歴史的に見て、AIとロボティクスは、自分たちが「複雑だ」と思って訓練に使ってきた人工的な世界から、皆さんと私が日々当たり前のように対処している現実世界の、本当の意味での雑然とした複雑さへと移行するところで、ずっと苦戦し続けてきたのです。マンチェスター大学の実験は、脳由来の回路と既存AIとの組み合わせが有望であることを示してくれましたが、本物の現実世界に踏み出すために、私たちはさらに何を変えなければならないのか。次の議論はそこへと進んでいきます。
5. 自然の解を統合的に捉え直す視点と、進化から学ぶ三つの教訓
5-1. 部分的な仕組みだけを借用してきた従来アプローチの限界 — イベントベースカメラの事例
Questioner: 人工的な世界から現実世界へと移行するところで、AIとロボティクスはこれまでずっと苦戦してきた、というお話でした。では、私たちはいったいどこで道を間違えてきたのでしょうか。
Speaker: どのようにアプローチを変えなければならないかを考えるために、私たちはもう一度、脳に立ち返る必要があります。ただし、ここで本当に大事な点があります。それは、脳や自然から解を借りてくる際に、その解を「部分ごとに切り出して」、互いに切り離した状態で持ってきてはならない、ということです。実は、これまで私たちが間違えてきたのは、まさにそこなのです。
Questioner: 部分ごとに切り出すことの何が問題なのか、具体的な例で考えてみたいのですが。
Speaker: よい例があります。「イベントベースカメラ(event-based camera)」と呼ばれるセンサーがあります。これは、人間の網膜の働き方に着想を得て作られたもので、たとえば運転シナリオにおいて利用されたりしています。網膜の仕組みを参考にしている、という意味では、確かに自然から学んだ要素を取り入れてはいるわけです。
Questioner: それであれば、自然の解をきちんと活かせているように聞こえるのですが、何が足りないのでしょうか。
Speaker: 問題は、その網膜にあたる部分が、脳が視覚情報をどのように処理しているかという全体像から切り離されてしまっている、という点です。網膜の仕組みだけを単独で取り出してきても、それは部分的な解にしかなりません。脳においては、網膜は決して単独で機能しているのではなく、その後段に続く視覚処理の仕組みと密接に結びついて、はじめて意味のある働きを成立させているわけです。にもかかわらず、私たちはその網膜部分だけを切り出して、後段の処理から切り離した状態で工学に持ち込んでしまっている。これでは、自然が用意した解の本当の力は引き出せません。だからこそ私たちは、進化が「統合された自律性の問題」をどのように解いてきたのか、その全体像、つまりさまざまな構成要素の解がどう組み合わさって一つの解になっているのかを、まとめて見直す必要があるのです。
5-2. 教訓1:観察のみでは世界を学べない — ホヤが示す「脳は運動のために進化した」という証拠
Speaker: その全体像を踏まえた上で、私が皆さんと共有したい教訓が三つあります。これらは、進化から私たちが学び取ることのできる教訓です。まず一つ目の教訓です。世界というものは、単なる観察を通じて学ぶことはできません。ところが、現在の大多数のAIシステムは、まさにこの「観察を通じて世界を学ぶ」という前提で訓練されています。私はそこに根本的な問題があると見ています。
Questioner: 「観察だけでは世界を学べない」というのは、なかなか強い主張ですね。それを裏づける証拠はあるのでしょうか。
Speaker: 非常に説得力のある証拠があります。それは、脳が進化の過程で、まず何を解くために生まれてきたのか、という根本的な事実です。脳が最初に解こうとした問題は、「運動」だったのです。ここで紹介したい生き物が「ホヤ(tunicate, sea squirt)」です。この動物は、ライフサイクルの中に二つの段階を持っています。前半は移動性の生活段階で、後半は一か所に定着する生活段階です。
Questioner: その二段階の生活と、脳の役割とがどのように関係するのでしょうか。
Speaker: 注目すべきことに、ホヤはライフサイクルの前半、つまり移動性の段階においては脳を持っています。ところが、自分の場所を決めて定着してしまうと、そのあとは自分自身の脳を消化してしまうのです。脳が含んでいる資源を解放して、別のことに使ってしまうわけです。これは、「脳が何のために進化してきたのか」という問題の完璧な実例だと言えます。移動して、自分の身体を環境の中で動かしていく、その必要があるあいだは脳が要るのです。逆に、自分が動かなくてもよくなった瞬間に、脳という装置は不要になってしまう。脳は、運動を解くための装置として生まれてきた、ということが、このホヤの振る舞いから読み取れるのです。観察を通じて世界を学ぶための装置として生まれてきたのではなく、まず動くために生まれてきた、ということです。
5-3. 教訓2:知覚入力を安定化させる必要性 — 頭部を空間に固定する猛禽類と、走行中も安定した人間の視界
Speaker: 二つ目の教訓は、知覚入力を安定化させなければならない、ということです。これに関する非常に美しい例として、空中でホバリングしながら獲物を探している猛禽類の姿があります。空中で羽ばたきを続けている猛禽類を、よく注意して見ていただきたいのですが、特にその頭部の動きに着目してみてください。
Questioner: 頭部に注目するとどのような事実が見えてくるのでしょうか。
Speaker: その頭部は、実質的に三次元空間の中で完全に固定されている、ということが分かります。頭がまったく動いていないのです。一方で、その身体の側はと言いますと、頭部を空間内で完全に局在化させたまま保つために、複雑な逆運動学(inverse kinematics)の問題を解き続けています。身体側でその難しい計算を引き受けることで、頭部の空間的な位置をぴたりと一定に保っているわけです。
Questioner: 身体側にそこまでの負担を強いてまで、頭部を固定する必要があるのでしょうか。何のためにそうしているのですか。
Speaker: なぜそんなことをするのか。理由は、視覚入力が安定していると、その先で行われる処理、つまり下流の処理が、はるかに、はるかにシンプルになるからです。後段の処理を簡単にするために、入力側を安定させる、という方向で問題を解いているわけです。実は、皆さんの目もまったく同じことをしています。皆さんがランニングに出かけているところを想像してみてください。走っている最中であっても、皆さんから見える世界の眺めは、首尾一貫して安定しています。ところが、もし皆さんが身体にカメラを取り付けて走り、そのカメラの映像を後で再生してみたとしたら、その映像はとても見ていられないものになります。ほとんど解釈不可能なほどに揺れて乱れた映像になってしまうのです。皆さんの身体は走るたびに激しく上下に揺れているはずなのに、見えている景色がそうなっていないのは、知覚入力を安定化させる仕組みが、自然のシステムの中に組み込まれているからにほかなりません。
5-4. 教訓3:Less is more — 高精細視覚という錯覚と、能動サンプリングによる低帯域視覚系
Speaker: そして三つ目の教訓は、「Less is more(少ない方が多くを成し得る)」ということです。皆さんは、自分が一対の高精細な4Kカメラを使って世界を眺めているような錯覚を抱いておられるかもしれませんが、実態はそこから遠く離れています。
Questioner: 私たちは普段、目の前の世界をくっきりと細部まで見ているつもりですが、それが錯覚だ、ということでしょうか。
Speaker: そうなのです。実際の皆さんの視覚システムは、帯域の非常に狭いものです。その狭い帯域の視覚システムが、環境を能動的にサンプリングしながら動き回り、周囲を見回し、重要なデータ点を取りに行き、それらの間の隙間を埋め、補間し、外挿することで、ようやく「高精細な世界の眺め」という錯覚を皆さんに与えているのです。決して、4Kカメラのように世界全体を一様に高解像度で取り込んでいるわけではありません。
Questioner: 必要な情報だけを取り出して、あとは推測で埋めている、ということですね。
Speaker: はい、まさにそういう設計思想なのです。言い換えれば、皆さんの感覚システムは、本当に必要な情報だけを取り出して、残りはできるだけ早い段階で捨ててしまっているのです。なぜそうするのかと言えば、ここでもまた、下流のアルゴリズム、つまり自律性を支えるためのその後段の処理を、できるだけ単純で、できるだけ堅牢にするためなのです。
Questioner: こうして三つの教訓を並べてみますと、それぞれが独立した話ではなくて、互いに支え合っているような印象を受けます。
Speaker: そのとおりです。「運動から始めること」「知覚入力を安定させること」「必要なものだけを取り出して残りは捨てること」、この三つは、進化が見つけ出した統合された解の構成要素であり、互いに連携しながら機能しています。そして、これらすべてが、より高次の自律性をその上に積み上げていくための土台、つまり基礎を形作っているのです。冒頭の「網膜の部分だけを切り出してきても本当の力は引き出せない」というお話と、ここでようやくつながっていただけるかと思います。土台が三つそろっているからこそ、その上にさらに複雑な能力を積み上げていくことができるのです。
6. Opteran社における産業応用と、自律性研究の今後の方向性
6-1. 運動・空間知能を基盤として高次認知を積み上げる構想と、Opteranでの実装
Speaker: ここまでお話ししてきた進化からの三つの教訓は、いま申し上げたとおり、より高次の自律性をその上に積み上げていくための「土台」を形作っています。そして、ここで強調しておきたいのは、これらは単に学術的な議論にとどまるものではないということです。実際にこうした脳由来のアプローチを産業の現場へと持ち込んでいる先駆者たちが存在します。
Questioner: 具体的にはどのような担い手がいらっしゃるのでしょうか。
Speaker: その一例が、私自身が共同創業者として関わっている「Opteran」という会社です。ここまで議論してきたような、非常にシンプルで脳に着想を得たアプローチを、現実の産業領域へ展開していく取り組みを進めています。
Questioner: 残念ながら今日この場には、実機のロボットを持ち込んでいただいてはいないようですが、Opteranが何をできるのか、その一端を伺うことはできますか。
Speaker: ええ、今日は残念ながらデモのためのロボットをお持ちしていません。ですが、Opteranが脳由来の非常にシンプルなアプローチを用いて何を実現しているのか、その一端を映像でご覧いただこうと思います。重要なのは、この映像でお見せしている内容のすべてが、私たちがここまで議論してきた基盤の上に成り立っている、ということです。つまり、まず運動と空間知能を解き、その土台の上にしか高次の能力は積み上がらない、という考え方を、そのまま実装に落とし込んでいるわけです。
6-2. 事前学習不要・エッジ実装可能な視覚ナビゲーションソリューションの実証
Questioner: 実装の具体的な構成について、もう少し踏み込んで伺いたいのですが、Opteranの中核にある仕組みはどのようなものなのでしょうか。
Speaker: Opteranが自律性のために開発しているものの中核にあるのは、「視覚のみ(vision-only)」で成立するナビゲーションソリューションです。視覚以外の特殊なセンサー群に依存することなく、視覚入力をベースに自律的に動き回ることを成立させるという考え方です。
Questioner: その視覚ナビゲーションは、どのようなハードウェア構成の上で動かすことができるのですか。
Speaker: これは「エッジ」、つまり装置側で完結する形で動作させることができます。しかも、特別なカスタム計算機が必要なわけではなく、市販されている既製品の計算資源(off-the-shelf compute)だけで動かすことが可能です。さらに、たとえばこれくらいの大きさのパッケージに収めることもできます。
Questioner: 既製品の計算資源で、エッジ側で動かせるというのは、運用面で大きな意味を持ちそうです。事前学習についてはいかがでしょうか。
Speaker: そして、この点が非常に重要なのですが、このソリューションには「事前学習(pre-training)」が必要ありません。第3節で議論したとおり、現代AIの主流アプローチは、大量データと大規模シミュレーションを用いた事前学習に極度に依存していました。Opteranのアプローチは、その依存をそもそも前提としていないわけです。これは、自律性の問題への取り組み方として、本当に根本的に異なる道筋(radically different way)です。
Questioner: その「根本的に異なる」というのは、結果としてどのような違いを生むのでしょうか。
Speaker: 違いがもっとも端的に表れるのが、「エッジケース」への対応です。現実世界にAIを展開しようとしたときに本当に難しいのは、よくある場面ではなく、想定外の状況、いわゆるエッジケースの場面です。ここをいかに堅牢に乗り越えられるかが、現実世界での運用の成否を分けます。Opteranのアプローチは、まさにそうしたエッジケースを堅牢に解決していくことができる、という形で、現実世界での実用性を示しているわけです。
Questioner: これで自律性の課題は一段落、ということになるのでしょうか。
Speaker: いえ、これはまだ「旅の始まり」に過ぎません。先ほども申し上げたとおり、まず運動、つまり空間知能を解き、その上にどんどんと複雑な認知能力を積み上げていく、という道筋になります。これこそが、Opteranと、そして私自身の研究プログラムが進めている軌道そのものなのです。
6-3. AGIからAGA(人工汎用自律性)への目標再設定の提案
Questioner: ここまでのお話を踏まえて、改めて伺っておきたいことがあります。私たちはいったい、何のためにここまでの議論をしているのでしょうか。最終的に目指すべきゴールはどこにあるのか、というところです。
Speaker: その問いは、本日の議論全体にとって決定的に重要です。私が皆さんに提案したいのは、目指すべき終着点を、「汎用人工知能(artificial general intelligence)」の達成だとは考えない、ということなのです。第1節で触れたように、世の中ではこの「汎用人工知能」という言葉がさまざまな場面で語られ、強い期待感を生んでいます。しかし、私の立場から申し上げますと、これは定義の曖昧な目標であり、しかも本当に望ましいものなのかどうかすら、議論の余地のある終着点だと考えています。
Questioner: AGIを終着点に据えるのは適切ではない、ということですね。それでは、私たちは何を目標として再設定すべきなのでしょうか。
Speaker: 私が代わりに提案したいのは、「汎用人工自律性(artificial general autonomy)」を実現することを目標に置く、という考え方です。本日の冒頭で、人類は長い間、自分たちと並んで働いてくれる自律エージェントを欲してきた、というお話をしました。その必要を満たすこと、それこそが本当に目指すべきゴールだということです。AGIではなく、AGA(汎用人工自律性)を解くこと、そこを目標として据え直しましょう、という提案です。
Questioner: AGIからAGAへの目標の再設定は、ただゴールの名前を取り替えるだけのことではないように聞こえます。
Speaker: おっしゃるとおりです。これは単なる呼び方の変更ではありません。汎用人工自律性を、より持続可能で、より信頼性の高いやり方で実現すること、これが社会にとって意味のあるゴールなのだと、私は考えています。「持続可能」というのは、第2節で議論した、現行アプローチが社会と環境に課している重い負担を踏まえれば、避けて通れない論点です。そして「信頼性の高い」というのは、現実世界の雑然とした複雑さに対して、堅牢に対応できる、という意味です。冒頭で触れた、ロボタクシー駐車場の失敗モードのような状況を、本当に乗り越えられるシステムでなければ、人間と並んで働く自律エージェントとは呼べません。だからこそ、現実世界の雑然とした複雑さに「堅牢に(robustly)」対処できる形で、社会の利益になるように汎用人工自律性を解いていく、これが私たちが向かうべき方向だと申し上げたいのです。
7. 社会的投資の再考とシステム神経科学への呼びかけ
7-1. 計算資源拡張一辺倒の現行AI路線が抱える環境・資源負荷の限界
Speaker: AGIからAGA、つまり汎用人工自律性へと目標を据え直したうえで、その実現にたどり着くために、私が皆さんに一つ提案したいことがあります。それは、私たち社会としてどこに資源を投じているのか、その配分のあり方そのものを、いま一度考え直してみよう、ということです。
Questioner: 配分の見直しというのは、何をやめて何に向けるべきだ、という具体的な話になるかと思いますが、まずはやめるべき方向性についてはどのようにお考えでしょうか。
Speaker: 私が問い直したいのは、現状そのままに続いている方向性、つまり計算資源(compute)をどんどん積み増していくという路線です。さらに多くの計算資源を構築し、それを動かすために、さらに多くの環境的コストを払い、電力やその他の資源を投入し続けるというやり方が、いま現実に進んでいます。しかも、それは何のためにそこまで積み増しているのかと言えば、結局のところ、既存のAIアプローチを支え続けるためなのです。
Questioner: 「既存のアプローチを支え続けるために、計算資源と環境コストをさらに積み増す」というのは、聞いただけでも非常に重い循環ですね。
Speaker: そうなのです。しかも、ここに大事な事実があります。その支え続けている当の既存アプローチが、現実世界に展開しようとすると、ますます難しさを増してきているのです。第1節で触れたロボタクシー駐車場の事例も、第2節で議論した投資規模と成果の乖離も、すべて同じ方向を指し示しています。展開がますます難しくなっているアプローチに対して、より多くの計算資源と、より大きな環境的コストを積み増し続ける。この構図そのものに、私は限界を感じざるを得ないと考えているのです。
7-2. システム神経科学・コネクトーム研究・微小回路解明への投資転換という新たなムーンショットの提案
Questioner: では、どこに資源を振り向けるべきだ、という具体的な提案をお聞かせください。
Speaker: 私が提案したいのは、新しい社会的なムーンショットを立ち上げる、ということです。これまで「ムーンショット」という言葉は、先ほども議論したとおり、無人運転車のような既存路線のプロジェクトに対して比喩的に使われてきました。私はそれとは違う対象に、新たなムーンショットを向けたいと考えています。
Questioner: その新しいムーンショットは、何を対象とするものなのでしょうか。
Speaker: 私たちが地球上で唯一持っている、本物の自律性の解、つまり動物の脳に関する理解を、もっと急速に深めていく、というムーンショットです。私たちはすでに、地球上に動物の脳という形で「自律性の真の解」を所有しています。それをより速いペースで理解していこう、ということです。
Questioner: ここまでの神経科学の歩みを踏まえると、現在もすでに進展はあるのでしょうか。
Speaker: はい、私たちはすでに着実な進展を遂げています。しかし想像してみてください。AIや現行の自律化アプローチに振り向けられている資源のうち、ほんの一部、本当にごく一部であったとしても、もしそれが「システム神経科学(systems neuroscience)」に振り向けられたとしたら、どうでしょうか。
Questioner: その「システム神経科学への投資」というのは、具体的にはどのような研究を支える、ということになるのですか。
Speaker: たとえば、「コネクトーム(connectomes)」を得るための研究を支える、ということです。あるいは、ハエの脳の中で微小回路(microcircuits)がナビゲーションという問題をいかにして解いているのかを明らかにする、そのような研究を支えることです。第4節でショウジョウバエの中心複合体に存在する核心的ナビゲーション回路の話を、第5節で三つの教訓の話をしましたが、ああした水準の知見を、もっと広範に、もっと速いペースで蓄積していくということです。
Questioner: 仮にそのような投資の振り向けが現実に行われたとしたら、私たちはどこへ向かえるのでしょうか。
Speaker: 私たちは、次にどこへ進めるでしょうか。そして、それは地球にとって、そして社会にとって、どれほどよいことになり得るでしょうか。これは私から皆さんへの問いかけでもあります。計算資源を積み増し続けるムーンショットではなく、生物の脳という、すでに地球上に存在する本物の自律性の解を理解するためのムーンショットへ。社会としての資源の振り向け方を、そう転換していこうではないか、というのが私の提案なのです。
7-3. 持続可能で信頼性の高い形で現実世界の複雑さに対処する社会的意義
Questioner: その方向への転換が実現したとして、それは社会全体にとってどのような意味を持つことになるのでしょうか。
Speaker: ここで、第6節の最後に申し上げた、汎用人工自律性(AGA)というゴール設定に立ち戻りたいと思います。私たちが本気で目指すべきは、ただ自律エージェントを世に送り出すことではありません。それを「より持続可能(sustainable)」で、「より信頼性の高い(reliable)」やり方で実現すること、これが本当の意味でのゴールです。
Questioner: 「持続可能で信頼性が高い」という二つの言葉に込められた意味を、もう一度整理しておきたいのですが。
Speaker: 「持続可能」というのは、第2節で議論した現行路線の重い環境負荷を踏まえれば、避けて通れない条件です。計算資源、データ、エネルギー、レアアースを大量に消費し続けるやり方を、社会としてこのまま支え続けるのは難しい、という現実があるからです。そして「信頼性が高い」というのは、現実世界の雑然とした複雑さに対して、堅牢に対応できることを意味します。これは、第1節で触れたロボタクシー駐車場の深刻な失敗モードや、ティーンエイジャーが20時間で身につける課題にすら届かない現状を、本当に乗り越えるための条件でもあります。
Questioner: その先に見据えているのは、社会の中で自律エージェントが果たすべき具体的な役割、ということになりますか。
Speaker: はい、第1節の冒頭でも申し上げたとおり、人類が長きにわたって抱き続けてきた、自分たちと並んで働いてくれる自律エージェントへの必要、これに応えるということです。その応え方が、社会の利益となる(for the benefit of society)形でなされなければなりません。社会の利益のために、現実世界の雑然とした複雑さを、堅牢に処理できる自律性を生み出すこと、これが目指すべき到達点なのです。
Questioner: その実現の鍵を、計算資源の積み増しではなく、生物の脳の理解に求める、というのが本日のお話の核ということになりますね。
Speaker: そのとおりです。動物の脳の理解を急速に深めるためのムーンショットへと、社会としての資源を振り向け直すこと。そうすることで、AGIではなくAGAという新しい目標に対して、持続可能で信頼性の高い、そして社会の利益にかなう形でたどり着いていく。これが、本日皆さんと共有したかった全体像です。ありがとうございました。