※本記事は、Min-Yen Kan氏(シンガポール国立大学准教授・学部教育担当副学部長)による講演「The Research Manifold」の内容を基に作成されています。本講演は、2026年1月26日にシンガポール・エキスポにて、AAAI Workshop on AI for Research(https://ai4research-workshop.github.io)の一環として収録されました。講演スライドは https://soc-n.us/270126-research-manifold にて、動画は https://soc-n.us/270126-research-manifold-yt にてご覧いただけます。本記事では、講演の内容を要約しております。なお、本記事の内容は登壇者の見解を正確に反映するよう努めていますが、要約や解釈による誤りがある可能性もありますので、正確な情報や文脈については、オリジナルの動画をご視聴いただくことをお勧めいたします。
Min-Yen Kan氏は、コロンビア大学にて学士・修士・博士号を取得し、Association for Computing Machinery(ACM)およびIEEEのシニアメンバーです。計算言語学会(ACL)の活動的なメンバーであり、現在は同学会の倫理委員会の共同議長を務めています。また、Journal of AI Research(JAIR)のサーベイ編集者でもあります。研究関心は、デジタルライブラリ、自然言語処理、情報検索であり、具体的には科学的言説分析、事実検証、全文文献マイニング、語彙意味論、そして大規模言語モデルの社会倫理的整合性・推論に関する研究に取り組んでいます。同氏は、シンガポール国立大学のWeb Information Retrieval / Natural Language Processing Group(WING.NUS、http://wing.comp.nus.edu.sg/)を率いています。
1. 導入
1.1 講演者紹介とサバティカル研究の経緯
Moderator: 次の講演をしていただくのは、Ming教授です。Ming教授はシンガポール国立大学(NUS)の准教授であり、学部教育担当の副学部長を務めています。Mingは計算言語学会(ACL)の活動的なメンバーであり、現在は同学会の倫理委員会の共同議長も務めています。また、Journal of AI Researchのサーベイ編集者でもあります。研究関心は、デジタルライブラリ、自然言語処理、情報検索であり、情報検索とテキスト処理のグループを率いています。それでは、Ming教授を歓迎しましょう。
Ming: 皆さん、こんにちは。この講演にお越しいただき、ありがとうございます。皆さんにとって良い午後をお過ごしください。午後は疲れがたまり、コーヒーくらいしか楽しみがない時間帯だということは承知しておりますので、起きていていただくのは大変かもしれません。ですが、今日は研究論文についてお話しするというよりも、もう少し広い視野に立ったお話をお約束したいと思います。
この講演のきっかけは、私のところにサバティカル訪問者としていらしたEuron Beielという方でした。彼はUniversity of Seits(シーツ大学)から私の大学にいらして、サバティカルの期間を使って情報検索(IR)研究のフロンティアについて考えるというアイデアを持っていました。そこで彼は、私と、私のもとにいた修士課程の学生の1人と一緒に取り組み、SIGIRフォーラムの論文としてプレプリントを発表しました。先ほど何人かの方もおっしゃっていたように、プレプリントは実際の出版よりもずっと早く世に出るものです。私たちはこの論文の中でSakana AIを批評し、物足りない部分もあると感じましたが、同時にその能力にはかなり興味をそそられるものがあるとも感じました。
そして今日の午前と午後を通して、私たちはSakana AIがどのような能力を持っているかについて、多くのことを聞いてきました。そこで私は、以前にも何度かお話ししたことのある「リサーチマニフォールド(research manifold)」というアイデアからお話を始めたいと思います。マニフォールドとは何かということですが、これは数学的な用語であり、ある表面を囲む点の集合を指します。つまり、円や球のようなものを思い浮かべていただければと思います。
2. リサーチマニフォールドという概念
2.1 マニフォールドと研究の損失関数
先ほど申し上げた通り、マニフォールドとは数学的な用語であり、ある表面を囲む点の集合を指します。円や球のようなものを思い浮かべていただければわかりやすいと思います。この話をする際、皆さんもこうした図をご覧になったことがあるかと思いますが、たとえば人間の知識全体をひとつの大きな領域として捉え、その中に学部レベルの知識を表す青い領域があり、さらにその中に修士レベルの知識を表すオレンジの領域があるという描き方です。
では、博士課程の学生は何をすべきなのでしょうか。学生は人間の知識の縁を見つけ出し、それを少しだけ外側に押し広げることが求められます。つまり、その小さな領域を拡大していき、人類の研究の未来にわずかな凹みをつくるということです。それによって初めて、その人は博士号を取得した、つまり人間の知識を前進させたと認められるわけです。
私はこのマニフォールドを、人間の知識全体を表すものとして捉えたいと思います。そして私が皆さんに問いたいのは、私たち全員をこのマニフォールドの上に置いたとき、いったいどのような姿になるのかということです。私はこれを「人間の研究の損失関数」と呼んでいます。凸型か、あるいはそれほど凸ではない平面やマニフォールドを想像していただき、その上に人々が散らばっていると考えてください。この点の集合をベクトル空間上のものとして捉えることができます。私たちは皆、それぞれの研究アジェンダを持ち、この一点にいる各個人が論文を出したり、その分野に影響を与えたりしようとしていると考えることができます。
これを損失関数として捉えるならば、出版しやすい曲線や領域もあれば、そうでない領域もあります。そして通常私たちが行うことは最適化です。つまり確率的勾配降下法(SGD)を使って、出版しやすく、インパクトを出しやすい研究領域を探し、その考えを再帰的に適用していくわけです。
ここで、私たちを空間内の粒子として捉えることもできますが、私たちは単なる点ではなく、時間の中に存在する点でもあります。つまり、それぞれの研究発表は、このマニフォールドの中を動き回っている一人の研究者の、ある一時点における部分的な観測に過ぎないと考えることができるのです。皆さんも頭の中にこのイメージをお持ちだと思います――午後で集中するのが難しい時間帯だとは思いますが――要するに、私たちと同僚たちは、このマニフォールドの上を動き回りながら、時にぶつかり合い、時に相互作用し、時に観測を行っているということです。バン、プレプリントが出る。バン、ジャーナル論文が出版される、といった具合です。そして私たちはそこから影響を受けます。
実際、私が学生に研究発表について考えるよう指導するとき、私は必ず「軌道(トラジェクトリー)」について考えるようにと伝えています。人々がどこに向かっているのかという軌道です。なぜなら、たとえば競合する、あるいは協力関係にある研究グループを見るとき――このAI for Scienceの分野にいる私たちは皆、それを行っているわけですが、率直に言ってそれが私たちがここに集まっている理由でもあります――重要なのは、彼らが2026年1月の時点でどこにいたかではなく、これからどこに向かっていくのかを知ることです。なぜなら、それはすでに公開されている情報を追いかけているに過ぎないからです。彼らの先を行く必要があるのです。これは非常に重要なことです。
2.2 研究加速のインセンティブ構造
このマニフォールドという考え方が、今日のような場がいかにそのマニフォールドに影響を与えているかを考える上で重要だと申し上げましたが、ここで皆さんもきっとお聞きになったことのある話に少し触れたいと思います。カーネマンの「ファスト&スロー」です。実は私は2018年のCOLINGで、これとよく似た「研究のファスト&スロー」というアイデアについて基調講演を行いました。システム1とシステム2という概念が広く知られるようになるより前のことです。
ご存じの通り、システム1とは直感的で非常に高速に処理できるものを指し、たとえば物体を認識するCNNのようなニューラルネットワークで実現できるものです。一方、システム2はもっと熟慮的で、はるかに時間がかかります。多くの情報を取り込み、推論し、熟考した上で理解に至る必要があります。このシステム1とシステム2という枠組みを踏まえたとき、AI for Scienceのさまざまな手法が、システム1的な研究とシステム2的な研究のどちらをより多く後押ししているのかを、頭の片隅に置いておいていただきたいのです。
ここで一つの図をご紹介します。以前使っていたバージョンは、実はある方に会って訂正を受けました。その方こそがこの図の原作者だったのですが、2018年に作った理論的なバージョンではなく、より新しいバージョンがあると教えてくれました。この図が示しているのは、研究が発表されるある時点があり、実はその発表よりも前の段階で、私たちがマーケティングのために行うさまざまな活動、たとえばX(旧Twitter)への投稿やプレプリントの掲載などがすでに行われているということです。そしてその数か月後に実際の論文が出版され、そこからニュースメディアなどで大きな話題となり、最終的には政策への実装といった段階に至ることもあります。
しかし、AI for Science、あるいは科学一般における研究のタイムスケールがどんどん短くなってきているため、私たちは研究をますます速く進めるようインセンティブを与えられている状況にあります。それは、ある意味では良いことでもあります。しかし私が皆さんに問いたいのは、これは本当に私たちコミュニティが望んでいることなのだろうか、ということです。もしかすると、私たちは時として研究を速く進めすぎているのではないでしょうか。本来解決すべき問題をすべて解決できていないのではないでしょうか。これこそが、私が皆さんに注意を向けていただきたい点です。
ここで、背景に科学者と助手が写った写真をお見せしました。どちらが科学者か、皆さんにお聞きしたいと思います。これは対話型の講演のつもりですので、ぜひお答えください。「あの男性が科学者だ」という声が聞こえましたが、実はこの男性の方が助手なのです。ベンチにある装置、つまりベンチ上のシステムこそが自動化された科学者であり、写っている助手は実験に必要な試薬を補充しているだけなのです。
つまり、私が申し上げたいのは、私たちのコミュニティが行っている多くのことが、研究をますます速く進めるインセンティブになっているということです。プレプリントサーバーがあり、査読される前に研究成果を公開してしまいます。そこには私たちの評判がかかっており、物事を世に出すために査読を必要としないのです。ここシンガポールでは、そして中国語圏でも共通する概念として、「カス」という言葉があります。これは「死への恐れ」を意味しますが、同時に「取り残されることへの恐れ」、いわゆるFOMOも意味します。私たちの学部生や、大学院生でさえも、出版することに対して非常に強い不安を抱いています。皆さんの中にも、博士課程の学生として同じような不安を感じている方がいらっしゃると思います。これは、とにかく速く出版しようとする、絶え間ない衝動であり、私たちはそれをかなりの程度後押ししてしまっているのです。
なぜそうなるのかというと、たとえば再現可能なコードといった仕組みがあるからです。この会場でもすでに何度も「コードベースを公開してもらえますか、実験を再現したいので」という質問が出ていたと思います。それ自体は良いことです。Jupyterノートブックのような、エージェントに実行させられる実行可能な仕組みも同様です。また、シェアードタスクもあります。IRコミュニティを追っている方であれば、何十年も前からCranfield型の評価に基づくシェアードタスクが行われてきたことをご存じでしょう。そして、メトリクスについても多くのお話がありました。強化学習などを使って最適化できる損失指標を持つということです。教師ありチューニングやインコンテキスト学習などを用いて、目的関数を最適化するようにシステムをチューニングできるわけです。これらすべてが、エージェントを使ったAI for Scienceを容易にしています。
3. LLMによる重力効果
3.1 勾配の歪みと訓練データへの回帰
では、再びこのマニフォールドの話に戻りたいと思います。私たちが物事を加速させたとき、何が起こるのでしょうか。私たちはその勾定をより急なものにしてしまいます。なぜそうなるのかというと、プレプリントやシェアードタスク、GitHubのコードなどによって、特定の経路を容易にしてしまうからです。そしてそれは意図的に、そうなるように設計されているのです。研究者にとって特定のタスクを行いやすくすることが、そもそもの目的だからです。
しかし同時に、私たちは他の研究領域に注意を向けることを難しくしてしまっているのです。なぜかというと、世に出ている研究の量があまりにも多いからです。もしAIサイエンティストがAI論文を量産するようになれば、私たちが現在経験している情報過多は、以前よりもさらに大きなものになるでしょう。そうなったとき、私たちはどうすればよいのでしょうか。私たち人間は、一つの領域を専門にするために、何年も、何十年も自分の人生を投資します。しかし私たちはAIエージェントではありません。私たちはランダムリスタートを行うことができません。マニフォールドの別の場所から新たにスタートすることができないのです。しかし、私たちのエージェントにはそれができます。その結果、私たちは特定のアジェンダを後押しされてしまうことによって、本来望んでいないかもしれない、最適とはいえない局所解を追いかけることになってしまうかもしれません。
これは、あくまで人間の助手が関わっている場合の話でした。では、そこにLLMという別のエージェントが入ってくるとどうなるでしょうか。この領域において、LLMはいったい何をするのでしょうか。皆さんも高校の物理の授業で見たようなアニメーションをご覧になったことがあると思います。木星のような巨大な天体が時空を歪め、その周りを物体が周回するようになり、その重力から逃れられなくなるというものです。私は、LLMを使うことにも、これと同様の結果が生じると考えています。
もし私たちが研究を適切に導かなければ、私たちは特定の考え方に引き込まれてしまうことになります。なぜなら、科学的プロセスにおける重要な意思決定の一部をLLMに外部委託してしまっており、それが特定の解空間だけを優先してしまうからです。その結果、私たちは平均への回帰、つまり「regress to the mean」という現象に陥ることになります。なぜなら、LLMというものは、その訓練データを代表するものに過ぎないからです。もし私たちが優れた訓練データを与えられれば、それは問題ありません。しかし、十分なデータを必要とするあまり、査読を経ていないプレプリントのような、より大量の文献からも情報を得ることになれば、私たちはただ「正しいことをしている」と期待するしかなくなり、それが良い結果を生み出すことを願うしかなくなってしまうのです。
4. アイデア創発の理論
4.1 パラダイムシフト、隣接可能性、外適応
もし私のこのアナロジーに納得していただけたのであれば、ここからは、研究論文と直接的には関係のない、もう少し高い視点から、この数年間私が考え続けてきたことについてお話ししたいと思います。
まず、『Where Good Ideas Come From』という素晴らしい本があります。ぜひ皆さんにも読んでいただきたいのですが、著者はスティーブン・ジョンソンという方です。彼のことをご存じの方もいらっしゃるかもしれません。実は彼はNotebookLMの共同開発者の一人でもあります。皆さんの中でNotebookLMを何らかの形で使ったことがある方はいらっしゃいますか。何人かの勇敢な手が挙がりましたね。かなりのカロリーを消費している様子がうかがえます。とても良いことです。この本の中でジョンソンは、良いアイデアがどのようにして自然発生的に生まれてくるのかについて、いくつかの異なる考え方を示しています。後ほどそれらについてお話しします。
この写真の人物を知っている方はいらっしゃいますか。トーマス・クーンです。彼は『科学革命の構造』という著作を書いた、非常に興味深い人物です。彼は、カール・ポパーという、皆さんもお聞きになったことがあるかもしれない科学哲学者の対比として位置づけられます。カール・ポパーもまた、科学についての科学者です。彼は、科学が科学であるのは反証可能であるからだと理論化しました。つまり、ある仮説があり、それを反証できるのであれば、それは科学的に妥当であるということです。クーンは、いわばポパーの対極に位置する人物でした。1960年代、ちょうどハイパーテキストを構想した重要な人物であるヴァネヴァー・ブッシュらが活躍していた時期と同じ頃、クーンは「パラダイムシフト」という考え方を提示しました。
皆さんもこの言葉を耳にしたことがあると思います。パラダイムシフトが起こるのは、次のようなプロセスによります。まず、科学以前の時代があり、そこでは多くの観測が行われ、そこから人々が仮説を立てるようになります。そして「通常科学」の段階に入ると、あるモダリティに対する改善が繰り返されるようになります。たとえば、より良い望遠鏡や測定装置が生まれ、より良い測定ができるようになります。しかしある時点で、いくつかの計算や観測が、既存の科学理論と一致しなくなるという問題が生じます。たとえばコペルニクスの天文学では、計算がうまく合わなくなりました。円形の軌道が観測結果と一致しないのです。実際には別の何かに従っているように見えたのです。そこで楕円軌道という考え方が生まれ、新たなパラダイムシフトが起こりました。つまり、データが既存の科学理論やモデルを十分に支持しなくなることによって、古い理論を放棄し、新しい理論を作り出すことを促されるというのが、パラダイムシフトという考え方です。
さて、私が皆さんに問いたいのは、このスライドの下に書かれている問いです。この壮大な研究という営みの中で、AIはどのような役割を果たすのでしょうか。そして、私たち人間の科学者は、この営みの中でどのような役割を果たしたいと考えているのでしょうか。多くの方が、まさにこの理由――つまり、いわば「永久的な頭のダメージ」とも言えるようなものを引き受けてまで――多くの時間をこの研究に費やしているのだと主張されると思います。スティーブン・ジョンソンは、私たちが科学的思考を行う方法において、システム1とシステム2から得られるものを統合したいと考えるべきだと論じています。
ここでいくつかの重要な考え方をご紹介したいと思います。一つ目は「隣接可能性(Adjacent Possible)」です。これは、自分の専門分野そのものではないけれども、それに近い理論に目を向けるということです。教授が学生に対して、自分の専門とは直接関係のない、隣接する分野のセミナーに参加するよう勧めるのはこのためです。もちろん、教授自身にそれを勧めても、大抵は忙しすぎて行かないのですが、これは一つの冗談です。しかし、大事な点は、もし他の問題を見る機会が得られれば、現在は見えていない領域同士の連想的なつながりを作ることができるということです。連想を働かせ、自分自身の言葉で何かを理解しようと、自らの認知に挑戦することができるのです。これが、学際研究がしばしば非常に難しいとされる理由でもあります。私はニワトリの言葉で話し、相手はカモの言葉で話している、そこで私たちは家禽類という共通言語のようなものを見つけなければならないのです。しかし、それは同時に非常にやりがいのあることでもあります。なぜなら、問題についてより広い文脈で考えるとはどういうことかについて、異なる視点を得ることができるからです。それによって、複数の領域にまたがる「厄介な問題(wicked problems)」などを解決できるようになります。
もう一つご紹介したいのは、多くの方があまり知らないと思われる「外適応(Exaptation)」という考え方です。適応とは何かということですが、これは、もともと別の解決のために作られたものを、新しい領域で使うということです。スティーブン・ジョンソンが本の中で挙げている例はIKEAの家具です。これはどういうことかというと、IKEAが作った多くの製品は、大量生産によって非常に安価に作られており、それらを使って、まったく別のさまざまな工作や趣味に再利用できるということです。すでに用意されたツールを、新しいプラットフォーム、新しい状況、新しいシナリオで使うということです。私たちの研究グループが取り組んでいる仕事の中でも、数学における外適応を見ています。機械学習や自然言語処理、情報検索の分野では、統計物理学の数式――たとえばEMアルゴリズムや、カルバック・ライブラー・ダイバージェンスなど――を他の分野から借用し、それを特定の目的のためにこの分野で再利用することが多々あります。
4.2 システムフリーとコンテキストの広さ
このように「システム3」――つまりシステム1とシステム2の統合――に目を向けるとき、私たちは勾定を開くことができます。なぜなら、私たちはそれを無視していることになるからです。私たちは、物事を行うためのショートカットをすでに多く持っていると考えていますが、時にはベンチマークを超えて考える必要があります。シェアードタスクを超えて考える必要があるのです。勾定を平坦にし、異なる方向に進みやすくする必要があります。
多くの方は、これをLLMの推論に対応させるアナロジーがあるかどうかを考えると思います。最初に思いつくのは「温度(temperature)」でしょう。温度は、確率分布を平坦化し、より均一な仮定を置き、ある程度ロジットを無視することを可能にするパラメータです。そのため、温度を一つの手段として使うことはできますが、それだけでは十分ではありません。なぜ十分ではないのかを、これから説明したいと思います。
隣接可能性とは、一種の推論の形です。スティーブン・ジョンソンは非常に良い例を挙げています。1600年代において、電子レンジを発明するというアイデアをどうやって思いつくことができたでしょうか。答えは、不可能だということです。あまりにも突飛すぎます。そこに到達するためには、あまりにも多くの中間的なステップが必要であり、たとえば「放射線を使って物体を溶かし、特定の分子だけを加熱する」というアイデアに至るには、当時はその前提条件すら整っていませんでした。それは可能性の範囲を超えているのです。しかし、多くの場合、私たちはシミュレーションを使って、科学において何が可能な出来事であるかを絞り込むことができます。実際、今日でもAI for Scienceの多くの場面で、この一日ほど話題になってきたシミュレーションが行われています。ある出発点から始めて、LLMのロールアウトを使って一歩ずつステップを積み重ね、可能性のある出来事に到達するための次の一手を見つけ出すというやり方です。
5. 未来逆算の思考実践
5.1 ポストカード演習とグリーン/レッドライト思考
私が実際に自分の大学で行った演習を一つご紹介したいと思います。長期的な観点で戦略的思考を行いたいと考えたとき、私たちは逆の方向から取り組むことにしました。つまり「今は2035年である」と仮定し、その未来から見て「今、何が起きているのか」を考えるという方法です。NUSでは、AIが教育に与える影響について非常に強い懸念を抱いており、教員である私たちの多くは、学生が抱えることになるかもしれない認知的負債について心配していました。
そこで私たちは何をしたかというと、理系分野の同僚たちに、あたかも未来からポストカードを送るかのようなつもりで文章を書いてもらい、それを学生や、あるいはNUSの理事会や評議員会といったガバナンス側の人々に向けて、2035年に起きていることのうち、今日その問題を解決する上で役立つものは何かを考えてもらうという課題を出しました。
この演習を行うためには、ある程度自由連想を働かせる必要があります。私たちが参加者に求めたことの一つが「グリーンライト思考」です。グリーンライトとは、特定のアジェンダを持たない状態のことを指します。自由な連想を存分に働かせるということです。思いついたことを何でも書き留め、それらを自由に漂わせ、寄り道をし、人と話をし、周囲を観察し、自由に連想を働かせて考えるのです。新しいアイデアを生み出すために、自分が観測したことを検閲しようとせず、それらが自然に浸透し、思考同士がぶつかり合い、再結合していくのに任せるということです。
これに対して、グリーンライト思考の対極にあるのが「レッドライト思考」です。レッドライト思考こそが、現在AI for Scienceの分野で最も多くの取り組みがなされている領域だと言えます。AI for Scienceに携わる多くの人々と話をすると、次のようなことをよく耳にします。アイデア出しの段階において、LLMは非常に多くのアイデアを出すことができますが、問題は、それらが専門知識に基づく問題設定にきちんと沿ったものになっているかどうかだということです。実際には、物理的な制約や予算上の制約など、特定のアイデアを実現不可能にするさまざまな条件が存在します。そのため、アイデア出しを行う際にLLMに従わせるべき「レッドライト」、つまり守るべき制約は何かを教え込むということが、ドメインに基づくAI for Scienceの取り組みの中心的な課題となってきました。私たちはこのレッドライト思考をうまく行えるようになる必要がありますが、同時にグリーンライト思考も同じくらい効果的に行えるように取り組んでいく必要があるのです。
ここまで、2035年の未来から逆算してポストカードを書くという演習についてお話ししてきましたが、これはいわゆる探索における「後ろ向き探索(backward search)」にあたります。つまり、ゴールから出発し、そこに至るために必要なステップは何かを考えるというやり方です。DeepSeekのようなエージェントが何かを行う際も、実際にはこのやり方を採用しています。目的を持ち、それを分割統治しながらステップに分解し、そこに至るために必要なことを逆算していくのです。一方で、私たちのチェーン・オブ・ソートの多くは前向きの方向に進みます。皆さんが学部のAIの授業で学ばれたように、この両方のモダリティを組み合わせることができます。つまり双方向探索です。エージェンティックな形で探索を行うことを考える際には、単にロールアウトの形で前向きあるいは後ろ向きに進めるだけでなく、いくつかの中間的な停止点を設け、それらをきちんと定義し、良い仕様を与えることで、エージェンティックなフレームワークをうまく前進させる助けにするべきだと考えています。
ただし、後ろ向きに考えるやり方が必ずしもうまくいかない場合もあります。というのも、ロールアウトやロールインを行う際には、文脈の理解に関して問題が生じることがあるからです。私はときどき、次のような質問を受けることがあります。「50件のPDF文書があるのですが、それらすべてを一つにまとめるだけのトークン数が足りません。どうすればよいでしょうか」というものです。この場合、コンテキストを長くすればよいと考えるかもしれません。より多くの情報を収められるようにするということです。しかし実際に多くの場合に役立つのは、コンテキストを「長く」することよりも、コンテキストを「広く」することについて考えることだと私は思っています。
6. ケンタウロスというモデル
6.1 チェス史からの教訓
コンテキストを「長く」するのではなく「広く」するということについて、もう少し詳しくお話ししたいと思います。多くの場合、ロングコンテキストでできることというのは、複数の文書を要約し、それによってより短いコンテキストウィンドウに収めるということです。それはそれで十分に役立つ場合もあります。しかし、ワイドコンテキストという場合には、もっと大きな枠組みを見ることを意味しています。この図の上の方には、非常に素早く動くもの、たとえばプレプリントのようなものがありますが、それらは進捗を測定可能なもの、メトリクスで測れるものだけを見ているにすぎず、必ずしも学際的な広い視点からのものではありません。
しかし、この窓をもう少し広げてみると、インフラ、ガバナンス、文化といった、より大きな塊の情報が見えてきます。これらはより多くの熟慮を必要とするものです。異なるタイプのペルソナを想像する必要があり、LLMはそれを行うことができます。皆さんはLLMに対して、さまざまなスタイルで批評させることができますし、今日私たちが見てきた多くの講演やポスターでも、異なるペルソナを持たせたLLMを使ってそれを捉えようとする試みがなされていました。しかし、私たちはさらに窓を広げることもできます。これは、そもそも大学というものが存在する理由の一つに関わってきます。特にドイツにおけるフンボルト型の大学モデルが構想されたのは、まさにこの「厄介な問題(wicked problems)」――複数の領域が交差し、その解決策に影響を及ぼすような問題――に対処するためでした。だからこそ、私たちにはシステム1の反復である速い科学が必要であると同時に、より広い文脈、より広い視野を統合するシステム2の遅い科学もまた必要なのです。
さて、この講演の最後の部分として、ケンタウロスについてお話ししたいと思います。今年は2026年、中国の暦でいえば午年にあたります。そして皆さんもきっとケンタウロスというアイデアはご存じだと思います。チェスにおけるケンタウロスとは、人間とチェス解決システムの組み合わせを指します。私たちは、チェスコミュニティから生まれた教訓の中に、AI for Scienceが今後どのような姿になっていくのかを考える手がかりがあると考えています。
1998年、ディープブルーがガルリ・カスパロフを打ち負かしました。彼は、1秒間に数十億通りのチェスの局面を探索できるシステムによって打ちのめされたのです。では、AI for Scienceも本当にこれと同じようなものなのでしょうか。ある意味では、その通りです。私たちはモンテカルロ探索などに導かれたブルートフォース探索を行い、特定の領域に適合するパラメータを見つけようとすることができます。そして先ほどChanglaiさんの基調講演でも聞いたように、その多くは可能性の空間を幅広く探索することに関わっています。また別の基調講演で天文学についてのお話があったかと思いますが、テラバイト単位のデータの中から重要な事象を見つけ出すという話も、これと同じように非常に重要なことです。
そこでガルリ・カスパロフが打ち出したのが「アドバンストチェス」という考え方です。アドバンストチェスとは、人間とチェス解決システムを組み合わせることで、膨大な計算空間を探索できるようになり、AIエージェント単独よりも良い結果を出せるのではないか、というアイデアです。そして実際に、それは正しいことが証明されました。2005年前後には、そうしたケンタウロスチームによるトーナメントが開催され、人間の専門家がシステムの推論を導きながら正しい手を見つけるというケースが、実際にエキスパートのトーナメントで勝利を収めました。つまり、チェスの背景としては数十年分の経験を積んだ専門家に及ばないような、より素人に近いプレイヤーであっても、このやり方を用いることでグランドマスターに近づくことができ、最終的には人間のみのチームやAIのみのチームを上回るケースも出てきたのです。
ただし、こうしたケースがうまくいった例がある一方で、少なくとも2026年時点では、多くのウェブページや兆候から「チェスはもはやその役目を終えた」と言われるようになってきています。なぜかというと、人間がエンジンを指導する場合と、エンジン単独の場合との差がもはや十分ではなくなってきているからです。計算量の複雑さは、AIシステムが優れた可能性を検討する能力によって、もはや覆い隠されてしまっているのです。これを回避しようとする試みもいくつかありました。チェス960をご存じの方もいらっしゃると思いますが、これは強力な駒が並ぶバックランクをランダムに並べ替えることで、より興味深いゲームにしようという試みです。しかしそれでさえ、探索空間が3桁ほど大きくなるにすぎず、AIエージェントによって容易に解かれてしまうものになっています。それほど難しいことではないのです。
6.2 ソフトウェア工学における懸念
なぜこのような話をしているのかというと、これが私の懸念だからです。私はNUSの学部教育担当の副学部長として、私たちが人間を置き去りにしてしまっているのではないかということを危惧しています。私は以前、ChatGPTに双峰分布の図を描かせようとしたことがあるのですが、あまりうまく描けませんでした。皆さんもTシャツに書かれているようなジョークをご存じかもしれません。「世の中には10種類の人間がいる。理解できる人とできない人だ」というものです。これは本来「1」と「0」として読むべきものなのですが、私が申し上げたいのは、AI for Scienceのような取り組みにおいても――この会場にはソフトウェアエンジニアの方は多くないかもしれませんが――私たちのソフトウェアエンジニアの同業者たちは、この点についてもっと強い懸念を抱いているはずだということです。
プロンプトを打つことしか知らない若手ソフトウェアエンジニアを大量に世に送り出したとき、私たちは危険な状態にあるのでしょうか、それとも生産性が飛躍的に向上するのでしょうか。私は、その両方だと思います。スタンフォードで行われたある講演で、アンドリューが友人のローレンス・モロニーを招き、AIにおけるキャリアとは何かについて語ってもらったことがありました。というのも、非常に多くの人々がオンラインで学んでおり、スタンフォードに通わなくてもYouTubeで講義を見るだけで十分な学びを得られるようになっているからです。彼は、コーディングをAIに委ねてよいのはどのようなときかを知る必要があると述べました。たとえば、シニアのソフトウェアエンジニアや教授であれば、それを行っても構いません。なぜなら、彼らはすでにコーディングの基礎的な習熟を身につけており、それによって生じる弊害はそれほど大きくないからです。しかし、人々がそれを行い、それが正しいことだと思い込んでいる場合、それは常に正しいのでしょうか。なぜなら、AIに何かを委ねるたびに、私たちはある種の技術的負債を負うことになるからです。
7. 技術的負債と認知的負債
7.1 技術的負債の定義
技術的負債とは何かということについて、ローレンス・モロニーの説明を借りて考えてみたいと思います。彼は自身のクラスでアンケートを取ったところ、実はこの言葉の意味を誰もきちんと理解していなかったということがわかったそうです。技術的負債とは、生産性を優先し、理解や習熟を犠牲にするという意識的な決断を指します。これは、課題の締め切りが迫っているという理由からかもしれませんし、上司から「月曜までに出荷する必要がある。もう火曜日だぞ」と言われるような状況からかもしれません。こうした事情はすべて、技術的負債を生み出す原因となり得ます。
そこで問題になるのは、「良い負債」というものは存在するのかということです。答えは、存在するというものです。それは、問題の仕様が非常に明確に定義されている場合、目的が明確である場合です。あるいは、それに見合うだけの十分なビジネス価値がある場合も当てはまります。そして私にとって最も重要なのは、その過程に人間の理解がループの中に組み込まれているということです。つまり、LLMが何をしているのかを私たちがきちんと把握しており、その責任を放棄していないということです。単に実行のトレースを作成するだけでは不十分です。
7.2 MITの実験と結果
もう一つご紹介したいのは、昨年の12月31日にMITが発表し、話題になっている論文です。これは「認知的負債」というものであり、技術的負債の代理指標だと位置づけられています。考え方はまったく同じです。この研究では、学生たちに次のようなテーマでエッセイを書かせました。「私たちの達成は、他者に利益をもたらすものでなければ、本当の幸福にはつながらないのか」というものです。この課題は4か月間にわたって行われ、月に1回のセッションが設けられました。参加者は3つのグループに分けられ、それぞれ異なるモダリティを割り当てられました。一つのグループはLLMを使って課題を進めるよう指示され、もう一つのグループは検索エンジンを使いながらも自分自身で文章を組み立てるよう指示され、最後のグループは自分の頭だけを使うよう指示されました。
このデザインの肝となるのは、4回目のセッションでモダリティが入れ替えられたという点です。それまでLLMを使っていた人たちは、この最終回では自分の頭だけを使わなければならなくなり、LLMの使用が許されませんでした。逆に、それまで自分の頭だけを使っていた人たちは、最終回に限ってLLMを使って自分の作業を補うことが許されました。結果がどうなったか、皆さんも予想がつくと思います。この研究はまだ査読を経ていないものであり、その点は私自身も強調していますし、研究者たち自身もそのことを周知しています。ただ、こうした示唆がAI for Scienceにおいても当てはまるかどうかを考えてみる価値はあると思います。
結果を読み上げますと、脳の接続性は、外部からの支援を受ける度合いに応じて体系的に低下していきました。自分の頭だけを使ったグループが最も強い脳の結合を示し、LLMを使ったグループは全体として最も弱い結合しか示しませんでした。そして4回目のセッションでモダリティが入れ替わった際には、次のような結果が見られました。参加者は、fMRIやEEGの計測において、神経の結合性が弱まり、関与の度合いが低下していることが示されました。一方で、自分のエッセイを一から自分の手で作り上げていた参加者たちは、より高い想起力を示しました。彼らは、前月にLLMからアドバイスを受けて書いた内容についても、より強くその内容と結びつくことができたのです。
私がここで申し上げたい重要な点は、私たちAIサイエンティストのコミュニティが、気づかぬうちに何かをしてしまっているのではないかという懸念です。それは、いわば「ケンタウロスの崩壊」を引き起こしているのではないかということです。AIと人間のチームは、人間を置き去りにしてしまうかもしれません。しかし私たちは、それが起きてほしくないと分かっているはずです。私たちは、科学者の生産性が向上することを望んでいるのであって、AIサイエンティストに依存し、人類の未来の方向性をAIサイエンティストに委ねてしまうことを望んでいるわけではありません。ですから私が皆さんに問いたいのは、「良い認知的負債」というものは存在するのか、ということです。良い金銭的負債や良い技術的負債というものが存在することは私たちも知っています。では、その正しいバランスはどこにあるのかを、私たちはどうやって知ることができるのでしょうか。
8. 結びと質疑応答
8.1 結びのメッセージ
これが私にとっての最後のスライドになります。私が申し上げたいのは、私たちは「人間の意味の探求」というものについて考える必要があるということです。単に長いコンテキストのことだけを考えるのではなく、問題を解決するということが本当はどういうことを意味するのか、その広い文脈について考える必要があるのです。私たちはLLMに何を委ねたいのでしょうか。どこに人間のエージェンシーを求めたいのでしょうか。たとえ煩わしくても、人間自身に確認作業をさせるべきだと私たちが主張すべき部分はどこにあるのでしょうか。なぜなら、そうした機能を果たせるだけの筋肉記憶を、私たちは築いていく必要があるからです。それを外部にアウトソースしてしまうことはできません。ご清聴ありがとうございました。スライドをご希望の方は、QRコードからご覧いただけます。何か質問はありますか。
8.2 質疑応答
最初に、非常に示唆に富んだ講演をありがとうございましたという言葉をいただいた上で、一つ目の質問をいただきました。企業にこのマインドセットを取り入れてもらうためには、どうすればよいと考えているか、という質問です。多くの企業はアウトプット重視であり、従業員をいかに生産的かつ効率的にするかということばかりを考えており、私が話したようなスキルの劣化、つまり過度なAIやLLMの支援によってスキルが低下していくという懸念については、あまり納得していないのではないか、というご指摘でした。これに対して私は、収益を動機として動いている企業にこうしたことをさせるのは難しいと答えました。これには、コミュニティからの強い支持と、草の根レベルでの気づきが必要だと思います。つまり、科学者自身が、こうしたツールを使うことによってどのような認知的負債を負うことになるのかを理解する必要があるということです。
続いて、この点についてどのようなアプローチが考えられるかという確認があり、私は、これは草の根からのアプローチも含め、あらゆる側面からの取り組みが必要だと答えました。科学者自身がこの問題に注意を払う必要があると声を上げることもできますし、私たちAIサイエンティスト自身が、科学者が物事をきちんと確認できるように後押しする仕組みを組み込んでいくこともできます。なぜなら、実行ログやトレースを見えるようにしたからといって、それを実際に確認するとは限らないからです。たとえば、明日までに論文をプレプリントとして出さなければならないとき、皆さんは付録やすべてのトレースを確認しますか、それとも論文の本文に集中しますか。この点について断言することは非常に難しいと申し上げました。
次に、こういった質問をいただきました。もし人間の知識全体という問題を捉え、私たちの重要な目的が人間の知識を拡大することであるならば、自動化された研究がその方向に進んでいるのだとしても、それほど心配する必要はないのではないか、というものです。さらに続けて、この方が懸念しておられた人間の能力やIQの低下という問題についても、たとえば筋肉のためのジムがあるように「知性のためのジム」を作ることで解決できるのではないか、という提案をいただきました。人間は何百年、何千年も前には、石を運んで大きな建造物を作るなど、もっと強かったはずですが、今は怠惰になり、何もしなくなったために弱くなってしまいました。しかしその解決策はジムに行って運動をすることでした。同様に、10年後には人間は「知性のジム」に通うようになり、自動化された研究によって研究の限界を押し広げつつ、それでもなお関心を持ち続ける人間がいれば、その人たちが研究を主導したり、AIと協働したりすることができるのではないか、というご意見でした。知識拡大が目的である限り、この流れを止めることはできないというのが、この質問者の考えでした。
これに対して私は、コメントに感謝を述べた上で、ジムのアナロジーは素晴らしいと申し上げました。そして、私たちが本当に研究から何を求めているのかを自問する必要があると答えました。もし知識の向上を求めているのであれば、あらゆる手段を使ってそれを進めるべきです。しかし私が皆さんに問いたいのは、私たちがこの営みの中でどのような役割を果たしたいのか、ということです。もしAIサイエンティストが他のAIサイエンティストに、ある種の強化学習ループの中で、より良い研究のやり方を教え合うようになり、人間が何かを学ぶ必要がまったくなくなるとしたら、それは私たちが委ねてもよい未来なのでしょうか。これは結局、AGIをめぐる問いに戻ってきます。もしAGIが無害なものであれば、もちろん問題はありません。しかしAGIが何らかの形で悪用されうるものだとしたら、私たちを守るはずの存在、私たちを育てるはずの存在が、私たちの最善の利益を考えていないということになり、それは私たちにとって問題を引き起こすのではないでしょうか。それでも、ジムのアナロジーは本当に気に入りましたと申し添え、最近では人々がコーディングの試験対策をするように、いわば「研究のコード」のようなものが生まれ、それが問題を解く力を養う手助けになるかもしれない、たとえばポスドク採用のための技術面接のようなものになるかもしれない、と述べました。
続いて、教育に関する質問をいただきました。2035年の話ではなく、2026年の現在に話を戻して、私の教育者としての立場から、AI利用ポリシーについてどう考えているか、NUSでどのような傾向が見られるか、実際にどの程度それを運用しているか、たとえば試験形式を変更しているかどうか、といった実務的な質問でした。これに対して私は、これは多くの大学が同じように取り組もうとしている未解決の課題だと述べた上で、NUSでは持ち帰り課題においてAIの利用を認めていると答えました。学生に対してAIを使ってはいけないと伝える術は、率直に言って私たちにはありません。そのため、これは教員に対して、評価の方法そのものを見直すことを迫るものになっています。もし何かの習熟度を評価したいのであれば、それがAIによって簡単に達成できてしまうものである場合、統制された条件下で行う必要があります。ただし、これは学生に自宅で取り組んでもらう課題を出したいという場合には、あまり役に立ちません。それでも、公平な競争条件を作れないという理由から、私たちはこのようにしているのです。もう一つの理由として、私たちの学生にも選択の余地がないという事情があります。もし彼らがAIを使わないと決めたなら、AIを使う人たちに対して不利になってしまいます。ですから、産業界で目にするのと同じ意図を持って学生を評価するという、自然な環境を作る必要があるのです。学生がインターンシップに行けばCursorやWindsurfのようなツールを使わざるを得ないのに、Pythonのライブラリをまったくのゼロからコーディングさせるというのは理にかなっていません。
最後の質問として、こうした分野すべてにおいて、AIがどのように社会に統合されていくのかを議論している中で、あらゆる観点から見て、この最初の波でAIが最も影響を与えた分野はコーディングやプログラミング、ソフトウェアエンジニアリングだったのではないか、という指摘をいただきました。ソフトウェアエンジニアという専門家コミュニティが、興奮から失望へと揺れ動きながら反応してきた様子から、私たちも何かを学べるのではないか、そして今になってようやく、この分野がある程度確立され、少なくとも人々がその功罪のバランスをどう取るべきかを議論するようになってきているのではないか、というご意見でした。より抽象的なレベルで見れば、他のコミュニティも同じような力学をたどるのではないか、ただしAI自体も進化し続けているため、安定したツールが得られるわけではないという点も付け加えられ、ソフトウェアエンジニアリングにAIが統合されていく過程から学べることがあるはずで、教育についても同様に大きな課題であり、時間軸はもう少し長くなるかもしれないが、法律家など他の分野でも概念的には似たようなことが起こるのではないか、という考えについて私に同意を求められました。
これに対して私は、概ね同意すると答えました。分野間には確かにダイナミックな格差が生まれつつあり、デジタルインフラとデータを持つ分野ほど、より大きな影響を受けます。ただし私たちが懸念していることの一つは、人間には変化に適応できる能力に一定の限界があるということです。学生がある技術を学んでも、それが6か月後には陳腐化してしまうとしたら、彼らはそれにどう対応すればよいのでしょうか。彼らはますます速く適応しなければならなくなり、これは一種のエージェンシーの喪失につながります。自分が学んでいることや、それらのスキルが次の変化の時代においても本当に通用するのかどうかについて、自分でコントロールできていないという感覚を持つことになるからです。これまでの数十年、あるいは一世紀ほどの技術の変遷を振り返れば、変化はもっと緩やかで、適応する時間もあり、法整備を行う時間もありました。しかし今では、そうした余裕はほとんどなくなってしまっています。そして最後に私は、今日の講演には明確な答えはなく、むしろ皆さんに考えを反芻し、思考を触発するための機会であると申し上げ、これらの課題は、私たちがこのコミュニティで取り組んでいるAIサイエンティストの研究と同じくらい重要なものだと考えているので、ぜひ多くの議論に参加していただきたいと述べて講演を締めくくりました。ご清聴ありがとうございました。