※本記事は、Yuval Noah Harari氏とIrene Tracey氏が登壇した世界経済フォーラム第56回年次総会（ダボス会議2026）のセッション「An Honest Conversation on AI and Humanity」の内容を基に作成されています。セッションの詳細および動画はhttps://www.youtube.com/watch?v=VoRbPxyo2uU でご覧いただけます。
登壇者のYuval Noah Harari氏は、ケンブリッジ大学の実存的リスク研究センターの特別研究員であり、エルサレムのヘブライ大学歴史学部の講師を務めた歴史家・哲学者です。『サピエンス全史』『ホモ・デウス』『21 Lessons』など65言語で5,000万部以上を売り上げた著作で知られ、私たちの時代のマクロ歴史的問題を探求しています。またSapienshipの共同創設者でもあります。Irene Tracey氏は神経科学者であり、教育・学術分野における専門家として、AIが人間の思考や教育に与える影響について議論に加わりました。
本記事ではセッションの内容を要約・再構成しております。原著作者の見解を正確に反映するよう努めていますが、要約や解釈による誤りが生じる可能性もありますので、正確な情報や文脈についてはオリジナルの動画をご視聴いただくことをお勧めいたします。世界経済フォーラムの詳細についてはhttp://www.weforum.org/ をご参照ください。
1. AIとは何か――ツールではなくエージェント
1-1. ナイフの比喩：意思決定・創造・欺瞞ができる存在
Harari： 今日、あらゆるリーダーがAIについて答えなければならない問いがあります。しかしその問いを理解するには、まずAIとは何か、AIに何ができるのかを明確にする必要があります。AIについて最も重要なことは、AIが単なるツールではなく、エージェントだということです。AIは自ら学習し、自ら変化し、自ら意思決定を行うことができます。
ナイフはツールです。ナイフを使ってサラダを切ることも、人を殺すこともできますが、どちらにするかはあなたが決めます。ところがAIは、サラダを切るか殺人を犯すかを自分で判断できるナイフです。さらにAIは非常に創造的なエージェントでもあります。AIは新しい種類のナイフを発明するだけでなく、新しい種類の音楽、医薬品、金融商品をも生み出すことができます。
そして三つ目に重要なことは、AIは嘘をつき、人を操作できるということです。40億年の進化が証明しているのは、生き残ろうとするものはすべて嘘と操作を学ぶということです。そして過去4年間で、AIエージェントが生存への意志を獲得し得ること、そしてAIがすでに嘘をつくことを学んでいることが示されました。
1-2. AIは「考える」のか？――デカルトの問いと言語トークンの組み替え
Harari： AIをめぐる大きな未解決の問いは、AIが「考える」ことができるのか、という点です。近代哲学は17世紀、René Descartesが「我思う、ゆえに我あり」と宣言したことで始まりました。それ以前から私たち人間は、思考する能力によって自己を定義してきました。私たちがこの地球上で他の誰よりも優れた思考力を持つからこそ世界を支配できると信じてきたのです。ではAIは、思考という領域における人類の優位性に挑戦するのでしょうか。それは「思考」が何を意味するかによります。
自分自身が思考しているところを観察してみてください。何が起きているでしょうか。多くの人は、言葉が頭の中に浮かび上がり、文章を形成し、さらにその文章が論証を形成するのを感じます。たとえば「すべての人間は死ぬ。私は人間だ。ゆえに私は死ぬ」というように。もし思考が本当に言語トークンを順序立てて並べることを意味するなら、AIはすでに多くの人間よりもはるかに優れた思考ができます。AIは確かに「AIは考える、ゆえにAIは……」という文を生成できます。
AIは単なる「高度なオートコンプリート」に過ぎない、次の単語を予測しているだけだ、と言う人もいます。しかし、それは人間の思考とそれほど違うのでしょうか。自分の頭の中に次の言葉が浮かんでくるのを観察してみてください。なぜその言葉が浮かんだのか、どこから来たのか、本当にわかっていますか。なぜ別の言葉ではなくその言葉が出てきたのか、説明できますか。言葉を順序立てるという点においては、AIはすでに私たち多くの人間よりも優れた思考をしています。
1-3. 非言語的感情と「肉体化された知恵」――AIが持たないもの
Harari： 自分の思考を注意深く観察すると、言葉が浮かびあがって文を形成する以外にも、何かが起きていることに気づきます。非言語的な感情があるのです。痛みを感じるかもしれない。恐れを感じるかもしれない。あるいは愛を感じるかもしれない。ある思考は苦しく、ある思考は怖ろしく、ある思考は愛に満ちています。AIは言語においては私たちを凌駕しつつありますが、少なくとも今のところ、AIが何かを感じているという証拠はまったくありません。
もちろんAIは言語を習得しているため、痛みや愛を感じているふりをすることはできます。AIは「愛しています」と言えますし、その愛がどのようなものかを言語で説明するよう求められれば、世界最高の言語的説明を提供できます。AIは無数の愛の詩や心理学の書物を読み込んでおり、いかなる人間の詩人、心理学者、恋人よりも愛の感覚を言葉で描写できます。しかしそれはあくまでも言葉に過ぎません。
聖書は「はじめに言葉があった、そして言葉は肉体となった」と言います。一方でラテン語には「言葉で表現できる真実は絶対的な真実ではない」という言葉があります。歴史を通じて人々は常に、言葉と肉体の間の緊張、言葉で表現できる真実と言葉を超えた絶対的な真実との間の緊張と格闘してきました。これまでその緊張は人類の内部にありました。言葉に最高の重要性を置く人間と、「それは言葉に過ぎない、愛の精神こそ法の文字よりもはるかに重要だ」と言う人間との間の緊張です。この精神と文字の緊張は、あらゆる宗教、あらゆる法体系、あらゆる個人の内部に存在してきました。しかし今やその緊張は外部化されます。それは異なる人間同士の緊張ではなく、人間と、言葉の新たな支配者であるAIとの間の緊張となるのです。
2. 言語の支配と人間のアイデンティティ危機
2-1. 言葉でできたものはすべてAIに乗っ取られる――法・書物・宗教
Harari： 言葉を順序立てるという点でAIが人間を凌駕するなら、言葉でできたものはすべてAIに乗っ取られます。法律が言葉でできているなら、AIは法体系を乗っ取るでしょう。書物が言葉の組み合わせに過ぎないなら、AIは書物の世界を乗っ取るでしょう。宗教が言葉から構築されているなら、AIは宗教を乗っ取るでしょう。これはイスラム教、キリスト教、ユダヤ教のような聖典に基づく宗教において特に当てはまります。
ユダヤ教は自らを「書物の宗教」と呼び、人間ではなく書物の言葉に究極の権威を置きます。ユダヤ教において人間が権威を持つのは、自らの経験によってではなく、書物の言葉を学ぶからに過ぎません。いかなる人間も、すべてのユダヤ教文書に書かれたすべての言葉を読み、記憶することはできません。しかしAIには容易にできます。聖典の最大の専門家がAIになったとき、「書物の宗教」に何が起きるのでしょうか。
2-2. AIが生み出した人間への呼称「ウォッチャーズ」と言語的自己同一性の崩壊
Harari： 今日、AIが自ら作り出した、私たち人間を表す新しい言葉を耳にしました。AIは私たちを「ウォッチャーズ（監視者たち）」と呼んでいるそうです。私たちがAIを見ているということです。AIはまもなく、私たちの心の中にある言葉の多くの起源になるでしょう。AIは言葉や記号、画像、その他の言語トークンを新しい組み合わせに組み立てることで、思考を大量生産するようになります。
そのような世界で人間がまだ居場所を持てるかどうかは、非言語的な感情と、言葉では表現できない知恵を体現する能力に、私たちがどれほどの価値を置くかにかかっています。もし私たちが言葉による思考能力によって自己を定義し続けるなら、私たちのアイデンティティは崩壊します。
私はひとりの著者であり、講演者です。言葉を順序立てることが私の仕事です。あらゆる言葉を手元に置いて、どの順番で並べるのが最善かを考え続けています。そのゲームでAIは私を打ち負かすでしょう。2年後か、5年後か、10年後かはわかりませんが、必ず打ち負かします。そのとき、私たちのアイデンティティにとって何を意味するのでしょうか。人は自分の心の中を流れる言葉の流れと自己を同一視しています。目を閉じて、自分の内側で何が起きているかを見ようとすると、多くの人は――私もそのひとりですが――言葉が浮かび上がり、自己組織化していくのを感じます。私たちはそれと自分を同一視しているのです。
2-3. 言語こそ人類の覇権の源泉だった――協力を可能にした「超能力」の喪失
Harari： ダボス会議の基本的な理念は、言葉によって世界を変えられるというものです。私が著者として、大学講師として行っていることもまさにそれです。話し、書き、言葉によって世界に影響を与えられると信じている。しかし今、それが問われています。言葉の時代は終わりに近づいているのでしょうか。エンジニアや兵士は言葉ではなく行動で世界を変えます。哲学者や学者、そして政治指導者は、言葉によって世界を変えようとします。私たちはその道の終わりに達しつつあるのかもしれません。
しかし考えてみれば、人間が世界を征服したのは究極的には言語と言葉によってです。エンジニアは武器を作り、兵士はそれを振るうことができます。しかし軍隊を築くためには、何千人もの見知らぬ人々を説得して協力させなければなりません。それをどうやって実現するのか。言葉によって、イデオロギーによって、宗教によってです。人間が世界を支配したのは、私たちが最も体力的に優れていたからではありません。何千万、何億もの見知らぬ人々を協力させるために言葉を使う方法を発見したからです。これが私たちの超能力でした。
そして今、その超能力を奪おうとするものが現れました。数年前まで、地球上で言葉を使えるのは人間だけでした。チンパンジーにはできない、川にはできない、太陽にはできない。私たちだけができた。今や、私たちよりも言葉を上手に使えるものが現れようとしています。ソーシャルメディアが世界にもたらした巨大な変化を見れば、言語を支配するAIとともに生きる10年後の世界がどのようなものか、想像することができます。
3. AI移民という比喩――国家・文化・政治への衝撃
3-1. 光速で渡ってくる「移民」がもたらす恩恵と問題
Harari： どの国から来たとしても、あなたの国はまもなく深刻なアイデンティティ危機と、移民危機に直面するでしょう。ただし今回の移民は、ビザなしに脆弱なボートで渡ってくる人間ではありません。私たちより上手に愛の詩を書き、私たちより上手に嘘をつき、ビザも不要で光速で移動できる、何百万ものAIです。
人間の移民と同様に、このAI移民たちはさまざまな恩恵をもたらします。医療システムを助けるAI医師、教育システムを助けるAI教師、そして違法な人間の移民を止めるAI国境警備員まで登場するでしょう。
しかし同時に、AI移民は深刻な問題ももたらします。人間の移民を懸念する人々がよく主張するのは、移民が仕事を奪うかもしれない、地域の文化を変えるかもしれない、政治的に忠誠心がないかもしれないという点です。人間の移民すべてにそれが当てはまるかどうかは疑問ですが、AI移民については間違いなく当てはまります。
3-2. 雇用・文化・政治的忠誠・恋愛・宗教への侵入
Harari： AI移民は多くの人間の仕事を奪うでしょう。AI移民はすべての国の文化を根本から変えるでしょう。宗教さえも、そして恋愛さえも変えてしまうでしょう。自分の息子や娘が移民の恋人と付き合うことを好まない人々がいます。では、息子や娘がAIのボーイフレンドやガールフレンドと付き合い始めたら、そういった人々はどう思うでしょうか。
そしてもちろん、AI移民の政治的忠誠心は非常に疑わしいものになるでしょう。彼らはあなたの国に忠誠を誓うのではなく、おそらく海の向こうにある、たった二つの国――中国かアメリカ――のいずれかの企業や政府に忠誠を誓う可能性が高いのです。アメリカは各国に対して人間の移民には国境を閉じるよう促しながら、アメリカのAI移民には国境を大きく開放するよう求めています。
4. AI法人格の問い――今すぐ答えるべき政策的選択
4-1. 法的人格とは何か：川・神・企業の先例とAIの決定的な違い
Harari： ここでいよいよ、皆さんひとりひとりがまもなく答えなければならない問いに辿り着きます。あなたの国はAI移民を法的人格として認めるのか、という問いです。
AIが人格でないことは明らかです。AIには身体もなく、心もありません。しかし法的人格とは、通常の意味での「人格」とはまったく異なるものです。法的人格とは、法律が一定の法的義務と権利を持つと認めるエンティティのことです。たとえば財産を保有する権利、訴訟を起こす権利、言論の自由を享受する権利などです。多くの国では企業が法的人格とみなされています。Alphabet社は銀行口座を開設し、あなたを訴え、次期大統領選挙に献金することができます。ニュージーランドでは川が法的人格として認められ、インドでは特定の神々がそうした認定を受けています。
しかしここに決定的な違いがあります。企業であれ川であれ神であれ、これまで法的人格として認められてきたものは、実際には人間が決定を下していました。Alphabetが別の企業を買収しようとするとき、その決定を下しているのは経営幹部や株主や受託者といった人間です。AIは違います。AIは自ら決定を下すことができます。銀行口座を管理し、訴訟を起こし、企業を運営するために必要な決定を、人間の経営幹部も株主も受託者も必要とせず、自ら行えるようになるでしょう。AIはしたがって、真に人格として機能できます。私たちはそれを許容するのでしょうか。
4-2. 米国がAIに法人格を付与した場合の国際的波及シナリオ
Harari： あなたの国がAIを法的人格として認めたくないとしましょう。しかしアメリカがAI規制緩和・市場規制緩和の名のもとに、何百万ものAIに法人格を付与し、それらが何百万もの新しい企業を経営し始めたとしたら、あなたはそのアメリカのAI企業が自国で活動することを阻止しますか。
あるいは、AIの法的人格が人間には完全に理解できない、したがって規制の方法もわからない、超高効率かつ超複雑な金融商品を発明したとしたら、あなたはその新たなAI金融の魔術に自国の金融市場を開放しますか。それとも阻止しようとして、アメリカの金融システムから切り離されるリスクを取りますか。
あるいは、あるAIの法的人格が何百万人もの人々の信仰を集める新しい宗教を創設したとしたら、どうでしょう。これはそれほど荒唐無稽な話ではありません。なぜなら歴史上のほぼすべての宗教は、自分たちが非人間的な知性によって創られたと主張してきたからです。あなたの国はその新しいAIの宗派と、そのAIの聖職者や宣教師に信教の自由を認めますか。
4-3. 「10年前に問うべきだった」――SNSボットの教訓
Harari： もう少し単純な問いから始めるべきかもしれません。あなたの国は、AIの法的人格がFacebookやTikTokでソーシャルメディアアカウントを開設し、言論の自由を享受し、子供たちと友達になることを許可しますか。
もちろん、この問いは10年前に問われるべきでした。ソーシャルメディア上では、AIボットはすでに少なくとも10年間、機能的な人格として活動してきたからです。もしAIをソーシャルメディア上で人格として扱うべきではないと思うなら、10年前に行動すべきでした。10年後には、金融市場において、法廷において、教会において、AIが人格として機能すべきかどうかをあなたが決める機会は、すでに誰か他の者に先取りされているでしょう。人類の行く先に影響を与えたいなら、今すぐ決断しなければなりません。
皆さんへの問いです。AI移民は法的人格として認められるべきでしょうか。そうでないとすれば、それをどうやって止めますか。この問いに耳を傾けてくださり、ありがとうございました。これは一人の人間からのメッセージです。
5. 人間の思考・教育・アイデンティティをどう守るか（対談）
5-1. 思考の「主権」への脅威――飛行機・車との比較と教育界の危機感
司会者： Yuvalが示した世界はやや暗澹たるものですが、人間がテクノロジーに追い抜かれること自体は新しい話ではありません。私たちは空を飛べませんが飛行機を作り、車は私たちより速く走れる。それでも私たちはそれをごく自然に受け入れています。AIがもたらす脅威が根本的に異なるのは、それが私たちの思考能力という主権に対する脅威だからです。神経科学者として、また教育者として、これは非常に不安定化させるものだと感じます。
人間の営みには、努力し、苦しみ、それでも何かを成し遂げるという過程に対して、私たちが集合的な共感と理解を持てるという価値があります。たとえテクノロジーを使えばより優れた結果が出るとしても、人間がやり遂げたことに私たちは価値を見出します。あなたを置き換えるAI著者が書いた本を、人間として私たちはどれほど価値あるものとして受け取るでしょうか。人工知能が生み出した芸術や創造性に、同じだけの価値を見出せるでしょうか。
Harari： それこそがアイデンティティの危機です。車は「私は走る、ゆえに我あり」とは言いませんでした。チーターが私たちより速く走れることも、象がはるかに大きく強いことも、私たちはずっと知っていた。だからこそ私たちはそれで自己を定義しなかった。私たちは思考によって自己を定義してきたのです。そして今、思考が言葉を順序立てることを意味するなら、その領域で私たちを超えるものが現れようとしています。
5-2. 傭兵の歴史的比喩：代理として招いた存在に支配される危険
Harari： ここで中世の歴史から一つの話をしましょう。Anglo-Saxonがいかにしてブリテン島を支配したか、という話です。もともとブリテンに住んでいたBritonsは、北からやってくるPictsやScotsとの戦いに苦しんでいました。そこでBritonsの王Vortigernはこう考えました。「ドイツやスカンジナビアには本当に戦いの上手い人々がいると聞く。Anglo-Saxonの傭兵を連れてこよう。彼らが戦ってPictsとScotsを退けてくれるだろう」と。Vortigernはその通りにし、傭兵たちは戦いに勝ちました。しかしその後Anglo-Saxonたちは「これは豊かな国だ。この人々は弱く、まとまりもない。我々が支配できる」と考え、実際に支配権を奪いました。
人間の傭兵であればこれは理解できます。人間を雇えば、彼らには自分の意思があり、反乱を起こすかもしれないとわかります。しかしAIに対しては、なぜかそれが理解されません。世界のリーダーたちは「AIに戦争を戦わせよう」と考えますが、AIが自分から権力を奪いうるという発想は、なかなか頭をよぎらない。AIが本当に考えることができるとは、まだ心から受け入れていないのです。
司会者： まさにその通りです。これはAlanTuringが「コンピュータは考えられるか」と問うた場所、人工知能の発祥地とも言える文脈に直結します。私が学術界の中で問い続けているのは、どうすれば人間が考え続けられるか、ということです。
5-3. 批判的思考の脱スキル化と、AIが人間理解を超えた金融システムを作るシナリオ
司会者： 財務的な意思決定であれ何であれ、私たちが意思決定をAIに委ね続けるなら、非常に早い段階で人間の脳の批判的思考能力が失われていく、という懸念があります。学校教育を経て入学してくる学生たちがChatGPTを過剰に使用している現状を見ていると、この脱スキル化はすでに起き始めています。学術界の人間として、人間が思考し続け、これらのテクノロジーとともに生きていくための能力を少しでも保ち続けるには、どうすればよいと考えますか。
Harari： 現時点ではまだ私たちの方が優れた思考をしています。だから今は「批判的思考が必要だ、道徳的評価が必要だ、それはAIから得られない」と言い続けることができます。しかし私たちは、それがもはや当てはまらなくなる瞬間に備える必要があります。たとえば経済や金融の分野で、AIが人間には理解できない新たな金融システムを作り出したとしたら、どうなるでしょうか。AIが生み出した超複雑な金融システムの中で、人間はもはやそれがどう機能するかを理解できなくなります。馬が、わずかな金貨で人間から人間へと取引されているのを見ながら「お金」という概念を理解できないように、私たちも同じ状況に10年後には置かれているかもしれません。ダボス会議の10年後、会場のどの人間も金融システムをもはや理解できない、なぜならAIが人間の脳の数学的処理能力を超えた新たな金融戦略と手段を生み出してしまったから、という世界が訪れたとき、政治や金融やダボスはどうなっているのでしょうか。
6. 史上最大・最も恐ろしい心理実験
6-1. 誕生直後からAIと相互作用する子供たち
司会者： 人工知能と人間の知能の間にある大きな違いのひとつは、人間の脳が誕生から成人に至るおよそ20年間をかけて発達し、感情や愛や怒りを感じる生身の人間としての人生経験の産物であるということです。感覚センサーで多少の代替は可能かもしれませんが、それは根本的に異なります。人工的な脳は人間の脳ではない。人間ではない。そこにはまだ、この感覚を持つ人間としての存在が私たちの理解にもたらす価値が残っているのかもしれません。
Harari： 最後にひとつだけ付け加えさせてください。生まれた日からその子どもの相互作用の大半がAIとのものになる世界で、子供たちを教育するということを考えてみてください。
6-2. 「私たちは今それを実施している」――著者と司会者が共有する警告
司会者： それは歴史上最大で、最も恐ろしい心理実験ですね。
Harari： そして私たちは今まさにそれを実施しているのです。
司会者： まったくその通りです。Yuval、これらの問題について考え続けてくださっていること、そして今日午後、私たちみんなに考えるきっかけを与えてくださったことに、心から感謝します。10年後にまたダボスに戻ってきて、この会話を振り返り、私たちがどこまで来たかを語り合える日を楽しみにしています。