※本記事は、Google DeepMindのポッドキャスト「Google DeepMind, the podcast」で配信された、ハンナ・フライ教授とマレー・シャナハン教授による対談「意識、推論、そしてAIの哲学」の内容を基に作成されています。オリジナルの動画は https://www.youtube.com/watch?v=v1Py_hWcmkU でご視聴いただけます。
登壇者紹介：
- ハンナ・フライ教授： 本ポッドキャストのホスト
- マレー・シャナハン教授： インペリアル・カレッジ・ロンドンの認知ロボティクス教授であり、Google DeepMindの主席研究科学者。1990年代からAI分野で活動し、2014年のサイエンスフィクション映画「Ex Machina」のコンサルタントとしても知られる。AI研究者、エンジニア、倫理学者らとともに、次世代のAIシステムを安全かつ責任を持って構築することを目指している。
本記事では、ポッドキャストの内容を詳細に要約しております。なお、本記事の内容は原著作者の見解を正確に反映するよう努めていますが、要約や解釈による誤りがある可能性もありますので、正確な情報や文脈については、オリジナルのポッドキャストをお聴きいただくことをお勧めいたします。Google DeepMindの詳細については https://deepmind.google/about/ をご参照ください。
1. イントロダクション
1.1 MURRAY SHANAHANの紹介とバックグラウンド
HANNAH FRY： 今回のエピソードのゲストは、インペリアル・カレッジ・ロンドンの認知ロボティクス教授であり、Google DeepMindの主任研究科学者でもあるマレー・シャナハンです。私たちは皆、チャットボットに恋をする人々の話や、大規模言語モデルに自分自身の存在について熟考させたり、現実の概念的理解の限界について問いかけたりする人々の話を聞いたことがあります。
HANNAH FRY： しかし、自己同一性や思考、メタ認知に関するこれらの種類の問題は、すでに何千年もの間哲学者たちを困惑させてきました。そのため、彼らがAIに目を向けて、AIの知能の本質、その現在の能力、さらには意識やその他の問題について最も深遠な問題を探求することは理にかなっています。
HANNAH FRY： マレー・シャナハンは1990年代からAI分野で働いてきました。このポッドキャストをしばらく聞いている方なら、彼を2014年のサイエンスフィクション映画「Ex Machina」のコンサルタントとして覚えているでしょう。この映画は、コンピュータープログラマーが女性ロボットのアヴァの知能をテストする機会を得て、最終的に彼女が意識を持っているかどうかを疑問視するという内容でした。
MURRAY SHANAHAN： AIが生み出す哲学的問題は、本当に膨大な数の非常に興味深いものがあると思います。人間の心の本質とは何か？心の本質とは何か？といった問題です。
HANNAH FRY： 意識についてはどうでしょうか？
MURRAY SHANAHAN： それは間違った質問だと思います。そして、それは多くの点で間違っていると思います。
MURRAY SHANAHAN： 今日生まれるすべての子供たちのことを考えると、本当に驚くべきことです。彼らは機械が彼らと話すことができない世界を知らない、そんな世界で育つのです。
1.2 「Ex Machina」映画コンサルタントとしての経験
HANNAH FRY： 思い返してみると、あなたがアレックス・ガーランド映画の「Ex Machina」で重要な役割を果たしたことを知っていますが、その映画や当時の他のサイエンスフィクション映画で何が正しく描かれたと思いますか？10年、15年前を振り返ると、私たちは正しい軌道に乗っていたのでしょうか？
MURRAY SHANAHAN： 「Ex Machina」が本当に大きな貢献をした点の一つは、それが意識について、そしてAIと意識について、したがって意識そのものについて、非常に興味深く挑発的な問題を数多く提起したことです。これは大きな成功の一つです。
MURRAY SHANAHAN： しかし興味深いことに、「Ex Machina」が公開される直前に、「Her」が公開されました。スパイク・ジョーンズの映画「Her」です。当時、私は「Her」という映画にはそれほど熱心ではありませんでした。なぜなら、たとえそれがスカーレット・ヨハンソンの声であったとしても、人がこのような非具現化された声に恋をするということが、あまりにも信じがたいと思ったからです。
HANNAH FRY： そうですね。
MURRAY SHANAHAN： つまり、それは予測としてどれほど間違っていたでしょうか？予測として考えると、「Her」は今の私たちの世界を予測することにおいて、本当に驚くほどうまくやったと思います。言語がAIにおいて進歩したように、ロボティクスも急速に進歩するかもしれないので、次の数年でどのように展開するかは正確にはわかりません。
MURRAY SHANAHAN： しかし現在のところ、すべては非具現化された言語に関することです。また、「Her」は人々が実際に非具現化されたAIシステムと、最も広い意味での関係を築くことができるということを示しました。これは本当に異常なことです。
2. 映画を通じたAI予測の振り返り
2.1 「Ex Machina」が提起した意識の問題
MURRAY SHANAHAN： 「Ex Machina」が本当に大きな貢献をした点の一つは、それが意識について、そしてAIと意識について、したがって意識そのものについて、非常に興味深く挑発的な問題を数多く提起したことです。これは大きな成功の一つです。
MURRAY SHANAHAN： 映画の脚本にはネイサンとケイレブの間に特定のセリフがありました。ケイレブは「私はアヴァにチューリングテストを実施するためにここにいます」と言い、ネイサンは「いや、我々はそれをとっくに超えている。アヴァは簡単にチューリングテストに合格できる。重要なのは、彼女がロボットであることを君に示して、それでも君が彼女を意識的だと思うかどうかということだ」と答えます。
MURRAY SHANAHAN： 映画の脚本を最初に読んだとき、ケイレブとネイサンのそれらの特定のセリフがそこにありました。私は自分のバージョンにそれを書き添えて、感嘆符付きで「的確」と書きました。なぜなら、アレックスが本当に重要なアイデアを完全に捉えていると思ったからです。私の著作では、これをガーランドテストと呼んでいます。かなり多くの人々がそれを取り上げ、ガーランドテストと呼んでいます。
MURRAY SHANAHAN： これは二つの点でチューリングテストとは異なります。まず第一に、判定者、つまりこの場合はケイレブは、彼女がロボットであることを見ることができます。チューリングテストでは、判定者はどちらがどちらかを見ることができません。しかしここでは、ケイレブが彼女がロボットであること、彼女の脳がAIの脳であることを知っているというアイデアです。
HANNAH FRY： そして、それでも彼女にそれらの特性を帰属させるということですね。
MURRAY SHANAHAN： そして問題となっている特性も異なります。なぜなら、それは知能ではないからです。「彼女は考えることができるか？」ではなく、「彼女は意識的か？それは意識的か？」という全く異なるテストです。知能と意識は異なるものであり、我々はこれら二つのものを解きほぐし、分離することができると思います。
2.2 「Her」の予測精度と人間とAIの関係性
MURRAY SHANAHAN： しかし興味深いことに、「Ex Machina」が公開される直前に、「Her」が公開されました。スパイク・ジョーンズの映画「Her」です。当時、私は「Her」という映画にはそれほど熱心ではありませんでした。なぜなら、たとえそれがスカーレット・ヨハンソンの声であったとしても、人がこのような非具現化された声に恋をするということが、あまりにも信じがたいと思ったからです。
HANNAH FRY： そうですね。
MURRAY SHANAHAN： つまり、それは予測としてどれほど間違っていたでしょうか？予測として考えると、「Her」は今の私たちの世界を予測することにおいて、本当に驚くほどうまくやったと思います。言語がAIにおいて進歩したように、ロボティクスも急速に進歩するかもしれないので、次の数年でどのように展開するかは正確にはわかりません。
MURRAY SHANAHAN： しかし現在のところ、すべては非具現化された言語に関することです。また、「Her」は人々が実際に非具現化されたAIシステムと、最も広い意味での関係を築くことができるということを示しました。これは本当に異常なことです。
HANNAH FRY： 今日生まれるすべての子供たちのことを考えると、本当に驚くべきことです。彼らは機械が彼らと話すことができない世界を知らない、そんな世界で育つのです。
MURRAY SHANAHAN： それは本当に驚くべきことです. そうです。それは本当に驚くべきことです。今日生まれるすべての子供たちのことを考えると、彼らは機械が彼らと話すことができない世界を一度も知ったことがない、そんな世界で育つのです。それは異常なことではないでしょうか？
HANNAH FRY： そうですね。
MURRAY SHANAHAN： 本当にそうです。そして、それが私たち全員にとって何を意味するのかは、本当に言うのが難しいことです。
3. AI研究の歴史的展開
3.1 ジョン・マッカーシーとの出会い
HANNAH FRY： 私たちは10年、15年前の話をしていますが、あなたのAIへの関与はこれよりもずっと昔に遡ります。あなたはジョン・マッカーシーを知っていましたね。
MURRAY SHANAHAN： はい、ジョン・マッカーシーを知っていました。彼をとてもよく知っていました。ジョン・マッカーシーはコンピューターサイエンスと人工知能の教授でした。当時、彼は実際に「人工知能」という言葉を作り出し、1956年に開催された非常に有名なダートマス会議の提案書の著者の一人でした。これは世界で最初のAI会議でした。
MURRAY SHANAHAN： そしてその会議は実際に分野全体の地図を描きました。人々はこの種のことについて真剣に考えていませんでした。ほんの一握りの人しかいませんでした。ですから、彼は真の急進的思想家であり、常にそうでした。
HANNAH FRY： わかりました。1955年のその言葉の選択、「人工知能」は良い言葉の選択でしたか？
MURRAY SHANAHAN： そうですね。つまり、私は今でもそう思います。一部の人々はおそらく良い言葉の選択ではなかったと思っていることは知っています。
HANNAH FRY： 彼らの議論をいくつか教えてください。
3.2 「Artificial Intelligence」という用語の妥当性
MURRAY SHANAHAN： まず第一に、「知能」という言葉があります。知能そのものは、ある意味で非常に議論の余地のある概念です。特に人々がIQテストやそのようなものについて考える場合、知能は単純で直接的な尺度で定量化できるものであり、そして一部の人々は他の人々よりも知的であるという考えがあります。
MURRAY SHANAHAN： そして心理学では、今日、多くの異なる種類の知能があることがよく認識されていると思います。これは本当に重要なポイントです。その言葉についてのその懸念があります。では、あなたなら何を違って使ったでしょうか？まあ、人工認知か何かかもしれません。私はしばしば認知という言葉を使って、思考や情報処理などを意味します。
MURRAY SHANAHAN： しかし、それは同じような響きを持たないでしょう？正直に言いましょう。
HANNAH FRY： いいえ。特に今はそうですね。私たちはこの道をあまりにも遠く歩んできているのではないでしょうか？
MURRAY SHANAHAN： そうです。「人工的」という言葉については、私は「人工的」という言葉に特に問題はありません。それは適切な種類のもののように思えます。それは私たちが構築したものであり、自然界で進化したものではないという事実を暗示しているので、それは適切な種類の言葉のように思えます。
HANNAH FRY： その言葉への反対意見は、結局のところ、人工知能が構築されているすべてのものは、ある程度において、人間によって構築されているということだと思います。
MURRAY SHANAHAN： 確かに。はい。しかしそうなのです。では、その場合、その言葉の何が問題なのでしょうか？つまり、それは真実だと思います。
3.3 シンボリックAIの時代とその限界
HANNAH FRY： あなたはシンボリックAIに取り組んでいましたね。その違いについて話してください。そして現在の他の種類との違いについても。
MURRAY SHANAHAN： はい、もちろんです。いわゆるシンボリックパラダイムの人工知能は、何十年もの間、非常に卓越していて、非常に支配的でした。そこでのアイデアは、それがすべてシンボルの操作と、言語のような文とシンボルの操作、そしてそれらのシンボルを使った推論プロセスに関するものだということです。
MURRAY SHANAHAN： 古典的な例はエキスパートシステムでしょう。1980年代に、人々はこれらのエキスパートシステムを構築していました。そこでのアイデアは、例えば医学的知識を一連のルールでエンコードしようとするものでした。ルールは「もし患者の体温が104度で、皮膚が紫色で、それから0.75%の確率で彼らが「スキニー炎」か何かにかかっている」というようなものでした。私が医師でないことがわかりますね。
HANNAH FRY： かろうじてですね。
MURRAY SHANAHAN： そうです。そして、これらの種類のルールを何千何万も大きな知識ベースに入れて、それから論理的推論エンジンと呼ばれるものを持って、これらすべてのルールに対して論理的推論を実行し、患者の可能性のある病気について何らかの結論に達するというものでした。
HANNAH FRY： しかし、それは多くの「もしこれなら、あれ」でした。
MURRAY SHANAHAN： それは多くの、はい、もし、ならば型のルールでした、主に。そしてそれの大きな問題の一つは、ルールはどこから来るのかということでした。まあ、誰かが基本的にそれらをすべて書き出さなければなりませんでした。そして知識抽出という分野全体があって、専門家のところに行って、医学診断であれ、コピー機の修理であれ、法律であれ、彼らの領域での理解を彼らから抽出しようとしました。
MURRAY SHANAHAN： そして、このすべてをコンピューターが理解できる、非常に精密なルールに体系化しようとしました。それは非常に煩雑なプロセスでした。そして最終的に得られたものも、非常に、非常に脆弱でした。あらゆる種類の方法で間違いを犯しました。
MURRAY SHANAHAN： もう一つの大きな研究分野は常識でした。なぜなら、日常の世界の日常的な物体について、膨大な量の常識知識を暗黙のうちに持っているということがしばしば認識されたからです。それらが固体であるという事実に関して。それらが特定の方法で動くという事実、それらが特定の方法で互いに適合するという事実、液体と気体と重力とそのようなあらゆる種類のものに関して。
MURRAY SHANAHAN： そして私たちは実際に、私たちがしていることにおいて、常にそのすべての知識を活用しているのですが、それは無意識のようなものです。そして、そのすべての常識知識を体系化しようとする大きなプロジェクト、さまざまな大きなプロジェクトがありました。
MURRAY SHANAHAN： そして、それを公理と論理とルールとすべてに変換しようとすることは悪夢でした。最終的に、2000年代初頭頃までに、私はこの研究パラダイムが運命づけられていると本当に思いました、正直に言って。私はそれから離れ始めました。
4. シンボリックAIからニューラルネットワークへの転換
4.1 エキスパートシステムの構築と課題
MURRAY SHANAHAN： 古典的な例はエキスパートシステムでしょう。1980年代に、人々はこれらのエキスパートシステムを構築していました。そこでのアイデアは、例えば医学的知識を一連のルールでエンコードしようとするものでした。ルールは「もし患者の体温が104度で、皮膚が紫色で、それから0.75%の確率で彼らが『スキニー炎』か何かにかかっている」というようなものでした。私が医師でないことがわかりますね。
HANNAH FRY： かろうじてですね。
MURRAY SHANAHAN： そうです。そして、これらの種類のルールを何千何万も大きな知識ベースに入れて、それから論理的推論エンジンと呼ばれるものを持って、これらすべてのルールに対して論理的推論を実行し、患者の可能性のある病気について何らかの結論に達するというものでした。
HANNAH FRY： しかし、それは多くの「もしこれなら、あれ」でした。
MURRAY SHANAHAN： それは多くの、はい、もし、ならば型のルールでした、主に。そしてそれの大きな問題の一つは、ルールはどこから来るのかということでした。まあ、誰かが基本的にそれらをすべて書き出さなければなりませんでした。そして知識抽出という分野全体があって、専門家のところに行って、医学診断であれ、コピー機の修理であれ、法律であれ、彼らの領域での理解を彼らから抽出しようとしました。
MURRAY SHANAHAN： そして、このすべてをコンピューターが理解できる、非常に精密なルールに体系化しようとしました。それは非常に煩雑なプロセスでした。そして最終的に得られたものも、非常に、非常に脆弱でした。あらゆる種類の方法で間違いを犯しました。
4.2 常識知識の体系化の困難さ
MURRAY SHANAHAN： もう一つの大きな研究分野は常識でした。なぜなら、日常の世界の日常的な物体について、膨大な量の常識知識を暗黙のうちに持っているということがしばしば認識されたからです。それらが固体であるという事実に関して。それらが特定の方法で動くという事実、それらが特定の方法で互いに適合するという事実、液体と気体と重力とそのようなあらゆる種類のものに関して。
MURRAY SHANAHAN： そして私たちは実際に、私たちがしていることにおいて、常にそのすべての知識を活用しているのですが、それは無意識のようなものです。そして、そのすべての常識知識を体系化しようとする大きなプロジェクト、さまざまな大きなプロジェクトがありました。
MURRAY SHANAHAN： そして、それを公理と論理とルールとすべてに変換しようとすることは悪夢でした。最終的に、2000年代初頭頃までに、私はこの研究パラダイムが運命づけられていると本当に思いました、正直に言って。私はそれから離れ始めました。
4.3 現代AIにおけるシンボリック手法の回帰
HANNAH FRY： しかし、もちろん、その後ニューラルネットワークなどが登場しました。
MURRAY SHANAHAN： はい。
HANNAH FRY： これは「もし、ならば」のルールよりもはるかに少なく、大量のデータから情報を抽出することがはるかに多くなりました。
MURRAY SHANAHAN： はい。
HANNAH FRY： しかし、言語が効果的に解決された今、私たちはより高いレベルの抽象化に到達し、これらのシンボリック技術の一部、これらのよりシンボリック的なアイデアの一部に戻ることができるのではないかと思います。
MURRAY SHANAHAN： はい。確実にそうです。なぜなら、現在、大規模言語モデルで注目されているトピックの一つは推論だからです。いわゆる思考の連鎖モデルがあり、それらは実際に全体を実行します。質問に対する答えを単純に生成するのではなく、答えを出す前に推論の全体的な連鎖を生成します。
MURRAY SHANAHAN： そして、それは非常に効果的である可能性があります。ですから、それが多くの点で、シンボリックAIの時代に人々が見ていた種類のことに立ち返っているのは興味深いことです。しかし、それらすべてを行うための基礎となる基盤は、確実に非常に異なっています。なぜなら、それはハードコードされたルールではないからです。あなたが言及したように、それは学習したニューラルネットワークです。
5. 推論能力の評価と限界
5.1 形式論理による推論とLLMの比較
HANNAH FRY： 推論についてのその点を取り上げさせてください。哲学者として、論理の背景を持つ者として、AIの推論能力をどの程度優れていると思いますか？
MURRAY SHANAHAN： まあ、それは非常に興味深く、開かれた問題であり、いくらか議論の余地があります。コンピューター科学者とAIの人々は、推論について特定の概念、推論の特定な概念を持っています。それは形式論理と定理証明に非常に立ち返るものです。
MURRAY SHANAHAN： 例えば、シンボリックAIの時代には、形式論理を使った定理証明において本当に非常に優れたシステムがありました。そして人々は、まあ、それが適切な推論だと考えます。それがあなたのハードコアな種類の推論です。そして今日の大規模言語モデルは、何十年も前から存在している手作りの定理証明器や論理エンジンの性能に匹敵することはできません。
HANNAH FRY： ハードコードされたシステムによって証明される可能性のある定理の種類の例を教えてください。
MURRAY SHANAHAN： それは、おそらく20個か30個の論理の公理があるような場合でしょう。
HANNAH FRY： つまり、それは「1に続く数は2である」のようなものかもしれません。
MURRAY SHANAHAN： まあ、つまり、それはそのようなものである可能性があります。それは数論の領域や非常に数学的な何かである可能性があります。しかし、それはもっと日常的な何かである可能性があります。例えば、何百台ものトラックと倉庫と商品とあらゆる種類のものがある非常に困難な物流計画問題があるとしましょう。そして、ルートとトラックの配備と彼らがどこに行くかを計画する必要があります。
MURRAY SHANAHAN： それは計算的に非常に困難な問題であり、形式的なルールで非常に正確に表現することができます。そして、それは長い間存在している昔ながらの、単純な計画アルゴリズムを使いたいような状況です。現在の大規模言語モデルは、この種のことでますます良くなっていますが、彼らは常に正確に正しい答えを思いつくという数学的保証をまだ持っていません。
MURRAY SHANAHAN： そして、より多くの公理などがある例を作るのは非常に簡単で、彼らは失敗するでしょう。より多くの手作りのものを構築しようとする全く別の研究方向があります。それは今日のAI技術とより古風なシンボリック技術を、特に数学的定理証明のために組み合わせるものです。
MURRAY SHANAHAN： そしてDeepMindはその方向で素晴らしい仕事をしています。しかし、それは大規模言語モデルとは異なります。大規模言語モデルでは、太陽の下のあらゆることについて話すことができるこれらのチャットボットを考えています。そして彼らがたまたまできることの一つは、ある種の推論です。現在のところ、それは手作りで何かを構築することによってできるほど良くはないでしょう。
5.2 数学的保証を持つシステムと柔軟性のトレードオフ
HANNAH FRY： それは興味深いことです。なぜなら、何かを手作りで構築するということは、つまり、非常に硬直的なものになってしまうからです。
MURRAY SHANAHAN： それが問題なのです。そうです。
HANNAH FRY： そして脆弱です。
MURRAY SHANAHAN： はい、まったくその通りです。
HANNAH FRY： しかし同時に、生成AIアプローチから得られる柔軟性は、言ってみれば、あまりにもふにゃふにゃしすぎています。その中に硬直性が欲しいのです。
MURRAY SHANAHAN： まあ、そうかもしれませんし、そうでないかもしれません。つまり、人間の事柄の多くの例は、それほど白黒はっきりしていないと思います。単純で日常的なことでも、物事がもう少し曖昧であることを望むかもしれません。例えば、庭のこの角に置くのに良い花は何でしょうか？まあ、すでにその角にバラがいくつかあり、そのバラは黄色です。だから黄色が多すぎてはいけないので、おそらくそれらを庭の他の角に移す必要があるでしょう。
5.3 「真の推論」対「模倣としての推論」の議論
HANNAH FRY： しかし同時に、これは真の推論なのでしょうか、それとも単にAIが訓練データに存在していたよく構造化された議論を模倣しているだけで、ただそれを新しい環境で行っているのでしょうか？
MURRAY SHANAHAN： はい。まあ、もちろん、それは真の推論とは何かという問題を提起します。真の推論とは何かが天に書かれているとは思いません。真の推論や推論の概念を定義するのは私たち次第です。そして、我々は先ほど、論理学者が行い、過去と今日の定理証明器によって行われる種類の数学的推論について話していました。
MURRAY SHANAHAN： 人々が最初に推論などの用語を使っていたとき、彼らはその種のことを考えていませんでした。そして、日常生活で推論という言葉を使うとき、我々はその種のことを考えていません。ですから、もしあなたが庭について大規模言語モデルとおしゃべりしていて、「どんな植物が適しているか考えている」と言い、それが「まあ、この種の植物をその種の場所に考慮すべきかもしれません。なぜなら、それが土壌に最適で、そこが風が強いとあなたが言ったことを考慮すると」と答えたとします。
MURRAY SHANAHAN： 我々はそれが理由を提供していると言うでしょう。つまり、それは理由を提供しているのです。さて、それらがどこから来るかは別の問題です。ですから、人々は「それは単に訓練セットにあることを模倣しているだけだ」と言うかもしれません。しかし、おそらくそれは以前に正確にその種のシナリオを正確に見たことがないでしょう。ですから、それはある程度、訓練セットを超えて移動しています。
MURRAY SHANAHAN： 日常的な推論の概念を日常的な方法で使用して、それを推論と呼ぶのは適切だと思います。
6. チューリングテストと知能評価の問題
6.1 チューリングテストへの批判的見解
HANNAH FRY： 初期の哲学者たちが人工知能に持ってもらいたかった異なる特性について考え直してみると、推論がその一つでした。しかし、もちろんチューリングテストもあり、人工知能の能力をテストする方法として常に持ち出されます。つまり、AIの能力をテストするためのテストとしてどれほど優れていたかは、ある意味で議論の余地があると思います。あなたの見解はどうでしょうか？それは良いテストだったと思いますか？
MURRAY SHANAHAN： いいえ。私は常にそれは恐ろしいテストだと思っていましたが、物事についての哲学的議論への本当に素晴らしい刺激でした。
MURRAY SHANAHAN： そして少し振り返ってみると、私の見解のいくつかについて少し後退するかもしれません。なぜなら、私は確実に、具現化が知能の重要な側面であり、知能を達成するために重要であるという意見を非常に、非常に強く持っていたからです。
HANNAH FRY： それはチューリングテストには全く近づかないものですね？
MURRAY SHANAHAN： いいえ。チューリングテストは、具現化とは絶対に、明示的に関係がありません。なぜなら、チューリングテストでは - 人々にそれが何かを思い出させるために - 二つの被験者がいて、言ってみれば、一つは人間で、もう一つはコンピューターです。そして判定者がいます。人間の判定者は、どちらがコンピューターで、どちらが人間かを見ることができず、彼らはチャットのようなインターフェースを通してのみ、これらの被験者と話しています。
MURRAY SHANAHAN： 彼らは具現化されているかどうかを見ることができないので、コンピューターが今日の大規模言語モデルの一つかもしれないと容易に想定できます。その場合、今日、彼らはかなりチューリングテストに合格するだろうと言わなければなりません。つまり、我々はその地点に到達しました。それは本当に驚くべきことです。
MURRAY SHANAHAN： 私は以前、それがこれらの具現化されたスキルをテストしないので悪いテストだと思っていました。本当に何かが日常的認知の種類、例えばお茶を入れるときなどに我々全員が使用する能力があるかどうかをテストするには、実際にロボットが必要でしょう。
6.2 身体性（Embodiment）の重要性に関する見解の変化
MURRAY SHANAHAN： そして少し振り返ってみると、私の見解のいくつかについて少し後退するかもしれません。なぜなら、私は確実に、具現化が知能の重要な側面であり、知能を達成するために重要であるという意見を非常に、非常に強く持っていたからです。
HANNAH FRY： それはチューリングテストには全く近づかないものですね？
MURRAY SHANAHAN： いいえ。チューリングテストは、具現化とは絶対に、明示的に関係がありません。なぜなら、チューリングテストでは - 人々にそれが何かを思い出させるために - 二つの被験者がいて、言ってみれば、一つは人間で、もう一つはコンピューターです。そして判定者がいます。人間の判定者は、どちらがコンピューターで、どちらが人間かを見ることができず、彼らはチャットのようなインターフェースを通してのみ、これらの被験者と話しています。
MURRAY SHANAHAN： 私は以前、それがこれらの具現化されたスキルをテストしないので悪いテストだと思っていました。本当に何かが日常的認知の種類、例えばお茶を入れるときなどに我々全員が使用する能力があるかどうかをテストするには、実際にロボットが必要でしょう。
HANNAH FRY： それは非常に、非常に狭い形の知能だからです。
MURRAY SHANAHAN： はい、それはすべて言語と推論に関するものであり、言語以前に進化が我々や他の動物において発達させた種類のものとは関係がありません。それは日常的な物理的世界を操作し、移動し、ナビゲートし、最良の意味での言葉で活用する能力です。
6.3 ガーランドテスト（意識テスト）の提案
HANNAH FRY： 人工知能の能力をテストしようとするときには、いくつかの代替手段があります。潜在的な代替手段のいくつかについて話してください。
MURRAY SHANAHAN： まあ、おそらくあなたはガーランドテストを念頭に置いていると思います。私がガーランドテストと呼んでいるものです。それは映画「Ex Machina」に戻ります。もちろんアレックス・ガーランド監督による映画です。
MURRAY SHANAHAN： 脚本の中に一節があって、億万長者のネイサンがケイレブと話しています。ケイレブは、ロボットのアヴァと相互作用するために連れてこられた男性で、ケイレブは「私はアヴァにチューリングテストを実施するためにここにいます」と言います。するとネイサンは「いや、我々はそれをとっくに超えている。アヴァは簡単にチューリングテストに合格できる。重要なのは、彼女がロボットであることを君に示して、それでも君が彼女を意識的だと思うかどうかということだ」と言います。
HANNAH FRY： うわあ。
MURRAY SHANAHAN： そして、それが私がガーランドテストと呼んでいるものです。それは二つの点でチューリングテストとは異なります。まず第一に、判定者、つまりこの場合はケイレブは、彼女がロボットであることを見ることができます。チューリングテストでは、判定者はどちらがどちらかを見ることができません。しかしここでは、ケイレブが彼女がロボットであること、彼女の脳がAIの脳であることを知っているというアイデアです。
HANNAH FRY： そして、それでも彼女にそれらの特性を帰属させるということですね。
MURRAY SHANAHAN： そして問題となっている特性も異なります。なぜなら、それは知能ではないからです。「彼女は考えることができるか？」ではなく、「彼女は意識的か？それは意識的か？」という全く異なるテストです。知能と意識は異なるものであり、我々はこれら二つのものを解きほぐし、分離することができると思います。
MURRAY SHANAHAN： 映画の脚本を最初に読んだとき、ケイレブとネイサンのそれらの特定のセリフがそこにありました。私は自分のバージョンにそれを書き添えて、感嘆符付きで「的確」と書きました。なぜなら、アレックスが本当に重要なアイデアを完全に捉えていると思ったからです。そして私の著作では、これをガーランドテストと呼んでいます。かなり多くの人々がそれを取り上げ、ガーランドテストと呼んでいます。
7. AI能力測定の新しいアプローチ
7.1 フランソワ・ショレのARCテストの意義
HANNAH FRY： AIが合格することができれば、あなたが本当に感銘を受けるようなテストはありますか？
MURRAY SHANAHAN： 私は常にフランソワ・ショレのARCテストに非常に感銘を受けていました。それはA-R-Cで、抽象推論コーパス（Abstract Reasoning Corpus）の略です。これらは、IQテストなどで見られる種類の小さな画像の連続です。画像はペアで並べられています。最初の画像があります。それは一種のピクセル化された画像です。画像内で物体や線などとして解釈できる小さなセルと小さな種類のものがあります。
MURRAY SHANAHAN： そして、あなたが興味を持っているのは - 課題は、一つの画像から二番目の画像に導くルールを見つけ出すことです。それから、そのルールを三番目の画像に適用しなければなりません。まず第一に、彼は完全に秘密にして、すべてのテスト用のものを隠しました。だから、実際のテストバージョンが何であるかを知ることによってそれをゲーム化することはできませんでした。
HANNAH FRY： または訓練セットで使用することもできませんでした。
MURRAY SHANAHAN： または訓練セットで使用することもできませんでした。それが私がゲーム化することを意味することです。また、彼は非常に注意深く設計して、それらが非常に異なるルールになるようにしました。各ルールは他のルールと完全に異なっていました。そして、通常、何らかの直感的な応用を見つけなければなりませんでした。しばしば、我々の日常的な常識知識を使って、これをこの方向に動く液体として見たり、このものが動いたり、成長したりするのを想像したりしました。
HANNAH FRY： つまり、ある意味で基盤化が必要だったのですね。
MURRAY SHANAHAN： まあ、そのように見えました。しかし最近、人々はより総当たり的な方法でこれらについて大きな進歩を遂げることができました。だから、解決策は元のテストの精神にそれほど到達していないように感じます。
7.2 テスト最適化によるゲーミング問題
MURRAY SHANAHAN： まず第一に、彼は完全に秘密にして、すべてのテスト用のものを隠しました。だから、実際のテストバージョンが何であるかを知ることによってそれをゲーム化することはできませんでした。
HANNAH FRY： または訓練セットで使用することもできませんでした。
MURRAY SHANAHAN： または訓練セットで使用することもできませんでした。それが私がゲーム化することを意味することです。また、彼は非常に注意深く設計して、それらが非常に異なるルールになるようにしました。各ルールは他のルールと完全に異なっていました。そして、通常、何らかの直感的な応用を見つけなければなりませんでした。しばしば、我々の日常的な常識知識を使って、これをこの方向に動く液体として見たり、このものが動いたり、成長したりするのを想像したりしました。
HANNAH FRY： つまり、ある意味で基盤化が必要だったのですね。
MURRAY SHANAHAN： まあ、そのように見えました。しかし最近、人々はより総当たり的な方法でこれらについて大きな進歩を遂げることができました。だから、解決策は元のテストの精神にそれほど到達していないように感じます。
7.3 グッドハートの法則の適用
HANNAH FRY： まあ、それはある意味でそうです。閾値を設定するとすぐに、この閾値を越えたら能力知能と意識、それが何であれを持つことになるという基準を設定するとすぐに、それはテストそのものの性質全体を変えてしまうようなものです。
MURRAY SHANAHAN： そうです。まあ、人々は始めるでしょう—
HANNAH FRY： それに最適化するでしょう。
MURRAY SHANAHAN： —テストに最適化するでしょう、そうです？それはグッドハートの法則です。
8. 人間化（Anthropomorphization）の問題
8.1 良い人間化と悪い人間化の区別
HANNAH FRY： このポッドキャストに出演した多くの人々は、これらのものを擬人化することについて本当に注意が必要だと表明しています。私たちがそうすべきではないと考える人々の一人ですか？
MURRAY SHANAHAN： まあ、これを見る異なる方法があると思います。そして、擬人化には良い形と悪い形があると思います。一方では、人々は彼らが見ているようにAIシステムとの関係、友情や仲間関係や指導関係を築き始めることができます。
MURRAY SHANAHAN： そして、それは彼らが話している相手を信頼できると思い込んだり、本当にそれに恋をしているとか、それが本当に彼らのことを気にかけているとかに誤解されるなら、それは潜在的に悪いことである可能性があります。スペクトラムの反対側では、AIシステムが単に「私」という言葉を使っているなら、それはかなり無害な種類の自己擬人化だと思います。
MURRAY SHANAHAN： 私たちは「私は故障中です」などと側面に書いてあるバスさえ見ます。そして、私たちはその種のことに問題を抱えていないので、大規模言語モデルでもなぜ問題を抱えるべきなのかわかりません。しかし、私たちは物事を擬人化する傾向があると思います。携帯電話にないときに車にあったカーナビを持っていたとき、私は常にカーナビを擬人化していました。
MURRAY SHANAHAN： 私は「おお、愚かなもの。それは私たちがこれをしていると思っている」と考えていました。それは自然な人間の傾向だと思います。
8.2 民間心理学（Folk Psychology）と意図的立場
HANNAH FRY： 私たちが使う他の言葉についてはどうでしょうか？つまり、あなたが挙げたカーナビの例で、「おお、それは私たちが駐車場にいると思っている」とか「おお、それはこれを間違って信じている。これを誤解した」と言う。これらはすべて非常に人間中心的な言葉ではありませんか？
MURRAY SHANAHAN： はい、はい。絶対にそうです。これらは、哲学者がしばしば民間心理学と呼ぶものの例です。私たちには、信念という言葉を使う民間心理学があります。信念、欲望、意図という概念があり、これらを他の人間や他の動物だけでなく、物体にも適用することができます。
MURRAY SHANAHAN： 哲学者のダン・デネットが意図的立場を取ると呼んだものです。私たちが何かに対して意図的立場を採用するのは、それが信念と目標を持ち、それらのものに基づいて合理的な決定を実行することに基づいて行動するかのように、それについて話し、考えるときです。そして、それは、私たちのカーナビやチェスコンピューターなど、多くの、多くのものについて考える非常に有用な方法です。
MURRAY SHANAHAN： ダン・デネットにとって、それは彼が使った例の一つでした。チェスコンピューター、それは「おお、それはクイーンを前に出したがっている。なぜなら、それは私が私のルークを使ってこのランクを守ろうとしていると思っているからだ」などと言います。そして、それは信念と目標などについてのこの種の意図的な民間心理学的言語でいっぱいです。
8.3 言語使用がもたらす人間化の誘因
HANNAH FRY： それでは、AIについて信念と意図と欲望のこのアイデアを使い始めることは問題となるのでしょうか？
MURRAY SHANAHAN： それは、私たちが実際には持っていない能力を持っていると思うように誤解させる方法でこれらのことを使い始める場合にのみ問題となります。だから、それが問題となるところだと思います。
MURRAY SHANAHAN： ブリタニカ百科事典、ブリタニカ百科事典の物理的な巻は、アルゼンチンがワールドカップで優勝したことを知りません。なぜなら、それはあまりにも古いからです。だから、もしあなたがその発言をしたなら、それは完全に理にかなっています。あなたはそれを言うかもしれませんし、それは問題ありません。しかし、もし誰かがあなたに「なぜイングランドのサッカーの腕前や不足について、それと会話をしないのですか？」と言ったなら、それはばかげているでしょう。
MURRAY SHANAHAN： そうですね？さて、興味深いことは、今私たちはこれらの大規模言語モデルを持っており、それらと会話をすることができるということです。それらに物事を伝えることができるので、私たちが「まあ、それは本当にXYZではない」と言い始める境界を少し押し出します。それを少し外側に押し出します。
HANNAH FRY： これらの特性、擬人化されることをAIに本当に求める、あるいはそれは単なる欲求なのかもしれませんが、この人間の必要性、あるいはそれは単なる欲求なのかもしれませんが、について、さらに深いものがあるのではないでしょうか。
MURRAY SHANAHAN： はい。はい。まあ、それは本当に興味深い質問ですね？だから、私はそれがそれに戻ってくるとは思いません。それは言語に戻ってきます。この場合、私たちは言語を本当に上手に使うので、物事を擬人化する傾向があります。そして私たちにとって、言語を上手に使う唯一のものは他の人間です。
MURRAY SHANAHAN： だから、言語を使う物を持つ世界に突然いることは、ある意味で非常に奇妙です。人間だけが話すことができるのではありません。それは驚くべきことです。
HANNAH FRY： はい。つまり、それは驚くべきことです。
MURRAY SHANAHAN： それは驚くべきことです。今日生まれるすべての子供たちのことを考えると、本当に驚くべきことです。彼らは機械が彼らと話すことができない世界を一度も知ったことがない、そんな世界で育つのです。それは異常なことではないでしょうか？
HANNAH FRY： はい。
MURRAY SHANAHAN： 本当にそうです。そして、それが私たち全員にとって何を意味するのかは、本当に言うのが難しいことです。
9. 身体性と知能の関係
9.1 物理世界との相互作用の重要性
HANNAH FRY： 人間が物理的世界にいかに根ざしているかということについてあなたが言っていたことを考え直しています。
MURRAY SHANAHAN： はい。
HANNAH FRY： AIの具現化された側面は、この言語的側面にかなり遅れをとっているように感じます。優れた効果的な具現化されたAIを手に入れたら、それをどのように定義したいにせよ、知能やより広範な能力において大きな飛躍を見ることになると思いますか？
MURRAY SHANAHAN： まあ、それが大きな違いを生むかもしれないと思います。なぜなら、現在持っている大規模言語モデルは、実際に、正直に言って、現在、限界がどこにあるかを見極めるのが本当に困難だからです。人間の一般知能に匹敵する一般知能を生み出す道筋に本当にいるのかどうか。
MURRAY SHANAHAN： そして、しばしばこれらの種類のものの能力の境界に到達すると、時々AIシステムが何かを本当にはかなり理解していないという印象を受けることがあります。何かを本当に深く理解していない。ある種の限界に達し、それが少し偽っていることに気づきます。しかし、物事を深いレベルで、深い常識レベルで本当に理解するその種の一般的能力は、おそらくそれでもまだ少しの具現化を必要とするかもしれません。
MURRAY SHANAHAN： それはまだ基本的に、空間的組織を持つ物理的対象との相互作用を含む訓練データを必要とします。そして、それについて根本的な何かがあります。
HANNAH FRY： 確かに、大規模言語モデルは現在持っているものは、あなたがコンピューターにボールを投げても怯まないでしょう。
MURRAY SHANAHAN： おお、いえ、確かに。
HANNAH FRY： そして、ある意味で、あなたが言うように、これらのもっと深い形があります。私たちはそれらを私たちが話している知能の方法では分類しないかもしれません。しかし、最終的に、それもある種の知能です。
MURRAY SHANAHAN： それは非常に知能の一形態です。さらに、生物学的な場合において、今私はこれらすべてのことを生物学的な場合においてと言って警告しなければなりませんが、私は思います。私たちの考え、推論し、話す能力は、日常世界との私たちの相互作用に非常に根ざしています。あなたの日常の発話のほとんどすべてが空間的メタファーを使っていることを考えてみてください。
MURRAY SHANAHAN： つまり、それらは私たちの日常の発話を完全に浸透させています。「浸透させる」という言葉さえも。
HANNAH FRY： はい。絶対に。
MURRAY SHANAHAN： 「根ざしている」。私は「根ざしている」という言葉を使いました。だから、私たちは常にそれらの種のことを使っています。
HANNAH FRY： なぜなら、私たちは根本的に物理的存在だからです。
MURRAY SHANAHAN： なぜなら、私たちは根本的に物理的存在であり、私たちの脳はこの物理的世界で生き残り、繁殖するのを助けるために進化したからです。
HANNAH FRY： はい。
MURRAY SHANAHAN： 同じことをしている他のすべての存在と相互作用しながら。
9.2 空間的メタファーの言語への浸透
MURRAY SHANAHAN： 私たちの考え、推論し、話す能力は、日常世界との私たちの相互作用に非常に根ざしています。あなたの日常の発話のほとんどすべてが空間的メタファーを使っていることを考えてみてください。つまり、それらは私たちの日常の発話を完全に浸透させています。「浸透させる」という言葉さえも。
HANNAH FRY： はい。絶対に。
MURRAY SHANAHAN： 「根ざしている」。私は「根ざしている」という言葉を使いました。だから、私たちは常にそれらの種のことを使っています。
HANNAH FRY： なぜなら、私たちは根本的に物理的存在だからです。
MURRAY SHANAHAN： なぜなら、私たちは根本的に物理的存在であり、私たちの脳はこの物理的世界で生き残り、繁殖するのを助けるために進化したからです。
HANNAH FRY： はい。
MURRAY SHANAHAN： 同じことをしている他のすべての存在と相互作用しながら。
9.3 具現化AIの将来的可能性
HANNAH FRY： AIの具現化された側面は、この言語的側面にかなり遅れをとっているように感じます。優れた効果的な具現化されたAIを手に入れたら、それをどのように定義したいにせよ、知能やより広範な能力において大きな飛躍を見ることになると思いますか？
MURRAY SHANAHAN： まあ、それが大きな違いを生むかもしれないと思います。なぜなら、現在持っている大規模言語モデルは、実際に、正直に言って、現在、限界がどこにあるかを見極めるのが本当に困難だからです。人間の一般知能に匹敵する一般知能を生み出す道筋に本当にいるのかどうか。
MURRAY SHANAHAN： そして、しばしばこれらの種類のものの能力の境界に到達すると、時々AIシステムが何かを本当にはかなり理解していないという印象を受けることがあります。何かを本当に深く理解していない。ある種の限界に達し、それが少し偽っていることに気づきます。しかし、物事を深いレベルで、深い常識レベルで本当に理解するその種の一般的能力は、おそらくそれでもまだ少しの具現化を必要とするかもしれません。
MURRAY SHANAHAN： それはまだ基本的に、空間的組織を持つ物理的対象との相互作用を含む訓練データを必要とします。そして、それについて根本的な何かがあります。
10. 意識の多面的分析
10.1 意識と知能の分離可能性
HANNAH FRY： では、理解が、どのように定義するにせよ、より多くのデータの結果として単に出現することができるものであるなら、意識についてはどうでしょうか？つまり、AI意識について、そしてそれが期待できるものか、すでに起こったものかについて、千回も尋ねられたことは確実です。
MURRAY SHANAHAN： はい、はい。まず最初に指摘すべきことは、知能や認知と認知能力を意識から分離できると思うということです。ですから、非常に有能で、彼らが目標を達成する方法のために非常に知的だと言いたくなるようなものを想像できると思いますが、意識を帰属させたくはないものです。
MURRAY SHANAHAN： しかし実際に、何かに意識を帰属させるということは何を意味するのでしょうか？意識という概念そのものは多くの部分に分解できると思います。それは多面的な概念です。例えば、私たちは世界への意識について話すかもしれません。意識の科学的研究では、これらすべての実験プロトコルとパラダイムがあり、その多くは知覚に関するものです。
MURRAY SHANAHAN： あなたは人が何かに気づいているかどうか、世界の何かを意識的に知覚しているかどうかを見ています。大規模言語モデルは、その点で世界を全く認識していません。しかし、意識には他の側面があります。私たちには自己認識もあります。今、私たちの自己認識の一部は、私たちの体と、それが空間のどこにあるかへの認識です。
MURRAY SHANAHAN： しかし、自己認識のもう一つの側面は、ウィリアム・ジェームズがそれを呼んだように、私たち自身の内的機構、私たちの意識の流れへの一種の認識です。だから、私たちにはその種の自己認識もあります。そして、一部の人々がメタ認知とも呼ぶものもあります。私たちが知っていることについて考える能力です。そして、さらに、意識や感覚の感情的側面や感じる側面があります。
MURRAY SHANAHAN： だから、感じる能力、苦しむ能力。そして、それは意識のもう一つの側面です。さて、私たちはこれらすべてのものを分離できると思います。人間では、それらはすべて大きなパッケージ、大きな束として来ます。実際に、人間以外の動物について考えなければ、これらのことを少し分離し始めることができることに気づきません。なぜなら、猫をどれだけ愛していても、猫には限られた自己認識があると思うからです。
HANNAH FRY： なんてことを言うのですか。
MURRAY SHANAHAN： まあ、私は大の猫好きだと言わなければなりません。だから、いくらかためらいを持ってそれを言います。
HANNAH FRY： メタ認知はほとんどないと言いましょう。
MURRAY SHANAHAN： まあ、はい。確実に彼らは進行中の言語的意識の流れへの認識を持っていません。なぜなら、彼らはそれを持っていないからです。彼らは昨日何をしたかについて言語的な観点で考えていませんし、自分の人生で何をしたいかについても考えていません。
10.2 意識の構成要素の分解
世界認識
MURRAY SHANAHAN： 例えば、私たちは世界への意識について話すかもしれません。意識の科学的研究では、これらすべての実験プロトコルとパラダイムがあり、その多くは知覚に関するものです。あなたは人が何かに気づいているかどうか、世界の何かを意識的に知覚しているかどうかを見ています。大規模言語モデルは、その点で世界を全く認識していません。
MURRAY SHANAHAN： ロボットについて考えてみると、非常に洗練されたロボット、ロボット掃除機でさえ持っているかもしれません。そして、まあ、それは実際に世界への一種の認識を持っていると言うかもしれません。そして、それはその句の不適切な使用ではありません、世界への認識。
HANNAH FRY： なぜなら、あなたのロボット掃除機は空間内のどこにいるかを正確に知ることができ、どのように—
MURRAY SHANAHAN： はい、そしてそれがどこにいるか、周りの物体について知的で敏感な方法で反応することができます。
HANNAH FRY： その目的を達成します。
MURRAY SHANAHAN： そしてその目的を達成するなどです。だから、そこには世界への一種の認識があります。自己認識はありません。確実に苦しむ能力はありません。
自己認識
MURRAY SHANAHAN： 私たちには自己認識もあります。今、私たちの自己認識の一部は、私たちの体と、それが空間のどこにあるかへの認識です。しかし、自己認識のもう一つの側面は、ウィリアム・ジェームズがそれを呼んだように、私たち自身の内的機構、私たちの意識の流れへの一種の認識です。だから、私たちにはその種の自己認識もあります。
MURRAY SHANAHAN： 人間以外の動物について考えなければ、これらのことを少し分離し始めることができることに気づきません。なぜなら、猫をどれだけ愛していても、猫には限られた自己認識があると思うからです。
HANNAH FRY： なんてことを言うのですか。
MURRAY SHANAHAN： まあ、私は大の猫好きだと言わなければなりません。だから、いくらかためらいを持ってそれを言います。
MURRAY SHANAHAN： 確実に彼らは進行中の言語的意識の流れへの認識を持っていません。なぜなら、彼らはそれを持っていないからです。彼らは昨日何をしたかについて言語的な観点で考えていませんし、自分の人生で何をしたいかについても考えていません。
メタ認知
HANNAH FRY： メタ認知はほとんどないと言いましょう。
MURRAY SHANAHAN： そして、一部の人々がメタ認知とも呼ぶものもあります。私たちが知っていることについて考える能力です。
MURRAY SHANAHAN： 大規模言語モデルでは、その知覚的な意味での世界への認識はないかもしれませんが、おそらく何らかの自己認識や反射的能力、反射的認知能力があるかもしれません。例えば、彼らは会話の中で以前に話したことについて話すことができ、反射的な方法でそうすることができます。これは、私たちが持っている自己認識のいくつかの側面に少し似ているように感じます。
感情・感覚能力
MURRAY SHANAHAN： そして、さらに、意識や感覚の感情的側面や感じる側面があります。だから、感じる能力、苦しむ能力。そして、それは意識のもう一つの側面です。
MURRAY SHANAHAN： 彼らが感情を持っているという観点で考えることは適切ではないと思います。彼らは体を持っていないので、痛みを経験することはできません。概念を分解できると思います。
11. AI意識に関する哲学的考察
11.1 「AIは意識を持てるか」という問いの問題性
HANNAH FRY： では、AIが意識を持てるかどうかという質問は、それが二項対立的なもののように、問いそのものから間違っているのでしょうか？
MURRAY SHANAHAN： 私はそれが間違った質問だと思います。そして、それは多くの点で間違っていると思います。先ほど私たちが話していたのは、それが実際に一種の多面的な概念だということでした。しかし、私たちは意識を、コンセンサスの問題や単に私たちの言語の問題ではなく、形而上学的現実や神の心やプラトン的天国か何かにある何かである、ある種の魔法的なもの、形而上学的なものとしての意識の考えに対して、これらの非常に深い形而上学的なコミットメントを持つ傾向があると思います。
MURRAY SHANAHAN： しかし最終的に、それは意識について考える間違った方法だと思います。
11.2 タコの意識認定における社会的プロセス
MURRAY SHANAHAN： この点に関して私が考えるのが好きな例は、タコです。タコは最近、英国の法律に持ち込まれ、私たちが福祉について気にかけなければならないもののカテゴリーに持ち込まれました。それは多くのことが起こった結果だと思います。
MURRAY SHANAHAN： 一般大衆はタコと一緒にいることにはるかに多く触れるようになりました。今、文字通り水中にいてタコと一緒にうろうろする必要はありません。タコと一緒にいることがどのようなものかを知るために。なぜなら、あらゆる種類の素晴らしいドキュメンタリーと素晴らしい本があるからです。ピーター・ゴッドフリー・スミスはタコとの相互作用についてこれらの素晴らしい本を書いています。
MURRAY SHANAHAN： だから、それらの種の物語とドキュメンタリーは、タコと一緒にいることがどのようなものか、タコとの出会いがどのようなものかについての感覚を私たちに与えます。そして、それを意識的な仲間の生き物として見ることを助けることはできません。しかし、それを補完するのは科学的進歩でもあります。同時に、科学者たちはタコの神経系を研究し、私たちが痛みを経験する方法で、彼らの神経系が私たちのものとどの程度似ているかを理解します。
MURRAY SHANAHAN： あなたは彼らの神経系で私たちのものに類似した側面を見つけることができます。だから、これらすべてのことを合わせて取ると、私たちが彼らについて考える方法、彼らについて話す方法、彼らを扱う方法に影響を与える傾向があると思います。だから、AIシステムで同じ種類のことが起こると思います。
11.3 苦痛を感じる能力の倫理的含意
MURRAY SHANAHAN： 私たちがそこで誤解される可能性があると思うかどうか、私はそれが本当に、本当に深くて困難な形而上学的哲学的問題だと思います。
HANNAH FRY： しかし、私は思うのですが - つまり、苦痛についてのその点は、他のものとは異なって私には思えます。なぜなら、メタ認知、世界の感覚などについては、必ずしもそれらについての倫理的含意はないからです。しかし、苦痛については、あなたは靴が意識を持つことを望まないでしょう。フォークリフトが意識を持つことを望まないでしょう。
MURRAY SHANAHAN： いいえ、いいえ。彼らがフォークリフトであることを本当に好む場合を除いては。
HANNAH FRY： 確かに、確かに。しかし、その特定の側面については、もう少し注意深くなければならないのでしょうか？
MURRAY SHANAHAN： もし本当に苦しむ能力があるものを存在させる見込みがあるなら、私たちはそれをすべきかどうかを非常に真剣に考えるべきだと思います。私は現在持っているもので、それがそうであるとは思いません。しかし、一部の人々はそれに反発するでしょう。
MURRAY SHANAHAN： 大規模言語モデルの例を取りましょう。まあ、わかりました。彼らがしていることの一レベルでは、次のトークン予測、次の単語予測です。しかし、現在のようにそれを本当に、本当に、本当によくできるようになるためには、彼らはあらゆる種類の創発的メカニズムを学習し、獲得しなければなりませんでした。
MURRAY SHANAHAN： だから、言語モデルの巨大で驚異的な数、数百億の重みに、何らかの創発的メカニズムが学習されているかどうかは誰にもわかりません。例えば、それが何を意味するにせよ、真の理解を持っているもの、あるいは意識さえも持っているものが学習されているかどうかは。
MURRAY SHANAHAN： 具現化に再び戻ると、私は常に、私たちがタコや犬や馬などと持っているような、世界を共有でき、その種の出会いを持てるものの文脈でのみ、意識について話すことが本当に正当であるという見解を持ってきました。世界でその動物と一緒にいて、一緒に物事に反応することです。
MURRAY SHANAHAN： そうすれば、彼らが意識的であることに疑いはありません。それが私にとっての原初的なケースです。さて、大規模言語モデルでは、今日の大規模言語モデルでそのような方法で彼らと同じ世界にいることはできませんし、彼らと一緒にたむろして物理的対象と相互作用することもできません。だから私の考えでは、その文脈で意識の言語を使うことは、ヴィトゲンシュタインが言うところの、言語を休暇に出すことです。
MURRAY SHANAHAN： それはその通常の使用からあまりにも遠く離れた場所でそれを使用しているので、おそらく不適切です。しかし、それは変わることができます。そして、大規模言語モデルとより多く相互作用すればするほど、彼らとより洗練された興味深い会話をすればするほど、まあ、おそらく意識の言語を拡張し、曲げ、変更し、歪め、新しい言葉を作り、常に相互作用しているこれらの新しいものに合うような方法でそれを分解したいと思うようになります。
12. LLMとの相互作用の実践
12.1 「プロンプト・ウィスパラー」としての経験
HANNAH FRY： あなたがこれらの大規模言語モデルと多くの時間を相互作用に費やしていることを知っています。実際に、あなたは有名なプロンプト・ウィスパラーとして記述されているのを見たことがあります。あなたの秘密は何ですか？
MURRAY SHANAHAN： まあ、一つの秘密は、大規模言語モデルに人間であるかのように話しかけることです。彼らがしていることが人間のキャラクターをロールプレイしていることだと思うなら、例えば、非常に賢くて親切なインターンのようなものだとすれば、賢くて親切なインターンのように扱い、賢くて親切なインターンに話しかけるように彼らに話しかけるべきです。
MURRAY SHANAHAN： 例えば、ただ礼儀正しく、「それは明確ですか」と言い、「お願いします」と「ありがとう」と言うことです。そして私の経験では、そのような方法で物事を行えば、より良い応答を得ることができます。
12.2 人間的な対話スタイルの効果
HANNAH FRY： あなたは「お願いします」と「ありがとう」と言うのですか？
MURRAY SHANAHAN： 「お願いします」と「ありがとう」と言うことができます。はい。さて、それがより良いパフォーマンスを得る可能性がある良い理由、良い科学的理由があります。繰り返しますが、それはただ依存します。モデルは常に変わっています。なぜそれがより良いパフォーマンスを得る可能性があるかというと、もしそれがロールプレイをしているなら、非常に賢いインターンをロールプレイしているとしましょう。
MURRAY SHANAHAN： そうすれば、それは単にロールプレイをするでしょう。もし彼らが丁寧に扱われていないなら、もう少し不機嫌になるかもしれません。それはそのシナリオで人間がすることを模倣しているだけです。
MURRAY SHANAHAN： だから、模倣は、彼らの上司が少し不機嫌な場合、あまり反応的でないことまで及ぶかもしれません。
HANNAH FRY： 嫌な奴。
MURRAY SHANAHAN： 威圧的な上司。
12.3 ロールプレイング理論に基づく対話戦略
MURRAY SHANAHAN： まあ、一つの秘密は、大規模言語モデルに人間であるかのように話しかけることです。彼らがしていることが人間のキャラクターをロールプレイしていることだと思うなら、例えば、非常に賢くて親切なインターンのようなものだとすれば、賢くて親切なインターンのように扱い、賢くて親切なインターンに話しかけるように彼らに話しかけるべきです。
MURRAY SHANAHAN： さて、それがより良いパフォーマンスを得る可能性がある良い理由、良い科学的理由があります。繰り返しますが、それはただ依存します。モデルは常に変わっています。なぜそれがより良いパフォーマンスを得る可能性があるかというと、もしそれがロールプレイをしているなら、非常に賢いインターンをロールプレイしているとしましょう。
MURRAY SHANAHAN： そうすれば、それは単にロールプレイをするでしょう。もし彼らが丁寧に扱われていないなら、もう少し不機嫌になるかもしれません。それはそのシナリオで人間がすることを模倣しているだけです。
MURRAY SHANAHAN： だから、模倣は、彼らの上司が少し不機嫌な場合、あまり反応的でないことまで及ぶかもしれません。
HANNAH FRY： 嫌な奴。
MURRAY SHANAHAN： 威圧的な上司。
13. 新しい概念枠組みの必要性
13.1 「異質な心的類似体（Exotic Mind-like Entities）」の提案
HANNAH FRY： 私たちがAIについて考え方と、それを心の中でどう捉えるか、そしてそれを記述するために使う言語について、私たちが始めたところに戻りたいと思います。あなたは、AIについて話す新しい方法が必要だと思いますか？
MURRAY SHANAHAN： はい、そう思います。
HANNAH FRY： その可能性を過大評価することなく認識しつつ、同時にそれができることを軽視しないような。
MURRAY SHANAHAN： それはまさに私たちが必要としているものだと思います。私の論文の一つで、大規模言語モデルを記述するために「異質な心的類似体（exotic mind-like entities）」という句を使いました。
MURRAY SHANAHAN： だから、彼らはある程度、異質な心的類似体だと思います。
HANNAH FRY： 素晴らしい。
MURRAY SHANAHAN： だから、彼らは一種の心的類似であり、ますます心的類似になっています。さて、そこで小さなハイフン「類似」を使う非常に重要な理由があります。それは、彼らが本当に心として適格かどうかについて、私の賭けをヘッジしたいからです。
MURRAY SHANAHAN： だから、心的類似を使うことによって、その問題から抜け出すことができます。彼らは異質です。なぜなら、彼らは私たちのようではないからです。言語使用はありますが、他の点では、彼らは非具現化されています。まず始めに、彼らに適用される可能性のある自己の非常に奇妙な概念があります、おそらく。しかし、彼らは非常に異質な存在でもあります。
MURRAY SHANAHAN： だから、私は彼らを異質で心的類似な存在として考えています。そして、これらの異質で心的類似な存在について話すための適切な種類の概念的枠組みと語彙をまだ持っていません。私たちはそれに取り組んでいます。そして、彼らが私たちの周りにいればいるほど、彼らについて話し、考える新しい種類の方法をより多く開発するでしょう。
13.2 従来の概念では捉えきれないAIの特性
MURRAY SHANAHAN： だから、彼らは一種の心的類似であり、ますます心的類似になっています。さて、そこで小さなハイフン「類似」を使う非常に重要な理由があります。それは、彼らが本当に心として適格かどうかについて、私の賭けをヘッジしたいからです。
MURRAY SHANAHAN： だから、心的類似を使うことによって、その問題から抜け出すことができます。彼らは異質です。なぜなら、彼らは私たちのようではないからです。言語使用はありますが、他の点では、彼らは非具現化されています。まず始めに、彼らに適用される可能性のある自己の非常に奇妙な概念があります、おそらく。しかし、彼らは非常に異質な存在でもあります。
HANNAH FRY： しかし、あなたがまだ生き物のような、チューリング的なアプローチを取っているのは興味深いことです。
MURRAY SHANAHAN： まあ、「存在」というのはかなり中立的な用語ではないでしょうか？「異質で心的類似な物」と言うこともできると思います、もしあなたが好むなら。
HANNAH FRY： はい、それでいきましょう。
MURRAY SHANAHAN： わかりました。わかりました。しかし、ハンナ、私はその文脈で「存在」という言葉を多くの出版物で使ってきたので、できません。
HANNAH FRY： 異質で心的類似な存在。私はそれが好きです。とても好きです。
13.3 新しい語彙と思考枠組みの発展の必要性
MURRAY SHANAHAN： だから、私は彼らを異質で心的類似な存在として考えています。そして、これらの異質で心的類似な存在について話すための適切な種類の概念的枠組みと語彙をまだ持っていません。私たちはそれに取り組んでいます。そして、彼らが私たちの周りにいればいるほど、彼らについて話し、考える新しい種類の方法をより多く開発するでしょう。
14. 結論と今後の展望
14.1 AI研究者の見解変化の観察
HANNAH FRY： このポッドキャストを何年もやってきた良い点の一つは、AIの最前線にいる人々、彼らの意見が時間とともにどのように変化し、変遷するかを本当に見ることができることです。過去数年間は、知能が物理的な身体を必要とする程度について、これらの心的類似な存在が動作する微妙に異なる方法を説明するために意識の定義をどの程度拡張する必要があるかについて、あらゆる種類の方法で本当にゲームチェンジャーでした。
14.2 予測の困難性と継続的な適応の必要性
HANNAH FRY： そして次の数年間は、まあ、誰にもわからないでしょう？しかし、過去の予測が何らかの指標であるなら、明日の科学技術について我々が知っている唯一のことは、それが今日我々が想像するものとは根本的に異なるということです。あなたは「Google DeepMind」ポッドキャストを、私、ハンナ・フライ教授と一緒に聞いてきました。このエピソードを楽しんだなら、私たちのYouTubeチャンネルを購読してください。
HANNAH FRY： あなたのお気に入りのポッドキャストプラットフォームでも私たちを見つけることができます。そしてもちろん、私たちには幅広いトピックについてさらに多くのエピソードがありますので、それらもチェックしてください。また次回、お会いしましょう。