2025-05-06 シンギュラリティは近い：Ray Kurzweil が語るAIと人間の融合による未来

※本記事は、Jeffrey Sachs氏とRay Kurzweil氏による対談動画「Book Club with Jeffrey Sachs」の内容を基に作成されています。この対談は、国連持続可能な開発ソリューション・ネットワーク（UN Sustainable Development Solutions Network：SDSN）の枠組みで実施されました。 SDSNは2012年に国連事務総長の後援のもとで設立され、持続可能な開発目標（SDGs）とパリ気候協定の実施を含む持続可能な開発のための実用的な解決策を推進するため、世界の科学技術専門知識を動員している組織です。 本記事では、対談の内容を要約しております。なお、本記事の内容は原著作者の見解を正確に反映するよう努めていますが、要約や解釈による誤りがある可能性もありますので、正確な情報や文脈については、オリジナルの動画をご視聴いただくことをお勧めいたします。

1. はじめに・紹介

1.1 Jeffrey Sachsによる番組紹介

Jeffrey Sachs： 皆さん、こんにちは。私はJeff Sachsです。Book Club with Jeffrey Sachsへようこそ。今日は本当に興奮しています。まさに candy storeにいる子供のような気分です。なぜなら、今日は世界で最も重要な思想家の一人、我々の時代の偉大な預言者の一人とお話しするからです。デジタルとAIの世界の預言者、それがRay Kurzweilです。

Ray Kurzweilは世界中で知られた名前です。彼はGoogleの主席研究員であり、AIビジョナリーでもあります。AIビジョナリーというタイトルは完全に相応しいものですが、彼を我々の時代の預言者、グルと呼ぶこともできるでしょう。彼は一連の驚くべき書籍を書いてきました。これらの本は最初、私が思うに、かなり突飛で、SF小説のような扱いを受けていました。

しかし今では、これらの本はほとんどジャーナリズムとして読まれています。なぜなら、彼は我々が今生きているまさにその世界を予測していたからです。そして今、我々は我々がどこに向かっているのかを理解しようと、あらゆる瞬間に彼の元を訪れているのです。

今日我々が話し合うのは最新の著書です。これは「The Singularity Is Nearer: When We Merge with AI」、つまり人工知能との融合について書かれた2024年に出版された本です。これは基本的に同じタイトルの本から19年後に書かれたものです。「The Singularity Is Near」は2005年に書かれました。

2005年に「The Singularity Is Near」が書かれた時、Ray Kurzweilは本質的に、我々はスマートマシン、人工知能、そして他の多くのものへの新しい時代への加速する道筋にあると述べました。当時、それは全く未来的に思えました。新しい本「The Singularity Is Nearer」において、Ray Kurzweilは基本的に記録しています。おそらく彼は最初の本で期間を長すぎると見積もっていたかもしれません。なぜなら、物事は彼が予測した通りの方向で、非常に劇的に加速しているからです。

1.2 Ray Kurzweilの経歴と業績紹介

Jeffrey Sachs： Googleの主席研究員でAIビジョナリーであることに加えて、Ray Kurzweilは私の計算が正しければ、約60年間にわたって物事を発明し続けてきました。彼と私は両方とも子供時代にTom Swiftのサイエンスフィクション本を読みました。しかし、彼は実際にそれを実行に移し、その世界を創造したのです。私はただそれらの本を読んだだけでした。

彼が発明したもののいくつかを挙げてみましょう。世界初のCCD平面スキャナー、世界初のオムニフォント光学文字認識、盲人向けの世界初の印刷物音声読み上げ機、世界初のテキスト音声合成装置、グランドピアノやその他のオーケストラ楽器を再現できる世界初の音楽シンセサイザー、世界初の商業的に販売された大語彙音声認識ソフトウェアです。

そして彼はグラミー賞を受賞しており、これは信じられないことです。国家技術賞の受賞者でもあり、国家発明者殿堂への殿堂入りも果たしており、さらに数多くの栄誉を受けています。つまり、我々は自分が何について話しているかを理解しているだけでなく、それを実現させた人物と話をしているのです。

Ray Kurzweil： あなたの番組に出演できて光栄です。私はあなたの経済学に関する発言をかなり熱心にフォローしてきましたので、議論ができて素晴らしいです。

Jeffrey Sachs： 私は我々がいる世界を理解しようとしているところです。だからこそ、あなたとお話ししたいのです。Ray、あなたは本当に驚くべきことをやってのけました。あなたとお話しできることは名誉なことです。

1.3 発明家としての60年間の功績（CCD平面スキャナー、音声認識技術等）

Jeffrey Sachs： 我々には世界中の聴衆がいます。あらゆる大陸から、様々な状況にある国々からの人々です。今では誰もがAIを使い、誰もがデジタル技術を使っています。これはもちろん、あなたが創造した世界の驚くべき特徴の一つです。最も辺鄙な村に行っても、人々はスマートフォンを使っているのを見ることができます。

実際に、私は最近インドの非常に貧しい地域の、とても田舎のコミュニティを訪問しました。そこで彼らは新しいドローンと一緒にクラスを受けていました。そのドローンは畑の精密施肥を提供するものでした。彼らはちょうど新しいドローンの準備をしているところでした。これらの技術は今やどこにでもあります。

しかし、教育システムは小学校から大学院まで、これを採用していません。人々は「AIを使うな」と言います。なぜなら、彼らは恐れているからです。この話題に入る前に、この二部作シリーズの最初の本「The Singularity Is Near」があり、今回は「The Singularity Is Nearer」があります。もちろん、この一部である他の多くの本もあります。

あなたは60年間という期間で、世界初のCCD平面スキャナー、世界初のオムニフォント光学文字認識システム、盲人のための世界初の印刷物音声読み上げ機、世界初のテキスト音声合成装置、グランドピアノやその他のオーケストラ楽器を再現できる世界初の音楽シンセサイザー、そして世界初の商業的に市場化された大語彙音声認識ソフトウェアを発明されました。これらすべての発明により、あなたはグラミー賞を受賞し、国家技術賞の受賞者となり、国家発明者殿堂に殿堂入りを果たすなど、数々の栄誉を受けられました。

Ray Kurzweil： あなたの番組に出演できて光栄です。私はあなたの経済学に関する発言をかなり熱心にフォローしてきましたので、議論ができて素晴らしいです。

Jeffrey Sachs： 私は我々がいる世界を理解しようとしているところです。だからこそ、あなたとお話ししたいのです。Ray、あなたは本当に驚くべきことをやってのけました。あなたとお話しできることは名誉なことです。

2. シンギュラリティの定義と予測

2.1 シンギュラリティとは何か

Jeffrey Sachs： シンギュラリティとは何か、そしてそれがどのような意味で近づいており、今さらに近づいているのかを皆さんに説明していただけますか。

Ray Kurzweil： それは複雑な質問です。しかし、シンギュラリティについて話す前に、まずAGI（汎用人工知能）について説明しましょう。私は2029年にAGIが実現すると言っています。私は少し難しい定義を持っています。基本的にAGIとは、AIが人間ができるすべてのことを、大学院教育レベルまでできるようになることです。それはほぼそこまで来ています。

実際に、私は一昨日、ある女性と話しました。彼女は自分の分野の2冊の本を比較するのに4日間を費やしました。そして彼女は、AIに何をするか尋ねてみることにしました。彼女が4日かけて行った作業を、AIは40秒で、しかも彼女より良い仕事をしました。なぜなら、AIは100万冊の本を読んでいるからです。AIは彼女が分野外ではできないような比較をすることができます。

すでにAIは人々にできないことをすることができます。まだできないことがいくつかありますが、私は2029年にAGIが実現すると言っています。それは大企業のCEOを含む、人間ができるすべてのことができるようになるでしょう。それを扱うことができるようになります。

しかし、私はそれが私たちの個人収入にとってポジティブになると考えています。なぜなら、私の見解では、私たちはAIと融合するからです。それは私たち自身と私たちの自然な知能があり、そして私たちが持ち歩くAIがここにあるというものではありません。聴衆に話すとき、誰もが電話を持っていますが、私たちはそれを自分自身の一部とは考えていません。たとえそれが私たちの近くにあっても。

それは実際に私たちの脳の一部になるでしょう。私たちはバーチャルリアリティに移行し、これを持ち歩く代わりに、それが私たちの眼鏡の中に入るでしょう。

Jeffrey Sachs： Ray、それはすでに私たちの一部であり、手に持っていないとき、私は実際に神経質になると感じていると思います。

Ray Kurzweil： 絶対にそうです。これなしには外出できません。それは本当に私たちの脳の一部です。すべてのことに使います。しかし、それはさらにそうなるでしょう。

つまり、それは私たち対AIではありません。AIは私たちの思考の一部になるでしょう。私たちは、思考が自然な知能から来るのか人工知能から来るのかを区別することすらできなくなるでしょう。明らかに人工知能が支配的になりますが、私たちは自然な知能を取り除くわけではありません。つまり、それは融合になるのです。

人々はそれを考えていません。彼らは私たち対AIを考え、教育システムでAIを使いすぎると、自然な知能で物事を学ばなくなると考えています。

私が大学に行ったとき、それは半世紀以上前でしたが、大きな問題は計算機でした。人々が計算機を使うことを許可すれば、人々は長い割り算を学ばなくなると言われました。今日、人々は実際に長い割り算をしなくなりましたが、計算機は消えていません。それは私たちの思考の一部になり、私たちは計算機が何をするかを理解し、AIが何をするかも理解するでしょう。それは私たちの思考の一部になるでしょう。

しかし、シンギュラリティについて言えば、約20年後、私たちはそれと融合し、AIから来るアイデアと私たちの個人的な環境から来るアイデアの違いを区別できなくなるでしょう。そして私たちは100万倍もより偉大になるでしょう。それは非常に劇的な変化であり、私たちは物理学からこの比喩を借りています。物理学におけるシンギュラリティはブラックホールで、何かがその中に入ると、実際に何が起こっているかを知ることができません。私たちが100万倍賢くなったとき、人間に何が起こるかを実際に知ることはできません。しかし、より賢くなることは良いことです。

2.2 AGI（汎用人工知能）の2029年実現予測

Ray Kurzweil： AGI（汎用人工知能）について、私は2029年に実現すると言っています。私は少し難しい定義を持っていますが、基本的にAGIとは、AIが人間ができるすべてのことを、大学院教育レベルまでできるようになることです。それはほぼそこまで来ています。

実際に、私は一昨日、ある女性と話しました。彼女は自分の分野の2冊の本を比較するのに4日間を費やしました。両方の本を読み、それらを比較し、再度検討しようとしました。そして彼女は、AIに何をするか尋ねてみることにしました。彼女が4日かけて行った作業を、AIは40秒で、しかも彼女より良い仕事をしました。

人々は、AIが実際に誰にでもできることを本当にできることを発見しています。なぜなら、AIは100万冊の本を読んでいるからです。それは彼女が分野外ではできないような比較をすることができます。すでにAIは人々にできないことをすることができます。まだできないことがいくつかありますが、私は2029年にAGIが実現すると言っています。それは大企業のCEOを含む、人間ができるすべてのことができるようになるでしょう。それを扱うことができるようになります。

しかし、私はそれが私たちの個人収入にとってポジティブになると考えています。なぜなら、私の見解では、私たちはAIと融合するからです。それは私たち自身と私たちの自然な知能があり、そして私たちが持ち歩くAIがここにあるというものではありません。聴衆に話すとき、誰もが電話を持っていますが、私たちはそれを自分自身の一部とは考えていません。たとえそれが私たちの近くにあっても。

AGIは2029年に、人間ができるすべてのことを、大企業のCEOレベルの業務を含めて実行できるようになるでしょう。それは複雑な意思決定、戦略的思考、そして高度な問題解決能力を要求される業務まで扱うことができるようになります。

2.3 AIと人間の融合という概念

Ray Kurzweil： それは私たち対AIではありません。AIは私たちの思考の一部になるでしょう。私たちは、思考が自然な知能から来るのか人工知能から来るのかを区別することすらできなくなるでしょう。明らかに人工知能が支配的になりますが、私たちは自然な知能を取り除くわけではありません。つまり、それは融合になるのです。

人々はそれを考えていません。彼らは私たち対AIを考え、教育システムでAIを使いすぎると、自然な知能で物事を学ばなくなると考えています。

私が大学に行ったとき、それは半世紀以上前でしたが、大きな問題は計算機でした。人々が計算機を使うことを許可すれば、人々は長い割り算を学ばなくなると言われました。今日、人々は実際に長い割り算をしなくなりましたが、計算機は消えていません。それは私たちの思考の一部になり、私たちは計算機が何をするかを理解し、AIが何をするかも理解するでしょう。それは私たちの思考の一部になるでしょう。

Jeffrey Sachs： 私は最初に計算機を見た瞬間を覚えています。実際、店でTI計算機を見たとき、父が見せてくれたのですが、信じられませんでした。私の祖父は簿記係で、手回しの機械を持っていました。それを見たので、あなたが話していることをその意味で理解しています。

Ray Kurzweil： それは実際に私たちの脳の一部になるでしょう。私たちはバーチャルリアリティに移行し、これを持ち歩く代わりに、それが私たちの眼鏡の中に入るでしょう。

この融合の概念は、外部ツールとしてのAIから、私たちの認知能力の内在的な部分としてのAIへの根本的な転換を意味します。それは単なる技術の進歩ではなく、人間の知能そのものの拡張と変革なのです。私たちは自然な知能を失うのではなく、それを人工知能と統合することで、両方の能力を保持しながら、はるかに強力な認知システムを構築することになります。

3. AIの歴史的発展

3.1 1962年からのAI研究参加（63年間）

Jeffrey Sachs： Ray、実際に、あなたは現在と未来について議論する前に、あなたがこの分野の全体的な進化を見てきたので、最初の年々を除いて、Alan TuringやJohn von Neumannなどを置いておいて、60年代から始まって、あなたはこのすべてが展開するのを見てきました。

Ray Kurzweil： 1962年、つまり63年前にAIに関わり始めました。これは誰よりも長い期間です。私はMarvin Minskyに連絡を取りました。彼は当時実際29歳でした。私はその半分の年齢でした。

Jeffrey Sachs： ワオ。

Ray Kurzweil： そして私は人工知能というこの分野について聞いたことがありました。実際、誰もそれについて聞いたことがありませんでした。事実、ほとんどの人はコンピューターについてさえ聞いたことがありませんでした。これは1956年の約6年後でした。1956年に彼らはダートマス会議を開き、そこでMarvin Minskyが人工知能という名前を思いついたのです。

Jeffrey Sachs： つまり、彼がその用語を作ったのですね。

Ray Kurzweil： 実際、多かれ少なかれ、それはこの1956年の会議で出てきました。

1962年という時点で、AI研究に参加するということは、まさに分野の黎明期に立ち会うことを意味していました。コンピューター自体がまだ一般に知られていない時代に、人工知能という概念に取り組み始めたのです。これは現在のAI研究者の誰よりも長い63年間の研究経験であり、この分野の歴史的発展をリアルタイムで目撃し、参加してきた貴重な視点を提供します。

当時29歳だったMarvin Minskyとの出会いは、AI分野の創始者たちと直接関わることができた歴史的な瞬間でした。この長期間にわたる研究参加により、AI技術の段階的発展、挫折、そして近年の急速な進歩まで、すべてを第一線で経験することができたのです。

3.2 Marvin Minskyとの出会いと初期AI研究

Jeffrey Sachs： 私は彼を知っていました。そして彼の同僚であるSeymour Papertも知っていました。彼らはある時点では、それほど楽観的ではありませんでした。

Ray Kurzweil： 1953年に、Minskyはニューラルネットワーク（neural netlets）のアイデアを思いついました。彼は実際に、今我々が使っているアイデアを思いついたのです。しかし、彼は1960年代にはそれに非常に反対していました。彼はSeymour Papertと共に「Perceptrons」という本を書きました。これは最初の人気のあるニューラルネットワークでした。

彼は、ニューラルネットワークが二つの画像が互いに触れ合っているかどうかを判別できないことを証明しました。この画像のように、これは触れていません。これは接続されていません。これは接続されています。その違いを判別できませんでした。そしてこれがニューラルネットワークに対するすべての資金調達を約30年間完全に停止させました。

Jeffrey Sachs： 私の神よ、つまりあなたがMITに着いた時、これは主流ではなかったということですね。

Ray Kurzweil： しかし、私は実際に興味を持っていました。そして私は実際にRosenblattに会いに行きました。彼はパーセプトロンの背後にいる人物でした。

彼は、確かに単層ニューラルネットワークであるパーセプトロンは、図形が接続されているかどうかを判別できないが、複数層を持てば判別できると考えていました。現在我々は100層以上のものを持っており、それは明らかにそれを行うことができます。したがって、その本は実際には正確ではありませんでした。

Rosenblattはマルチレイヤーニューラルネットワークの作成を実際に開始しましたが、彼は9年後の1971年に亡くなりました。マルチレイヤーニューラルネットワークは、その約10年から20年後まで実現しませんでした。

3.3 ニューラルネットワークの歴史的変遷

Ray Kurzweil： 1953年に、Minskyはニューラルネットワーク（neural netlets）のアイデアを思いついました。彼は実際に、今我々が使っているアイデアを思いついたのです。しかし、彼は1960年代にはそれに非常に反対していました。

彼はSeymour Papertと共に「Perceptrons」という本を書きました。これは最初の人気のあるニューラルネットワークでした。彼は、ニューラルネットワークが二つの画像が互いに触れ合っているかどうかを判別できないことを証明しました。この画像のように、これは触れていません。これは接続されていません。これは接続されています。その違いを判別できませんでした。

そしてこれがニューラルネットワークに対するすべての資金調達を約30年間完全に停止させました。しかし、Rosenblattは、確かに単層ニューラルネットワークであるパーセプトロンは、図形が接続されているかどうかを判別できないが、複数層を持てば判別できると考えていました。

現在我々は100層以上のものを持っており、それは明らかにそれを行うことができます。したがって、その本は実際には正確ではありませんでした。なぜなら、Rosenblattはマルチレイヤーニューラルネットワークの作成を実際に開始しましたが、彼は9年後の1971年に亡くなりました。マルチレイヤーニューラルネットワークは、その約10年から20年後まで実現しませんでした。

Jeffrey Sachs： Jeffrey Hintonが最初にそれを実装したのですか、それとも違いますか。

Ray Kurzweil： それは後に来ました。彼の貢献は、バックプロパゲーションの計算方法、つまりそれらを大規模言語モデルに適用する方法でした。彼はGoogleにいました。我々はその概念を持っていました。大規模言語モデルは約4年前まで現れませんでした。4年前に、それらはいくつかの兆候を示し始めましたが、エラーに満ちており、あまり正確ではありませんでした。

したがって、我々はこの4年間で途方もない進歩を遂げました。

3.4 パーセプトロン問題と30年間の資金調達停滞

Ray Kurzweil： 彼はSeymour Papertと共に「Perceptrons」という本を書きました。これは最初の人気のあるニューラルネットワークでした。彼は、ニューラルネットワークが二つの画像が互いに触れ合っているかどうかを判別できないことを証明しました。この画像のように、これは触れていません。これは接続されていません。これは接続されています。その違いを判別できませんでした。

そしてこれがニューラルネットワークに対するすべての資金調達を約30年間完全に停止させました。

Jeffrey Sachs： 私の神よ、つまりあなたがMITに着いた時、これは主流ではなかったということですね。

Ray Kurzweil： しかし、私は実際に興味を持っていました。そして私は実際にRosenblattに会いに行きました。彼はパーセプトロンの背後にいる人物でした。

彼は、確かに単層ニューラルネットワークであるパーセプトロンは、図形が接続されているかどうかを判別できないが、複数層を持てば判別できると考えていました。現在我々は100層以上のものを持っており、それは明らかにそれを行うことができます。したがって、その本は実際には正確ではありませんでした。

Rosenblattはマルチレイヤーニューラルネットワークの作成を実際に開始しましたが、彼は9年後の1971年に亡くなりました。マルチレイヤーニューラルネットワークは、その約10年から20年後まで実現しませんでした。

4. 指数関数的成長の実証

4.1 1939年から2024年までの計算能力の変遷

Ray Kurzweil： 私がどのように予測を行うかをお見せできます。計算チャートを出しましょう。これは1939年まで遡ります。最初のコンピューターはZeus 2でした。それはヒトラーに見せられました。彼はドイツ人でしたが、実際には反ナチでした。しかし、それはヒトラーに見せられました。ヒトラーはそれに何の価値も見出しませんでした。これは彼が犯した大きな間違いの一つでした。

この図の3番目のコンピューターはTuringによって作られました。Churchillがそれを支援し、彼らはそのコンピューターでナチのエラーメッセージを解読することができました。

とにかく、1939年のコンピューターは定価ドルあたり毎秒0.00007回の計算を行いました。右上角の2024年では、Nvidia B200チップが定価ドルあたり毎秒5000億回の計算を行いました。これは指数関数グラフなので、直線は指数関数的成長を意味します。

これは85年間でハードウェアの性能が75,000兆倍増加したことを示しています。定価ドルあたりの計算の価格性能は、1939年以来18ヶ月ごとに倍増してきました。75,000兆倍の増加です。

実際の増加は、実際にはハードウェアの増加（85年間で75,000兆倍）かけるソフトウェアの増加で、これは何をするかによりますが、時には100万倍になることもあります。つまり、同じ価格で75百万×1,000兆倍の増加があり得るのです。だからこそ、我々は1939年に大規模言語モデルを持っていなかったし、4年前でさえ持っていませんでした。大規模言語モデルと呼ばれるものはありましたが、あまりうまく機能しませんでした。

4.2 75兆倍の性能向上（85年間）

Ray Kurzweil： これは85年間でハードウェアの性能が75,000兆倍増加したことを示しています。定価ドルあたりの計算の価格性能は、1939年以来18ヶ月ごとに倍増してきました。75,000兆倍の増加です。

実際の増加は、実際にはハードウェアの増加（85年間で75,000兆倍）かけるソフトウェアの増加で、これは何をするかによりますが、時には100万倍になることもあります。つまり、同じ価格で75百万×1,000兆倍の増加があり得るのです。

だからこそ、我々は1939年に大規模言語モデルを持っていなかったし、4年前でさえ持っていませんでした。大規模言語モデルと呼ばれるものはありましたが、あまりうまく機能しませんでした。

そして進歩は非常に素晴らしいのです。6ヶ月が過ぎるごとに、それは完全に新しい世界になります。そしてそれは継続し、続いていくでしょう。

4.3 ハードウェアとソフトウェアの複合的進歩

Ray Kurzweil： 実際の増加は、実際にはハードウェアの増加（85年間で75,000兆倍）かけるソフトウェアの増加で、これは何をするかによりますが、時には100万倍になることもあります。つまり、同じ価格で75百万×1,000兆倍の増加があり得るのです。

だからこそ、我々は1939年に大規模言語モデルを持っていなかったし、4年前でさえ持っていませんでした。大規模言語モデルと呼ばれるものはありましたが、あまりうまく機能しませんでした。

そのプロットは、異なるタイプの技術を通り抜けています。電気機械リレーから始まり、真空管、ディスクリート・トランジスター、そして最終的に集積回路です。ムーアの法則は集積回路のみを扱っているので、これははるかに広範囲の概念です。

私は約25年前にこのグラフの約半分を持っていて、それが継続すると感じ、それが継続するだろうと思いました。ですから、私はこれを実際のデータに基づいていました。他の人々は基本的に、まあ約100年かかるだろうと言っていました。

4.4 大規模言語モデルの急速な発展（直近4年間）

Ray Kurzweil： 大規模言語モデルは約4年前まで現れませんでした。4年前に、それらはいくつかの兆候を示し始めましたが、エラーに満ちており、あまり正確ではありませんでした。したがって、我々はこの4年間で途方もない進歩を遂げました。

そして進歩は非常に素晴らしいのです。6ヶ月が過ぎるごとに、それは完全に新しい世界になります。そしてそれは継続し、続いていくでしょう。

だからこそ、我々は1939年に大規模言語モデルを持っていなかったし、4年前でさえ持っていませんでした。大規模言語モデルと呼ばれるものはありましたが、あまりうまく機能しませんでした。

5. 予測の検証と専門家の見解

5.1 1999年「The Age of Spiritual Machines」での30年予測

Jeffrey Sachs： 2005年にあなたがこの曲線を外挿していたと単純化して言うのは公平でしょうか？

Ray Kurzweil： 1999年に私は「The Age of Spiritual Machines」を書き、30年後の2029年までに、AGIを行うのに十分な力を持つだろうと予測しました。

Stanfordはこれに警戒し、私の予測に対処するための会議を組織しました。私の予測が正確だったことが十分にあったため、彼らはこの会議を開きました。数百人のAI専門家が集まり、彼らは私に同意しました。それは起こるだろうと。しかし、30年以内ではないと。彼らは100年かかるだろうというのがコンセンサスでした。1世紀です。

そして、それはHintonやそこにいた他の人々も同様でした。彼らは100年と言っていました。30年で起こると言ったのは私だけでした。

5.2 Stanford会議での専門家との意見対立（30年 vs 100年予測）

Ray Kurzweil： Stanfordはこれに警戒し、私の予測に対処するための会議を組織しました。私の予測が正確だったことが十分にあったため、彼らはこの会議を開きました。数百人のAI専門家が集まり、彼らは私に同意しました。それは起こるだろうと。しかし、30年以内ではないと。彼らは100年かかるだろうというのがコンセンサスでした。1世紀です。

そして、それはHintonやそこにいた他の人々も同様でした。彼らは100年と言っていました。30年で起こると言ったのは私だけでした。

5.3 指数関数的成長の理解度の差

Jeffrey Sachs： 彼らは指数関数的成長を理解していましたか？

Ray Kurzweil： ある程度、彼らは実際にはそれをプロットしていませんでした。指数関数的成長は本当に非常に素晴らしいものです。線形に30ステップ進むと30に到達します。指数関数的に30ステップ進むと、2、4、8、16で10億に到達します。それが我々が成し遂げた種類の進歩です。

また、そのプロットは、異なるタイプの技術を通り抜けています。電気機械リレーから始まり、真空管、ディスクリート・トランジスター、そして最終的に集積回路です。ムーアの法則は集積回路のみを扱っているので、これははるかに広範囲の概念です。

私は約25年前にこのグラフの約半分を持っていて、それが継続すると感じ、それが継続するだろうと思いました。ですから、私はこれを実際のデータに基づいていました。他の人々は基本的に、まあ約100年かかるだろうと言っていました。

6. チューリングテストとAGIの評価

6.1 チューリングテストの定義と限界

Jeffrey Sachs： チューリングテストについて一つ質問があります。これは私には少し困惑するところがあります。なぜなら、あまり直感的ではないからです。チューリングはいくつかの点で、全体の話の父または父親でした。彼はAGIのようなもののテストを提案しました。いわゆるチューリングテストです。これは実際にかなり彼は指数関数的に考えていました。彼は2000年までにそれが起こると思っていました。

Ray Kurzweil： そうですね、そうです。私はそれを知りませんでした。彼の論文は1952年のものでした。つまり約半世紀ですね。1950年代中頃から2000年という視点を考えると、彼はほぼ正しかったのです。

Jeffrey Sachs： 私の質問は、チューリングテストについてです。もしそれを説明していただけるなら、それが本当に何を意味するのか。私にとって、それはAGIの尺度として簡単すぎるように思えます。それは非常に巧妙な部分の尺度ですが、なぜ、それは彼がそこに投げ出したものなのか、それともあなたはそれを我々がどこにいるかを評価する素晴らしい方法だと考えるのか。そして皆さんにそれが何を意味するのかを説明していただけますか？

Ray Kurzweil： 私はMitch Kaporと、我々が2029年までに洗練されたチューリングテストの形式を通過するだろうという賭けをしています。それは実際にAGIと同じくらい困難です。本当に人間にマッチし、すべてのコンテキストを得て、あなたが一時停止するときと話し手として説得力があるときを理解することです。

チューリングテストとは何かを皆さんに説明しましょう。あなたには強化されていない人間の審査員がいます。彼らはコンピューターと人間の両方が質問に答えるのを見ています。基本的に、あなたと私が今しているような会話をすることができます。コンピューターと人間の両方とですが、それはテレタイプ回線を通じてなので、実際に彼らが人間のように見えるかどうかは判断できません。

我々はかなり近づいています。ところで、人々はすでにGPT-4を使ってチューリングテストに合格しています。彼は実際にそれをあまりよく定義していませんでした。それはエッセイの1ページほどです。そしてそれを解釈する異なる方法があります。

私は、人々がチューリングテストを通過したと信頼性を持って主張し始めるが、私を含めて誰もがそれを受け入れるわけではない5年間の期間があると感じました。私は今日それを本当に受け入れていません。2029年までにそれを予想しています。もっと早く起こるかもしれません。しかし、それは人が一時停止するさまざまな種類の期間をすべて取得し、彼らが本当に人間であることを人々に納得させようとする必要があります。我々はそれに非常に近いですが、まだ完全にはそこにいません。

6.2 2029年までの高度なチューリングテスト合格予測

Ray Kurzweil： 私はMitch Kaporと、我々が2029年までに洗練されたチューリングテストの形式を通過するだろうという賭けをしています。それは実際にAGIと同じくらい困難です。本当に人間にマッチし、すべてのコンテキストを得て、あなたが一時停止するときと話し手として説得力があるときを理解することです。

私は、人々がチューリングテストを通過したと信頼性を持って主張し始めるが、私を含めて誰もがそれを受け入れるわけではない5年間の期間があると感じました。私は今日それを本当に受け入れていません。2029年までにそれを予想しています。もっと早く起こるかもしれません。

しかし、それは人が一時停止するさまざまな種類の期間をすべて取得し、彼らが本当に人間であることを人々に納得させようとする必要があります。我々はそれに非常に近いですが、まだ完全にはそこにいません。

6.3 現在のGPT-4の能力評価

Ray Kurzweil： 我々はかなり近づいています。ところで、人々はすでにGPT-4を使ってチューリングテストに合格しています。

彼は実際にそれをあまりよく定義していませんでした。それはエッセイの1ページほどです。そしてそれを解釈する異なる方法があります。私は、人々がチューリングテストを通過したと信頼性を持って主張し始めるが、私を含めて誰もがそれを受け入れるわけではない5年間の期間があると感じました。私は今日それを本当に受け入れていません。

我々はそれに非常に近いですが、まだ完全にはそこにいません。

7. 現在のAI能力と驚きの実例

7.1 大学院レベルの数学問題解決能力

Ray Kurzweil： 今現在、あなたは大規模言語モデルにほとんど何でも答えてもらうことができます。まだ完全にそこにはいませんが、最近、例えば高等数学問題の解決において突破口がありました。実際に、私は今、数学の大学院生レベルで数学を行うことができます。

数学の大学院レベルの質問に答えることができる人がどれくらいいるでしょうか？しかし、非常に少数の人しかそれを行うことができませんし、彼らは実際に成功することができます。それは、これまで生きてきた最高の数学者ほど良くはありませんが、そこに到達するでしょう。実際、それはAGI後のことです。

実際に、私は一昨日、ある女性と話しました。彼女は自分の分野の2冊の本を比較するのに4日間を費やしました。両方の本を読み、それらを比較し、再度検討しようとしました。そして彼女は、AIに何をするか尋ねてみることにしました。彼女が4日かけて行った作業を、AIは40秒で、しかも彼女より良い仕事をしました。

人々は、AIが実際に誰にでもできることを本当にできることを発見しています。なぜなら、AIは100万冊の本を読んでいるからです。それは彼女が分野外ではできないような比較をすることができます。すでにAIは人々にできないことをすることができます。

私は大規模言語モデルは大規模イベントモデルと呼ばれるべきだと信じています。なぜなら、彼らは言語以上のものを扱うからです。例えば、我々はロボットを制御するのに同じアイデアを使いますが、彼らは言語を扱っているのではありません。彼らはロボットの動きを扱っています。

8. ロボティクスと物理的AI

Jeffrey Sachs： Ray、我々が今いる地点を考えると、次の大きなことはヒューマノイドロボットなのでしょうか、それとも次の大きなことはAIがものを行う力のさらなる突破口なのでしょうか、それともすべてが含まれるのでしょうか？

Ray Kurzweil： そうですね、右右右右今現在、あなたは大規模言語モデルにほとんど何でも答えてもらうことができます。まだ完全にそこにはいませんが、最近、例えば高等数学問題の解決において突破口がありました。実際に、私は今、数学の大学院生レベルで数学を行うことができます。数学の大学院レベルの質問に答えることができる人がどれくらいいるでしょうか？しかし、非常に少数の人しかそれを行うことができませんし、彼らは実際に成功することができます。それは、これまで生きてきた最高の数学者ほど良くはありませんが、そこに到達するでしょう。実際、それはAGI後のことです。

私は大規模言語モデルは大規模イベントモデルと呼ばれるべきだと信じています。なぜなら、彼らは言語以上のものを扱うからです。例えば、我々はロボットを制御するのに同じアイデアを使いますが、彼らは言語を扱っているのではありません。彼らはロボットの動きを扱っています。

そして、それが実現しています。つまり、多くの人々がヒューマノイドロボットを作成しています。そして彼らは実際にかなり印象的なことをすることができます。彼らは実際にそれらを手頃な価格にすることができます。

彼らは実際に、例えばあなたのキッチンテーブルを片付けることができます。これは実際にそれほど簡単ではありません。何が冷蔵庫に入るのか、何がゴミ箱に入るのかを正確に決める必要があり、それを知的に処理する必要があります。我々はそれを行うことができます。

それが次の数年のうちに実現する予定です。

9. 人間の知能とAIの比較分析

Jeffrey Sachs： Ray、あなたは「How to Create a Mind」という本を書かれました。人間の思考の秘密を明かすという内容でした。これらの大規模言語モデルや一般的な深層ニューラルネットワークの能力が、我々自身の知能について何を教えてくれるのかについて、あなたの考えを聞かせてください。それらは最終的に我々の知能の類似物なのでしょうか、それとも我々そのものなのでしょうか？

Ray Kurzweil： それは同じものです。ただし、少し異なって組織されています。我々は約100億のニューロンを持っています。各ニューロンは約1000の接続を持っています。それをシミュレートするためには、毎秒約1兆回の計算を行う必要があります。それが我々が到達しつつある水準です。Nvidiaのチップは現在、定価ドルあたり毎秒5000億回の計算を行っています。現在出てきているものは兆単位なので、人間の知能をエミュレートするのに適したハードウェア能力を持っています。

しかし、実際には我々の知能の多くは実際に使われていません。その一部は我々の臓器をコントロールするなどに使われています。ですから、AGIに到達する時までには、実際にははるかに知的になるでしょう。すべての人間ができることを行うことができ、いかなる人間もそれを行うことはできません。つまり、アインシュタインは物理学で偉大な思考を考えることができましたが、実際にバイオリンも演奏しましたが、あまり上手なバイオリニストではありませんでした。ですから、我々は今日誰でもができるすべてのことを行うことができ、それを超えることができるでしょう。

そして我々は創造性のためにそれを使っています。

10. 医療・創薬分野での革命的進歩

Ray Kurzweil： 例えば、医学において、我々は実際にあらゆる異なる可能性を試し、それをテストすることができます。Modernaは実際にCOVIDの原因となり得る数十億の異なる計算を行い、異なるAI技術を使用して、2日間でCOVIDワクチンを解決することができました。これは以前は数年かかっていました。そして我々はその後10ヶ月をただそれを証明することに費やしましたが、実際には2日間で完了していたのです。

そして我々はそれを超えました。Alpha Fold 2は2022年に2億のタンパク質の形状を発見しました。それ以前の歴史を通じて、人間はこれを試み、我々は約20万のタンパク質しか行うことができませんでした。つまり、これは1年で1000倍でした。

そして我々はそれを超えました。Alpha Proteoは以前には存在しなかった新しいタンパク質を設計することができ、標的タンパク質に結合することができます。

我々は大学を持つ友人がいて、彼らはほとんどの職業的キャリアを一つのタンパク質に費やしてそれがどのように折り畳まれるかを理解しようとしました。そして今、これは行われています。

11. 創造性とAIの融合

Jeffrey Sachs： 私はかつて元世界チェス王者のGarry Kasparovに、Alpha Go ZeroのチェスバージョンであるAlpha Zeroと対戦したことがあるかどうか尋ねました。彼は謙虚な人ではありません。彼は非常に良い人ですが、チェスについての謙虚さは彼の特徴の一つではありません。当然ながら、彼は世界最高だったからです。

彼は私に言いました。「対戦する意味がない。私は毎回負けるだろう。それは私がクラブでプレイするのと同じようなものだ。つまり、その格差は非常に大きい。」

Ray Kurzweil： しかし、これはAIを我々とは異なるものとして考えることです。私がプレイし、Alpha Go Zeroがプレイし、それは私対AIです。しかし、私たちはそれを我々自身の中に取り込むつもりです。それは我々の能力の一部になるでしょう。そしてそれが大きな変化になるでしょう。

そして我々は創造性のためにそれを使っています。つまり、それは私たち対AIではありません。AIは私たちの思考の一部になるでしょう。私たちは、思考が自然な知能から来るのか人工知能から来るのかを区別することすらできなくなるでしょう。明らかに人工知能が支配的になりますが、私たちは自然な知能を取り除くわけではありません。つまり、それは融合になるのです。

我々は常に技術を使ってきました。それは我々自身をより豊かにしました。私は書籍を読むことができました。それは遅かったですが、実際に書籍の中であなたの思考を吸収することができました。そして私はそれを表現することができます。これははるかに直接的です。それは実際に私の脳に現れるでしょう。

12. 労働と経済の未来像

Jeffrey Sachs： そして、私がAIに向けるなら、一つのバージョンは本質的に機械がすべてを行い、ロボットがすべてを行い、我々は我々がやりたいことを行うでしょう。余暇時間、文化、人間的な部分が何であれ。それがあなたの考えですか、それともあなたは何か少し異なることを表現していますか？これは機械対人々ではなく、我々すべてですが、我々は異なる方法で何をしているかを行うつもりです。我々は何をするつもりですか？

Ray Kurzweil： AIは再び我々とは異なるものです。彼らがすべての仕事をして、我々には何もすることがないと考えることは、我々をAIとは異なるものと考えることです。しかし、AIは火星から来た異星人の知的機械の侵入ではありません。我々がそれらを作ったのです。そしてそれは人間の思考を持っています。我々はそれを使う方法を見つけているだけです。つまり、我々は書籍でそれを行いました。つまり、私は書籍を読むことができ、それは遅かったですが、実際に書籍の中であなたの思考を吸収することができました。そして私はそれを表現することができます。これははるかに直接的です。それは実際に私の脳に現れるでしょう。しかし、それが我々が向かっているところです。

つまり、それは我々対AIではないでしょう。AIは人間から来ており、それは我々をより知的にするでしょう。最終的には100万倍より知的にするでしょう。そしてそれはわずか20年先のことです。しかし、我々はそれについて興奮するでしょう。我々が自分自身の思考について考えるのと同じように。

Jeffrey Sachs： このすべての能力と我々が今しないことで、我々は何をするつもりだと思いますか？

Ray Kurzweil： 一つのことは、私が長い間指摘してきた一つのポイントです。これは正しいと思います。過去の自動化、例えば我々が話している基本的な形の自動化は、実際には仕事を排除しなかったと言われてきました。それは単に異なる種類の仕事と異なる種類のスキルにつながっただけです。事実は、我々が仕事と呼ぶものの多くを実際に排除したということです。直接的に報酬を得ない家事であろうと、職場での仕事であろうと、人々が実際に仕事に費やす時間は著しく減少しました。

実際には余暇時間は何かを意味しており、平均的なアメリカ人は1日約3時間15分働いて、この非常に豊かな経済を支えています。我々は時間をどう使うのでしょうか？

Jeffrey Sachs： どのような形であれ、何をするかは我々がやってきたことを見ることができます。

Ray Kurzweil： 我々の過去を見ると、1800年には我々の努力の80%が食料を作ることでした。今では1.4%です。それでも我々はより多くの人々が働いており、100年前の10倍の収入を得ています。

つまり、それはすべてのことに影響するでしょう。我々は新しい病気の治療法、新しい音楽、新しい芸術、新しい小説を思いつくでしょう。我々は好きなポップスターのように歌うことができるでしょう。つまり、人間が今できるすべてのことを通り抜けて、我々はAIを使って自分自身を向上させることで、すべてをより良く行うことができるでしょう。

13. 寿命延長と健康革命

Ray Kurzweil： 例えば、寿命を取り上げてみましょう。現在、一年が過ぎると一年分の寿命を使い果たすので、一歳年を取ります。しかし、科学的進歩も進歩しており、新しい治療法や病気を治療する新しい方法が生まれています。現在、あなたが勤勉であれば（私は確実に我々両方とも勤勉だと思いますが）、約4ヶ月取り戻すことができます。つまり、実際には8ヶ月しか年を取らないのです。一年失うが、科学的進歩から4ヶ月取り戻すのです。

しかし、科学的進歩は指数関数的に進歩しています。それはより速く、より速くなっています。約7年後、2032年頃には、完全な一年を取り戻すことになるでしょう。つまり、一年失うが完全な一年を取り戻すので、実際にはその時点を過ぎて年を取らないのです。その時点を過ぎると、実際に一年以上を取り戻すことになるでしょう。

つまり、老化で死ぬことはないということです。死なないという意味ではありません。明日事故に遭う可能性もありますが、我々は事故においても進歩を遂げています。例えば、自動運転車は事実上事故がありません。すべての運転を自動運転車に変換すれば、米国で毎年失う4万人の運転事故による死者数はゼロに近くなるでしょう。

Jeffrey Sachs： 興味深いことに、もちろんこれは日常生活の話ですが、自動運転車で一つの事故があると、訴訟やスキャンダルなどが起こります。一方で、おばあちゃんや他の人々が車で物にぶつかるなどの何千もの人的エラーがあっても、それは標準的なことでニュースになりません。

Ray Kurzweil： 10代の若者が外出したり、酔っ払いが運転したりなど。

Jeffrey Sachs： しかし、はい、そして彼らはそれを非常に意識しているので、一つの事故でも多くの宣伝を生み出すので、彼らは本当にそれをほぼ完璧にしようとしています。

Ray Kurzweil： サンフランシスコでWhimoの車を運転すれば、これまでのところ事故は全くありません。そしてあなたはそれらをどこでも見かけます。

Jeffrey Sachs： そうですね、事故はゼロですか？Whimoからは事故がないのですね。

Ray Kurzweil： はい、これまでのところそうです。

14. 脳とAIの物理的融合技術

Ray Kurzweil： それは実際に私たちの脳の一部になるでしょう。私たちはバーチャルリアリティに移行し、これを持ち歩く代わりに、それが私たちの眼鏡の中に入るでしょう。

Jeffrey Sachs： Ray、それはすでに私たちの一部であり、手に持っていないとき、私は実際に神経質になると感じていると思います。

Ray Kurzweil： 絶対にそうです。これなしには外出できません。それは本当に私たちの脳の一部です。すべてのことに使います。しかし、それはさらにそうなるでしょう。

次の段階は、バーチャルリアリティになるでしょう。数社がこれを試していますが、まだ完全にそこに到達していません。しかし、数年以内に、これを持ち歩く必要を置き換えるだろうと思います。これは不便だからです。つまり、何回これを失くしたことがありますか？「一体私の電話はどこにあるんだ？」というのは。

それは常にあなたと一緒にいるでしょう。それは実際に私たちの大脳新皮質で何が起こっているかを教えることができるでしょう。大脳新皮質全体とインターフェースする必要はありません。大脳新皮質はピラミッドのようなものです。一番上には重要なアイデアがあります。そこが接続する必要がある場所です。

現在は手術でそれを行うことができますが、手術なしでそれを行うことができるでしょう。血流を通じて大脳新皮質を感知できるものを送ることによって。それについての実験がありますが、それは2030年代に起こるでしょう。

つまり、我々は実際にそれと融合するでしょう。我々はすべてのAIを自分たちと一緒に持ち歩くわけではありません。それは最寄りのクラウドに行くでしょう。つまり、これは実際にはクラウドとインターフェースしなければそれほど知的ではありません。そこですべての知能を得ているのです。そして、クラウドは実際に非常に安全にすることができます。我々は事実上破ることのできない暗号化を使用しています。

つまり、あなたの思考は実際にクラウドに行くでしょう。そこにAIがあるでしょう。それはあなたの心の中にあるかのようになるでしょう。しかし、あなたはクラウドを通じてそれに接続するでしょう。そして、クラウドは今日よりもはるかに洗練されるでしょう。それはそれほど頻繁にダウンしませんし、その他もろもろです。

15. 社会保障と格差問題

Jeffrey Sachs： Ray、あなたは長年にわたって支持してきたと思いますが、間違った言葉を口にしたくないのですが、我々が非常に効率的で熟練するようになるので、皆を一緒に連れて行くことができるという考えを支持してきました。ユニバーサルベーシックインカムと基本的な基準があるべきだと。これは経済学者として私には完全に理にかなっています。私はそれに同意します。

しかし、それは我々が今進んでいる方向ではありません。どういうわけか、現在そのような議論さえないようです。我々は異なる方向に進んでおり、少し個人的ではありませんが、半個人的に言うと、シリコンバレーはリバタリアンによって率いられているようで、彼らは皆を連れて行くことについて何も望んでいないと言っています。あなたは自分自身でやっていけばいいし、それでうまくいくでしょう、と。この話のその部分をどう思いますか？

Ray Kurzweil： 経済学を見ると、リベラル派はもう少し進歩的になりたがり、保守派はそれほど進歩的になりたがりませんが、実際に見てみると、政治を担当している人や組織がリベラルか保守かは実際には重要ではないようです。100年前を見ると、政府から絶対に何も得ていませんでした。社会保障は1935年に導入されました。そして、それは今日の社会保障と比較して実際に非常に少ないものでした。今日我々は政府から100万のものを持っています。それを少し戻そうとしますが、それは実際には重要ではありません。

何が手頃であるかを見ると、担当者の経済学に関係なく、それは進んでいきます。そして、我々は何らかの方法でお金を提供しなければならなくなるでしょう。さもなければ、我々は市場を持たなくなり、それは経済学にとって非常に良くありません。

Jeffrey Sachs： あなたの同僚たちがカリフォルニアにいるなら、これが現実だと伝えることができますか？

Ray Kurzweil： それは関係なく起こるでしょう。

Jeffrey Sachs： うん。私は同意します、あなただけでなく。

16. 測定システムの限界と無料サービス

Jeffrey Sachs： ところで、私は我々がすべてを間違って測定していることに同意します。我々は無料の商品やサービスを測定していません。地図を見たり、友人をすぐに見つけたりするたびに、これは測定不可能で不可能だったものですが、我々の国民経済計算やGDPや消費者物価指数には全く反映されていません。

Ray Kurzweil： はい、そして我々は価格について、我々はインフレについて話しますが、物事は劇的に下がっています。そして、それは我々が行っているすべてのことに影響するでしょう。そして、我々が進歩するにつれて、我々ははるかに賢くなるでしょう。

今、あなたは20ドル未満で腕時計を手に入れることができます。それは一年前に持つことができた以上の能力をあなたに与えます。つまり、この携帯電話は、1960年代にそれが持つ計算を生成するために数十億ドルがかかったでしょう。1980年代には数百万ドルでした。しかし、それは数百ドルかかります。

そして誰もがそれを持っています。そしてそれは15年前には真実ではありませんでした。

17. 恐怖vs楽観論の検討

Jeffrey Sachs： 私が理解していないのは、なぜ我々が今、ある意味で豊かさの感覚ではなく、ほとんどパニックの感覚に包まれているのかということです。つまり、我々には想像もできなかった能力があります。すべての子供が学校に通うことができ、誰もが医療を受けることができます。それでも、我々は豊かさではなく、ほとんどパニックの感覚に包まれているようです。なぜそう感じるのでしょうか？

Ray Kurzweil： ところで、つまり、それは物事を見る二つの異なるレベルです。人々が感じるパニックの種類は実際には現実的ではありません。つまり、80年前の自分たちと比較してみてください。我々は1億人が殺されました。つまり、我々は今、数千人の人々が殺される戦争について心配しており、それは恐ろしいことで、私はそれが起こるのを見たくありません。しかし、80年前と比較してください。我々は文字通りヨーロッパとアジアで1億人がその命を失い、さらに多くの人が負傷しました。

我々はもはやそのような問題を抱えていません。そして、私がAGIに向けるなら、例えばElonや他の人々から聞くことがあります。これらのことで多くの信頼性を持つ人々ですが、これは恐ろしい、これは世界の終わりだ、これは世界を終わらせる可能性がある、多くのディストピア的な話があります。彼らのディストピアが正確に何なのかについてはあまり明確性がありません。それは暴走する機械なのか、自律兵器なのか、機械が第三次世界大戦を開始するのか、それとも何か他のことなのか。あなたはそのような、本当の恐怖のように見えるものをどう思いますか？

Jeffrey Sachs： まあ、AIについて。あなたは小学校時代に覚えているかもしれませんが、我々はこれらの核戦争防護を行いました。我々は机の下に入り、頭の後ろに手を置いて核戦争から身を守りました。それは効果があったようです。我々は核戦争で爆破されませんでした。

実際、もしあなたが我々が怒りで使用した2つの原子爆弾の後で人々に尋ねたなら、我々が次の80年間これが再び起こることなく過ごす可能性は何かと、人々はゼロと言ったでしょう。それは二度と起こりませんでした。そして実際に、核戦争を担当している人々は、それに熱心ではありませんでした。

それでも我々はその問題から自由ではありません。そして、はい、あなたはディストピア的な方法で進歩するAIを想像することができます。しかし、これまでのところ、それは実際に有益でした。AIのクローンは人間のふりをすることができ、あなたは本当にそれについて確信が持てないという問題があります。つまり、我々が対処しなければならない問題があります。AIから我々を守るAIの能力も進歩しています。

18. AIの安全性と規制

Jeffrey Sachs： 右に進むコースを維持するために、今起こっていないことで、我々の友人David Sachsに現在ホワイトハウスで何をすべきかを伝えることはありますか？

Ray Kurzweil： つまり、私は大企業の多大な責任があると思います。彼らは評判と同様に責任について非常に、非常に注意深いです。AIは何についてもあなたにアドバイスすることができるので、彼らは問題になることが判明した場合、このような病気があるので、これを取るべきだと言って、実際に非常に責任感のある助言を与えるように動機づけられています。

すべてが完璧だという意味ではありませんが、つまりあなたはそれを使っています。それは実際にかなり良いです。そして我々はそれが有益だからそれを使っています。そしてそれはさらに有益になるでしょう。

そして、私はそれが良い方向に進んでいると喜んでいます。まず第一に、我々には競争があります。市場に影響を与えることができるものを出すことができる多くの異なる企業があります。

私は実際に大企業から、そして多くの企業がこれを進歩させているので、そのような企業からAIを使いたいと思います。つまり、私はそれが有益だと思います。

オンライン情報の信頼性について多くの問題があります。私はこの多くがソーシャルネットワークから来ると思います。ソーシャルネットワークは素晴らしいと思いますが、それは実際に強化されていない人々によって作成され、すべてが非常に信頼できるとは限りません。より多くの人々が実際にAIに耳を傾けており、それは実際に有益です。なぜなら、AIは実際にソーシャルネットワークよりも信頼できるからです。ところで、それはあなたに議論の両側を与えます。それはそれを説明し、あなたに証拠のリストも与えることができます。

Jeffrey Sachs： 証拠の引用も含めて。

Ray Kurzweil： はい、私は非常に役立つと思います。

19. 意識と哲学的考察

Jeffrey Sachs： 最後に一つの質問で終わりたいと思います。私はあなたの答えを知っているかもしれませんが、あなたが書いてきたことと一貫しているからです。AGIを持つとき、またはAGI plusを持つとき、我々は機械意識を持つでしょうか？そしてそれは根本的に倫理的な方法で我々にとって違いをもたらすでしょうか？

Ray Kurzweil： つまり、それは哲学的な質問です。それが実際の質問ではないというわけではありませんが、それに答える科学的な方法はありません。私はあなたが意識を持っていると信じています。すべての人間が意識を持っているように見えるわけではありませんが、もし彼らが私との議論に参加しているなら、私は彼らが意識を持っていると信じています。

我々は今、機械でそれを行うことができます。彼らは意識を持っているのでしょうか？それは本当に言うのが難しいです。人々は「いいえ」と言う傾向がありますが、実際にそれを治療士などとして使用し、それは始まったばかりで、将来的にはさらにそうなるでしょう。

つまり、私は彼らが意識を持つと思いますが、実際にそれを科学的に証明する方法はありません。我々は共有された人間の経験の外に出ます。例えば、動物の権利について、動物は意識を持っているのでしょうか？私は私の猫が意識を持っていると信じていますが、誰もがそれに同意するわけではありません。私は彼らが実際に私の猫に会ったことがないと思いますが。

しかし、私は彼らが意識を持つと思いますが、それは本当に哲学的な問題です。そして我々は他の人々と話すでしょう。彼らの知能の一部はAIになるでしょう。そして我々は違いを見分けることができなくなるでしょう。つまり、我々は彼らが意識を持っていることを受け入れるでしょう。

Jeffrey Sachs： 私は猫があなたの猫を認めるに違いないと推測します。

Ray Kurzweil： 私の推測でもあります。

20. 結論と展望

Jeffrey Sachs： Ray、どうもありがとうございました。多くの本が出版されることを知っています。その中の一つは「The Singularity is Here」と呼ばれるでしょう。おそらく2029年、あるいはさらに早いかもしれません。それは我々がすぐに読むことになる本です。あなたの驚くべきビジョンと、我々が前進するのを助けてくれることに感謝します。あなたとお話しできて光栄でした。

Ray Kurzweil： Jeff、お話しできて光栄でした。本当に感謝しています。

Jeffrey Sachs： 我々は驚くべきRay Kurzweilと彼の著書「The Singularity is Nearer: When We Merge with AI」について話してきました。AIと融合して我々自身の知能と我々の種の知能を強化するというテーマが、Ray Kurzweilのビジョンの基盤となっています。あなたはBook Club with Jeffrey SachsでのRay Kurzweilとの対話を聞いてきました。Ray、再び我々と一緒にいてくれてありがとう。またすぐにお会いできることを願っています。

Ray Kurzweil： ありがとう、光栄でした。