※本記事は、2024年5月1日にハーバード大学メモリアルチャーチにて開催された、OpenAI CEOのSam Altman氏とXfundのマネージング・ジェネラル・パートナーであるPatrick Chung氏（ハーバード大学JD/MBA）によるファイアサイドチャットの内容を基に作成されています。

このイベントは、ハーバード・ビジネス・スクール・グローバル社会ビジネス研究所（BiGS）、ハーバード大学ジョン・A・ポールソン工学応用科学大学院、ハーバード・ケネディ・スクール、およびXfundの共催により実施されました。公開されている動画は以下のURLからご覧いただけます： https://www.youtube.com/watch?v=FVRHTWWEIz4

本記事では、約1時間のファイアサイドチャットの内容を要約しております。なお、本記事の内容は原著作者の見解を正確に反映するよう努めていますが、要約や解釈による誤りがある可能性もありますので、正確な情報や文脈については、オリジナルの動画をご覧いただくことをお勧めいたします。

本記事で取り上げた内容は、OpenAIの設立背景、AI開発における意思決定、AGIの将来像、社会的影響と課題など、多岐にわたるトピックを含んでいます。これらの見解は講演時点でのものであり、急速に進展するAI技術の性質上、最新の状況とは異なる可能性があることにご留意ください。

1. イントロダクションと経歴

1.1. 高校時代の経験とスタンフォード大学選択

Patrick：Sam、私たちは約20年の付き合いになりますが、高校時代のあなたについて聞かせていただけますか？

Sam：正直に言って、私は典型的なコンピュータオタクでした。家でコンピュータに向かっているのが日常でした。当時使っていたのは数世代目のiMacで、単にゲームをするだけでなく、プログラミングを学ぼうとしていました。

Patrick：典型的なアメリカの高校映画にあるような、ジョックやオタクなどのクリークの中で、あなたはどこに属していましたか？

Sam：確かにオタク側でしたね。でも、スポーツも好きでした。水球を中心にやっていて、それが私の主な活動でした。水泳とフェンシングもやっていました。実は水泳は強制的にやらされていたんですが（笑）。

Patrick：高校時代の不安や心配事はありましたか？

Sam：今のように人類の運命を心配するようなことはなく、ただの高校生として日々を楽しんでいました。その後、スタンフォードとハーバードに合格しましたが、スタンフォードを選んだのは完全にデフォルトの選択でした。大学に行かないという選択肢は考えもしませんでした。コンピュータサイエンスを学びたかったので、スタンフォードに行き、そこが最高の場所だと感じました。特にコンピュータサイエンス学部は、私が一緒にいたいと思う人々が集まっている場所でした。

このように、Sam Altmanの高校時代は、コンピュータへの強い興味とスポーツ活動のバランスが取れた生活を送っていたことが分かります。スタンフォード大学の選択は、彼のコンピュータサイエンスへの情熱と、その分野における同じ志を持つ仲間との出会いを求めた結果でした。

1.2. スタンフォードでのコンピュータサイエンスと初期AI研究

Patrick：スタンフォードでの学生生活について、もう少し詳しく聞かせてください。コンピュータサイエンス以外の科目も履修されたと聞いていますが。

Sam：そうですね。確かにCSの授業は取っていましたが、なぜか他の科目も多く履修することにしました。振り返ってみると、その時は気づきませんでしたが、それらの科目が後々とても役立ちました。科学の授業を取ることは素晴らしい経験でしたし、特に創作文の授業も素晴らしかったです。

Patrick：創作文ですか？それは興味深いですね。現在の仕事に何か影響を与えていますか？

Sam：そうかもしれません（笑）。でも最も重要だったのは、本当に賢い人々に囲まれ、様々な興味深いアイデアを追求していたことです。私は1年生と2年生の夏の間にAIラボで働く機会を得ました。当時のAIは全く機能していませんでしたが、それでも私にとっては最も魅力的なものでした。

Patrick：それはAndrew Ng教授のラボでしたよね？AIに惹かれた理由は何だったのですか？

Sam：はい、Andrew Ngのラボです。実現すれば大きな影響を与える可能性のあるものに興味を惹かれました。たとえ成功の可能性が低くても、です。AIが実現すれば最も重要で興奮する分野になるだろうと考え、期待値が高かったので追求する価値があると思いました。当時は何をすべきか本当に分からない状態でした。後になって分かったことですが、実は私たちは何をすべきか知っていたんです。ただ、それが機能するとは思っていなかっただけで。ニューラルネットワークは決して新しいアイデアではありませんでしたから。

このように、Sam Altmanのスタンフォード時代は、CSの専門性を深めながらも、幅広い学問分野に触れることで、後の起業家としての素養を育んでいったことが分かります。特にAIラボでの経験は、技術の可能性と限界を同時に認識する重要な機会となりました。

1.3. 初めての起業体験(Viendo/Loopt)

Patrick：Sam、これは懐かしいものですね。これはあなたが初めて資金調達のために作ったピッチデッキです。Viendoという会社のために作られ、後にLooptになりました。19歳当時のSam Altmanが今見えていなかったことは何でしょうか？

Sam：ああ、実は世界で何かを成し遂げられるということは、あまり良く教えられていないんです。19歳の時は確実に過小評価していましたし、間違ったことに取り組んでいました。しかし、素早く学びました。重要なのは、人々が本当に懸命に働き、自分が確信を持てることを決め、それに専念することで、進歩が生まれるということです。これが世界をより良くする唯一の方法です。誰かの許可を待つ必要もなく、ほとんどリソースがない全く無名の状態でも、驚くほどの成果を上げることができるのです。

Patrick：大手の通信キャリアとの契約を獲得する必要があった時、どのようにして多くのことを成し遂げたのでしょうか？他の人々が試みて失敗したことを、あなたはどうやって実現したのですか？

Sam：Paul Grahamがよく言っていた「relentlessly resourceful（執拗なまでに創意工夫する）」という考え方が重要です。これは、もっと広く認識されるべき助言だと思います。驚くべきことに、問題に対する新しいアプローチを探し続ければ、解決策を見つけることができるのです。これは人生のほぼすべての場面で通用する最も重要なスキルの一つです。

例えば、モバイルオペレーターとの契約を成立させる必要があった時、彼らはスタートアップやテクノロジー企業とは一般的に取引をしていませんでした。私たちはその会社に30以上の異なるアプローチを試みました。最終的に、主要な意思決定者が「もうこれ以上邪魔されたくないから会ってあげよう」と言ってくれたほどです。多くの人は最初のメールが無視されたり、会社への適切な接点が見つからない時点で諦めてしまいます。しかし、私たちにとってはそれが会社の生死に関わる問題だったので、非常に強い動機を持っていました。

Patrick：そのような状況で、いつ諦めるべきかをどのように判断するのでしょうか？

Sam：確かにバランスは重要で、行き過ぎることもあり得ます。Y Combinatorを運営していた時、スタートアップがよく「スタートアップをいつ諦めるべきか」と質問してきました。私も判断基準を作ろうとしましたが、結局できませんでした。これらはすべて判断の問題であり、大量のデータセットと多くの試行を通じて学ぶことはできますが、常に通用する一つのレシピを示すのは難しいのです。

2. OpenAIの設立と発展

2.1. 非営利組織として設立した理由と初期の研究方針

Patrick：OpenAIを設立する際、なぜ非営利組織として始めることを選んだのですか？

Sam：2015年当時の状況に立ち返る必要がありますね。深層学習に何か興味深いことが起きていて、スケールとともに改善することは明確でしたが、それ以外は何も明確ではありませんでした。OpenAIを始めた最初の日のことを今でもはっきり覚えています。部屋に集まって互いに顔を見合わせながら「さて、これからどうしよう？」という状態でした。

本当に何をすべきか全く分かっていませんでした。研究をして論文を書き、アイデアを考えよう、という程度の考えしかありませんでした。製品や収益の話はもちろん、言語モデルの考えすら、私たちの未来からはるか遠くにありました。

Patrick：その時点で、収益モデルについてはどのように考えていたのですか？

Sam：営利企業を始める場合、理論的には将来的に収益を生み出す何かのアイデアが必要です。しかし、私たちの当初のOpenAIの構想は、単なる研究所として何かが機能するかどうかを見極めることでした。何かが機能するようになるまでには長い時間がかかりました。

実際、初期に機能した成果は、次のステップを指し示す良い研究以外には、今の私たちがやっていることとはほとんど関係がありません。例えば、Dota 2というゲームをプレイできるシステムを作りましたが、これはビジネスにするのが非常に難しいものでした。また、ルービックキューブを何とか解けるロボットハンドも作りました。しかし、最終的には試行錯誤を重ねた後に、製品として成立し、実際のビジネスになる何かを見つけることができたのです。

また、研究の方向性は自分たちで選べるものではないことも分かりました。科学の進む道に従わざるを得ません。そして、その道は巨大なリソースを必要とする方向に進んでいました。そのため、研究を継続的に進めるためにはビジネスモデルが必要になったのです。

2.2. 深層学習の可能性への気づき(2012年AlexNet)

Patrick：OpenAIを設立する前に、何がきっかけでそのような確信を持つことができたのですか？

Sam：2012年に私の共同創設者のIliaと他の人々がAlexNetを開発した時点で、私たち全員が目を覚ますべきでした。私たちは深層学習が機能することを知っていましたし、スケールとともに改善することも分かっていました。後になって、それが予測可能なスケールで改善することが分かったのですが、これは更に重要な発見でした。

Patrick：その時点で、なぜ世界は同じように反応しなかったのでしょうか？

Sam：私の意見では、2012年のブレークスルー以降、世界はもっと注目すべきでした。その後も様々な重要な瞬間がありました。GPT-2の開発、スケーリング則に関する論文、GPT-3の登場など、なぜ世界がその重要性に気づかなかったのか、そしてなぜGPT-3.5が最終的に世界を動かすきっかけとなったのか、私にもまだ完全には理解できていません。

Patrick：その認識は、どのようにして実際の研究開発につながっていったのですか？

Sam：最初は、これら2つの重要な「秘密」、つまり深層学習が機能すること、そしてスケールとともに改善することを知っていても、何をすべきか見つけるのは驚くほど難しかったです。「この技術が学習できる。どうやってもっと研究できるだろうか？これは本物なのか？他の人々にこれが本物だと納得してもらい、さらなる研究資金を得るにはどうすればいいだろうか？」といった議論を重ねました。

振り返ってみれば、そんなに難しくなかったはずなのですが、当時は次のステップを見つけるのが信じられないほど困難でした。最終的に、ビデオゲームが良い研究対象になると判断しました。それは興味深い環境を提供し、強化学習を追求したかったからです。また、スコアが上がるか、エキスパートと対戦できるかなど、進捗を測定する方法が明確でした。

この深層学習の可能性への気づきは、その後のOpenAIの方向性を決定づける重要な転換点となったのです。

2.3. GPTシリーズの開発経緯とスケーリング則の発見

Patrick：言語モデルの研究に移行した具体的なきっかけについて教えていただけますか？

Sam：重要な転換点は、Alec Radfordの研究でした。彼は教師なし学習と言語モデルに興味を持ち、Amazonのレビューを生成する実験を行っていました。その過程で、ポジティブかネガティブかの感情を制御する単一のニューロンを発見したのです。これは、そのようなことが起こるとは全く予想していなかった深い発見でした。

Patrick：それがGPTシリーズの開発につながったのですね。

Sam：はい。この発見が私たちをGPT-1の開発へと導きました。そして、誰かが「スケールに関する私たちの理解を活かして、GPT-2でスケールアップしてみてはどうか」と提案しました。この頃から、私は徐々にOpenAIに全力を注ぐようになっていきました。

言語モデルの可能性とスケーリング則の理解が深まるにつれて、これは単なるスケールの問題ではないことが分かってきました。スケーリング則の論文で示されたように、モデルは驚くほど予測可能な形で性能が向上していったのです。より多くのリソースを投入するか、より効率的な改善を見つければ、モデルは確実に賢くなっていく。これは私が生きている間に発見された知見の中で、おそらく最も重要なものだと感じました。

Patrick：そのような重要な発見を他者に説明するのは難しかったのではないですか？

Sam：ええ、奇妙な経験でした。他の人々にこの発見について説明し、研究資金を求めようとしましたが、多くの人には理解してもらえませんでした。「私たちは完全に狂っているのだろうか？それとも何か重要な気づきを得ているのだろうか？」と自問自答していました。しかし、この確信がGPT-3、そして3.5、4へと続く開発の原動力となりました。

なぜGPT-3.5が世界的な転換点となったのかは、今でも完全には理解できていません。GPT-3はAPIで提供され、テック業界で大きな興奮を引き起こしましたが、それでもまだ閾値を超えることはできていませんでした。将来的には、ChatGPTよりもはるかに優れたものを作ることになるでしょう。なぜある特定のモデルが転換点となり、別のモデルではそうならなかったのか、その理由を説明するのは難しいのです。

3. 製品開発と意思決定

3.1. 法的アドバイスなど製品機能の境界設定

Patrick：CEOとして、製品の機能に関する難しい決定に直面されたと思います。具体的な例を挙げていただけますか？

Sam：私たちの製品に関する決定は、実は研究の方向性に関する決定の下流にあるんです。研究の方向性の選択が最も重要で困難な決定となります。製品側では、ChatGPTの動作、何を拒否し何を許可するか、ユーザーに対してどこまでのことを行うかといった、アラインメントの境界をどこに設定するかが最も難しい決定です。

Patrick：具体的な例として、ChatGPTが法的アドバイスを提供すべきかどうかという問題はいかがでしょうか？

Sam：これは非常に良い例ですね。法的アドバイスを提供しないことには大きな理由があります。ChatGPTの幻覚や一般的な不正確さの問題を考えると、法的アドバイスを提供しないのは合理的に思えます。一方で、法的アドバイスを受けられない多くの人々がいて、たとえ不完全でもアクセス可能にすることの方が、まったく提供しないよりも良いのではないかという議論もあります。

現在のところ、ほとんどの場合、法的アドバイスは提供していません。一部のケースや方法では可能ですが、私たちが事業を展開している様々な地域での法律や、誤った場合の影響を考慮すると、現状では提供を控えています。

しかし、私たちが目指しているのは、基本的にユーザーは賢明で、適切な免責事項と説明があれば、大人として判断できるという世界です。不正確さによる誤用の可能性が高いものは避けつつ、モデルが改善し、そのようなケースが少なくなってきた時には、ユーザーに選択肢を提供したいと考えています。例えば、「このアドバイスは自己責任で確認する必要があり、利用規約を読み飛ばすのとは違う本当の理解が必要です」といった明確な説明をした上で、安全な方法で提供できるようにしたいと考えています。

このように、製品機能の境界設定は、リスクと利益のバランス、アクセシビリティと安全性の両立、そしてユーザーの自己責任の範囲を慎重に検討しながら決定しています。

3.2. ヘイトスピーチや暴力的コンテンツへの対応方針

Patrick：製品開発における判断基準について、より具体的に掘り下げたいと思います。例えば、安全性と効率性、進歩と利益といった二項対立での判断はどのように行われているのでしょうか？

Sam：実際には、個々のケースがとても微妙で複雑なものになっています。単純に「速度を上げるか安全性を取るか」といった簡単な判断ではありません。例を挙げましょう。GPT-4がヘイトスピーチを生成すべきかという問題は、私たちにとって比較的簡単な判断でした。「いいえ」という答えです。他のモデルを使いたい人はそうすれば良いでしょう。暴力を扇動したくないという判断です。

Patrick：そこから派生する微妙な判断については、いかがでしょうか？

Sam：例えば、スペイン語で書かれた暴力的な内容を英語に翻訳すべきかどうか。この場合、私の個人的な意見では、限定的なケースでは「はい」と答えるでしょう。しかし、これは一例に過ぎず、同じカテゴリーの中でも、状況によって10段階くらいの異なる判断が必要になってきます。

Patrick：そのような判断の主体はどこにあるべきだとお考えですか？

Sam：実際のところ、OpenAIがこれらの判断を行うべきではないと考えています。社会が集団的に議論を重ね、この技術をどのように使用するかについてのルールを決めていく必要があります。そのルールは、おそらく不快なほど許容的なものになるでしょう。ただし、デフォルトの設定をそれほど許容的にする必要はありません。

ユーザーが社会的に合意された広い境界の中でカスタマイズできるようにすることは問題ないと思います。ほとんどの人はその境界の端までは使用しないでしょう。特に、これらのモデルがさらに強力になるにつれて、許可しないことも出てくるでしょう。ただし、その境界の中では、ツールの目的はユーザーに奉仕することであり、それは適切だと考えています。

このように、コンテンツに関する判断は、単純な二項対立ではなく、文脈や用途に応じて慎重に検討される必要があり、最終的には社会的な合意形成が重要になってくるのです。

3.3. 競合他社の出現による影響

Patrick：GPTの技術を公開した後、すぐに多くの競合他社が現れました。それは、あなたたちのイノベーションや製品開発の方向性に影響を与えましたか？

Sam：競合他社を完全に無視しているわけではありません。誰でも少しは注意を払いますし、時にはインスピレーションを得ることもあります。しかし、実際のところ、私は現在の市場シェアがどれくらいなのかさえ知りません。おそらく90%台後半だと思いますが、それについて多くの時間を費やして考えることはありません。

Patrick：では、競合他社の存在は、あなたたちの戦略にどのような影響を与えているのでしょうか？

Sam：私たちは次のパラダイムと次の素晴らしいアイデアを見つけることに注力しています。他社が現在の私たちの位置を追いかけたいのなら、それは素晴らしい戦略とは思えません。少なくとも、私たちが追求する戦略ではありません。

私の希望は、毎年、人々が不可能だと思っていた素晴らしいことを成し遂げることです。何かが可能だと分かり、それをどのように実現するかが大体理解されると、常に素早くコピーされます。しかし、それは難しい部分ではありません。本当に難しいのは、それが可能だと気づき、誰も実現できていない時にそれを最初に実現することなのです。私たちは引き続きそれを追求し、他社は私たちが過去に達成したことを追いかけ続けるでしょう。そして、私はそれで構わないと考えています。

このように、競合他社の存在は、むしろ私たちを次の革新的なブレークスルーへと駆り立てる原動力となっているのです。

4. AGI(人工知能)の将来像

4.1. 当初の超知能的なAGIからの考え方の変化

Patrick：AGIについて、あなたが最も聞かれたい質問は何ですか？そしてその答えを聞かせていただけますか？

Sam：私が考えるのは「AGIが構築された時、社会はどのようになっていると期待していますか？あるいは、ポジティブな未来をどのように概念化していますか？」という質問です。この質問への私の答えは、時間とともにかなり進化してきました。

私の当初の考えは、ある時点で自己改善する超知能の閾値を超え、それは塔の中の魔法のようなものとなり、どんな質問にも答えてくれる存在になるというものでした。それは世界をより良くする方法を常に考え出し、おそらく普遍的基本所得（UBI）のような形で私たちと共有するかもしれない。これは極めてユートピア的であると同時に極めてディストピア的な考え方でした。

Patrick：そのビジョンは、現在どのように変化していますか？

Sam：現在の開発状況を見ると、これは私が想像できるシナリオの中で99.8パーセンタイルで良好なものだと考えています。様々な理由がありますが、AGIは単に社会や経済に参加するようになると考えています。主に個々の人々をより生産的にするためのツールとしてですが、他の方法でも参加するでしょう。

社会とは、途方もない共有知能と技術の基盤を生み出す、非常に複雑な創発現象です。誰かが材料科学についての洞察を提供し、それが他の誰かに新しい物理学の発見を可能にさせ、さらに別のグループが新しい材料科学の発見をする。そして多くのステップを経て、トランジスタの開発につながり、最終的に皆さんが持っているiPhoneが生まれる。そして、遺伝的な変化がほとんどないにもかかわらず、皆さんは曾々々祖父母よりもはるかに高い能力を持つようになっているのです。

このように、超知能は単一のニューラルネットワークの中に存在するのではなく、ニューラルネットワーク間のこの足場の中に存在するのです。AGIはどこか一つのデータセンターや一つのAIのコピーの中にあるのではなく、この広大な知能の生産と蓄積、そして単一のニューラルネットワークの情報処理能力をはるかに超えた成果を可能にする技術の系統樹の中にあるのです。

4.2. 社会に溶け込むAGIという新しいビジョン

Patrick：現在のAGIに対するビジョンについて、もう少し具体的にお聞かせください。特に社会システムとの関係性について、どのようにお考えですか？

Sam：私の考えでは、AGIは主に二つの方向で社会に溶け込んでいくと考えています。一つは個人の生産性を向上させるツールとしての役割です。もう一つは、より広い形での社会参加です。重要なのは、AGIは孤立した存在ではなく、社会の一部として機能するということです。

Patrick：その社会参加というのは、具体的にはどのような形を想定されていますか？

Sam：例えば、誰かが材料科学での新しい発見をし、それが他の研究者の物理学での発見を可能にし、さらに別のグループが新しい材料科学の発見をする。このような連鎖的な知識の発展の中で、AGIは触媒として機能することができます。これは単なる計算支援ではなく、人間の知的活動との有機的な協調関係を築くことを意味します。

Patrick：つまり、AGIは独立した存在というよりも、人間社会の知的活動を増幅する存在として機能するということですね？

Sam：その通りです。私たちが目指しているのは、人間とAGIが協調しながら、より大きな知的進歩を実現することです。AGIは人間の能力を置き換えるのではなく、拡張する存在として機能すべきです。これは、私たちの曾々々祖父母の時代と比べて、遺伝的な変化はほとんどないにもかかわらず、現代の私たちがはるかに高い能力を持っているのと同じような進化の過程だと考えています。

このように、AGIの社会実装は、単なる技術の導入ではなく、人間社会の知的能力の全体的な向上を目指すものとなるべきだと考えています。

4.3. 人間とAIの共生による知的発展の可能性

Patrick：AGIの発展によって、人類の知的能力はどのように変化していくとお考えですか？

Sam：私が考える超知能は、個々のニューラルネットワークの中に存在するのではありません。あなたのニューラルネットワークの中にも、AIのニューラルネットワークの中にもありません。それは、ニューラルネットワーク間に存在する足場、つまり共有知能の中にあるのです。

Patrick：その「足場」という概念について、もう少し具体的に説明していただけますか？

Sam：社会は、この途方もない共有知能と技術の足場を作り出す、非常に複雑な創発現象です。例えば、誰かが材料科学について一つの洞察を提供し、それが他の人の物理学における新しい発見を可能にし、さらに別のグループが新しい材料科学の発見をする。このように多くのステップを経て、最終的にトランジスタが開発され、さらに多くのステップを経て、今皆さんが持っているiPhoneが生まれるのです。

Patrick：つまり、AGIは単独で発展するのではなく、人間社会との相互作用の中で発展していくということですね？

Sam：その通りです。将来的なAGIは、単一のデータセンターや単一のAIのコピーの中に存在するのではありません。それは、この広大な知能の生産と蓄積、そして技術の系統樹の中に存在することになります。これにより、私たちは単一のニューラルネットワークの情報処理能力をはるかに超えた、あるいはその情報量をはるかに超えたシステムを構築できるAIやAI支援システム、さらには比較的自律的なシステムを作り出すことができるようになるのです。

このビジョンは、AGIの到来が何らかの単一の事象ではなく、人間社会との継続的な相互作用の過程であることを示唆しています。そして、それは私が以前考えていたような概念とは全く異なり、より人間社会と調和的で、ナビゲート可能な、人間と互換性のある形で実現されていくと考えています。

5. 社会的影響と課題

5.1. AIによる教育・医療の不平等解消への期待

Patrick：AIが社会に与える影響について、特に教育や医療分野における不平等の解消についてどのようにお考えですか？

Sam：私は非常に根本的にAIが不平等を減少させると信じています。もちろん、正しい方向に進むように支援が必要かもしれませんが、これから起ころうとしていることは、認知労働のコストが100万分の1、あるいは10億分の1に低下するということです。これは、貧しい人々により大きな恩恵をもたらすはずです。

すでに裕福な人々は、良質な医療アドバイスや子どもたちのための優秀な家庭教師を雇うことができます。しかし、もしこれらが携帯電話で無料で利用できるようになれば、それは世界中の誰もが利用できるものになります。

Patrick：その実現に向けて、OpenAIはどのような取り組みを行っているのでしょうか？

Sam：私たちのミッションの重要な部分として、優れたAIツールを広く無料で提供することを掲げています。広告ではなく、完全な無料提供です。これは私たちのミッションの達成として行っています。ChatGPTの無料版でそれを実現していますし、今後さらに無料版の機能を大幅に改善していく予定です。また、APIにも同様の考え方を適用することを検討しています。

Patrick：将来的な課題として、計算資源へのアクセスについてはどのようにお考えですか？

Sam：もし極端なAGIマキシマリストの視点に立つと、コンピュートとエネルギーが世界で唯一の重要なコモディティになる可能性があります。個人が使用する計算能力の収益逓減は大きいかもしれませんが、それでも増分価値があれば、資本と労働の価値について奇妙なSFシナリオが考えられます。

そのため、コンピュートとエネルギーのコストを可能な限り低く抑えることが道徳的な命令となります。また、コンピュートへのアクセスが基本的人権の一つとなり、誰もが一定量のコンピュートにアクセスできるような、コンピュートのUBIのような仕組みが必要になるかもしれません。このシナリオは十分あり得ると考えています。

5.2. エネルギー制約とAI開発の関係

Patrick：エネルギーとAIの関係について、どのようにお考えですか？OpenAIや一般的なAI開発におけるエネルギー制約の影響はどの程度のものでしょうか？

Sam：エネルギーとAIは、長年私が最も興味を持ってきた2つの分野です。個人的な興味というよりも、世界にとって最も重要なことではないかもしれませんが、この2つの要素によってテクノ豊かさ（techno-abundance）を実現できると考えています。

興味深いことに、私が予想もしていなかったのは、この2つが実は同じ問題になっていくということです。最終的に、知能のコストはエネルギーのコストに近似していくはずです。アルゴリズムは非常に再現可能で、チップを作る過程、つまり砂を溶かしてレーザーで照射する過程も、本質的には高価なプロセスではありません。

Patrick：将来的なコスト構造についてはどのようにお考えですか？

Sam：電子を動かすことには、どうしても一定の困難さが伴います。しかし、時間が経つにつれて、エネルギーがAIの最大の制約要因になっていくと予想しています。これは私にとって非常に興奮する展開です。フュージョンの分野で起きていることは特に期待が持てますし、ソーラー発電とストレージの組み合わせについても、さらに多くの可能性があります。

そのため、AIとエネルギーの分野で働く人々を強く支持しています。これらは単なる2つの重要な要素というだけでなく、深く相互に関連した問題なのです。テクノ豊かさを実現するための鍵となる要素として、両者は切り離せない関係にあると考えています。

5.3. 公教育におけるAI教育のあり方

Patrick：理想的な公教育におけるAI教育のカリキュラムについて、どのようにお考えですか？今後5-10年で、一般の人々はAIについて何を知っておく必要があるとお考えですか？

Sam：最も重要なのは、ツールとしてAIを使用する方法を学ぶことです。ChatGPTを公開した後、学校区が競うように次々とそれを禁止し、そしてほぼ同じ速さでその禁止を解除し、教師たちにツールの使用を義務付けるようになった状況を目の当たりにしました。これは恐らく、新しい技術が登場するたびに起こる典型的な反応パターンです。

Patrick：具体的なカリキュラムについてはどのようにお考えですか？

Sam：現在、コンピュータサイエンスを専攻しない大学生でも、多くの場合、入門的なCS講座を受講しています。プログラミングを二度と行わないかもしれませんが、その基礎知識を持つことは有益です。同様に、すべての大学1年生がGPT-2レベルのモデルをトレーニングする経験をすることが理想的です。今ならそれは比較的容易に実現できます。

これは、ツールの使用方法を学ぶことほど重要ではありませんが、3年後には多くのハーバードの新入生が経験することになるでしょう。なぜなら、これらのツールは彼らが卒業後に社会で貢献する際に使用することになるものだからです。教育期間中にこれらのツールの効果的な使用方法を学ぶことは不可欠です。

このように、AIに対する抵抗や禁止ではなく、それを教育の新しい道具として受け入れ、効果的に活用する方法を学ぶことが重要です。これは技術の進歩に逆らうのではなく、それを受け入れ、より良い教育を実現するための手段として活用すべきだということです。

6. AIの今後の展望

6.1. AIスタートアップへのアドバイス

Patrick：MITの学生から質問です。起業家やベンチャーキャピタリストたちは、AIの未来について何を見誤っているとお考えですか？

Sam：現在、AIスタートアップを立ち上げる際の基本的な戦略は2つあります。1つ目は、技術が今後も劇的に向上し続けると賭けること。2つ目は、現在の技術レベルがほぼ頂点に近いと賭けることです。

例えば、AIチュータリング企業を立ち上げる場合を考えてみましょう。ベースとなるモデルが賢くなるにつれて、学生が効果的に学習できるレベルが自然に上がっていくようなシステムを構築できます。現在のバージョンでは6年生向けに効果的かもしれませんが、次のバージョンでは8年生、その次は10年生、最終的には博士課程の学生にも役立つようになっていくわけです。これが第一の戦略です。

一方で、8年生の歴史の授業に特化し、人間による介入を多用して事実誤認を修正するなど、限定的なケースで何とか機能させようとするアプローチもあります。GPT-5が登場した時、前者の戦略を取った企業は大きな恩恵を受けますが、後者の戦略を取った企業は苦境に立たされるでしょう。

Patrick：実際には、どちらの戦略を取る企業が多いのでしょうか？

Sam：直感的には95%の企業が第一の戦略を選ぶと思っていましたが、実際には95%の企業が第二の戦略を選んでいるように見えます。そのため「OpenAIが私のスタートアップを潰した」というミームが生まれていますが、私たちは毎朝、モデルをより良くすることを目指して活動していると明確に伝えています。特定のケースで何とか機能するように小細工をしているだけであれば、それは恐らく間違った方向性だと言えるでしょう。

このように、AIスタートアップの成功は、技術の進化をどのように見据えているかに大きく依存します。将来の技術進歩を前提としたビジネスモデルを構築できるかどうかが、重要な分岐点となるのです。

6.2. 一般市民のAI理解促進の重要性

Patrick：AIに対する一般市民の理解を深めるために、どのようなアプローチが必要だとお考えですか？

Sam：実は、ユーザーは私たちが考えているよりもずっと賢明です。ChatGPTを例に挙げると、マスコミでは様々な問題点や危険性、あるいは素晴らしい機能について、センセーショナルな報道がなされました。しかし、実際のユーザーは、非常に早い段階でツールの適切な使い方と使ってはいけない使い方を理解しています。

Patrick：教育現場での導入については、どのような展開が見られましたか？

Sam：学校での対応は非常に興味深い例です。最初、多くの学校区がChatGPTを即座に禁止しました。しかし、ほぼ同じスピードで禁止を解除し、むしろ教師がこれらのツールを授業で使用することを義務付けるようになりました。これは新しい技術が登場するたびに繰り返されるパターンですが，結果的に教育方法Xの終わりを告げるのではなく、むしろ教育を強化するツールとして認識されるようになっています。

Patrick：段階的な導入の重要性について、具体的にはどのようにお考えですか？

Sam：私たちの戦略は、反復的な展開と世界への段階的な公開です。これまでの経験から、人々に実際に使ってもらうことが、理解を深める最も効果的な方法だと分かりました。徐々に更新していくことで、世界は適切に反応し、その過程で重要な気づきが得られます。

人々が自然にツールを理解し、使いこなしていく様子を見ると、私たちが思っている以上に、一般市民はAIツールの可能性と限界を適切に理解する能力を持っているということが分かります。重要なのは、過度な規制や禁止ではなく、適切な情報提供と段階的な導入を通じて、社会全体でAIリテラシーを高めていくことなのです。

6.3. モデルの急速な性能向上への社会の理解

Patrick：人々がAIについて誤解していることで、最も大きな問題は何だとお考えですか？

Sam：システム的な誤解として最も大きいのは、進歩がそろそろ頭打ちになるだろうと人々が常に考えてしまうことです。しかし、内部の視点から見ると、進歩は今後も劇的に続くことが明らかです。私はこのことを伝えることを諦めかけています。それは私の伝え方が下手なのか、それとも本質的に伝えるのが難しいことなのか、どちらかだと思います。

Patrick：その認識ギャップを埋めるために、どのような方法を取られていますか？

Sam：現在の私たちの戦略は、反復的な展開と実世界への段階的な公開です。これまでの経験から、人々に実際に使ってもらい、その反応を見ることが、世界を更新させる唯一の方法のようです。その過程で、人々は徐々に理解を深めていきます。

Patrick：その戦略は効果を上げているのでしょうか？

Sam：はい。特に私たちが懸念しているのは、AIモデルがどれほど良くなろうとしているのかについて、世界がまだ十分に理解していないことです。しかし、段階的な展開を通じて、少しずつですが確実に理解は深まっています。私は何度も試みましたが、言葉で説明するだけでは、この技術の進歩の速さや影響の大きさを伝えることは困難です。実際に体験してもらうことが、最も効果的な理解促進の方法なのです。

このように、AIの急速な進歩について社会の理解を得ることは依然として大きな課題ですが、段階的な展開と実体験を通じて、徐々にその理解は深まっていくと考えています。