※本記事は、ICLR 2026「AI for Peace Workshop」における登壇者(モデレーターから「Zo」と呼ばれています)の講演内容を基に作成されています。動画の詳細は「The Real AI Alignment Problem - AI for Peace Workshop - ICLR 2026」(https://www.youtube.com/watch?v=KHzzf0tIwDM)でご覧いただけます。ワークショップの詳細情報は https://aiforpeaceworkshop.github.io でご覧いただけます。本記事では、講演内容を要約・再構成しております。なお、本記事の内容は登壇者の見解を正確に反映するよう努めていますが、要約や解釈による誤りがある可能性もありますので、正確な情報や文脈については、オリジナルの動画をご視聴いただくことをお勧めいたします。
1. 導入と問題提起 ― AIと戦争の結びつき
1.1 登壇者の立場表明と視点の限定
まず、はっきりさせておきたいことがいくつかあります。私は今日、この場にAI2の立場として立っているわけではありません。明日はリモートセンシングのための機械学習のワークショップでAI2の仕事をする予定はありますが、この発表はあくまで私個人の視点から話すものです。また、この発表は非常に米国中心的な視点から構成されていることも申し添えておきます。私がお話しする内容の多くは、米国の研究者や米国の制度に強く当てはまるものであり、必ずしも普遍的に当てはまるわけではありません。ただ、いくつかの考え方や理論については、より広い聴衆にも応用できるのではないかと思っています。
正直に言うと、私はこのテーマについて基本的に何もわかっていません。これはあくまでワークショップトークであり、スライドの多くは昨晩作ったものです。Dunning-Kruger効果とBalmerピークが相乗効果を起こした結果だと思っていただければと思います。それでも、何か持ち帰っていただけるものがあれば幸いです。それでは始めさせてください。先ほどのNoahのスライドでも見た通り、世界は今、少し混乱しています。米国は帝国主義的な侵略という長い伝統を今なお続けており、その破壊から莫大な利益を得ています。Polymarketをめぐる市場操作のような話も、私はこの長い伝統の延長線上にあるものだと考えています。
1.2 個人的経験:YOLOの軍事転用との遭遇
そして、AIはこの状況の真っ只中に深く組み込まれています。皆さんもご存知の通りだと思います。実際にICLRの会場を歩いていても、誰ひとりとして意図的にこの方向を狙って研究をしているようには見えません。ドローン戦争のための事後学習をしている人など、誰もいないのです。皆それぞれの分野の中で個別の小さな問題に取り組んでいるだけなのに、AI研究全体としての産出物は、世界に実害をもたらしています。おそらく多くの方が、Noahも触れていたように、私たちがどうやってこの状況に至ったのか疑問に思っているのではないかと思います。
私自身、これについて非常に個人的な経験があります。私が物体検出の研究を始めたのは2014年のことで、それは単純に面白い問題だったからです。当時はまだ何もうまく機能していませんでしたし、私は自分の犬の写真でそれを試すのが単純に楽しかったのです。ところが2017年、おそらくハワイで開催されたCVPRだったと思いますが、米陸軍の軍事研究に携わる人物が私のところに来て、「あなたの研究がとても気に入っている、これを使って何をしているか見せましょう」と言い、ノートパソコンを開いてくれました。そこに映っていたのは、YOLOを空撮画像に適用し、トラックや人物を検出しているデモでした。これは、当時アフガニスタン戦争がピーク、あるいは局所的なピークを迎えていた時期のことです。この戦争は、私の物心ついてからの人生、そして成人してからの人生すべてを通じて続いていたものでした。
私の研究が、自分がまったく関わりたくないと思っていた戦争の現場で、直接応用されていたという事実に、私はぞっとしました。そして今、私が「YOLO 機械学習 物体検出 軍事」でGoogle Scholar検索をかけると、約14,000件のヒットがあります。私は実際に100ページ分を読み進めましたが、そこでページネーションが止まってしまいました。一体何が起きてこうなったのか、私は疑問に思いました。そしておそらく他の方々も同じ疑問を持っているのではないかと思います。ここでもう一度申し添えますが、これは私の米国中心的な視点からの話であり、この後の内容の多くもその視点から語られることになります。
1.3 「誤用論」への反論
私がこれまで耳にしてきた一つの理論は、研究者は単に強力なツールを作っているだけだ、というものです。AIは強力なツールであり、人々はそれを改良しようと外に出て努力しています。そして、そのあとに「悪者」が現れて、そのツールを本来意図されていなかった目的のために誤用する、という説明です。
しかし私は、この見方に異を唱えたいと思います。この説明は基本的に間違っていると私は考えています。この発表にはもう一つ、別のタイトルをつけるとすれば「AI研究は戦争のためにある」というものになるでしょう。もちろん、それ以外の悪しきことのためでもありますが、間違いなく戦争のためでもあります。そして、これを裏づける非常に確かな兆候が存在すると私は考えています。ですから、一歩下がって、そもそもどのような研究が実際に行われ、なぜその特定の研究が行われることになるのかを問うべきだと思います。「一からケーキを焼くには、まず宇宙を発明しなければならない」という言葉があるように、私たちはここで一度、大きく話を巻き戻し、「権力とは何か」というところから議論を始めていきたいと思います。
2. 権力の構造 ― 暴力・貨幣・国家
2.1 権力の定義と行使の諸形態
ここで一度、大きく話を巻き戻したいと思います。権力とは何か、という話です。私は権力を、世界に影響を及ぼす能力、世界に働きかける能力、他の行為者に影響を与える能力、あるいは自分の思い描く世界の姿を現実に具現化する能力だと捉えています。そして、権力の行使にはさまざまな方法があります。すべてを網羅するつもりはありませんが、一つは非常に長い論理的な議論によって人を説得しようとする方法です。私の経験上、これは基本的にほとんど機能しません。社会的圧力の方が、はるかに強力な権力行使の手段だと私は考えています。他にも多くの方法がありますが、私がここで注目したいのは、暴力とお金という二つの権力の投影です。
国家、あるいは政府とは何かを定義するとすれば、それは基本的に暴力の独占を持つ主体だと言えます。つまり、暴力を行使できる主体、あるいは行使集団であり、社会の中でその暴力の行使に対して法的な正当性を持つ、あるいは単純にその能力を持つ、唯一の存在だということです。言い換えれば、たまたま頂点に立った暴力集団のようなものです。これは国家が権力を行使する際の主要な手段であり、国内的には人々が法を破るのを防ぐという形で、対外的には他国の侵略を防ぐという形で、この力が行使されます。「侵略するな、さもなければ反撃する」というわけです。ただし、これはあくまで非常に粗い権力のレバーであり、人々を動機づける手段としては、必ずしもうまく機能しません。たとえば「このテーマについてAI研究をしなさい、さもなければあなたを攻撃する」と言っても、研究者を動機づける手段としてはまず機能しないでしょう。
2.2 国家・通貨・課税の仕組み
そこで、お金の話に移りたいと思います。政府は暴力の独占を持つと同時に、通貨の主権的な創造者でもあります。政府は自ら創り出したお金を使って、実現させたい特定のことを行うために人々に対価を支払います。そして、一定の頻度で一定額のお金を政府に払い戻すよう、すべての人に要求します。これが税金であり、この仕組みは暴力の独占によって最終的に裏打ちされています。もし税金を払わなければ、最終的には投獄される可能性がある、というわけです。米国では実際にそこに至るまでに多くの段階がありますし、不正がなければ単なる未払いで投獄されることはまずありませんが、それでも政府が発行する通貨で払い戻すことを求めるこの要求の背後には、暴力行使という最終的な裏付けが存在しています。
基本的な例として考えてみましょう。ある集団のところに政府がやってきて、「年末までに特別な石を10個渡さなければ、この箱に閉じ込める。ただし、じゃがいもを持ってきてくれれば特別な石を1個あげよう」と言ったとします。皆さんならどうするでしょうか。おそらく、箱に閉じ込められたくないので、じゃがいもを育て始めるはずです。あるいは、政府が「じゃがいも10個で石1,000個、トマト10トンで石2,000個、とうもろこし10トンで石100,000個をあげよう」と言ったとしたらどうでしょうか。ここから、その社会で何が優先的に生産されるようになるかが見えてくるはずです。おそらく、とうもろこしが大量に生産されるようになるでしょう。トマトも多少は作られるかもしれません。トマトは単純に美味しいので、人々は食べたがるからです。ただ、この社会ではとうもろこしの生産量が圧倒的に多くなるはずです。さらに一歩進めて、政府が馬車には特別な石1,000個を提示する一方、自動車には1億個を提示したとしたらどうなるでしょうか。この先に何が起きるか、想像がつくはずです。馬蹄職人が増えるでしょうか、それともワイパー職人が増えるでしょうか。明らかに、大量の自動車が作られるようになり、タイヤやオイル交換、オイルフィルターといった、自動車を作るために必要な下流の産業もすべて発展していくことになります。
私が強調したいのは、お金というものは基本的に政府による創造物だということです。そして税金、つまり政府が発行する通貨で支払うことを求めるこの要求こそが、お金に根本的な価値を与えているのです。政府が機能し続け、税金の支払いを要求し続ける限り、人々は国家による暴力を避けるためにお金を必要とし続けるので、お金への需要は常に存在し続けます。お金とは、いわば「あの小さな箱に投げ込まれないこと」の価値を抽象化したものだと言えます。ここから、連邦予算というものを、政府や国家が何を優先しているかを示す声明として捉えることができるようになります。連邦政府がお金をどう使うかは、社会の産出物がどこに向かうかを直接的に形作る効果を持っています。なぜなら、新しい通貨が発行される唯一の方法は、連邦政府がそれを使って世に送り出すことだからです。そして人々は国家による暴力を避けるためにこのお金を必要としているので、連邦政府が求めるものは、その社会で必ず実現されることになります。もし誰も政府の求めるものを生産しなければ、新しい通貨は発行されず、やがて誰もお金を持てなくなり、税金も払えなくなって、国家が本当に人々を厳しく取り締まり始めることになります。実際にはそこまで至ることはありませんが、私たちは連邦予算を、社会が何を本当に優先しているかを示す、いわばソートされたリストのように見ることができるのです。
2.3 連邦予算に見る軍事優先
ここでスライドをお見せしていますが、文字が小さくて申し訳ありません。2027年度の連邦裁量的支出を見てみると、保健福祉省や教育省、住宅都市開発省など、それなりに理にかなった、いくつかの良い項目が並んでいます。私自身読み取るのに苦労するほど小さな文字ですが、実はそれらが目立って見えるのは、私がこの裁量的支出の中で最大の項目を一つ、あえて省いていたからです。それが戦争省(Department of War)です。少なくとも2027年度の予算案では、かなり大きな増額が見られ、連邦裁量的支出全体のおよそ3分の2を占めています。
もちろん、状況は非常に複雑であり、通貨とは何かという説明の中で私は多くの単純化をしてきました。それでも、ここから読み取れる要点は、米国の生産性の膨大な部分が、この戦争機構に向けられているということです。世界の兵器輸出の42%は米国からのものであり、米国の輸出全体の約10%は兵器です。これは米国のGDPに占める割合としては比較的小さく、数え方にもよりますが4〜5%程度にすぎません。ただ、それは米国が人々の生活を成り立たせ、生産的であり続けられるようにするための巨大な上部構造を築き上げてきた結果であり、その目的は結局のところ、人々が戦争機構のために生産を行えるようにすることにあります。そしてこれは社会のほぼあらゆる側面に影響を及ぼしていますが、とりわけ研究資金に強い影響を与えています。2025年度の連邦研究開発予算を見てみると、国防総省がかなり大きな差をつけて他のすべてを上回っています。
保健福祉省もかなり大きな割合を占めていますが、これは実は興味深い例です。米国は基本的に、民間企業の利益のために医薬品開発を進めるのが好きな国です。承認される新薬のおよそ99%には公的資金が投入されており、その後、それらの薬は民間企業に渡り、企業がその特許を取得して、そこから得られる利益をすべて手にすることになります。つまり、研究資金の一部としてかなり大きな富の移転が起きているわけです。連邦政府から、医薬品開発に携わる民間企業へと富が移転しているのです。
3. 資金が研究分野を形作るメカニズム
3.1 資金誘導の連鎖モデル
資金が研究開発に影響を与えるといっても、それは決して「このAIを戦争のために作ってくれたら2億ドル払います」というような直接的な形で起きるわけではありません。もちろんそういうことも実際にはありますが、それはむしろ企業側で起きることが多いです。Anthropic、OpenAI、xAI、この3社に加えてもう少しあると思いますが、これらの企業はそれぞれ国防総省と2億ドル規模の契約を結び、この分野に取り組み始めています。
しかし、資金が研究開発に影響を与える、より一般的で構造的なやり方は、研究パイプラインを操作するようなプロセスとして起きています。基本的な流れはこうです。ある分野で何らかの発見があります。何かが起きて、人々が「これは面白い、うまくいきそうだ」と感じます。すると軍がそれに目をつけ、将来的な応用可能性を見出し、その分野に資金を投入し始めます。その資金は、軍が将来的に何らかの利益を見出せそうなタスクや問題に焦点を当てた研究助成金へと流れていきます。そうすると、より多くの学生がそうした特定の問題に取り組む資金を得られるようになります。
その学生たちは論文を投稿し、互いに引用し合うようになります。似たような研究領域に取り組んでいるからです。そして、そうした学生たちは大きな影響力を持つようになり、卒業して教授になり、自分自身の学生を持つようになります。そうやってさらに多くの同種の助成金を獲得していくのです。時間が経つにつれ、その分野全体がシフトしていきます。学会もこうした変化する優先事項に合わせて適応していきます。資金や資源が大量に投入されている特定の問題に、より重点を置くようになっていくのです。その結果、そうした問題はより多くの価値を得て、より多くの注目を集めるようになります。より多くの人がその問題について語るようになり、システムの中を上っていく研究者たちも、そうした問題に興味を持つようになり、結果としてさらに多くの研究がそこに向かって行われるようになるのです。
3.2 CVPRとPLDIの比較
この現象を非常に鮮明に可視化しているのが、CVPRとPLDIという二つの学会の論文投稿数の推移です。本当はICLRを使いたかったのですが、ICLRはまだ新しい学会で、傾向線がもっと垂直に近い形になってしまいます。ICLRは少し極端すぎるのです。ですのでCVPRを見てみますと、2011年、2012年あたりからニューラルネットワークの初期の動きが始まりますが、ディープラーニングの流れが実際に波及するには少し時間がかかります。このエンジンが回転し始めるまでには少し時間がかかるのですが、ディープラーニング以降、CVPRでは投稿数が急激に伸び始めます。
一方で、プログラミング言語分野のトップ学会であるPLDIでは、この間、投稿数は比較的横ばいのままです。これは論文投稿数の話です。PLDIの投稿数は、時間が経ってもだいたい200から300件程度で推移しています。誤解のないように言っておきますと、PL分野で研究している人たちは本当に優秀で、形式検証や静的解析など、非常に興味深い基礎研究にも取り組んでいます。ただ、こうした研究は、米国における主要な研究資金提供者が関心を持っているもの、つまり軍事応用にどう使えるかという観点からは、応用しにくいものである可能性があるのです。
3.3 「悪意ある個人はいない」という留保
ここで一つ強調しておきたいことがあります。少なくとも研究側には、悪者は存在しないということです。資金がこの構造的なプロセスを導いているのであって、研究のパイプラインを形作ってはいますが、個々の研究者に対して「これに取り組め」と直接指示しているわけではありません。誰もが本当にただ、自分が面白いと思う研究に取り組んでいるだけなのです。誰にでも面白いと思う特定のテーマがあり、それに取り組んでいるにすぎません。そして、もし自分の研究が資金の関心と一致していなければ、そのシステムから緩やかに押し出されていくことになります。ただし、それは段階的に起きます。大学院に合格できないかもしれませんし、合格しても研究をしても論文が通りにくいかもしれません。教授職のオファーを得られないかもしれませんし、教授になれたとしても助成金を得にくく、そのため受け入れられる学生の数も限られてくるかもしれません。
それでも、この傾向をすり抜ける人たちもいます。応用研究や、こうした一般的な傾向に逆行するような基礎研究に取り組んでいる人たちも実際に存在します。AI for Peaceや、AIの戦争利用を防ぐことに関心を持つ人たちも、もちろんいます。それはそれでまったく問題ありません。この分野におけるすべてのベクトルが同じ方向を指しているわけではないのです。ただ、それらをすべて足し合わせたときに、非常に強い方向性が見えてくるということです。私たちは機械学習の研究者として、ノイズの多い更新ステップを扱うことに慣れているはずです。しかし、そうしたノイズの多いステップであっても、十分な数を積み重ね、全体の傾向が一つの方向を向いていれば、時間とともにその方向へと非常に強く進んでいくことになるのです。
4. 民主主義の限界と資本主義の搾取構造
4.1 民主主義の限界と建国期の設計
それなら、この資金の一部を再分配すればいいのではないか、と思われるかもしれません。私たちは民主主義国家に住んでいるのですから、政府の機能の仕方を自分たちで変えられるはずです。この巨大な戦争省の予算から一部を取り出して、無償の大学教育や普遍的な就学前教育といった、非常に人気の高い政策に充てることだってできるはずです。全民皆保険はここには含めていません。それはおそらく給付支出の扱いになりますし、そもそも政府にとってはお金の節約になるはずのものだからです。しかし現実には、私たちは米国において、たとえ圧倒的に人気のある政策であっても、望むものを手に入れられていません。
これがよく分かる例の一つが、イラン戦争が始まる直前に行われた世論調査です。イランへの軍事攻撃を支持していた米国人はわずか21%でした。それにもかかわらず、その攻撃は実行されました。つまり、戦争はしばしば非常に反民主主義的なものなのです。総じて言えば、米国という国は、そこに住む人々の民意を満たすようには必ずしもできていません。私たちは自分たちが望むものを手に入れられていないのです。
そしてこれは、建国の父たちの時代にまで遡る話です。彼らは最初から本当は民主主義を望んでいたわけではありませんでした。当時、投票できたのは21歳以上の白人男性の土地所有者だけでした。ある人物がジョン・アダムズに手紙を書き、「土地を所有していない裕福な人にも投票権を認めたらどうか」と提案したところ、アダムズは「馬鹿を言うな。そんなことをしたら女性も投票したがるだろうし、子供たちも投票したがるだろう。それどころか貧しい人々まで投票したがるようになる。そうなれば皆が平等になってしまう。そんなことはとんでもない」と返したそうです。当時からすでにこうした議論がなされていたわけです。ただ幸いなことに、今ではそうした人々全員が投票権を持っています。彼は非白人の人々がいずれ投票したがるようになることさえ、想像すらしていませんでした。それほどまでに、彼の考えの外にあることだったのです。とはいえ、今では皆に投票権があり、それを実現するのに実際にはあまり労力はかからなかったのではないかと思います。それは良いことです。ただ、これは政治家たちが、建国当初から今に至るまで、実は私たち市民のためではなく、資本のために働いているということを非常に明確に示す一例だと思います。ここでも改めて申し上げますが、これは米国についての話です。
4.2 資本主義の基本構造と真の権力
なぜなら、私たちは資本主義という素晴らしい経済システムの下で生きているからです。このシステムでは、所有者が生産手段を所有し、労働者階級が賃金のために働き、所有者は労働者階級が作ったものを、それを作るのにかかった費用よりも高く売り、その差額を自分の懐に入れます。これは搾取的な経済システムであり、そして自己強化的なシステムでもあります。所有者は富を蓄積し、その富を使ってこのエンジンをさらに構築し続けます。
私たちはお金を権力そのものだと考えがちですが、実はその規模はかなり限られています。たとえば私が政治献金に出せる金額には上限があります。実際には2,000ドルよりは多く、大統領選挙向けであれば7,000ドル程度だったと思いますが、正直あまり気にしていないので正確な額は分かりません。いずれにせよ、お金は確かに権力ではあるのですが、それはかなり限定された種類の権力にすぎません。本当の意味での権力とは、資本なのです。資本とは、いわばお金を「ただで」生み出すことを可能にするエンジン構築の力です。「ただで」とあえて括弧をつけたのは、このエンジンの燃料が、実際にはあなたが雇用している労働者たちからの搾取そのものだからです。
つまり、剰余価値を搾取し、その価値を使ってさらなる生産能力を買い、さらなる資本を買い、それを使ってこの自分だけのエンジンをさらに大きくしていくということです。お金というエンジンが、権力というエンジンの燃料になっているのです。こうした強力な機関は、富を蓄積すればするほど、資本主義というシステムの下では、生き残るためにさらに権力を獲得し、それを固めていかざるを得なくなります。経済の領域だけでなく、権力の領域においても戦い続けなければ、脇に押しやられてしまうことになるからです。
5. 企業による権力蓄積と独占・帝国主義
5.1 権力蓄積の諸手法とメディア支配
企業がこうした権力を蓄積していく方法は、いくつも存在します。政治家を買うこともできますし、競合他社が存在する場合には、それを買収するか、あるいは規制上の負担を課すこともできます。国際競争に対しては、いつでも戦争を始めるという選択肢がありますし、保護主義的な関税を用いることもできます。私自身、BYDの車に乗ってみたいと思っているのですが、少なくとも米国ではそれは選択肢に入っていません。リオでは実際に走っているのを見かけましたが、それを目にしたのはあれが初めてでした。そして、もし世論が自分たちを嫌っているのであれば、メディアを買ってしまえばよいのです。これは特に米国において非常に大きな問題です。英国について調べたところ、2024年の選挙では「これまでで最もお金がかかった選挙だ」と言われ、その額はおよそ1億2,400万ドルだったそうです。これは、イーロン・マスクが米国の2024年選挙で使った額のおよそ半分に過ぎず、選挙全体で使われた280億ドルという金額に比べれば、はるかに小さなものです。
そして、資本家にとって数々の勝利をもたらしてきた最高裁判例の長いリストの一環として、大金を持つ人々が望む政治家を得るために資金を投じることに対する障壁は、ほとんど存在しません。これもまた、研究資金の流れと同じようなパイプライン構造になっています。政治家に対して直接、立場を変えるようお金を払っているわけではありません。そういうこともまれには起きますが、非常にまれです。むしろ政党には、地方選挙から州選挙、そして連邦選挙へと上がっていくパイプラインがあり、寄付金がこのパイプラインの下層で誰が成功し、上へと上がっていけるかを本当にコントロールしているのです。基本的に、正しい見解を持つ政治家にはより多くのお金が集まり、間違った見解を持つ政治家は徐々に脇へ追いやられていくか、対立候補のためにネガティブキャンペーン広告に大量の資金が投じられることになります。そして、私たちが目にする本当に強力な政治家たちのところまで来る頃には、彼らはすでに資本の好みに合うよう、十分に選別されてきているのです。だからこそ、大統領選に出馬するのは、すでにこのプロセスを経てきた上院議員や知事、あるいはすでに億万長者である大資本家自身だけなのです。莫大な富と権力を持っていなければ、連邦レベルの選挙戦を戦うことはほぼ不可能です。
競合に対処したい企業にとって、確かに他社に顧客を奪われたくないという思いはありますが、実は金銭的な損失そのものはそれほど心配していません。彼らが本当に心配しているのは、構造的な権力を失う可能性です。だからこそ企業は、競合を買収するために莫大な資金を投じるのです。金銭的な損失を心配しているのではなく、相手が構築しているエンジン構築の力を奪いたいのです。相手がエンジンを持っているのなら、それを買収してしまえば自分のエンジンに組み込むことができます。相手がさらに力をつけて自分の権力を奪うことを心配する必要がなくなるからです。規制のような手法を使うこともできます。AI企業が規制を欲しがるのには理由があり、それは自分たちが規制をコントロールできる限りにおいてです。非常に大きな企業は、スタートアップなどに比べて規制への対処がはるかに容易です。そして、もし相手に勝てないのであれば、こっそりと結託してしまえばよいのです。そうすれば、自社製品を買う人々や、自社で働く人々を犠牲にして、双方が権力を拡大できます。これは多くのテック企業を通じて実際に見られてきたことです。興味深い例の一つとして、Facebookは広告販売に関してGoogleと結託することには同意した一方で、テック業界の賃金を抑えるための採用に関する結託には応じませんでした。おそらくこれは、単に採用を続けたかっただけだと思いますが、単独の研究者に対して2億5,000万ドルを支払ったこともあるようです。
もう一つの手段はメディアを買うことです。これは非常によく行われていることです。主要なメディアの多くを見てみると、多数の株主が持つ公開企業として所有されているわけではなく、少数の個人によって所有されていることが分かります。ニューヨーク・タイムズはかつて世界一の富豪によって所有されていました。現在はある億万長者一家によって所有、あるいは少なくとも支配されています。ニューヨーク・タイムズは実は珍しい例で、公開企業ではあるものの、支配株はサルツバーガー家が握っています。ウォール・ストリート・ジャーナルは世界で71番目の富豪が所有していますし、フォックス・ニュースはその人物の息子が所有しています。これはまさにドラマ『サクセッション』そのものです。ワシントン・ポストは、かつて世界一の富豪であった人物が所有し、その後派手な離婚を経験しています。LAタイムズはロサンゼルスで最も裕福な人物が所有しています。そしてもちろんTwitterはイーロン・マスクが所有しています。Twitterについては少し例外かもしれないと思っていて、マスク氏は何か壮大な戦略を持って買収したわけではなく、単に自分のツイートにもっと「いいね」が欲しかっただけなのではないかと思います。そのため彼は自分の投稿を上位に押し上げましたが、これはむしろ逆効果になっている可能性があります。人々がイーロン・マスクに触れれば触れるほど、彼を好きになるのではなく、むしろ反感を強めているように思えるからです。
しかし、メディアを支配するというのは、単に記者にお金を払って自分に都合の良い記事を書かせるということではありません。それも時々は起きますが、本当に重要なのはこのパイプライン全体を支配することです。正しい意見を持つ優秀な記者や編集者は昇進し、間違った意見を持つ人は排除されていきます。このパイプライン全体を支配することで、最終的に頂点に立つ人々だけでなく、その構造を通じて全体的に、メディア環境を所有する人々の意見に同調するようになっていくのです。そして、こうした富と権力の集中は、資本主義そのものの核心に組み込まれているものです。これは、資本主義を定義した人物であるカール・マルクスと、米国で最も冷徹な資本家の一人であるピーター・ティールが、奇妙なことに一致して認めている点でもあります。独占こそがここでの最終目標なのです。できる限り富と権力を集中させ、蓄積したい、他社と競争して勝ち、すべての権力を掌握したいと考える。それをどう使うかは分かりませんが、とにかくお金を稼ぐために使うのでしょう。最終的なゴールが本当に存在するのかどうか、私には分かりません。あまり筋の通った話ではないのですが、資本主義とは、搾取を通じたこうした集中を可能にし、それが競争がなくなるまで際限なく続いていく構造なのです。
5.2 独占・暴力からの隔絶・帝国主義
こうして資本家階級はこの権力のエンジンを構築し続け、支配を強めていきますが、彼らは一般の労働者とはまったく異なる存在です。テック業界で働く、比較的高い収入を得ている労働者であっても、プライベートアイランドやプライベートジェット、自分専用の護衛部隊を持っているわけではありません。彼らは暴力から自分自身を隔離するために、あらゆる手段を尽くしています。ここでお見せしているのは、左側が私設警備に囲まれたビル・ゲイツ、そして右側がジェフリー・エプスタインに囲まれたビル・ゲイツです。彼らは自分たちの行動に対して法的な責任を問われることがほとんどなく、そこから隔離されています。そのため、彼らの世界観や関心事は、一般の人々の見方や優先事項とはまったく一致していないのです。
私自身、これを実際に目の当たりにしたことがあります。ビル・ゲイツがワシントン大学(U-Dub)を視察に訪れた際、私設警備がその場に大挙して配置されていただけでなく、大量の警察も出動し、建物を封鎖して、この一個人のためにいわば国家がスポンサーとなった警備が敷かれました。これは非常に啓発的な光景でした。というのも、警察もまた皆さんを守るために存在しているわけではなく、資本を守るために存在しているのだということが、まさにここで示されていたからです。彼らは資本の利益を守るために存在しているのです。そして資本家階級にとって、優先事項の一つは戦争を好むということです。戦争はビジネスにとって非常に都合が良いのです。株式市場を見れば分かる通り、今は史上最高値を記録しています。そしてこれもまたマルクスの指摘ですが、帝国主義とは資本主義の自然な帰結なのです。独占企業は国内であらゆるものを食い尽くしていくと、拡大を続け、権力を蓄積し続けるために、より世界的な規模に目を向けざるを得なくなります。そして、警察が資本と財産権を守るために存在しているのとまったく同じように、軍は世界貿易を守り、これらの独占企業が国際的に展開し、こうした資源の搾取を行う能力を守るために存在しているのです。
そして、これもまた面白い最高裁の判決なのですが、警察には個人を保護する義務はないという判断が下されています。皆さんは警察が人々を「守り、仕える」ために存在していると思っていたかもしれませんが、実際には財産権を執行するために存在しているのです。つまり、AI、そして社会全体、社会の生産的な産出物は、権力を持つ者と一致する方向に向かっているのです。研究はこうした資金メカニズムや制度によって導かれています。AIの展開は、基本的に企業のオーナーや、企業を所有する取締役会によって導かれています。そして億万長者たちはこの権力を持っており、彼らの利益は一般の人々の利益とは一致していません。
6. AIアライメント問題の核心と解決の方向性
6.1 AIアライメント問題の核心
億万長者たちが権力を持ち、彼らの利益は一般の人々の利益とは一致していません。それどころか、実際には皆さんの利益とは逆方向を向いていると言ってよいでしょう。彼らは、労働者である皆さんから富を搾取すればするほど、より多くのお金と権力を手にすることになるからです。そしてこれこそが、まさにAIアライメント問題の核心だと私は考えています。つまり、AIというものは、私たちが今の権力構造の下で存在し続けている限り、常にこうした利益に主として奉仕するようにできているのです。
この点については、以前にも多くの先行研究があります。これを最初に言い出したのが誰なのか、私は正確には把握していません。正直なところ、おそらく他にも同様の指摘をしている人がいるとは思うのですが、1980年代にすでにこうしたことを考えていた人たちがいたことを見つけました。JoelとBarbaraという人物は、おおよそ次のような趣旨のことを述べています。資金は基礎研究から応用研究へとシフトしてきており、それは連邦政府のCS研究資金全体においても、また学術的なCS分野内においても言えることであり、防衛関連のプログラムがこのシフトの大部分を占めている、という指摘です。さらに、Clark Thompsonという人物は「今日の学術的なコンピュータサイエンス研究のほとんどは、軍事機関によって方向づけられている」と結論づけています。
さらに時代をさかのぼれば、アインシュタインの例があります。彼は物理学における私たちの科学的理解において、驚くべき飛躍的発見を成し遂げましたが、それが結局のところ人類史上最も破壊的な技術のために使われてしまったのを目の当たりにしました。アインシュタインはこのことに大きな苦悩を抱えていました。彼は平和主義者であり、原子爆弾そのものの開発には関わりませんでした。関わったと思われている方もいらっしゃいますが、実際には原爆を支える理論的な理解の一部に関与したにすぎません。それでも彼は大きな権力を持ち、それがどう使われたか、その下流の影響について多くの苦悩を抱えていました。彼の著作の多くは非常に興味深いものであり、ぜひ読んでいただくことをお勧めします。
6.2 解決策:本当の民主主義
さて、時間がかなり過ぎてしまっていますが、一つの解決策についてお話ししたいと思います。それは「本当の民主主義」です。私が言いたいのは、企業というものは根本的に反民主主義的な存在だということです。企業は権威主義的であり、上司が皆さんに指示を出し、その上司はさらにその上の上司から指示を受け、CEOが頂点に座っています。彼らは基本的に独裁者なのです。私たちは政府に対しては民主主義の理想を追い求めていますが、企業に対しては独裁を受け入れてしまっています。
これに対抗するための方法はいくつかあります。労働組合はその一つの非常に良い方法であり、既存企業の中で労働者の力を築くための手段です。労働組合は民主的であり、資本が持つ権力に対して押し返すための手段を提供してくれます。多くの労働組合は、給与の引き上げや労働条件の改善といった物質的な利益に焦点を当てていますが、同じ組織構造を使って、企業が向かう方向性そのものを、労働者が本当に望む優先事項に近づける形で交渉することもできます。これは意義ある変化を得るための、比較的迅速な方法です。しかし残念ながら、少なくとも米国では労働組合は着実に衰退しており、テック企業は組合に対して非常に敵対的で、組合潰しに対するペナルティを受け入れる覚悟さえ十分にできています。何百万ドル、あるいは何十億ドルものペナルティを支払わなければならないとしても、労働者がより多くのコントロールを職場に対して持つことによる潜在的な損失に比べれば、それは安い代償なのです。
私が本当に期待しているのは、労働者協同組合、つまり最初から労働者の力を組み込んだ企業を構築するというアプローチです。これは、投資家も株主も存在せず、労働者自身が会社を所有し、利益を分かち合うという法的枠組みです。これは特に米国において多くの小規模事業ですでに成功していますが、より大規模な組織でも機能している具体例があります。スペインで7番目に大きい企業であるモンドラゴンは、労働者協同組合です。正確には協同組合の連合体なのですが、労働者協同組合がこのように機能しうるという、非常に興味深い事例です。協同組合が従来型の企業に対して優位に立てるのは、労働者から余剰価値を搾取していないからです。
生産された価値は、その仕事を作り出している人々、実際にその価値を生み出している労働者自身に還元されます。そのため、労働者の労働条件は改善され、生活は良くなりますが、それだけでなく、自分たちが取り組んでいる仕事そのものへの関与も高まります。自分の生産物に対するコントロールを持ち、自分の成果がどこに向かうのかに対するコントロールを持てば、職場における疎外感は少なくなります。燃え尽き症候群も減り、より満足感を得られるようになるはずです。そして、労働者協同組合には、従来型企業の権力を凌駕しうる「二重権力」としてのユートピア的なビジョンがあるとも言えます。
構築には時間がかかるでしょうが、協同組合が従来型企業に対して競争力を持てるようになれば、より大きく成長し、自分たちが助けて生み出した新しい協同組合に分社化したり、連合したりすることができます。そうして時間をかけて経済のより多くの部分がこうした労働者協同組合によって運営されるようになれば、これまで資本に集中していた経済的な権力を、実際にその生産的なプロセスを担っている労働そのものへと、より多くシフトさせていくことができます。そうなれば、権力のレバーは資本の利益ではなく、労働者の利益と本当に一致するようになっていくはずで、それは望ましいことだと思います。
もちろん、多くの課題があります。スタートアップ向けの資金調達のような手法は使えませんし、株式を売却することもできません。莫大な資金を集めるのは非常に困難です。そして、より大きな問題として、資本主義そのものに対する構造的な脅威となれば、大きな反発に直面することになります。フレッド・ハンプトンは、資本主義に対する真の脅威とみなされたためにFBIによって自宅のベッドで殺害されました。マーティン・ルーサー・キングは、貧困者運動(Poor People's Campaign)に取り組み始めた後に暗殺されました。そしてもちろん、米国は資本主義を守り、左派やアンチ資本主義に対抗するために、これまで数多くの戦争を戦ってきました。
6.3 まとめ
かなり駆け足になりましたが、最後にまとめたいと思います。権力は自己強化的なものであり、権力を持つ者たちは私たちと利害が一致していません。そしてこれこそが、AIにおける根本的な問題なのです。生み出される研究は、資金の流れと一致しており、その資金の流れは資本の利益と一致しているのであって、皆さんの利益とは一致していないのです。
最後にもう一つ、アインシュタインの言葉を引用して締めくくりたいと思います。私たちが今日この場に集まっている理由そのものだと思うからです。それは次のような言葉です。もし今日の科学者たちが、自分たちの置かれた状況とこれから取り組むべき課題について、正直かつ批判的に考える時間と勇気を見出し、そしてそれに従って行動するならば、現在の危険な国際情勢に対して、賢明で満足のいく解決策を見出せる可能性は、大きく高まるだろう、というものです。
彼自身、具体的な直接の解決策を数多く持っていたわけではありません。彼は社会主義者でしたが、それでも彼のこの言葉は、私たちが今日この場に集まっている理由そのものを示していると思いますし、残りの時間を私たちがどう使うべきかについての、良い動機づけになると思っています。
7. 質疑応答
モデレーター: かなり時間が押しておりますが、一つだけ質問を受けたいと思います。その後は午後のパネルで皆さんに質問していただく機会がありますので、そちらもご活用ください。発表、本当にありがとうございました。
質問者: 今の発表、本当に素晴らしかったです。ICLRでこうした話を聞けたことを本当に嬉しく思います。私の質問はライセンスについてです。YOLOは完全にオープンなライセンスだと理解していますが、私自身は自分のソフトウェアにライセンスを設定する際にいつも悩みます。企業に自分のソフトウェアを使われることに抵抗を感じてしまうからです。YOLOがこれまでどのように使われてきたかを知った今、もしライセンスを変えられるとしたら、変えたいと思いますか。
発表者: 良い質問をありがとうございます。この一連の経緯から本当に多くのことを学びました。改めてお伝えしておきたいのですが、私は今、このワークショップの場ではAI2の代表として発言しているわけではありません。ただ、実際には現在AI2に所属していて、OLMo Earthというプロジェクトに関わっています。本来であれば、商用利用不可、軍事利用不可、監視利用不可という三つの条件をすべて満たすライセンスにしたいと考えていました。実際に得られたのはそのうち二つだけです。OLMo Earthについては、軍事利用不可、監視利用不可というライセンスにすることができて、それは良かったと思っています。ただ、これは同時に、非営利団体であっても米国の従来型企業と似たような形で運営されているという事実を浮き彫りにするものでもあります。非営利団体における権力のレバーも、結局はお金を持っている人物や、CEO、あるいはその人物固有の関心によってコントロールされているのです。
その結果、OLMo Earthは商用利用は可能である一方、軍事利用は不可というライセンスになっています。少なくともその点は良かったと思っています。過去に遡ってYOLOのライセンスを事後的に変更することはできないだろうと思っていますし、正直、当時はそこまで深く考えが及んでいませんでした。ただ今後については、自分の研究成果が軍事利用の場に登場することを個人的に望んでいないので、非軍事利用ライセンスを重視することは間違いなく私の優先事項になっています。
同時に、これは個人だけで解決できる問題だとは考えていません。たとえ多くの人々を説得して、軍事利用を許可しない特定のライセンスだけを使うようにしたとしても、その上にはより大きな構造的な問題が存在していて、そこに本当に取り組まなければならないと思っています。ですので、個人的なレベルでは、非軍事ライセンスを採用することで自分自身が少しでも納得できる形にしたいという思いはありますが、この問題はそれだけにとどまらない、より根本的なものだと考えています。ありがとうございました。
モデレーター: 本当にありがとうございました。