※本記事は、ITU（国際電気通信連合）が主催し、スイス政府と共催するAI for Good Global Summitのウェビナー「Can we have pro-worker AI?」の内容を基に作成されています。動画はhttps://www.youtube.com/watch?v=XByHfJrYThY でご覧いただけます。本記事では、ウェビナーの内容を要約しております。なお、本記事の内容は原著作者の見解を正確に反映するよう努めていますが、要約や解釈による誤りがある可能性もありますので、正確な情報や文脈については、オリジナルの動画をご視聴いただくことをお勧めいたします。
登壇者のDaron Acemoglu氏は、MIT（マサチューセッツ工科大学）のInstitute Professorであり、政治経済学、経済発展、経済成長、技術変化、不平等、労働経済学、ネットワークの経済学など幅広い分野を研究する、世界で最も引用される経済学者の一人です。Simon Johnson氏との共著『Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity』（2023年）において、技術の進歩がもたらす恩恵は自動的に広く共有されるものではなく、その分配は技術がいかに使われ、誰の利益に供されるかに依存するという議論を、千年にわたる歴史的事例を用いて展開しています。
1. イントロダクション——生成AIの真の可能性と問いの設定
1-1. AIへの膨大な投資と計算能力の飛躍的拡大
Acemoglu： AIが私たちの生活のさまざまな側面に影響を与えることは、ここ数年の出来事から明らかです。私たちがどのように働くか、どのようにコミュニケーションをとるか、民主的あるいは非民主的な手段で政治に参加するか、といった領域すべてにAIは関わってきます。AIに投じられているリソースとエネルギーの規模は、本当に驚異的です。投資額はどんどん膨らんでいますが、特に強調しておきたいのは、これらのモデルの計算能力が、ほんの数年前まで人類が想像すらしていなかったレベルをはるかに超えているという点です。Gemini UltraやGPT-4の最新版は、人間を月に送り届けたコンピューターの約1兆倍もの計算能力を使っています。つまり、私たちは今、まさに桁外れの投資について話しているわけです。
1-2. 生成AIの本来の約束——人間の意思決定を補完するツールとして
Acemoglu： そこで私が今日提起したい問いは、こうした状況のなかで「私たちはこれらのツールに何を求めるのか」というものです。生成AIの真の可能性は、人間にとって補完的な、つまり人間の意思決定、問題解決、技術的な作業、さらには創造的なタスクを支援する、インテリジェントで柔軟かつ使いやすいツールにあると私は考えています。この見方は口先だけでは語られることがありますが、現在の大規模言語モデルの実際の使われ方——自動化のためのデプロイや、デジタル広告などを通じた収益生成——とは大きくかけ離れています。この本来の可能性は確かに実在するものだと思いますが、私たちが現在向かっているのはそちらの方向ではありません。
Acemoglu： 本日の講演では、そのような方向に向かうことを妨げる四つの主な障壁について順番にお話しします。すなわち、過剰な自動化、情報多様性の喪失、人間とAIの誤整合、そして情報支配の独占です。ただし、これらの障壁はいずれも、テック企業のビジネスモデルと、AIをめぐるイデオロギー——つまりデジタル技術やAIの分野をリードする起業家・科学者・投資家たちが何を優先し、何を目指しているのか——を理解しなければ、適切に捉えることができません。そのため、まずはこのイデオロギーの問題から議論を始めたいと思います。
2. AIをめぐる二つのイデオロギーの対立
2-1. 「機械知能」の系譜——チューリング、ダートマス会議、自律的AI観
Acemoglu： AIをめぐるイデオロギーを理解するには、コンピューター科学の黎明期にまで遡る必要があります。この分野を切り開いた天才数学者Alan Turingは、映画『イミテーション・ゲーム』でも知られていますが、数学上の偉大な業績に加えて、コンピューター科学の未来を方向づける一連の哲学的思想を打ち立てました。その中心にあるのが「万能チューリングマシン」という概念です。これは、計算可能なあらゆることを計算できる機械を意味します。そこにTuringはさらに「人間の心もまた一種の計算機械にすぎない」という考えを加えました。この二つを組み合わせると、コンピューターが万能チューリングマシンへと進化していくにつれて、最終的には人間の心が行うすべてのことができるようになる、という結論に至ります。
Acemoglu： この見方から導かれるのは、「自律的な機械知能」、つまり人間によって制御されない、自ら行動する高度な知能は、実現可能であるだけでなく望ましいものでもある、という主張です。そしてそこから、コンピューターやデジタル技術の使い方についてまったく異なる見方が生まれます。機械が人間よりも優れるようになれば、人間からどんどんタスクを引き取らせるべきだ、すなわち自動化こそが目指すべき方向だ、という発想です。AIという分野自体、1960年代にダートマス会議から生まれましたが、その場に集まった著名な研究者たちはTuringのこのビジョンを強く受け継ぎ、人工知能のプロジェクトを打ち立てました。彼らはTuring以上に楽観的で、1年以内に今日で言う人工汎用知能に相当するものが実現すると予測した者もいたほどです。
2-2. 「機械有用性」の系譜——ウィーナー、エンゲルバート、リックライダー
Acemoglu： しかし、これはコンピューター科学やAIにおける唯一のビジョンではありません。実はTuringが思想を展開していたのとほぼ同時期に、別の重要な人物たちも同じ問題と格闘していました。最も重要な存在として挙げたいのが、MITの元同僚であるNorbert Wienerです。もっとも私たちの在籍時期は重なっていませんが、彼は非常に優れた数学者・技術者でした。Wienerは早くも1949年には、自動化が人間のアイデンティティと労働にとって何を意味するかを深刻に問い始めていました。そして私がSimon Johnsonとの著書のなかで「機械有用性（machine usefulness）」と呼ぶ考え方を提唱しました。これは「機械知能（machine intelligence）」と対比させるためのものです。機械は人間にとっての有用なツールとして機能するのが最善であり、そのためにはデジタルツールと人間の意思決定者の間の、より良いコミュニケーションとより良い協働が求められる、という考え方です。
Acemoglu： こうした考え方はWienerの影響を受けてかどうかは必ずしも明確ではありませんが、後に他の人々にも引き継がれていきました。特に言及したいのはDouglas Engelbartです。彼は非常に重要な技術者であり、人間と機械の補完性という観点から、この考え方を力強い形で表現しました。それだけでなく、彼はこの発想に基づいてさまざまなイノベーションを実際に生み出しました。私たちが今日依存しているコンピューターマウス、ハイパーリンク、ハイパーテキスト、メニュー駆動型のコンピューターなどは、いずれもコンピューターは人間の意思決定を補完するものであるべきだというこのビジョンから生まれてきたものです。JCR Lickliderも同様の思想を展開し、彼が「人間と機械のシンビオシス（共生）」と呼んだ概念を掲げました。さらに彼はARPANETの設計、そして後のインターネットプロトコルの推進力ともなりました。インターネットはまさに人間と機械の補完性の輝かしい実例であって、アルゴリズムが人間に対して他の人間の知識へのアクセスを与えるものに他なりません。
2-3. 生成AIがリックライダーのビジョンを現実に近づける理由
Acemoglu： Lickliderが60年以上前に「人間と機械の共生（man-computer symbiosis）」について書いていた言葉は、今読んでも非常に示唆に富んでいます。彼はこう述べています——「人間の脳とコンピューティングマシンは非常に密接に結合され、これまでいかなる人間の脳も思考したことのない方法で思考し、私たちが知る情報処理マシンが取り扱えるのとは比べものにならないやり方でデータを処理するようになるだろう」と。これは機械が人間に奉仕するという、非常に鼓舞的なビジョンでした。しかし当時の技術水準では、このビジョンは必ずしも実現可能ではありませんでした。コンピューター科学の進歩は印象的でしたが、課題に応えるには至っていなかったのです。
Acemoglu： 私が生成AIに興奮を覚え、真の可能性を感じる理由は、まさにここにあります。生成AIは、Lickliderが描いた構想を現実にはるかに近づけるからです。そしてこれは私たちのような学者や思想家、オフィスワーカーだけに当てはまる話ではなく、あらゆる種類の肉体労働や、リアルタイムの現実世界との相互作用を伴う職業にも当てはまります。私たちが今日行っていることの多くは、一連の問題解決の連続です。例えば電気工を例にとると、彼が行うのは以前に経験したことのない問題に対処することです。現代の皮肉は、インターネットのおかげで情報は豊富にあって、知りたいことも知りたくないことも何でも調べられますが、本当に役に立つ情報は実は乏しい、という点にあります。電気工が直面している具体的な問題を解決しようとしたとき、その問題が何か、どうトラブルシューティングすればよいか、どんな新しい機材が必要か、どんな調整が必要か——そうした実用的な情報をリアルタイムで見つけることは、よほど熟練した電気工でない限り非常に困難です。生成AIの真の可能性はまさに、そうした有用な情報を実際に提供できるところにあります。生成AIは情報ツールとして、人間の問題解決者に対して情報をフィルタリングし、キュレーションし、迅速に取り出して提示することができ、その結果として人間の問題解決者自体がより優れた存在になれるのです。これは電気工だけでなく、医療従事者、教育者、ジャーナリスト、配管工、ブルーカラー労働者など、広くあてはまる話です。
3. 補完的AIの可能性を示す実証研究
3-1. 電気工・医療・教育・ブルーカラー職における情報ツールとしての潜在力
Acemoglu： 生成AIが人間の補完ツールとして機能するというビジョンは、ある意味で楽観的すぎる絵空事のように聞こえるかもしれません。なぜなら、それが現在のAI投資の向かっている方向とは必ずしも一致していないからです。しかし、いくつかの概念実証的な研究が、このビジョンが実際に達成可能であることを示しています。その前提として重要なのは、私たちが日々行っていることの多くが「問題解決の連続」であるという認識です。電気工であれ、医療従事者であれ、教育者であれ、配管工であれ、彼らはいずれも、以前に経験したことのない問題に絶えず直面しています。情報は豊富にあってもすぐに役立つ情報は乏しいという現代の皮肉のなかで、生成AIが果たしうる役割はまさにこの「有用な情報をリアルタイムで届ける」という点にあります。そしてこの可能性は、いくつかの異なる文脈で実際に検証されています。
3-2. GitHub Copilot・顧客サービス・要約タスクのRCTが示す効果
Acemoglu： 具体的には、Peng他によるGitHub Copilotを用いたシンプルなHTMLプログラミングの文脈、Brynjolfsson他によるテキスト要約の文脈、そしてNoah Jangによる顧客サービスの文脈において、ランダム化比較試験（RCT）の手法を用いた研究が行われ、生成AIが実際にこの補完的役割を一定程度果たせることが示されています。これらの研究は、生成AIが単に作業を代替するのではなく、人間の労働者自身の生産性を高めるという効果を持ちうることを実証的に裏付けるものです。
3-3. ノア・ジャン論文——スキル下位70%の労働者に集中する恩恵
Acemoglu： なかでも特に注目すべきはNoah Jangの研究です。この研究の結果を端的に説明すると、実験前の習熟度に基づいてグレー（対照群）とグリーン（生成AIツールへのアクセスが与えられた処置群）に色分けされたグラフが示すように、生成AIは事前のスキルが必ずしも高くない労働者に対して顕著な効果をもたらしていました。上位20〜30%の最も習熟度の高いライターには、現時点の生成AIはあまり貢献できていません。彼らはすでに生成AIが提供できる水準を超えた能力を持っているからです。しかし残りの約70%の労働者——最高レベルのスキルを持つわけではない人々——は、生成AIによる情報提供や支援によって、自らの専門性を実際に向上させることができました。
Acemoglu： つまり生成AIの可能性は、トップ層をさらに高みへ押し上げることよりも、むしろ中間層から下位層の労働者が、これまでは一部の熟練者にしかアクセスできなかった知識や判断力を活用できるようにする点にあります。これはスキル格差を縮小させる方向に働く効果であり、私が生成AIに真の可能性を見出す理由の一つです。ただし繰り返しになりますが、こうした可能性が実現するかどうかは、現在のAI投資がどの方向に向かっているかに大きく左右されます。次に述べる四つの障壁が、この可能性を阻んでいる現実の問題です。
4. 第一の障壁：過剰な自動化と不平等の拡大
4-1. 戦後の「共有された繁栄」からデジタル時代の格差拡大へ——米国賃金データの実証
Acemoglu： 過剰な自動化という障壁を理解するために、まずアメリカで実際に何が起きたかを見てみましょう。デジタル時代以前、第二次世界大戦後の数十年間は、「共有された繁栄（shared prosperity）」と呼ぶにふさわしい時代でした。私が示したいデータは、性別と学歴によって区分した10の人口統計グループの実質賃金——インフレ調整済みの賃金——の推移です。グループは、高校中退者（オレンジ）、高校卒業者（グリーン）、準学士号取得者、学士号取得者、大学院修了者といった区分で、男女それぞれに分かれています。1963年以降のグラフを見ると、これらの曲線はほぼ重なり合っており、すべてのグループが足並みをそろえて急速な実質賃金の上昇を享受していたことがわかります。その上昇率は生産性の伸びとほぼ同じで、年率約2.5%の実質増加、つまり30年で実質所得がほぼ倍増するペースでした。これはまさに繁栄が広く共有されていた時代でした。
Acemoglu： ところが1980年代頃を境に、この曲線が扇状に広がり始めます。さらに衝撃的なのは、低学歴グループが実質賃金の上昇どころか低下を経験し始めたことです。生産性は上昇し続けているにもかかわらず、恩恵を受けるのは高学歴グループだけになってしまいました。米国労働市場におけるこの劇的な変化には多くの要因がありますが、私の研究は、デジタル技術を過剰な自動化のためだけに使ってきたことが、その主要な要因の一つであると主張しています。
4-2. 自動化率と実質賃金の相関（Acemoglu＆Restrepo）および初期AI投資の自動化偏重
Acemoglu： この点をより詳細に示すために、Pascal Restrepoとの共同研究をご紹介します。ここでは分析の焦点を10グループから、性別・学歴・年齢・民族によって区分されたより細かい人口統計グループに移します。グラフでは、円の色が学歴水準を、円の大きさがグループの規模を示しており、横軸には1980年から2016〜2017年（コロナ禍直前）にかけての累積実質賃金変化率を置いています。このグラフを見ると、一部のグループは実質所得をほぼ倍増させ、60〜80%もの増加を経験している一方で、約半数のグループがゼロラインを下回っており、実質的な所得の喪失を経験していることがわかります。
Acemoglu： そして特に重要なのが横軸です。ここにはPascal Restrepoが計測した自動化の指標、すなわち1980年に各人口統計グループが担っていたタスクのうち、その後に自動化された割合が示されています。この数値と実質賃金の変化を照合すると、非常に強い相関関係が見えてきます。実質賃金の低下を経験したグループのほぼすべてが、大規模な自動化にさらされてきたグループなのです。そして私たちはこの自動化が過剰なものであったという証拠も示しています。その多くは巨大な恩恵をもたらすことなく、この不平等の爆発的拡大を引き起こしたにすぎなかったのです。
Acemoglu： さらにDavid Autor、Pascal Restrepo、Joe Hazellとの共同研究では、2017年頃のAI投資の最初の大爆発期においても、まったく同じことが起きていたことを示しています。当時AI投資を行っていたのは、自動化可能なタスクを多く抱える事業所であり、そうした事業所がAIに投資した結果、雇用を削減しました。しかも生産性への効果は目覚ましいものではありませんでした。AIの不平等への影響も生産性への影響も、どのように使うかによって大きく左右されるものです。より良いAIは可能であり、それは歴史からもヒントを得ることができます。
4-3. 産業革命の教訓——最初の90年間の労働者の困窮と制度変革による転換
Acemoglu： Simon Johnsonと私が『Power and Progress』を執筆した理由の一つは、AIとデジタル技術について考えるための歴史的・概念的枠組みを提供するとともに、多くのテックリーダーが口にする誤解——「過去には物事がうまくいったのだから、たとえば産業革命のように、なぜAIを恐れるのか」——を正すためです。しかし、過去は決してうまくいっていなかったのです。産業革命の最初の約90年間は、労働者にとって悲惨な時代でした。実質賃金は停滞し、場合によっては低下すらしており、繊維業のような最も活況を呈していたセクターでさえ、労働時間は20%増加し、労働環境は大幅に悪化しました。その多くは、工場における権力の在り方と、技術進歩の性質——デジタル技術と同様に、技能の低下をもたらし賃金を押し下げる過剰な自動化への偏重——に起因していました。収益性はあっても、労働者にとっても生産性全体にとっても決して良いものではありませんでした。
Acemoglu： 今日、「産業革命はうまくいった」と言う人々が念頭に置いているのは、実は第二段階の話か、あるいは第一段階と第二段階を混同しているのです。実質賃金が上昇し始めたのは確かですが、それは自動的に起きたことではまったくありませんでした。そこには驚くほど急進的な制度変革が必要でした。イギリスは、人口の2%未満しか選挙権を持たない非常に貴族的・寡頭的な体制から、19世紀最後の四半世紀から20世紀初頭にかけて、事実上の普通選挙制度へと民主化を遂げました。重く訴追されていた労働組合が19世紀最後の四半世紀に合法化され、技術の方向性も、技能を奪うだけの繊維工場から、熟練した仕事を生み出す新しい機械の導入へと大きく転換されました。これは歴史の自然な流れではなく、制度変革の産物だったのです。
4-4. ヘンリー・フォードの事例——新タスク創出が雇用拡大をもたらした歴史的モデル
Acemoglu： より身近な歴史的事例として、Henry Fordの工場の話をしましょう。Fordは労働者の友でも労働組合の支持者でもありませんでした。しかし彼が工場で実際にやったことは、私たちが今日デジタル技術を使っている方法よりもはるかに優れていました。彼は生産プロセスの電化と機械化を推進する一方で、それまで存在しなかった新たな労働者のタスクも導入したのです。分散した電力供給源を持つ新しい機械が、互換的な組立ライン方式で導入されるのと同時に、以前は存在しなかったタスクを担う労働者が登場しました。エンジニアリング、ホワイトカラーの事務作業、保守・修理、品質管理といった仕事がそれです。これが、セクター全体が変革されるなかで、自動車産業における雇用の爆発的な増加をもたらしました。デジタル技術がもたらした雇用喪失・代替効果とは対照的な結果です。
Acemoglu： つまり、より良い情報、より良い技術、より良いスキルアップに基づいた「労働者のための新タスクの創出」こそが非常に重要であり、AIやデジタル技術を今日適切に使えばそれが可能だということです。生成AIの進歩は、正しい方向で使えばその実現を助けるものになりえます。問題はその「正しい方向」に私たちが向かっているかどうかです。次のセクションでは、その実現を妨げる残りの障壁について論じていきます。
5. 第二・第三の障壁：情報多様性の喪失と人間とAIの誤整合
5-1. GPSの事例が示す同質化リスク——情報ツールが多様性を失わせる構造
Acemoglu： 過剰な自動化の問題に加えて、AIが情報ツールである以上、どんな情報ツールにも共通して生じる根本的な緊張関係があります。それは情報多様性の喪失という問題です。これは理論的な予測であると同時に、より実績のある技術においてすでに観察されていることでもあります。わかりやすい例として、GPSを取り上げましょう。GPSは今日のAIよりもはるかに実績があり、汎用性の高い優れた技術です。しかしナビゲーションシステムにGPSが初めて導入されたとき、何が起きたかをご存知でしょうか。理論的にも予測されており、実証的な証拠もあるのですが、たとえばロンドンでは渋滞が改善されるどころか、抜け道となる細い道路の交通状況がむしろ悪化しました。なぜかというと、初期のAIナビツールがすべての人を同じ近道に誘導した結果、その道がボトルネックになり、市街地全体の交通を逆に減速させてしまったからです。
Acemoglu： これはまさに情報ツールの同質化リスクを示しています。情報ツールが広く使われるようになると、そのツールが推奨する情報や経路に人々が集中し、多様な判断や行動が失われていきます。そして私は、これと同じ問題が、はるかに広範に適用されると主張される生成AIにおいても深刻な脅威になると考えています。
5-2. 「AIが自らの墓を掘る」パターン——Stack Overflowの崩壊と集合知の破壊
Acemoglu： この問題は、私が「AIが自らの墓を掘る」と呼ぶパターンにおいて、すでに目に見える形で現れています。GitHub CopilotやChatGPTがどのようにプログラミングを「知っている」のかを考えてみてください。それは、プログラミングの規則を第一原理から導き出しているわけではありません。人間が書いたサブルーティンを見つけ出し、それをユーザーの指示に合わせて単純な方法で修正しているにすぎません。ではその情報はどこから来ているのか。それがStack Overflowです。Stack Overflowは素晴らしいウェブサイトで、コンピューターサイエンス版と数学版があり、ユーザーが自分の問題を投稿し、専門家たちが精神的エネルギーを費やして解決策を考え出し、その解決策が他のユーザーによって賛否投票され、共有されることで集合知の一部になっていきます。ChatGPTやGitHub Copilotを含む大規模言語モデルはすべて、誰からも許可を求めることなく、このStack Overflowのデータで訓練されました。
Acemoglu： ところがここで「AIが自らの墓を掘る」パターンが発生します。ChatGPTが利用可能になった瞬間、Stack Overflowのトラフィックが完全に崩壊したのです。人々はStack Overflowと同じ情報をChatGPTから得られるため、Stack Overflowへのアクセスが激減しました。これがChatGPTと関係していることは、二つの対照事例から明らかです。数学の専門知識がChatGPTには含まれていないMath Overflowでは同じ現象は起きておらず、またChatGPTが禁止されているロシア語・中国語版の類似サイトでも同様の崩壊は見られませんでした。問題は明らかです。次に学びたい高度なプログラミング知識があったとしても、その知識を生み出すコミュニティが破壊されてしまっているのです。しかし問題はそれだけにとどまりません。情報多様性の喪失は、より深刻な問題の氷山の一角にすぎないのです。
5-3. ブラックボックス問題と誤整合——医師がAI予測を誤解釈する実証（Agrawal・Salz他）
Acemoglu： 情報多様性の喪失よりもさらに根本的な問題が、人間とAIの誤整合です。本来あるべき姿は、人間の意思決定者とAIが適切に協調・連携・コミュニケーションをとりながら動くことです。しかし大規模言語モデルのブラックボックス的な性質と、信頼性に欠ける情報やハルシネーションといった問題が、そうした整合を著しく困難にしています。
Acemoglu： この問題を示す実証研究として、私の同僚であるAgrawal、Salzらによる非常に興味深い論文があります。この研究では、医師がAIベースのモデルからの情報をどのように解釈するかが調べられました。結果として明らかになったのは、コミュニケーションの完全な崩壊と情報の誤較正です。具体的には、医師たちはAIが推奨する情報のうち、自分がすでに持っている情報と一致するものにより大きなウェイトを置いていました。つまり確証バイアスが増幅されていたのです。一方で、AIが提供するその他の情報については系統的に過小評価しており、その結果として医師たちは、AIの助けを借りていない場合よりも実際に悪い判断を下すようになっていました。
Acemoglu： これは個別の事例の問題ではなく、構造的な問題です。予測的ポリシングや放射線科医の行動を調べた研究でも同様のパターンが確認されています。AIモデルのアーキテクチャが根本的に変わり、はるかに透明性の高いものになるまでは、この問題を解決することはできないでしょう。AIが人間の問題解決者を補完する存在になるという約束は、この誤整合の問題が克服されなければ実現しません。しかしAI開発の現在の方向性は、透明性よりも能力の拡大に重点が置かれており、この障壁はますます深刻になる可能性があります。
6. 第四の障壁：情報支配の独占と民主主義への脅威
6-1. パノプティコンからソーシャルメディアへ——情報支配が監視・操作に転化する歴史
Acemoglu： すべての情報ツール、そして特にあらゆる技術は、効率性の向上という側面だけでなく、誰が誰を支配するかという権力の問題でもあります。これはJeremy Benthamが彼の有名な「パノプティコン」という装置において、おそらく暗黙的には理解していたものの、決して認めようとしなかったことです。パノプティコンは単なる効率化の仕組みではなく、人々を管理・支配する手段でもありました。情報支配が独占されると、それは権威主義の支持ツールとなり、民主主義に対抗するツールとなります。そしてそれはまた、私たちがソーシャルメディアで目の当たりにしてきたように、操作のツールにもなるのです。
Acemoglu： 私たちはこの点において、すでに非常に悪い実績を持っています。ソーシャルメディアが示したように、情報支配が一部のプラットフォームに集中したとき、それは人々の意見を形成し、行動を誘導し、民主的なプロセスを歪める強力な道具になりえます。そして生成AIはソーシャルメディアよりもはるかに強力な操作の可能性を持っており、個人に特化した操作的アクションを可能にする余地を大幅に広げるものです。
6-2. ハンナ・アーレントの警告と生成AIが加速するポスト真実のリスク
Acemoglu： この危険性は、生成AIの製造ツールとしての利用者に対する脅威にとどまりません。より深刻なのは社会全体への影響であり、これはHannah Arendtが50年以上前に先見的に予見していたことです。彼女はニューヨーク・レビュー・オブ・ブックスにこう書いています——「もし誰もがあなたに嘘をついたとしたら、その結果はあなたがその嘘を信じることではなく、もはや誰も何も信じなくなることだ」と。私はこの洞察が非常に重要だと思います。生成AIが誤った方向で発展し続けた場合、民主主義が真に依拠している共有された理解、共有された知識が、根底から掘り崩される危険があります。民主主義は人々が共通の事実認識を持ち、それに基づいて議論し合意形成できることを前提としていますが、生成AIが大規模かつ個人特化型の情報操作を可能にするならば、その前提そのものが崩壊しかねないのです。
6-3. AI研究のアカデミアからビッグテックへの移行——自律的科学の喪失
Acemoglu： では、こうした問題は市場の力や科学の進歩によって自然に解決されるのでしょうか。私はそれも期待できないと考えています。まず市場については、大手テック企業のビジネスモデルが自動化とデジタル広告を通じた収益生成に依存している以上、市場のプロセスが私たちをより良い方向へ導く可能性は低いと言わざるをえません。科学についても同様です。AI研究の世界を見ると、2000年代初頭にはほぼすべてが学術研究であり、ビッグテックからの資金もほとんどありませんでした。しかし今日では、純粋に学術的な研究はわずか10%程度に過ぎず、しかもその学術研究でさえビッグテックから多くの資金を得ています。産学連携の研究が約25%を占め、残りは産業界が主導しています。つまり大手テック企業のアジェンダとは完全に切り離された、自律的な科学が何か別のことを成し遂げることは非常に難しい状況になっています。
Acemoglu： だからこそ、産業革命のときと同様に、問題の解決は市場でも科学でもなく、制度改革を通じて達成されなければならないのです。私たちには根本的な制度変革、根本的な政策変更、そして市民社会と民主主義的な市民の広範な参加が必要です。AIの未来に対する民主的なコントロールを確立し、AIを「機械知能」や「人間を犠牲にした人工汎用知能」への執着から離れ、「機械有用性」という方向へと舵を切る必要があります。これが、私が今日最も強く訴えたいことの核心です。
7. 生産性への影響——楽観論への定量的反論
7-1. 実験研究の効果が全体に適用できない理由——採用速度・対象タスクの限界
Berg： Acemogluさん、先ほど紹介された実験研究では、特定の文脈において生成AIが生産性向上をもたらすことが示されました。一方で今年4月に発表されたご論文は、こうした楽観的な予測に冷水を浴びせるものとして私は読みました。非常に丁寧な数理的枠組みと生産関数・生産性への影響の考え方が示されており、その計算結果として、10年間での全要素生産性の増加は0.7%以下というご結論に至っています。さらに困難なタスクを補正するとそれでも楽観的なシナリオとはいえ0.5%程度まで下がるという内容でした。この研究のフレームワークと、どのようにしてその数値に至ったかを教えていただけますか。
Acemoglu： ありがとうございます。まず明確にしておきたいのは、私はあの論文において、Eric Brynjolfssonによる顧客サービスや要約タスクの実験研究など、先ほど紹介した研究が示す生産性向上の数値そのものを否定しているわけではないという点です。それらの数値は私も採用しています。私が問題にしているのは、一部のコメンテーターやテック業界が暗黙的あるいは明示的に前提としている「それらの生産性向上効果が経済全体の非常に多くのタスクに適用される」という仮定が、きわめて非現実的だということです。
Acemoglu： 現時点では、AIモデルは現実世界との相互作用を伴うタスクに対してはほとんど貢献できません。先ほど例に挙げた電気工や教育者の話がまさにそれです。これらの職業は今のところ既存の生成AIモデルによる実質的な影響をほとんど受けていません。そして技術の普及というのは一般に非常に緩やかなプロセスです。新しいAIモデルが登場したからといって、電気工やブルーカラー労働者、配送業者などがすぐにそれを採用するとは考えられません。
7-2. 影響可能なタスクは全体の約5%以下——Census調査と推計の根拠
Acemoglu： 私が国勢調査局（Census Bureau）と共同で2019年に実施した包括的な調査では、AI投資を行っていた米国企業はわずか1.5〜5.5%にすぎませんでした。現在はやや高くなっているとは思いますが、最新版の調査結果はまだ見ていません。いずれにせよ、ほとんどの米国の労働者がAIを使い始めるまでには、あるいはAIに置き換えられるまでには、かなりの時間がかかることは明らかです。
Acemoglu： この現実を踏まえて推計すると、現在のAI技術およびそれを基盤とするソフトウェアや、コンピュータービジョン技術を組み合わせることで、最終的に対応可能な米国の現行タスクは全体の約20%程度と見られます。しかしそのうち、10年以内にコスト効率よく実現可能なものはその4分の1以下、つまり全体の5%未満にとどまります。
7-3. 10年間のTFP増加は最大0.7%という推計と「悪いタスク」概念
Acemoglu： この数値と、実験研究が示す労働コスト削減という形での生産性向上効果を組み合わせると、10年間での全要素生産性の増加は約0.7%という推計に至ります。さらに、一部のタスクは外部からの観察だけでは学習がはるかに困難であるという点を考慮に入れると、その数値は約0.5%まで下がります。10年間で0.5%の追加収入は悪い話ではありませんが、革命的な変化とは到底言えません。
Berg： 論文の中で「悪いタスク（bad tasks）」という概念も非常に興味深く読みました。この点についてもう少し教えていただけますか。
Acemoglu： 「悪いタスク」は、先ほどの操作の議論と深く関連しています。たとえば人々を騙したり、望んでもいない商品を買わせるように誘導したり、各種スキームに引き込んだりするような操作的な手段でAIから収益を得た場合、それはGDPや生産性の指標には「儲け」として計上されるかもしれません。しかし実際には福祉には何ら貢献していません。それどころかマイナスです。つまり、AIがもたらす生産性向上の数値を額面通りに受け取る前に、その収益が本当に社会的価値を生み出しているのか、それとも単に価値を再分配あるいは収奪しているだけなのかを慎重に見極める必要があります。この「悪いタスク」の問題を加味すると、楽観的な生産性予測はさらに大きく割り引いて考えるべきだということになります。
8. 制度改革・政策提言と国際的なガバナンス
8-1. 市場でも科学でも解決しない理由——ビジネスモデルと研究の偏向
Berg： Acemogluさん、ここまでの議論を踏まえると、AIの方向性を変えるためには制度や規制の解決策が必要だというご主張になると思います。現在の制度や規制はそれに対応できているとお考えですか。それとも新しい規制や新しい制度が必要だとお考えでしょうか。また国際的なレベルでの制度については、ご著書が米国中心に書かれていると感じましたが、国際的な観点からはいかがでしょうか。
Acemoglu： おっしゃる通りで、私たちには制度的・規制的な解決策が必要であり、現在の規制や制度はそのために準備できていないと思います。しかし過去を振り返ると、制度変革が成功した事例においては、それ以上に大きな変革があったことがわかります。英国の産業革命においても、進歩主義時代の米国においても、出発点となった状況は今よりもはるかに困難でした。英国では完全に非民主的な体制のもとで、あらゆる労働者組織が厳しく訴追されていました。米国の進歩主義時代においても、上院議員は大手トラストの影響下にあり、直接選挙もなく、所得税も規制もありませんでした。それでも政治的な風向きが変わると、大きな制度改革が実現したのです。現在の状況は確かに準備不足ですが、私はテック企業の権力や、テックに何を求めるべきかについての議論が米国や欧州で変化していることに、変革の可能性を感じています。
8-2. 歴史的先例——英国民主化・米国進歩主義時代の制度変革
Acemoglu： この制度変革を実現するうえで、私は二つのステークホルダーグループの参加が特に重要であり、かつ現在完全に欠けていると考えています。一つは労働者であり、もう一つは発展途上国・途上世界の労働者です。なぜ労働者の参加が重要かをお話しします。仮に私の主張の一部だけを信じるとしても——AIの可能性の一部は労働者をより生産的にすることにある——それを実現するためには、労働者の声なしには不可能です。今日、たとえ国際援助の世界に様々な歪みがあるとしても、もし誰かが「マラウイの貧困問題を解決したい、でもマラウイにもアフリカにも行くつもりはなく、ジュネーブのオフィスに座ったままやる」と言ったとしたら、誰もそれを信用しないでしょう。同じように、労働者からの意見をまったく聞かずに労働者をより生産的にすると主張することは、まったく信用に値しないのです。
Acemoglu： 労働者は現場で何が課題かを知っており、暗黙知を持ち、生産プロセスの困難さを最もよく理解しています。労働者の声は公平性のためだけでなく、これらの技術を実際に機能させるためにも不可欠です。しかし率直に言えば、テック業界に対して「労働者からアドバイスをもらうべきだ」と言うことは、私が言ってきた他のことと同様に、業界にとって大きな侮辱と受け取られかねないほど、現在の状況は問題のある状態にあります。
8-3. 補完的AI開発への政府支援——エネルギー転換との類比と優先分野
Acemoglu： 政府がいかにして補完的AIの開発を支援・補助できるかというご質問については、私は銀の弾丸を持っているわけではありません。ただ、そうした取り組みが必要であり、それは不可能ではないという主張をしたいのです。私はここでエネルギー転換との類比を用いたいと思います。過去15年間、米国と欧州でのイノベーション補助金、欧州での一部の炭素税、そして中国でのソーラーパネル生産への補助金という、いわばやや場当たり的な支援を通じて、再生可能エネルギー分野に完全な変革が起きました。かつては化石燃料の約10倍のコストがかかっていた再生可能エネルギーが、今や発電コストで化石燃料より安くなっています。
Acemoglu： これはどのようにして達成されたのでしょうか。まず測定の枠組みがありました。つまり何を目標とするのかが明確でした。低炭素技術を目標として定め、それを特定しましたが、すべてが実現可能だったわけではありません。多くの人々が炭素回収に時間と資金を費やしましたが、現時点では実現可能とも特に優れたアイデアとも言えなさそうです。しかし実験を行い、その結果から学んだのです。同じアプローチをAIにも適用すべきだと思います。私は自動化を阻止しようとしているのではありません。自動化には反対しておらず、未来にも過去にも自動化は存在しますし、ショベルカーやクレーンの代わりにシャベルと人力に戻りたいとは誰も思わないでしょう。ですから政府のイノベーション補助金の一部が自動化に向かうことは問題ありません。
Acemoglu： 重要なのは、人間の補完となりうるAIの投資不足分野を特定するために、専門家の助言を活用することです。私自身、教育・医療・ブルーカラー労働・様々な種類のバーチャルリアリティインターフェースなど、少なくとも10の広範な技術分野のリストを作ることができます。そのすべてが実現可能とは限りませんが、そこから始めて実験を行い、エネルギー分野での実験と同様に、第一種・第二種の過誤が出てくるでしょうが、それでもこの取り組みは非常に重要です。
8-4. 労働者の声と60億人の「AIの外部者」問題——包摂的ガバナンスの必要性
Acemoglu： 国際的なガバナンスという観点では、米国・中国・欧州連合・カナダの外に暮らす約60億人の人々が、AIによって多大な影響を受けるにもかかわらず、AIがどのように開発されどのように使われるかについてまったく発言権を持っていないという問題があります。AIは彼らに「される」ものであって、彼らが主体的に関与できるものではないのです。これは監視技術においてすでに現実のものとなっています。中国で開発され60カ国以上に輸出された監視技術が、世界中の市民の民主的権利を侵害しています。AIの次のフェーズがこれと同じ構図になる現実的な危険があります。
Acemoglu： この問題を解決する唯一のチャンスは、こうした地域の政治家たちがこの問題に目覚め、真剣に向き合い始めることであり、また国際機関がこの60億人とテック業界をはじめとする残りの世界との間で、知識とガバナンスを仲介する役割を果たすことだと思います。つまりAIのガバナンスにおいて、労働者と途上国の両者が実質的な参加者として組み込まれない限り、本当の意味での包摂的なAI開発は実現しないのです。国際機関がこの仲介役を担う可能性を持っているという意味でも、AIフォー・グッドのようなプラットフォームが担う役割は非常に重要だと考えています。
9. 発展途上国への影響と国際分業の変容
9-1. 三重の課題——導入遅延・インフラ不足・国際分業の変容
Berg： 発展途上国への影響についてはいかがでしょうか。世界銀行との共同研究でラテンアメリカ地域においてAIの恩恵を受けられない可能性がある人口を推計しており、職場でのインターネットやコンピューターへのアクセスがない人々が約半数に上るという計算が出ています。発展途上国の経済への影響についてどのようにお考えですか。より低い賃金水準や労働コストがある種のバッファーになるとお考えですか、それとも生産性向上の恩恵を享受できないリスクの方が大きいとお考えですか。
Acemoglu： まずその論文が完成したらぜひ送ってください。その数値をぜひ見てみたいと思います。発展途上国の政策立案者にとって、この問題は非常に難しいものです。まったく制約のない善意の政策立案者であったとしても、直面する課題は極めて困難です。米国や欧州が抱える課題は、いかにしてAIをより社会的に有益で、より労働者寄りで、より民主主義に親和的なものにするか、そしてほとんどの人々がそれにアクセスできるようにするか、という点にあります。そこには十分なイノベーションと投資があり、技術は普及していくだろうという前提があります。しかし発展途上国の場合、これに加えてさらに三つの課題が重なります。
Acemoglu： 第一に、多くのビジネスが、たとえAIが利用可能であっても、その導入において遅れをとることになります。第二に、多くの労働者がインターネットや基本的なコンピューティングインフラへのアクセスを持たず、比較的柔軟なツールであっても使いこなすための基本的なコンピューターリテラシーすら持っていない可能性があります。第三の課題は、こうした状況が国内経済で起きている間に、国際分業そのものが変容してしまうという点です。賃金水準が低いために調整の時間的余裕があるかもしれないというご指摘は理解できますが、国際分業の変容はその国の経済のコントロールをまったく超えたところで起きてしまいます。
9-2. インドのオフショアリング労働が10年以内に代替されるリスク
Acemoglu： 具体的な例を挙げましょう。インドでは現在、正規労働力の約10%が何らかのオフショアリングサービス業務に従事しています。つまり米国や欧州に向けてオフショアされたサービス業務です。ところが10年以内に、こうした業務のかなりの部分が自動化されるか、あるいは米国や欧州において大規模言語モデルを活用したリショアリング（再国内回帰）という形で代替される可能性があります。こうした国際分業の変容は、インドの政策立案者が何をしようとも、その制御の外にあります。これは非常に深刻な問題です。発展途上国が低賃金という「バッファー」を持っていたとしても、労働コストの安さによって自動化の速度が遅くなるという効果は、国際分業の変容によって完全に無効化されてしまう可能性があるのです。
Acemoglu： さらに深刻なのは、こうしたオフショアリングの代替が起きると、発展途上国の経済にとって重要な外貨収入や雇用の受け皿が失われるだけでなく、それまでその国が蓄積してきた人的資本や技術力の活用機会も失われるということです。発展途上国における自動化は、単に仕事が減るという問題ではなく、経済発展の経路そのものが閉ざされかねない問題として捉える必要があります。
9-3. プロワーカーAIへの転換が途上国にもたらしうる恩恵
Acemoglu： しかしここに唯一の良いニュースがあります。それは、もし米国においてAIをよりプロワーカーな方向へ実際に転換することができれば、そのことが発展途上国にも恩恵をもたらすだろうということです。なぜかというと、プロワーカーな方向とは、ブルーカラー労働者、配管工、電気工、医療従事者といった人々を支援することを意味するからです。米国でそのためのインフラが整えば、同じインフラが発展途上国のそうした労働者にも活用できるようになります。そしてその潜在的な恩恵は、発展途上国においてむしろより大きなものになりえます。
Acemoglu： 例えば発展途上国の電気工は、手作業のスキルという意味では非常に優れているかもしれませんが、高度な機器の扱いや電力グリッドへの対応という点ではまだ遅れがあります。適切なAIツールから得られる専門知識は、そうした労働者にとってきわめて重要な意味を持ちえます。つまり、AIの方向性を変える戦いは米国や欧州での戦いであっても、その結果は発展途上国の労働者の未来にも直結しているのです。だからこそ国際的なガバナンスと、途上国の声をAI開発に組み込むことが、単なる公平性の問題を超えた切迫した課題として浮かび上がってくるのです。
10. 質疑応答——現場の課題と民主主義の未来
10-1. カスタマーサービスの事例——自動化vs.人間エージェント支援の比較
Berg： ここで技術の職場への統合という点について、もう少し具体的な話をしたいと思います。AIの職場への統合の仕方には、いわゆるボトムアップ型とトップダウン型の区別があります。例えば労働者が自らChatGPTを使ってスキルを向上させるケースと、コールセンターにAIが導入されてコールのルーティングが自動化され、労働者から自律性が奪われ、スタッフが削減され、結果として顧客サービスの質も低下するケースです。後者のような問題は政策的に対処するのが難しいと思いますが、いかがでしょうか。
Acemoglu： おっしゃる通り非常に難しい問題です。だからこそ私は、マネージャーやビジネスリーダーが何をすべきかという点を強調したいのです。カスタマーサービス会社を経営しているとしたら、最も抵抗の少ない道は、すべてのカスタマーサービス担当者を解雇してAIに置き換え、AIでは対応できない最も複雑なケースだけを処理する少数の担当者を残す、というものに見えるかもしれません。しかしこのアプローチには三つの深刻な問題があります。
Acemoglu： 第一に、コストの一部を顧客に転嫁しているということです。顧客はそれに気づいています。カスタマーサービス担当者と1分話す代わりに、AIに対してメニューを通じて問題を説明するのに10分かかり、しかもそのAIはしばしば的外れな対応しかできません。第二に、人間が提供できるあらゆる機会を失っています。顧客との共感の構築、社会的なコミュニケーション、専門知識の活用といった価値をすべて捨て去ってしまっているのです。第三に、残された人間担当者をきわめて困難な立場に置いています。なぜなら、人間の担当者が対応を求められるのは、顧客がAIとの長いやり取りで既に非常に不満を抱え、苛立ち、すべてがうまくいかなかった状態になってからだからです。
Acemoglu： 対照的に、人間をループの中に残しながら、AIを活用して例えばバックグラウンド情報を提供したり、人間のカスタマーサービス担当者が顧客を支援するためのリアルタイムのメニューを提示したりするというアプローチの方が、はるかに良い道だと思います。担当者が共感を示し、社会的なコミュニケーションを築き、専門知識を発揮できるよう、AIが裏方として支援するわけです。しかしこれを実現するには、マネージャーにその判断力があるかどうか、資本市場がそれを許容するかどうか、そしてテック企業が自動化ツールだけでなくそのような補完的なツールを提供するかどうかにかかっています。ここでもまた過剰な自動化の問題が顔を出してきます。
10-2. ロボット工学の進展と「暗闇工場」論への見解
Berg： ロボット工学の分野でも今後数年間で重要な進展が見込まれるというコメントが参加者からありました。AIとコンピュータービジョン、センサーからの情報処理を統合することで、ロボット工学が革命的に変化しうるという指摘と合わせて、「暗闇工場（dark factories）」の未来についてどのようにお考えですか。
Acemoglu： まずロボット工学の進展については、その通りだと思います。AIとコンピュータービジョン、センサーからのリアルタイム情報処理を組み合わせることで、ロボット工学技術は最終的に革命的な変化を遂げるでしょう。ただし、私が見てきた限りでは、そうしたロボットが実用レベルに達するのは非常に緩やかなプロセスです。デモンストレーションを見ることはありますが、そのデモが現実的であったり実装に近かったりするとは限りません。しかしいずれはそこに到達するでしょう。
Acemoglu： 暗闇工場については、実は1951年という早い時期から一部のアメリカのビジネス誌が「労働者のいない工場はもうすぐ実現する」と言い、マネージャーたちが興奮していたという歴史があります。しかし私がマネージャーだったとしたら、そこまで興奮はしないでしょう。コスト削減は確かに重要ですが、それだけが成功するビジネスを作る方法ではありません。最も成功しているビジネスの多くは、最重要リソースである労働者によって特別なものになっているのです。AIと組み合わされたロボットが実現したとしても、社会的スキル、判断力、知恵、暗黙知という点で人間が依然として優れているタスクは多く残るでしょう。そうしたツールを本当に活用して、既存の労働者をより生産的にできる企業こそが、長期的により成功するはずです。
10-3. 労働の価値の喪失と民主主義——人間の役割は代替不可能か
Berg： 参加者からこんな質問が来ています。「AIによる自動化が進む中で、人間の労働の価値はどうなるのか。人間の労働が現在の次元でもはや必要とされなくなったとき、人間の価値とは何であり、それは民主主義にどう影響するか」という問いです。
Acemoglu： この問いには多くの論点が含まれています。私の見方では、それは必然的な道筋ではありません。AIが自動化のために使われることがすでに決定済みである、あるいはきわめて近い将来にAGIや超高性能コンピューターに支えられた超ロボットに移行するのだと考えるならば、人間は不要だという結論になるかもしれません。そしてもしそうなるとしたら、それは人間が自らの意味を失った、非常に悲しい世界だと思います。しかし私はそれを現実的あるいは実現可能な未来とは見ていません。
Acemoglu： より現実的な代替の道は、より高度なタスクを創り出し、人間が生産性に貢献し続けるというものです。私たちは過去にもそれをやってきましたし、今もできます。だからこそ私は「機械有用性」という考え方を強調しているのです。AIと組み合わされたロボットが普及した未来においても、デジタルツールと並んで人間が働き、そのデジタルツールによってさらに力を与えられる工場や職場は十分に実現可能です。これは民主主義についても同じです。AIが人々を操作したり、あらゆる市民社会の活動を封じ込める監視ツールとして使われたりすることは、まったく必然ではありません。AIは民主主義を推進するツールとして、新しいプラットフォームを構築し、より良いコミュニケーション手段を作り、市民の参加経路をより豊かにするために使うことができます。
10-4. 台湾の事例——AIを活用した民主主義強化プラットフォーム
Acemoglu： これは絵空事ではありません。実際にそれが起きている事例があります。過去6年間の台湾では、AI支援のプラットフォームが複数構築され、台湾の民主主義を現在の西側諸国の多くよりも良く機能させることに貢献しています。技術の使われ方は必然ではなく、選択の問題です。AIを民主主義の敵ではなく味方にすることは可能であり、それを実現するためにこそ、制度改革と市民社会の広範な参加が求められるのです。
Berg： Acemogluさん、本当にありがとうございました。著書を書き続け、私たちに情報を提供し続けてください。AI for Good Summitに参加していただき、Janineとともに素晴らしい議論ができたことを心より感謝します。
Acemoglu： こちらこそ、ありがとうございました。素晴らしい質問をいただいたJanineとPawelにも感謝します。AI for Good Summitに参加し、皆さんとともにこの場を共有できたことは、本当に光栄でした。