2024-09-13 AI時代の民主主義：課題と展望 - Lawrence Lessigによる考察

※本記事は、スタンフォード大学のAIプログラムの一環として行われたLawrence Lessig氏による講演の内容を基に作成されています。講演の詳細情報はhttps://www.youtube.com/watch?v=Qt0Nck1Gs7U でご覧いただけます。本記事では、講演の内容を要約しております。なお、本記事の内容は原著作者の見解を正確に反映するよう努めていますが、要約や解釈による誤りがある可能性もありますので、正確な情報や文脈については、オリジナルの講演動画をご覧いただくことをお勧めいたします。 Lawrence Lessig氏はハーバード・ロースクールのRoy L. Furman法学・リーダーシップ教授です。氏の詳細なプロフィールはhttps://hls.harvard.edu/faculty/lawre でご覧いただけます。スタンフォード大学のオンラインコースやプログラムに関する詳細情報は、https://online.stanford.edu/ でご覧いただけます。また、スタンフォード・オンラインの公式ソーシャルメディアアカウント（LinkedIn、Instagram、Facebook、Twitter）もご参照ください。

1. はじめに

1.1 講演者Lawrence Lessigの紹介

私はLawrence Lessigです。現在、ハーバード・ロースクールのRoy L. Furman法学・リーダーシップ教授を務めています。2009年頃までスタンフォード大学でも教鞭を取り、その間にスタンフォード・インターネット・ソサエティ・センターを設立しました。このセンターは今でも活発に活動を続けています。また、私はEqual Citizensの創設者であり、Creative Commonsの創設理事でもあります。

私の経歴について、Eric Lander教授から紹介がありましたが、いくつか補足させていただきます。約20年前、Jonathan Zittrainとともに私をスタンフォードの授業に招いてくれたことを覚えています。当時、それは私にとって大きな栄誉でした。そして今日、私がここスタンフォードに戻ってきて講演できることを光栄に思います。

1.2 AI時代の民主主義に関する問題提起

本日の講演では、AI時代における民主主義の課題について話します。特に、2021年1月6日に起きた出来事から議論を始めたいと思います。この日、アメリカの民主主義は大きな打撃を受けました。

この事件の重要な点は、多くの人々が選挙が「盗まれた」と信じていたことです。ここで考えるべき問題は、もし本当に選挙が盗まれたと信じているなら、人々はどのように行動すべきかということです。

驚くべきことに、70%の共和党支持者がこの主張を信じていました。そして、この信念は教育レベルに関係なく広がっていました。大学教育を受けた共和党支持者の過半数も、選挙が盗まれたと信じていたのです。

2021年1月の時点で、アメリカ人全体の32%が選挙は盗まれたと信じていました。さらに懸念すべきは、この数字が1月6日以降もほとんど変化していないことです。4年近くにわたる議論や証拠の提示、あらゆる分析にもかかわらず、選挙が盗まれたという信念は根強く残っています。

この状況は、私たちの民主主義が直面している深刻な課題を示しています。人々の現実認識が大きく分断され、事実に基づいた議論が困難になっているのです。このような状況下で、AIがどのような影響を与えるのか、そしてどのように民主主義を守っていくべきかを考えることが、今日の講演の主要なテーマとなります。

2. 現代の民主主義の課題

2.1 2021年1月6日の出来事と選挙結果への不信

2021年1月6日、アメリカの民主主義は深刻な打撃を受けました。議事堂に押し寄せた人々は、選挙が盗まれたと本当に信じていたのです。ここで重要な問いが浮かびます。もし本当に選挙が盗まれたと信じているなら、人々はどのように行動すべきでしょうか。

驚くべきことに、70%の共和党支持者がこの主張を信じていました。この信念は教育レベルに関係なく広がっていました。大学教育を受けた共和党支持者の過半数も、選挙が盗まれたと信じていたのです。

全体として見ると、2021年1月の時点で、アメリカ人の32%が選挙は盗まれたと信じていました。さらに懸念すべきは、この数字が1月6日以降もほとんど変化していないことです。4年近くにわたる議論、証拠の提示、そしてあらゆる分析にもかかわらず、選挙結果を覆すような不正はなかったことが示されているにも関わらず、選挙が盗まれたという信念は根強く残っています。

2.2 ニクソン時代とトランプ時代の比較

この現象がいかに新しいものであるかを理解するために、リチャード・ニクソン時代とドナルド・トランプ時代を比較してみましょう。ニクソンは在任中、共和党支持者の間でトランプと同程度の人気を誇っていました。民主党支持者からはトランプほどではありませんが嫌われており、無所属の有権者は中間的な立場をとっていました。

しかし、ニクソンが辞任する約6ヶ月前から、支持率のパターンに大きな変化が見られました。民主党支持者、共和党支持者、無所属の有権者のすべてのグループで、ほぼ同じ割合で支持率が低下したのです。これは、全国民がウォーターゲート事件の展開を同じように見ていたことを示しています。

対照的に、トランプの支持率は彼の任期を通じてほとんど変化しませんでした。何が起こっても、支持率は効果的に変化しなかったのです。これは、人々が現実の「泡」の中に閉じ込められ、自分の見解を肯定し強化するメディアによって常に情報を与えられているからです。

2.3 集団的認識の歪みと「狩られる者のパラノイア」

この状況は、私たちの集団的認識に深刻な歪みをもたらしています。私たちは、自分たちの集団的な誤認識が偶然ではなく、意図的に作られたものであるという認識を持つ必要があります。これは「狩られる者のパラノイア」と呼べるかもしれません。

アルフレッド・ヒッチコックの映画「鳥」のように、私たちは何かに狙われているような感覚を持つべきです。ここでいう「何か」とは、特定の意味での知性、つまり私たちを標的にしているAIのことです。

私たちの集団的な認識、あるいは誤認識は偶然ではありません。必ずしも意図的ではないかもしれませんが、予想された結果なのです。これは、私が「AI知覚マシン」と呼ぶものの産物です。私たちはその標的となっているのです。

この状況は、民主主義の根幹を揺るがしかねません。共通の事実認識や理性的な議論の場が失われつつあるからです。私たちは、この課題に真剣に向き合い、技術の進歩と民主主義の価値観のバランスをどのように取るべきか、真剣に考える必要があります。

3. AIの定義と影響

3.1 アナログAIとデジタルAI

AIについて議論する際、私たちは自然知能と人工知能を区別する必要があります。我々人間は自然知能の王国を主張していますが、人工知能とは我々が作り出す知能のことを指します。重要なのは、我々はすでに長い間、人工知能を我々の存在の中心的な部分としてきたということです。

ここで私が言及しているのは、デジタル人工知能ではなく、アナログ人工知能です。目的を持ち、その目的に照らして世界で道具的に行動する任意の実体や機関を、私はアナログAIと呼びます。

例えば、民主主義はアナログAIの一種です。制度、選挙、議会、憲法などが、「我々人民がより完全な連邦を形成する」という共通善のために機能しています。

同様に、企業もアナログ人工知能です。取締役会、経営陣、財務などの制度が、利益を追求するという目的のために機能しています。今日の見方では、企業の唯一の目的は株主価値の最大化であるという、ある意味で馬鹿げたフリードマン的な見方があります。

3.2 民主主義、企業、AIの階層構造

これらのAIは目的と目標を持っており、時には補完し合い、時には競合します。例えば、スクールバス会社と教育委員会の目的は補完的です。一方で、清潔で健康的な公園と発電所の煙突の目的は対立しています。

時間の経過とともに、道具的合理性を持つ存在として、人間は相対的に優れた存在です。民主主義は必要な道具的合理的存在であり、特定の目的のためには人間よりも道具的に合理的です。私が提案したいのは、企業は民主主義よりもさらに道具的に合理的であり、民主主義は人間よりも道具的に合理的だということです。

これらの層のそれぞれは、その上の層を制御しようと努めます。人間は選挙を通じて民主主義を制御しようとし、民主主義は規制を通じて企業を制御しようとします。しかし、この願望は現実とは異なります。アメリカにおける制御の現実は、企業が効果的に民主主義を制御しているということです。これは、スーパーPACや、お金が政治に影響を与え、結果を左右する方法の結果です。

3.3 AIによる知覚操作の仕組み

AIの父と呼ばれるジェフリー・ヒントンの観察を考えてみましょう。彼は「より知的なものがより知的でないものによって制御されている例はほとんどない」と述べています。

これらのアナログAIの上に、デジタルAIがあります。ここでも再び、制御の願望があります。企業はAIを制御しようとしますが、現実の制御は企業が望むほど効果的ではありません。

私の好きな例は、2017年9月にProPublicaによって明らかにされたFacebookの広告カテゴリーです。Facebookは「ユダヤ人嫌い」をターゲットにした広告カテゴリーを持っていたことが判明しました。Facebook内の一人の人間もこのカテゴリーを作ったわけではありません。AIがこのカテゴリーを開発して広告を販売し始めたのです。Facebookは「我々がやったのではない」と言いましたが、それが重要なのです。AIがやったのです。彼らはAIを制御していません。

ここでの本当の違いは、この大規模に道具的に合理的なものの規模の大きさです。このデジタルAIは、その目的を達成するために我々よりもはるかに効率的になるでしょう。

ここで私たちは「狩られる者の偏執狂」とでも呼べるような態度を持つべきです。私たちの知覚、私たちの集団的知覚、私たちの集団的誤認識は偶然ではありません。必ずしも意図されたものではないかもしれませんが、それらは予期されたものです。これらは、私が「もの」と呼ぶAIの産物なのです。

このように、AIは単なる技術的な進歩以上のものです。それは私たちの認識を形作り、操作する力を持っています。そして、その影響は民主主義の根幹にまで及んでいるのです。

4. ソーシャルメディアと民主主義

4.1 エンゲージメントビジネスモデルの問題点

ソーシャルメディアが民主主義に与える影響を理解するためには、そのビジネスモデルを理解する必要があります。ソーシャルメディア企業の主要な収益源は広告であり、その広告の効果を最大化するために、ユーザーのエンゲージメント（関与度）を高めることが重要になります。

このエンゲージメントビジネスモデルは、民主主義にとって深刻な問題を引き起こしています。なぜなら、エンゲージメントを高めるコンテンツは、しばしば極端で、分極化を促進し、怒りを煽るものだからです。

例えば、人々がFoxニュースを一日中背景で流していたり、Facebookやおそらくここにいる人はFacebookを使っていないでしょうが、Instagramからのニュースフィードを常に消費しているような状況を想像してみてください。このコンテンツは、人々の態度を形成する上で非常に重要な影響を与えています。

4.2 脳のハッキングと注意力の科学

トリスタン・ハリスは、デジタルAIとの最初の接触がソーシャルメディアを通じて行われたと描写しています。ハリスはスタンフォード大学の学生で、その後Googleに入社し、のちにCenter for Humane Technologyを立ち上げました。彼は「ソーシャル・ディレンマ」というドキュメンタリーの推進力となりました。これは、ドキュメンタリーの歴史の中で最も多くの人々に視聴されたものの一つです。

Googleにいた時、ハリスは注意力の科学に焦点を当てていました。これは、スタンフォード大学のFogg教授らによって先駆けられたものです。この科学は、AIを使って注意力を操作し、抵抗を克服し、これらのデジタルプラットフォームへのエンゲージメントを高めることを目的としています。エンゲージメントがビジネスモデルだからです。

ハリスはこれを一種の「脳のハッキング」と呼びました。これは、体のハッキングの親戚のようなものです。体のハッキングは、食品科学を利用して進化を悪用し、自然な抵抗を克服して、いわゆる「食品」を止められなくするようなものです。加工食品会社はこれをビジネスとして行っています。

脳のハッキングも同様です。注意力に関して、私たちがランダムな報酬や自動的に生成されるコンテンツの深い穴に抵抗できないという進化的事実を悪用して、エンゲージメントを高め、より多くの広告を売ることを目的としています。

4.3 極端化、分極化、怒りの助長

問題は、私たちがより極端で、より分極化し、より憎悪に満ちたコンテンツにより多くエンゲージするという点です。そのため、そのようなコンテンツが私たちに提供されるのです。その結果、私たち国民は分極化し、無知になり、怒りに満ちた状態になり、民主主義はその過程で弱体化していきます。

彼らは私たちが望むものを与えてくれるのです。ここで重要なのは、彼らが私たちが望まないものを強制しているわけではないということです。私たちは自分が望むものを手に入れているのです。しかし、私たちが望むものが、このような反応を引き起こすのです。

重要なのは、これはAIが非常に強力だからではなく、私たちが非常に弱いからだということを認識することです。今日心配すべきなのは、AGI（汎用人工知能）ではありません。明日はそうかもしれませんが、今日ではありません。今日の問題は、AGIに到達するずっと前に、AIが私たちが他の方法で反省するであろうものを克服できるということです。

トリスタンは個人の人間の弱さに焦点を当てていましたが、私は集団的な人間の弱さ、つまり国家の利益になるかもしれないことを決定する私たちの集団的能力を圧倒する方法に注目したいと思います。個人だけでなく、これらの金属頭に囲まれた私たちにとっても同様です。AGIが登場するずっと前に、AIは私たちを圧倒してしまうのです。

4.4 具体例：Facebookの「ユダヤ人嫌い」広告カテゴリー

この問題の具体例として、2017年9月に明らかになったFacebookの広告カテゴリーの事例を挙げることができます。ProPublicaの調査によって、Facebookが「ユダヤ人嫌い」をターゲットにした広告カテゴリーを持っていたことが判明しました。

Facebook内部の人間がこのカテゴリーを意図的に作成したわけではありません。AIが、「ユダヤ人嫌い」が広告を提供するのに非常に良いカテゴリーになると判断し、そのカテゴリーを開発して広告の販売を始めたのです。

Facebookは当然ながらこの事実を非常に恥ずかしく思い、「我々がやったのではない」と主張しました。しかし、それこそが重要なポイントなのです。AIがやったのであり、Facebookはそれを制御できていなかったのです。

これらの問題は、AIが私たちの望むものを得て、私たちが望むものである民主主義をハッキングした結果だと言えます。これは、ソーシャルメディアとAIが民主主義のプロセスに深刻な影響を与える可能性があることを示唆しています。

5. AIと民主主義の未来

AIの影響は、私たちの民主主義プロセスにすでに深く浸透しています。これは、単なる技術的な進歩以上のものです。AIは私たちの認識を形作り、操作する力を持っており、その影響は民主主義の根幹にまで及んでいます。

私たちは、AIが私たちの望むものを得て、私たちが望むものである民主主義をハッキングした結果を目の当たりにしています。これは、ソーシャルメディアとAIが民主主義のプロセスに深刻な影響を与える可能性があることを示唆しています。

重要なのは、これはAIが非常に強力だからではなく、私たちが非常に弱いからだということを認識することです。今日心配すべきなのは、AGI（汎用人工知能）ではありません。明日はそうかもしれませんが、今日ではありません。今日の問題は、AGIに到達するずっと前に、AIが私たちが他の方法で反省するであろうものを克服できるということです。

私たちは、集団的な人間の弱さ、つまり国家の利益になるかもしれないことを決定する私たちの集団的能力を圧倒する方法に注目する必要があります。個人だけでなく、これらの金属頭に囲まれた私たちにとっても同様です。AGIが登場するずっと前に、AIは私たちを圧倒してしまうのです。

この新しい現実にどのように対応すべきか、真剣に考える必要があります。技術の進歩と民主主義の価値観のバランスをどのように取るべきか、慎重に検討しなければなりません。

これらの課題に対処するためには、民主主義のプロセスを保護し、強化するための新しい方法を探る必要があります。次のセクションでは、そのような取り組みの一つである市民議会運動について詳しく見ていきます。

6. 民主主義の保護と改革

6.1 市民議会運動

洪水に直面したとき、最初にすべきことは振り向いて逃げることです。民主主義を高い地点へ、保護された地点へ移動させる必要があります。AIの有害な力から民主主義を守り、隔離する必要があるのです。

世界中の民主主義改革者たちは、市民議会運動を通じてこれを実現しようとしています。市民議会は、ランダムに選ばれた代表的な市民が、十分な情報を得て審議を行う機関です。外部からの操作的影響から保護され、結果に対する信頼を損なわないようになっています。

ここスタンフォードでは、Jim Fishkinの熟議民主主義センターを通じてこの実践が行われています。Fishkinの「熟議型世論調査」は、市民議会の概念と類似していますが、市民議会の方がより民主的に結びついていると言えます。なぜなら、市民議会は単に態度を生み出すだけでなく、実際の成果を生み出すからです。

アイスランドの憲法起草プロセス： アイスランドは、新しい憲法を起草するために市民議会に似たものを使用しました。まず、ランダムに選ばれた1000人のアイスランド人が集まり、新しい憲法に反映されるべき価値観を特定しました。その後、選挙が行われ、25〜26人の起草委員会が選ばれました。この選挙には500人が立候補しました。アイスランドの人口がバッファローと同じくらいの規模であることを考えると、これは驚くべき数字です。

24人が選ばれ、憲法を起草しました。その後、草案は公衆に送られ、圧倒的な支持を得ました。すべての要素について3分の2以上の支持がありました。しかし、議会はこれを無視しました。議会は、主権者は人民ではなく議会だと考えたのです。

アイルランドの同性婚と中絶に関する議論： アイルランドの事例はより成功しました。アイルランドは2008年の金融危機の頃から、市民議会のプロセスを開始しました。ランダムに99人の市民を選び、そこに1人の政治家タイプの人物が議長として加わります。

彼らは、アイルランド議会が効果的に対処できなかった問題に取り組みました。例えば、中絶や同性婚などです。これらの問題に関するアイルランド議会の立場は、テキサス州議会のようなものでした。しかし、市民議会は両方の問題について進歩的な方向で圧倒的に支持しました。同性婚は承認され、中絶は規制緩和されました。

これらの結果は公衆に送られ、市民議会が支持した以上の割合で公衆に支持されました。

フランスの気候変動と終末期医療に関する市民議会： フランスでは、大統領が市民議会の開催を公約の中心に据えるようになりました。マクロン大統領は、気候変動に関する市民議会を開催することを約束し、実際に開催しました。その後、終末期医療に関する市民議会も開催しました。

これらの市民議会には、ランダムに選ばれた150人が参加し、9ヶ月以上にわたって7回のセッションを行います。基本的に月に1回、パリで開催されます。これらの議会が結果を生み出し、それがフランス政府の決定を導きました。終末期医療に関してはそれほど成功しませんでしたが、気候変動に関しては成功しました。

6.2 米国の陪審員制度との類似点

市民議会の概念は、実は米国の憲法に組み込まれている非常に不完全な市民議会、つまり陪審員制度と類似しています。例えば、連邦犯罪で起訴されるためには、大陪審が起訴すべきだと決定する必要があります。そして、有罪判決を受けるためには、通常の12人の陪審員が有罪と決定する必要があります。

しかし、現代の米国では、この制度があまり我々の生活に触れていません。共和国初期のフィラデルフィアでは、平均的な陪審員（当時は白人男性の財産所有者に限られていましたが）は年に3回陪審に参加していました。つまり、年に3回、誰かの財産や生命、自由について決定を下していたのです。

6.3 保護された民主主義の必要性

この市民議会運動は非常に希望に満ちていると同時に刺激的です。そして、これは単に良いアイデアというだけでなく、民主主義にとって一種の実存的な必要性だと主張したいと思います。

これは、民主主義のための一種のセキュリティ、特定の種類のハッキングから私たちを守る方法です。このハッキングは、公共の意志に反して私たちを操縦するようなものです。つまり、これは単に民主主義をより良くするための変化ではありません。この技術の進化を考えると、民主主義を生き残らせるための変化だと考えています。

私たちは、恐ろしくも刺激的な瞬間にいることを認識する必要があります。超知能やAGIが登場するずっと前に、AIはこのような民主主義を脅かしています。しかし、私たちにはまだ何かができるのです。そして、まだできるうちに、何かをする必要があります。

成功するかどうかはわかりません。正直なところ、私はこれが成功するとは思っていません。ある意味で、これは絶望的だと思います。しかし、私たちが愛するものに対して持つべき態度があります。愛とは、確率に関係なく、愛するものを救うためにできることは何でもすることです。

この民主主義に対して愛を感じることができるなら、そう考える必要があります。私たちのロボットの支配者がまだSFの空想の域を出ていない今、まだ時間があるうちに、そう考える必要があるのです。

7. 拒否権政治（Vetocracy）と民主主義の機能不全

7.1 拒否権ポイントの増加

約20年前、フランシス・フクヤマがアメリカを「拒否権政治（Vetocracy）」と呼び始めました。拒否権政治とは、少数の主体が組織の意思決定や行動を効果的にブロックする力を持つシステムのことです。

確かに、アメリカ憲法の起草者たちは、ある程度の拒否権政治を意図的に設計しました。法案が可決されるまでには多くのポイントがあり、そこで法案をブロックすることができます。例えば、下院が法案を可決しなければ、それだけで法案は成立しません。上院が可決しなければ、同様に法案は成立しません。大統領が拒否権を行使すれば、議会の3分の2の多数で覆されない限り、法案は成立しません。最高裁が法律を違憲と判断すれば、それも法律として成立しません。

しかし、フクヤマが主張するのは、我々が制度的に与えられた拒否権ポイントに加えて、さらに多くの拒否権ポイントを追加してしまったということです。政党、議会内の委員会、これらも拒否権ポイントとなっています。

フィリバスターの進化も重要です。現在のフィリバスターが伝統的なものだという主張は信じないでください。これは、ミッチ・マコーネルによって与えられた全く新しいフィリバスターです。現在のフィリバスターは、実質的にアメリカの20%程度の人々が、どんな法案でも議会を通過させないようにブロックできることを意味します。これは完全な拒否権であり、覆すことさえできません。

7.2 スーパーPACsと気候変動政策への影響

私にとって最も顕著な例は、スーパーPACsや政治におけるお金の影響力です。2010年、コーク兄弟は、共和党の候補者が気候変動の真実を認めれば、共和党の予備選挙で対抗馬を立てると宣言しました。2010年以降、気候変動が真実である可能性さえ認めようとする共和党員の数が劇的に減少しました。

これを思い出してください。2008年には、マケインとオバマの間で、どちらの気候変動計画がより優れているかについて激しい議論がありました。両者の計画はかなり良いものでした。マケインの方が優れていたかどうかはわかりませんが、重要なのは2008年にはそのような議論が可能だったということです。

しかし、2人の兄弟が2010年以降、今日に至るまで、気候変動を超党派の問題とする可能性を不可能にしてしまったのです。

7.3 分極化による拒否権政治の強化

拒否権政治と、メディアやAIによる分極化の関係について説明しましょう。ある問題を政党のアイデンティティにリンクさせることができれば、その問題をリベラルの問題や民主党の問題、あるいは共和党の問題や保守派の問題にすることができます。そうすると、反対側がそれを受け入れることは、自分のアイデンティティを裏切ることなしには不可能になります。

政治がアイデンティティ中心になればなるほど、何かを成し遂げる能力をブロックする方法を見つけやすくなります。私は「拒否権政治」という言葉の起源を探そうとして驚いたのですが、フクヤマが使い始める前にこの言葉が登場したのは1回だけでした。

今日、この言葉を最も顕著に使用しているのは中国政府です。中国政府はアメリカの民主主義に対して非常に説得力のある批判を持っています。それはすべてアメリカの民主主義の拒否権政治に関するものです。アメリカは何もできない、と彼らは主張します。

例えば、彼らは20年間で2万マイルの高速鉄道を建設しました。一方、アメリカ政府は0マイルの高速鉄道しか建設していません。問題の数はいくらでもあります。中国を褒めているわけではありません。中国には多くの問題がありますから。中国になろうとしているわけでもありません。

しかし、私が指摘したいのは、彼らの我々に対する批判が真実だということです。我々は、大きな問題に取り組むことができない政府を作ってしまいました。その問題が分極化する限り、そしてあらゆる問題が分極化しているのです。

この病理は深いものです。法案が可決されるかどうかだけでなく、人々が生きるか死ぬかという結果にまで及んでいます。我々がこの状況からどのように抜け出すのか、私にはわかりません。

8. メディアと情報環境の変化

8.1 放送時代から分散型メディア時代へ

我々は、メディアと情報環境の劇的な変化を経験しています。この変化を理解するためには、二つの技術の進化を同時に追跡する必要があります。

まず、放送技術の進化について考えてみましょう。国家の誕生時、放送とは基本的にパンフレットのことでした。しかし、パンフレットは我々が意味する放送ではありません。確かに、印刷して配布すれば国中の人々がアクセスできましたが、情報が合衆国の一端から他端まで到達するのに4ヶ月かかりました。つまり、すべての人が同じ話を同時に聞いているわけではありませんでした。

放送技術がこれを変えました。特に第二次世界大戦中、放送は fascists と fascists と戦う人々の両方にとって中心的な組織化技術となりました。ヒトラーとゲッベルスだけでなく、FDRも炉辺談話を使って国を団結させました。

マーカス・プライアーがプリンストンで描写した「放送民主主義」は、1960年代初頭から1980年代半ばまでの期間を指します。この時期、基本的に全員がビデオニュースを見ていました。3つのニュース局のうちの1つで、同時にニュースを放送していました。ニュースが放送されている間にホームショッピングネットワークを見る選択肢はありませんでした。テレビを見たければニュースを見るしかなく、テレビは非常に魅力的でした。

この中道的なニュースの定期的な摂取が、ある種の共和国を作り出しました。これが偏見がなかったとか、完全だったとか、黄金時代だったとは言いません。ただ、アメリカ国民に議題が提示され、国民がその議題に反応するという特徴がありました。そして、この35年間に我々は驚くべき成果を上げました。

市民権運動を考えてみてください。これは大きな問題として浮上し、大規模な立法的変更で解決されました。環境問題もそうです。リチャード・ニクソンのもとで環境保護庁が設立されました。ベトナム戦争も同様です。これらは本当に大きな問題でしたが、国家はそれらと格闘し、ある意味で前進的な方法でそれらを乗り越えました。

8.2 世論調査技術の発展と影響

放送技術と並行して、もう一つの重要な技術の進化がありました。それは、世論調査技術です。奇妙な偶然ですが、現代的な科学的世論調査技術は、放送とほぼ同時に誕生しました。

1936年の選挙で、現代的な世論調査手法が初めて劇的に登場しました。当時、アル・ランドンがFDRを圧倒的に破ると誰もが確信していました。おそらく、アル・ランドンという名前を聞いたことがない人も多いでしょう。それは、そのようなことが起こらなかったからです。

人々がそう考えた理由は、当時の世論調査の主流だった藁投票法です。「リテラリー・ダイジェスト」という雑誌が、何百万もの投票用紙を集めました。これらの投票用紙は圧倒的にランドンを支持していたので、ランドンが明らかに勝利すると彼らは言いました。しかし、「リテラリー・ダイジェスト」の調査に回答するよう求められた人々は、1936年の自動車登録者でした。1936年の自動車所有者は、アメリカ人の無作為抽出サンプルではありませんでした。

ノースウェスタン大学のジャーナリズム学校の卒業生であるギャラップは、異なる手法を用いました。無作為抽出による代表的なサンプリングです。彼はFDRが圧倒的にランドンを打ち負かすだろうと予測しました。誰もがそれを冗談だと思いました。しかし、まさにそれが起こったのです。

この出来事により、世界は突然、人々の考えを理解する技術があることに気づきました。しかし、放送民主主義の真っ只中で人々の考えを理解する方法を学んだことの驚くべき点は、人々が何か興味深いことを言うまさにその時に、我々が人々の考えを読む方法を学んだということです。なぜなら、人々は皆、同じ基本的な情報セットによって教育されていたからです。

これは、ベン・ページとロバート・シャピロの『合理的な公衆』という本に反映されています。今日の我々にとっては奇妙なタイトルですね。誰が公衆は合理的だと考えるでしょうか？しかし、彼らは基本的に放送民主主義の時代を見て、アメリカ国民が政策問題に関して与えられた情報に合理的に反応したことを示すことができました。

彼らは、これが民主主義の本質だと結論づけました。彼らは、この現実が作られた技術的環境の偶然性に敏感ではありませんでした。彼らはただ、これが民主主義の本質だと考えたのです。

8.3 政治家の行動への影響（例：2021年1月6日後の共和党議員の態度変化）

しかし、ケーブルニュース、ケーブルテレビ、そしてインターネットの誕生以来、我々が目にしているのは、人々が見たいものを何でも見られるようになったということです。ニュースを見るのは、ニュース中毒の人々だけです。そして、ニュース中毒の人々は最も党派的で、政治的に関与している公衆です。

したがって、ニュースはこれらの人々に向けて制作され、それが分極化を促進します。同時に、我々は世論調査を通じて公衆を読み取ることができ、ますます狂った公衆を目にしています。

ここで、私が出会った最も恐ろしい統計を紹介します。1998年、ピューリサーチセンターがアメリカ人に「アメリカ人の政治的判断力を信じていますか？」と尋ね始めました。当時、3分の2のアメリカ人が「はい、アメリカ人の政治的判断力を信じています」と答えました。今日、その数字は逆転しています。3分の2が「アメリカ人の政治的判断力を信じていない」と言っています。

その理由の一部は、我々が人々を読み取ることができ、最も極端な人々を読み取っているからです。なぜなら、彼らが最も目に見える存在であり、最も関与しているからです。我々は狂った人々を見て、「なぜこのような狂った人々に政府を任せるのか」と言います。その結果、民主主義への信頼が侵食されているのです。

ある意味で、今日は1870年代や1880年代と非常に似ています。当時も、分極化され、党派的な報道機関がたくさんありました。しかし、1870年代と1880年代には、人々は目に見えませんでした。人々は政策立案者が何をするかにとって重要ではありませんでした。

今日、人々は目に見える存在です。彼らは読み取り可能です。1月6日の出来事の後、多くの共和党議員が「ああ、よかった。これで終わりだ。あの男のことを二度と心配する必要はない」と考えました。リンゼー・グラハムは上院の演壇で「もう降りる。終わりだ。ドナルド・トランプはもういない」と言いました。

しかし、その夜の世論調査を見ると、共和党の基盤がまだドナルド・トランプに深くコミットしていることが示されました。彼らは「我々に何の選択肢があるというのか。我々の人々に従わなければならない」と言いました。

これらの二つのことが合わさって、我々が簡単に抜け出せるとは想像できないような特殊な場所を生み出しているのです。

9. 経済力と政治力の関係

9.1 労働の分散化と資本の集中

今日の状況を考えると、労働は本質的に分散化されています。労働は人々がいるところにあります。一方で、もし労働の必要性がなくなれば、資本は極めて集中化される可能性があります。そうなると、集中化された資本の力は、今日よりもはるかに大きくなるでしょう。

9.2 生産性向上と平等の関係（1955年〜1975年の特異な期間）

この問題をより深く理解するために、ダレン・アセモグルとサイモン・ジョンソンの著書『Power and Progress』について話したいと思います。この本の主張は非常に興味深いものです。

彼らは、アメリカの歴史の中で非常に奇妙な期間があったと指摘しています。それは1955年から1975年までの約20年間です。この期間、生産性の上昇と平等の上昇の間にほぼ完璧な相関関係がありました。生産性が上がると、平等も上がったのです。

しかし、この期間の前後では、そのような関係は見られません。そこで彼らは、なぜこの奇妙な期間に生産性の上昇と平等の上昇の間にこのような関係があったのかを問いかけます。

彼らの主張によれば、この期間には効果的な対抗力が存在していたからです。政府の力は、独占禁止法の執行や所得の再分配を通じて行使されました。そして、労働組合を通じた経済力も存在しました。

この対抗力のおかげで、極端な富の成長が平等に分配されることが保証されたのです。しかし、この教訓から学ぶべきことは、もしこの対抗力がなければ、生産性の爆発的な増加を見ても、すべての人のための富や平等の爆発的な増加は見られないだろうということです。むしろ、少数の人々への富の集中が見られるでしょう。

9.3 AIによる生産性向上と富の集中の可能性

現在、私たちはまさにそのような瞬間に立っています。私たちはこの生産性の爆発的な増加を目にすることになるでしょう。しかし同時に、私たちには対抗力を行使できる政府がありません。

さらに重要なのは、アンドリュー・マークアンドリーのような人々のイデオロジーが議論を支配していることです。彼らは、政府がこの成長とイノベーションの文脈で何かをしようとすれば、それは災害になるだろうと主張します。政府が介入すれば、それはイノベーションや富の創造を破壊したり、殺してしまうだろうと彼らは言います。

つまり、富の爆発的な増加の結果に対処するために政府の能力が最も劇的に必要とされる瞬間に、私たちには何かをする政府がないのです。

もし私たちに政府があれば、状況は良くなる可能性があります。これらの技術が私たちのすべての仕事を代行してくれるなら、私たちはそれほど働く必要がないかもしれません。普遍的基本所得（UBI）を設け、より意味のある、よりバランスの取れた生活を送る機会を持つことができるかもしれません。

人類はいつ、週60時間働くことが良いことだと決めたのでしょうか？それが人間として本物になるために必要なことだと、いつ決めたのでしょうか？しかし、それが今日の基本的な世界です。もし私たちが正しく対処できれば、根本的に異なる世界に生きることができるかもしれません。

しかし、現在の状況を見ると、それを正しく行う能力があるとは思えません。これは本当に恥ずべきことです。

10. ソーシャルメディア規制の課題

10.1 中国のソーシャルメディア規制の例

中国を称賛するつもりはありませんし、中国には多くの問題がありますが、ソーシャルメディア規制に関しては注目に値する点があります。

まず、TikTokの問題を考えてみましょう。アメリカではTikTokの排除が議論されていますが、興味深いことに、中国本土にはTikTokは存在しません。中国で利用可能なTikTokのバージョンは、私たちが知るTikTokとは全く異なるプラットフォームです。

中国版TikTok（抖音）は、若者のコンテンツへのアクセスを効果的に規制しています。例えば、若者が利用できる時間を制限しています。ゲームに関しても同様の規制があり、子供がオンラインゲームをプレイできる時間は制限されています。夜10時か10時30分以降はシャットダウンされます。

さらに、中国の社会全体が、子供たちのオンライン環境を安全で生産的なものにすることを目的に組織されています。抖音のコンテンツは、13歳の子供たちに宇宙飛行士や起業家になることを勧めるようなものです。

対照的に、アメリカの13歳の子供たちは、ソーシャルメディアインフルエンサーになりたがります。これは恐ろしいことです。しかし、これはこのシステムの産物なのです。

10.2 TikTok規制を巡る議論

アメリカでのTikTok規制の議論は複雑です。私が最も劇的に感じたのは、TikTok排除に関する初期の議論の中でのことです。2021年10月頃、フランシス・ハウゲンがFacebookの内部告発者として議会で証言した後のことです。私は彼女の弁護士を務める栄誉を得ました。

彼女の証言後、議会では何かをしなければならないという広範な合意がありました。共和党のマーシャ・ブラックバーンなどは、ソーシャルメディアに対して何かをする必要性を熱心に主張していました。

しかし、その後アレクサンドリア・オカシオ・コルテス下院議員が初めてTikTokの動画を投稿しました。その動画でTikTokを規制すべきだという考えを批判したのです。彼女の主張は、アメリカでプライバシー法が成立するまでTikTokを規制するのは公平ではない、というものでした。

これは二つの点で落胆させられるものでした。まず、彼女が本当にプライバシーがTikTokの問題だと考えているとは思えませんでした。そして第二に、これは民主党内でTikTok規制に関する分裂が始まったことを示唆していました。つまり、お金が民主党に流れ込み、TikTok規制の問題で民主党を分裂させ始めたのです。

10.3 エンゲージメント税の提案

ソーシャルメディア規制の一つの方法として、エンゲージメント税の導入を提案したいと思います。これは二次関数的なエンゲージメント税で、例えば1単位のエンゲージメントに対して1の税金、2単位に対して4の税金、3単位に対して9の税金というように設定します。

単位と数字を適切に設定すれば、非常に迅速にエンゲージメントビジネスモデルを収益性のないものにすることができます。つまり、ある時点で彼らは「エリック、人生を楽しんでください。2時間もTikTokのフィードをスクロールしているのはもう十分です。実際、あなたがここにいると、あなたの価値はあなたのコストよりも低くなります」と言うようになるでしょう。

このような規制は、政府がある種のコンテンツが良いとか悪いとか判断する必要はありません。しかし、ビジネスモデルを変更させる効果があります。

ソーシャルメディア規制は複雑な問題です。エンゲージメント税のような創造的なアプローチは、この難しい問題に対する一つの解決策となる可能性があります。しかし、どのような規制を行うにせよ、それは慎重に設計され、継続的に評価され、必要に応じて調整されなければなりません。

11. AIと民主的な意思決定

11.1 AIを活用した熟議民主主義の可能性

AIの影響力が増大する中で、民主的な意思決定プロセスをどのように維持し、改善できるかという問題は非常に重要です。私は、AIを活用して実際の審議のコストを下げる大きな可能性があると考えています。

例えば、ツールとしてのAI、特に審議を増加させることを目的としたAIツールについて考えてみましょう。私の講演の主なポイントの一つは、私たちがもっと対話を重ねる必要があるということです。そして、このような対話を促進するAIツールが開発されつつあります。

OpenAIは昨年、この分野に関するグラント申請を募集しました。その結果、台湾のシステムなど、いくつかの興味深いプロジェクトが生まれました。これらのシステムは、AIを使って人々の間の対話を促進し、より深い理解と合意形成を支援することを目的としています。

11.2 Chasmプラットフォームの事例

私たちは最近、Chasmという素晴らしい審議プラットフォームを購入しました。このプラットフォームは、Jim Fishkinのスタンフォード大学熟議民主主義センターで行われているものと同様の、小グループでの審議を促進します。

私たちはこのプラットフォームをオープンソース化し、世界中の革新的な開発者たちに、このプラットフォームを取り入れて私たちの生活のより多くの部分に統合するよう呼びかけています。なぜなら、私たちは審議が本質的な治療法だと考えているからです。

私たちは審議の筋肉を鍛える必要があります。そうすることで、人々が政府の行動に責任と関連性を感じる民主主義に戻ることができるのです。私はこれが不可欠な部分だと考えており、もし私たちがそれを実現できれば、それは治療効果があると思います。

11.3 バーチャル deliberationの可能性

市民議会運動も、同じ感覚から生まれています。一つの場所で500人の市民議会を想像するだけでなく、同時に何百万人もの人々が参加できるバーチャルな審議を想像してみてください。私たちが持っているプラットフォームでは、同時に100万人が小グループで審議することができます。

このようなバーチャルな審議の可能性は非常に大きいと考えています。人々が実際に参加し、対話を重ねれば重ねるほど、その効果は大きくなります。

市民議会を見ると、人々が小さなテーブルを囲んで小グループで話し合っている様子が見られます。そこでは、相手が自分たちと同じように子供を持ち、夢や希望を持っているという事実に気づきます。つまり、相手をトカゲのような存在としてではなく、人間として見るようになるのです。

これは、私たちが直面している分極化の問題に対する最も治療効果の高い技術だと私は考えています。そのため、私は絶対的にこのアプローチを支持しています。これこそが私たちがすべきことだと信じています。

12. AIガバナンスの課題

12.1 企業の影響力と民主的統制の限界

今日の米国民主主義が、これらの現代のゴリアテ機関とも言える巨大企業を本当に統治できるのか、私は非常に懐疑的です。テクノロジーリーダーたちは、今や世界を支配し、私たちの意識がどのようなものになるか、10年後の労働市場がどのようなものになるかを決定しています。しかし、彼らは民主的に選ばれたわけではありません。

現在の経済構造の中で、民主主義はどのような意味を持つのでしょうか。これらの企業は民主的な統制をうまく回避する方法を見つけ出したように見えます。

12.2 規制の困難さと時間的制約

AIの規制に関しては、時間との戦いです。現時点では規制が可能かもしれませんが、それはかろうじてです。そして、フレームの仕方次第です。

例えば、テッド・クルーズ上院議員が最近、ニューヨーク・タイムズに典型的な反規制の論説を掲載しました。これは共和党の立場を示すものです。彼らの主張は、インターネットと同じように、AIを規制すべきではないというものです。

このように、AIの規制に関してはすでに党派的な壁ができつつあります。10年後には規制がさらに困難になる可能性が高いです。可能ではないとは言いませんが、確実に今よりも困難になるでしょう。

その理由の一つは、これらの人々、例えばサム・アルトマンのような人物が、単にスティーブ・ジョブズのようになろうとしているのではないということです。アルトマンは自分をウィンストン・チャーチルのような存在だと考えています。つまり、人類の歴史にとってそのレベルの重要性を持つ存在だと自認しているのです。これは民主的なガバナンスの能力に対する本当の脅威となります。

12.3 OpenAIの事例と安全性への懸念

OpenAIの最近の出来事は、AIガバナンスの課題を如実に示しています。ヘレン・トナーとターシャ・マコーレーという二人の理事会メンバーについて、私は個人的によく知っていますが、彼らの行動は簡単に特徴づけられるものではありません。OpenAIの問題は実在し、深刻なものです。

実際、OpenAIだけでなく、他のAI企業でも同様の懸念があります。アンスロピックの上級幹部の一人と親しい友人がいますが、彼は自分の子供たちが高校に行くことはないだろうと言っています。高校がなくなるからではなく、彼らが開発しているものをコントロールできないと確信しているからです。

OpenAIの安全チームの多くのメンバーが最近退職したのは、破滅的なリスクや技術のリスクから保護するための安全対策が整っていないと考えたからです。

これらの技術の内部にいる人々がこのように飛び出してきて、深刻な懸念を表明しているのを見ると、私たちはどのように確信を持って疑うことができるでしょうか。何を根拠に疑うのでしょうか。過去200万年間、技術が世界を破壊しなかったという事実でしょうか。

確かに、核兵器を除けば、技術は過去200万年間世界を破壊していません。しかし、この技術の非常に近くにいる多くの人々が、その潜在的な影響や統制の欠如について非常に恐れています。私たちはこれを真剣に受け止めるべきだと思います。

AIガバナンスの課題は複雑で多岐にわたります。これらの課題に対処するためには、政府、企業、市民社会が協力して、透明性、説明責任、倫理的な考慮を重視したガバナンスフレームワークを構築する必要があります。

時間は私たちの味方ではありません。AIの発展は急速に進んでおり、私たちの対応はそれに追いついていません。しかし、だからこそ今行動を起こすことが重要なのです。私たちには、AIの力を活用しながらも、その潜在的なリスクを最小限に抑える方法を見つける責任があります。これは容易な課題ではありませんが、私たちの民主主義と社会の未来がかかっているのです。

13. 結論

13.1 AI時代の民主主義の展望

私たちは今、恐ろしくも刺激的な瞬間に立っています。超知能や汎用人工知能（AGI）が登場するずっと前に、AIはすでに私たちの民主主義を脅かしています。しかし、私たちにはまだ何かができる時間が残されています。そして、まだできるうちに、何かをする必要があります。

私たちは、今の民主主義を信頼できないことを知るべきです。しかし、同時に、まだ何か違うものを作り上げる時間があることも認識すべきです。そして、その違いを生み出すために行動を起こすべきです。

13.2 必要な改革と行動の呼びかけ

成功するかどうかはわかりません。正直なところ、私はこれが成功するとは思っていません。ある意味で、これは絶望的だと思います。しかし、私たちが愛するものに対して持つべき態度があります。

ある講義の後、ある女性が立ち上がって「教授、あなたの話を聞いて絶望的だと確信しました。私にできることは何もない」と言いました。その時、私は6歳の息子（今ではあなたたちと同じくらいの年齢です）のことを思い出しました。もし医者が「あなたの息子は末期脳がんで、あなたにできることは何もない」と言ったら、何もしないでしょうか？ただ諦めるでしょうか？

そして私は、愛とはそういうものだと気づきました。確率は関係ありません。愛するものを救うために、できることは何でもするのです。

この民主主義に対して愛を感じることができるなら、そのように考える必要があります。私たちのロボットの支配者がまだSFの空想の域を出ていない今、まだ時間があるうちに、そう考える必要があるのです。

Stanford ECON295/CS323 I 2024 I AI and Democracy, Lawrence Lessig

May 21, 2024 For more information about Stanford's Artificial Intelligence programs visit: https://stanford.io/ai Lawrence Lessig Lawrence Lessig is the Roy L. Furman Professor of Law and Leadership at Harvard Law School. Prior to returning to Harvard, he taught at Stanford Law School, where he founded the Center for Internet and Society, and at the University of Chicago. He clerked for Judge Richard Posner on the 7th Circuit Court of Appeals and Justice Antonin Scalia on the United States Supreme Court. https://hls.harvard.edu/faculty/lawrence-lessig/ To view all online courses and programs offered by Stanford, visit: https://online.stanford.edu/

www.youtube.com