※本稿は、2024年に開催されたAspen Ideas Festivalでの「AI White Spaces」というセッションを要約したものです。
1. イントロダクション
1.1 AIに関する現在の議論の状況
人工知能（AI）は、近年急速に注目を集めています。特に2022年11月30日のChatGPTのリリースは、AIの世界に大きな変化をもたらしました。AIそのものは数十年前から存在していましたが、ChatGPTの登場により、一般の人々が初めて生成AIの力を実感し、その可能性と影響を身近に感じるようになりました。
現在のAIに関する議論は、主に2つの極端な方向に分かれています。1つは、短期的な影響に焦点を当てたもので、AIのリスクと機会が議論されています。具体的には、AIのバイアス、情報の完全性（特に重要な選挙の年において）、雇用への影響などが挙げられます。もう1つは、遠い未来、あるいは予見可能な未来に関するもので、人類の終焉や火星への移住、ロボット支配下での奴隷化などの極端なシナリオが語られています。
しかし、これらの議論の間には大きな空白があります。短期的な影響と極端な長期的シナリオの間にある中間の領域、つまり中長期的な影響や、二次的、三次的な影響についての議論が不足しています。
1.2 本セッションの目的：AIの中長期的影響を考える
本セッション「AI White Space」の目的は、まさにこの中間領域、すなわちAIの中長期的影響について議論することです。この議論は、アマラの法則を念頭に置いています。アマラの法則は、「技術変化の短期的影響を過大評価し、長期的影響を過小評価する傾向がある」というものです。
歴史は、短期的な影響だけでなく、長期的な影響、特に二次的、三次的な影響によって形作られてきました。そのため、AIの潜在的な中長期的影響を理解し、予測することが重要です。
このセッションでは、歴史家、外交官、AI専門家など、多様な背景を持つパネリストが集まり、AIの将来について多角的な視点から議論します。彼らの専門知識を活かし、AIの中長期的影響について、より包括的で現実的な理解を得ることを目指します。
2. 歴史的視点からAIを考える
2.1 技術革新と社会変革のタイムラグ
歴史を振り返ると、技術革新とその社会的影響の間には常にタイムラグが存在することがわかります。新しい技術が発明されてから、それが社会に広く普及し、真の意味で社会を変革するまでには、しばしば長い時間を要します。技術の影響が完全に顕在化するためには、多くの人的資本と政治的意志が必要です。
しかし、20世紀に入ると、この技術革新から社会変革までのギャップは徐々に短縮されてきました。例えば、電気の普及は蒸気機関よりも短期間で進みました。さらに、コンピューター革命はさらに短期間で社会に浸透しました。
AIの場合、この技術革新から社会変革までのタイムラグは、蒸気機関の発明から社会変革までの3世代ほどの期間ほど長くはないかもしれません。しかし、それでも一定の時間を要すると考えられます。この時間は、AIの影響について議論し、適切な対応を準備するための貴重な機会を提供しています。
2.2 インターネットの事例：Arab SpringからRussian disinformation weaponへ
インターネットとソーシャルメディアの発展は、技術革新がいかに急速に社会を変革し、予期せぬ結果をもたらすかを示す典型的な例です。ソーシャルメディアが主流となったのは2010年頃で、すぐにアラブの春が起こりました。この時、ソーシャルメディアは民主化の強力な推進力として注目されました。
しかし、ソーシャルメディアの「ハネムーン期間」はわずか5年ほどで終わりを迎えます。その後、ソーシャルメディアは「ロシアの偽情報兵器」として使用される事例が顕在化しました。これは、技術が急速に機会から脅威へと変化する可能性を示しています。
この事例は、AIの将来を考える上で重要な教訓を提供しています。新しい技術がもたらす機会と脅威は、予想以上に早く入れ替わる可能性があります。
2.3 蒸気機関の例：発明から社会変革までの時間
蒸気機関の歴史は、技術革新から社会変革までの時間が非常に長くなる可能性を示す典型的な例です。ジェームズ・ワットの蒸気機関の最初の特許は1769年に取得されましたが、蒸気機関が世界を大きく変え始めたのは1830年代になってからでした。
産業革命は一般的に19世紀のビクトリア朝時代の現象と考えられていますが、実際にはそれよりもずっと前、ジョージ2世の時代に始まっていました。この例は、技術革新の影響が完全に顕在化するまでには、複数の世代を要する可能性があることを示しています。
これらの歴史的事例は、AIの将来を考える上で重要な視点を提供しています。技術革新の影響は即座には現れず、時間とともに変化し、予期せぬ形で現れる可能性があります。AIの影響を考える際には、短期的な影響だけでなく、中長期的な影響、そして二次的、三次的な影響にも注目する必要があります。
3. AIの潜在的な影響
AIの発展は社会に多大な影響を与える可能性があります。特に注目すべき影響として以下の3点が挙げられます。
3.1 権力の集中と不平等の拡大
AIの発展は、既存の権力構造をさらに強化し、不平等を拡大させる可能性があります。現在、AIの開発には莫大なコストがかかるため、その能力は主に少数の大企業に集中しています。これは19世紀の産業革命とは異なる状況です。産業革命時代は、政府が様々な方法で結果に影響を与えることができましたが、現在のAI開発は少数の超大企業に独占されています。
また、社会的流動性の低下も懸念されています。例えば、イギリスは1973年にヨーロッパで最も平等な国でしたが、現在では最も不平等な国の一つになっています。これは世界第5位または第6位の経済大国での出来事であり、富の驚異的な集中と、平等な社会から不平等な社会への転換を示しています。
3.2 政府の力の制限
AIの発展は、政府の力を制限する可能性があります。これは、AIの開発と利用が主に民間企業によって行われているためです。
さらに、非政府組織や企業が極めて強力になっていることも、政府の力を制限する要因となっています。これは、1930年代のニューディール政策への反対に始まったとされる、約50年間にわたる反政府キャンペーンの結果でもあります。
現在、政府に対する不信感が広がっており、これは19世紀には存在しなかった現象です。19世紀には、権力や既得権益、土地所有に対する様々な疑念はあったものの、政府はしばしば解決策として見られていました。
3.3 グローバルな生産性向上と繁栄の乖離
AIは確かにグローバルな生産性を向上させる可能性がありますが、それが必ずしも全世界的な繁栄につながるわけではありません。これは、AIの恩恵が公平に分配されない可能性があるためです。
例えば、AIが物流を改善し、生産性を向上させ、アマゾンで商品を購入する人々のアクセスを向上させることは間違いありません。しかし、これは必ずしもアフリカの農村部で半ヘクタールの土地を管理しようとしている自給自足の農民の基本的なアクセスを根本的に変えるわけではありません。
つまり、AIによる経済的利益が広く分配されたとしても、それらは深く不公平に分配される可能性があります。AIの恩恵は、既存の権力構造や経済システムに沿って分配される可能性が高く、それによって既存の不平等がさらに拡大する可能性があります。
これらの潜在的な影響は、AIの開発と利用に関する重要な課題を提起しています。AIがもたらす可能性のある利益を最大化しつつ、同時に不平等の拡大や権力の集中を防ぐために、どのような政策や制度が必要なのか。また、AIの恩恵をより公平に分配し、真の意味でのグローバルな繁栄につなげるためには、どのようなアプローチが必要なのか。これらの問題に対する解答を見出すことが、AIの時代における重要な課題となるでしょう。
4. AIがもたらす機会
4.1 農業におけるAI活用事例
パネリストの一人は、西アフリカの農業におけるAIツールの活用事例を紹介しました。このAIツールは、自給自足農家に対して以下の3つの重要な情報を提供しています：
- 最適な植付け時期：地域の気候変動や収穫予測に基づいて決定します。
- 最適な収穫時期：気候の影響を最小限に抑えるために予測します。
- 最適な市場出荷時期：最高の価格を得るために提案します。
このAIツールは現在の技術を活用して開発されたものですが、30年後にはさらに進化し、より広範囲で高度な支援が可能になると予想されています。
4.2 医療分野での応用
パネリストの一人は、自身が予想外にAIを活用した医療処置を受けた経験を共有しました。この経験は、AIが既に医療現場に導入され始めており、患者の治療に直接的な影響を与えていることを示しています。
将来的には、携帯電話を持つ全ての人が、クラウド上の個人専用の医師にアクセスできるようになる可能性があります。
4.3 教育へのアクセス改善
パネリストは、携帯電話を持つ世界中のすべての学生が、生涯にわたって個人専用のチューターにアクセスできるようになる可能性を指摘しました。これは、教育の質と機会の平等化に大きく貢献する可能性があります。
これらの機会は、AIがもたらす潜在的な利益の一部に過ぎません。パネリストの一人は、30年後には、スター・トレックのように壁に向かって欲しいものを打ち込むだけで何かが生成されるような未来が実現する可能性があると述べています。
AIがもたらす機会は、私たちの生活を大きく改善し、多くの社会問題を解決する可能性を秘めています。しかし同時に、これらの機会を公平に分配し、誰もが恩恵を受けられるようにするための努力が必要です。AIの発展と並行して、社会の在り方や価値観についても深い議論を重ねていく必要があるでしょう。
5. AIの課題に対する取り組み
5.1 人間の知性への投資
AIの時代において、人間の知性への投資はこれまで以上に重要になっています。パネリストの一人は、AIに関連して人間の知性に投資することの重要性を強調しました。
この投資は、主に二つの側面から考えられます。一つは、AIに関する技術的なスキルの向上です。あらゆる組織が、必ずしもシリコンレベルのスキルやエンジニアリング、コンピューターサイエンスのスキルだけでなく、技術を適応し採用する能力を学ぶためのスキルについて考える必要があります。
もう一つは、AIの影響を観察し、理解する能力の向上です。技術の動向をより早く観察できれば、それだけ早く政策の転換や修正を行うことができます。例えば、2023年11月に英国のブレッチリーで開催された会議では、大手テクノロジー企業の協力のもと、AIが現在何をできるかについて年次報告書を作成する観測所の設立が合意されました。
また、国家レベルでの次世代の教育準備も重要です。
5.2 多分野の専門家による協力
AIがもたらす課題に対処するためには、多様な分野の専門家による協力が不可欠です。パネリストの一人は、人間の知性への投資には多様性が必要であることを強調しました。歴史家、哲学者、経済学者、政策立案者など、様々な分野の専門家がエンジニアと並んで議論に参加する必要があります。
歴史家の参加も重要視されています。例えば、パネリストの一人は最近、Google医療チームに招かれ、17世紀から19世紀にかけて医学に組み込まれたバイアスがどのように出現したかについて話をしたと述べています。
さらに、人文科学の重要性も指摘されています。世界中の大学で人文科学の学部が縮小される傾向にある中、AIの時代においてはむしろこれらの分野がより重要になる可能性があります。
5.3 公共の参加と対話の促進
AIの開発と利用に関する議論には、専門家だけでなく、一般市民の参加も重要です。パネリストの一人は、AIについての議論を避けるのではなく、むしろそれを権力や変革、参加、所有権、公平性についての議論の糸口として活用すべきだと主張しています。
また、ジャーナリストの役割も重要です。ジャーナリストは、AIに関する複雑な問題を一般市民に分かりやすく伝える重要な役割を果たします。Aspen DigitalはMcGovern財団の支援を受けて、ジャーナリストのAI教育に取り組んでいます。
これらの取り組みは、AIの開発と利用に関する社会的合意を形成する上で重要な役割を果たします。人間の知性への投資、多分野の専門家による協力、そして公共の参加と対話の促進を通じて、AIがもたらす課題に対して、より包括的かつ効果的に対処することが可能になると期待されています。
6. 規制とガバナンスの考察
AIの急速な発展に伴い、その規制とガバナンスの在り方が重要な課題となっています。この分野では、国際機関、各国政府、そして産業界がそれぞれ重要な役割を果たしています。
6.1 国連の役割と限界
国連は、AIに関する真にグローバルな対話を創出する機関として期待されています。AIの目的や人類にとっての意義について、世界規模の議論を主導する立場にあると考えられています。しかし、その役割には明確な限界も存在します。
パネリストの一人は、国連がAIに関する議論を行う上で最悪の場所であると指摘しました。AIの分野では、技術の進歩が政策立案のスピードを大きく上回っており、国連のような組織がこのペースについていくことは困難です。
また、AIに関する規制の基盤を考える際、航空や核不拡散の歴史的な例が引き合いに出されました。しかし、これらの分野とAIの間には大きな違いがあります。AIの場合、技術の所有と開発が主に民間企業によって行われており、国家の影響力が相対的に小さいという特徴があります。
6.2 各国の取り組み：AI Readiness Assessment Module
各国政府もAIの規制とガバナンスに関して独自の取り組みを行っています。しかし、AIに関する外交において、どの国がどのような立場を取るかについての理解は、まだ十分に確立されていません。気候変動交渉のように、各国の立場や利害関係が明確になっているわけではありません。
この状況に対応するため、AIの準備状況を評価するツールが開発されています。パネリストの一人が言及した「AI Readiness Assessment Module」は、政府がコミュニティと連携してAIに関する国内の状況を議論するためのツールです。
このモジュールは現在、世界50カ国で使用されています。これは、AIポリシーに関する各国の主権を尊重しつつ、共通の枠組みを提供する分散型のメカニズムです。このツールを通じて、政府所有のスーパーコンピューターを持つ国から、大学にコンピューターサイエンス学科が一つもない国まで、様々な状況の国々がAIに関する共通の言語や教育、そして外交的・政策的対話のための枠組みを持つことができます。
6.3 産業界との協力モデル
AIの開発と利用において中心的な役割を果たしている産業界との協力も、規制とガバナンスの重要な側面です。しかし、産業界と政府・社会との間には情報の非対称性が存在し、これが効果的な協力を難しくしている面があります。
パネリストの一人は、過去18ヶ月の間に多くの大手テクノロジー企業が公共政策チームを縮小または廃止していることを指摘しました。また、TwitterやAppleのように、政策的な対話に全く関与しない企業もあります。
一方で、Anthropicのような企業は、AIの倫理的な開発に取り組んでいることが言及されました。このような企業の存在は、産業界全体の「良心」を形成し、AIの責任ある開発と利用を促進する可能性があります。
しかし、規制がイノベーションを阻害するという懸念も存在します。国連や核規制のようなモデルでAIを規制すると、産業を衰退させ、技術者がさらにステルスモードで開発を進める動機を与えてしまう可能性があるという指摘もありました。
これらの課題に対して、産業界の良心を育てつつ、AIの利点を活用できるような協力モデルの構築が求められています。具体的には、フィランソロピーや政府投資、民間セクターがコミュニティとのパートナーシップを通じて新しい市場アクセスを推進するような資本主義的アプローチなど、様々な可能性が示唆されています。
7. 結論：バランスの取れたアプローチの必要性
AIの急速な発展とその潜在的な影響を考慮すると、バランスの取れたアプローチの必要性が明確になります。このセッションでの議論を通じて、AIがもたらす機会とリスクの両面を慎重に検討し、適切な対応策を講じることの重要性が浮き彫りになりました。
AIは確かに多くの機会をもたらします。農業、医療、教育など様々な分野でAIは革新的な解決策を提供する可能性があります。例えば、西アフリカの農業におけるAIツールの活用事例や、個人専用の医師やチューターへのアクセスの可能性など、AIは人々の生活を大きく改善する潜在力を持っています。
一方で、AIがもたらす課題や潜在的なリスクも軽視できません。権力の集中や不平等の拡大、政府の力の制限、グローバルな生産性向上と繁栄の乖離などの問題は、慎重に対処する必要があります。
これらの課題に対応するためには、人間の知性への投資、多分野の専門家による協力、公共の参加と対話の促進が重要です。また、AI Readiness Assessment Moduleのような取り組みは、各国のAIに関する準備状況を評価し、共通の枠組みを提供する上で重要な役割を果たしています。
産業界との協力モデルの構築も重要です。AIの開発と利用において中心的な役割を果たす企業との協力は不可欠ですが、同時に適切な規制とガバナンスも必要です。イノベーションを阻害せずに、AIの責任ある開発と利用を促進するバランスを見出すことが課題となっています。
AIの影響を考える際には、短期的な影響だけでなく、中長期的な影響、そして二次的、三次的な影響にも注目する必要があります。歴史的な事例から学ぶと、技術革新の影響は即座には現れず、時間とともに変化し、予期せぬ形で現れる可能性があります。
結論として、AIの開発と利用に関しては、継続的な監視と評価、そして柔軟な対応が求められます。社会全体で対話を続け、AIがもたらす機会を最大限に活用しつつ、潜在的なリスクを最小化するバランスの取れたアプローチを模索していく必要があります。このバランスの取れたアプローチは、AIの時代における私たちの最大の課題であり、同時に最大の機会でもあります。