2024-06-13 生成AIと規制：地域的実装からグローバルスタンダードへ

※本稿は、2024年に開催されたAI for Good Global Summit 2024での「Generative AI and regulation: From local implementations to global standards」というワークショップを要約したものです。

1. はじめに

1.1. ワークショップの概要

2024年6月13日、「Generative AI and regulation: From local implementations to global standards」と題されたワークショップが開催された。このワークショップは、ウォートンスクールのサラ・ハマー教授が主催し、国際電気通信連合（ITU）のAI for Goodイニシアチブの一環として行われた。

ハマー教授は、人工知能に関する国際専門家コンソーシアムの共同議長を務めており、このコンソーシアムが今回のワークショップの主催者となっている。コンソーシアムは、人工知能の規制、経済学、コンピューターサイエンスに関する主要な専門家で構成されており、人工知能に関連する重要な課題について分野横断的な調査を促進するプラットフォームを提供している。

ワークショップには、世界中の大学、主要なAI研究所、非営利組織からの専門家が参加した。また、産業界からの著名なオブザーバーも多数参加している。

1.2. 参加者と組織の紹介

ワークショップの主要な登壇者には以下の専門家が含まれる：

1. サラ・ハマー：ペンシルベニア大学ウォートンスクール エグゼクティブディレクター、ペンシルベニア大学ロースクール教授
2. マーシャル・ヘバート：カーネギーメロン大学 ロボティクス学部長および大学教授
3. ジェレミアス・アダムス＝プラスル：オックスフォード大学 法学教授
4. レジー・タウンセンド：SAS データ倫理担当副社長
5. ミシェル・フィンク：テュービンゲン大学 法学・人工知能教授、CZS人工知能法研究所所長
6. レイチェル・アダムス：アフリカ責任あるAI観測所 所長
7. サブリナ・キュスパート：欧州委員会 AI事務所 政策担当官
8. イーサ・シー：SAS 主任社会イノベーションマネージャー
9. ディートリッヒ・チェン：EYパルテノン パートナー、生成AIタスクフォースメンバー
10. アレクサンドレ・ザバグリア・コエーリョ：Legal&Tech.Design ディレクター
11. キャリー・コグリアニーズ：ペンシルベニア大学 エドワード・B・シルズ法学・政治学教授、規制プログラムディレクター

このワークショップは、ディーター・シュワルツ財団からの支援を受けて開催された。また、国際電気通信連合（ITU）もホストとして、AI for Goodイニシアチブを通じてワークショップに協力した。

ハマー教授は、過去5年間にわたりITUの監督委員会（IMAC）のメンバーとして、AI for Goodの取り組みを支援してきた経験を持つ。

このワークショップは、AIの規制、経済、コンピューターサイエンスに関する分野横断的な議論を促進し、人工知能に関連する重要な課題や問題について探求する場を提供することを目的としている。

2. AIの技術的側面と課題

2.1. 説明可能性と透明性の重要性

カーネギーメロン大学のマーシャル・ヘバート学部長は、AIシステムの説明可能性と透明性の重要性について講演を行った。ヘバート学部長は、これらの要素がAIの信頼性と責任ある利用にとって不可欠であると強調した。

説明可能性と透明性には二つの重要な側面がある。第一に、モデルの動作原理をより深く理解することができる。第二に、著作権の問題などに関して、より明確な帰属を可能にする。これは、特に著作権の問題や帰属に関する課題に対処する上で重要である。

2.2. 代表的な技術的アプローチ

ヘバート学部長は、説明可能性と透明性を実現するための代表的な技術的アプローチとして、表現工学（Representation Engineering）を紹介した。この手法は神経科学からインスピレーションを得ており、モデルが学習した表現を特徴付け、記述することを目的としている。

表現工学の具体的なプロセスは以下の通りである：

1. 特別に構築された入力をシステムに与える。
2. トランスフォーマーの異なる層での活性化を記録する。
3. 活性化の分布を分析し、内部表現の構築方法に関する結論を導き出す。

ヘバート学部長は、この手法の実例として、「正直さ」や「不誠実さ」の概念に対するシステムの反応を理解しようとする実験を紹介した。この実験では、これらの概念に関連するプロンプトを入力し、システムのトランスフォーマーから活性化データを収集し、その出力の分布を分析する。

2.3. 具体的な取り組み事例

ヘバート学部長は、感情に関連する概念（悲しみ、怒り、恐れなど）に対するシステムの振る舞いを理解しようとする具体的な例を示した。この例では、各感情に対応する色分けされたクラスターが表示され、これらのクラスターはシステム内の実際の活性化ベクトルを表している。これにより、システムが異なる感情をどのように表現し、区別しているかを視覚的に理解することができる。

ヘバート学部長は、これらのアプローチが説明可能性と透明性の向上に寄与し、AIシステムの理解と改善に貢献すると述べた。また、カーネギーメロン大学の責任あるAI分野の同僚、特にOD Adari教授との共同研究について言及し、これらのスライドの作成に貢献したことを謝辞として述べた。

これらの技術的アプローチと具体的な取り組みは、AIシステムの説明可能性と透明性を向上させ、より信頼性の高い、責任あるAIの実現に貢献している。ヘバート学部長は、これらの研究が産業界との協力のもと、実際のアプリケーションに統合されていくことの重要性を強調した。

3. AI規制の現状と課題

3.1. EUのAI法案の概要

オックスフォード大学のジェレミアス・アダムス＝プラスル教授は、EUのAI法案について詳細な説明を行った。AI法案は2023年12月に政治的合意に達し、27のEU加盟国全体で調和のとれたルールを確立することを目指している。

法案の主な特徴は以下の通りである：

1. リスクベースのアプローチ：AIシステムをリスクレベルに応じて分類している。
2. 高リスクAIシステムの規制：特定の要件と適合性評価を義務付けている。
3. 禁止事項：一部のAI実践を完全に禁止している。
4. 透明性要件：特定のAIシステムに対して透明性の確保を義務付けている。
5. 汎用AI（GPAI）モデルに関する規定：大規模言語モデルなどに特別な規制を設けている。

アダムス＝プラスル教授は、AI法案に関して以下の点を指摘した：

1. 他のデジタル法と比較して大きな進歩がある。
2. 国際的な整合性がある。
3. AI価値チェーンに沿った公平な負担分担がある。
4. 原則ベースのアプローチを採用している。
5. 調和された基準や二次法を通じて、将来的な調整が容易である。

一方で、以下のような課題も指摘された：

1. 法的不確実性がある。
2. 既存の法律との重複や矛盾がある。
3. 定義や手続きが曖昧な部分がある。

3.2. 包括的規制vs分野別規制の議論

アダムス＝プラスル教授は、AI規制における包括的アプローチと分野別アプローチの議論について言及した。EU AI法案は基本的に包括的アプローチを採用しているが、一部に分野別の考慮も含まれている。

包括的アプローチの利点：

1. 一貫性がある。
2. 公平な競争環境を提供する。
3. 市場形成に寄与する。

分野別アプローチの利点：

1. コンテキスト特異性に対応できる。
2. 既存の規制との整合性が取りやすい。
3. 新たな課題に対して迅速に対応できる可能性がある。

教授は、AIの多様性と動的な性質を考慮すると、単一の規制枠組みですべてのケースに対応することは困難である可能性を指摘した。

3.3. 各国・地域の規制アプローチの比較

アダムス＝プラスル教授は、AI規制に関する国際的な状況について言及した。特に、OECDやG20が2019年に策定したAI原則が、多くの国・地域の規制アプローチの基礎となっていることを指摘した。これらの原則には、AIの透明性、説明可能性、公平性、安全性などが含まれている。

教授は、各国・地域の規制アプローチの多様性が、一見すると課題に見えるかもしれないが、実際には有益な側面もあると指摘した。異なるアプローチの比較検討を通じて、より効果的で柔軟な規制の枠組みが生まれる可能性がある。

結論として、アダムス＝プラスル教授は、国際協力と対話を通じて、AIの責任ある開発と利用に関するグローバルな基準を段階的に形成していくことの重要性を強調した。また、技術の急速な進歩に規制が追いつくこと、国際的な調和と各国・地域の特殊性のバランスを取ること、そしてイノベーションを阻害せずに適切な規制を行うことを今後の課題として挙げた。

4. 責任あるAIの実装に向けた取り組み

4.1. グローバルインデックスの紹介と分析結果

アフリカ責任あるAI観測所のレイチェル・アダムス所長は、「グローバル責任あるAIインデックス」について報告を行った。このプロジェクトは、英国、カナダ、米国政府の開発省庁から資金提供を受け、3年間にわたって実施された調査研究である。

インデックスの主な特徴は以下の通りである：

1. 調査対象：138カ国（うちアフリカ41カ国）
2. データ収集期間：2023年11月まで
3. データポイント数：50万以上以上
4. 調査方法：各国の専門家による詳細な質問票への回答

インデックスの概念的フレームワークは、責任あるAIを3つの次元に分類している：

1. 責任あるAIガバナンス
2. AIと人権
3. 責任あるAI能力

各次元は複数の主題領域に分かれ、合計57の指標で評価されている。

主な調査結果は以下の通りである：

1. ガバナンスフレームワークの存在が必ずしも責任あるAIを意味しない。
2. 責任あるAIの進展は、AI開発と採用の速度に大きく遅れをとっている。
3. AIにおける人権保護のメカニズムは限定的である。
4. 包摂性と公平性の問題が十分に優先されていない。
5. 国際協力が責任あるAIの重要な基盤となっている。
6. ジェンダー平等に関する取り組みが特に遅れている。
7. AI労働者の権利保護に関する枠組みが少ない。
8. 文化的・言語的多様性の保護に関する取り組みに進展が見られる。

アフリカ大陸では、AIの利用によるリスクや人権への影響に対する認識が低い一方で、AIがもたらす潜在的な利益に対する期待が高いことが指摘された。5カ国がAI戦略を策定し、公共調達に関する規定を含んでいることが報告された。

4.2. 企業の具体的な取り組み事例

SASのデータ倫理担当副社長であるレジー・タウンセンド氏は、企業における責任あるAIの実装に向けた取り組みについて報告を行った。

タウンセンド氏は、エデルマン社の信頼性バロメーターの調査結果を引用し、AIに対する社会の信頼の欠如を指摘した。この調査によると、AIを受け入れる人々よりも拒否する人々の方が多いことが明らかになっている。

企業における責任あるAIの取り組みの例として、以下の事例が紹介された：

1. 苦情管理システムの改善： ある国際銀行では、大規模言語モデル（LLM）を使用して顧客の苦情を要約し、定量的推論システムと組み合わせることで、顧客対応の効率を20%向上させた。
2. ジョージア・パシフィック社のデジタルツイン： 製紙会社のジョージア・パシフィック社は、合成データ生成技術を用いて、製造ラインの最適化を図った。この取り組みにより、800万ドルのコスト削減を実現した。
3. 消費財企業の在庫最適化： ある消費財企業は、生成AIを用いて倉庫からの商品配送を最適化するインテリジェントアシスタントを開発した。

タウンセンド氏は、企業がAIの利用を拡大する中で、ガバナンス、コンプライアンス、運用、文化の4つの側面からAIの管理を行っていることを説明した。

4.3. 課題と今後の展望

アダムス所長は、2025年に第2回のグローバルインデックス調査を実施する計画を明らかにした。2030年までに計6回の調査を実施し、責任あるAIの実装と持続可能な開発目標（SDGs）の達成との関連性を明らかにすることを目指している。

タウンセンド氏は、AIの民主化が知識へのアクセスを拡大し、社会の創造性を高める可能性を指摘した。特に、これまで社会の周縁に追いやられてきた人々にとって、AIが新たな機会をもたらす可能性があると強調した。

結論として、責任あるAIの実装には、技術的な進歩だけでなく、倫理的、法的、社会的な考慮が不可欠であることが確認された。グローバルインデックスのような客観的な評価ツールと、企業の具体的な実装事例の両方を活用しながら、責任あるAIの実現に向けて前進していくことの重要性が強調された。

5. AIのガバナンスと監督

5.1. EU AI事務所の役割と課題

欧州委員会AI事務所の政策担当官であるサブリナ・キュスパート氏は、EU AI事務所の役割について説明を行った。EU AI事務所は、AIの安全性と信頼性を確保するために設立された機関であり、EU全体でのAIガバナンスシステムの中核を担っている。

キュスパート氏によると、EU AI事務所の主な役割は以下の通りである：

1. AI法の執行
2. 信頼できるAIの開発と利用の強化
3. 国際協力の促進

EU AI事務所の具体的な任務として、キュスパート氏は以下の点を強調した：

1. 汎用AIモデルの監督：システミックリスクをもたらす可能性のある大規模なAIモデルに対する追加的な規則と監督を実施する。
2. 技術的能力とRegulatory Powersの組み合わせ
3. EU全体のAI専門知識センターとしての機能

一方、欧州議会のカイ・ゼンナー氏は、EU AI事務所の設立と運営に関して、いくつかの懸念点を指摘した：

1. 人材確保の困難
2. 予算と資源の不足
3. 他の規制機関との調整
4. 国際的なアライメントの不足

ゼンナー氏は、これらの課題に対処するために、強力なリーダーシップの必要性を強調した。

5.2. 国際協力の重要性と取り組み

キュスパート氏は、AIガバナンスにおける国際協力の重要性を強調し、EU AI事務所が取り組んでいる具体的な国際協力の事例を紹介した：

1. G7コードオブコンダクト
2. AI安全サミット
3. OECD、国連、グローバルAIパートナーシップとの協力
4. 二国間協力

ゼンナー氏は、EUのアプローチが必ずしも国際的なスタンダードにならない可能性を指摘し、AIテクノロジーのグローバルな競争だけでなく、規制面でのグローバルな競争も起きていると述べた。

5.3. 具体的な監督メカニズムの提案

キュスパート氏は、EU AI法に基づく具体的な監督メカニズムについて説明を行った：

1. リスクベースアプローチ
2. 適合性評価
3. 透明性要件
4. 汎用AIモデルの監督
5. EU AIオフィスの設立
6. 加盟国レベルの監督機関
7. 公開データベース

ゼンナー氏は、これらの監督メカニズムの実効性に疑問を呈し、以下の点を指摘した：

1. 監督機関の能力不足
2. 複雑な規制環境
3. イノベーションへの影響
4. 国際的な整合性

結論として、キュスパート氏とゼンナー氏は、EUのAIガバナンスと監督が重要な段階にあることで一致した。AI技術の急速な進歩に対応し、安全性と信頼性を確保しつつイノベーションを促進するためには、継続的な対話と柔軟なアプローチが必要であると強調した。また、国際協力の重要性を再確認し、グローバルなAIガバナンスの枠組み作りに向けて、EUが積極的な役割を果たすべきであると結論付けた。

6. AIの社会実装と倫理的課題

6.1. バイオメトリクス技術の利用と人権への影響

ロンドン大学高等法学研究所の情報法・政策センター所長であるノラ・ニー・ロイデーン博士は、EUのAI法案におけるバイオメトリクス技術の取り扱いについて報告を行った。

AI法案では、遠隔バイオメトリクス識別システムの使用に関して、当初は高リスクAIシステムのカテゴリーに分類されていたが、最終的には禁止リストに含まれることとなった。ただし、法執行機関による使用については条件付きで許可されることになった。

法執行機関による使用は、以下の目的に限定される：

1. 特定の潜在的犯罪被害者の捜索
2. 自然人の生命や身体的安全に対する具体的で実質的で差し迫った脅威の防止
3. テロ攻撃の防止

使用にあたっては、事前の司法または行政機関の許可が必要とされ、緊急時の使用については、事後24時間以内にデータ保護機関への通知が必要とされる。また、基本的権利影響評価の実施が義務付けられる。

ロイデーン博士は、これらの規制が人権保護の観点から重要な前進であると評価しつつも、国家安全保障目的での使用がAI法案の適用範囲外となっていることを大きな懸念事項として指摘した。また、法執行機関による使用の条件が依然として広範で曖昧であることも問題点として挙げた。

さらに、過去のデータを用いた識別システムに対する規制が不十分であることも指摘された。

6.2. 感情認識技術の問題点

ロイデーン博士は、AI法案における感情認識技術の取り扱いについても言及した。AI法案では、感情認識技術の使用に関して以下のような規制が設けられている：

1. 職場や教育機関での感情認識技術の使用は原則として禁止される。
2. ただし、医療や安全上の理由がある場合は例外的に許可される。
3. 法執行、国境管理、入国管理の目的での使用は条件付きで許可される。

ロイデーン博士は、感情認識技術の使用が人権、特にプライバシー権や人間の尊厳に対して重大な影響を与える可能性があることを強調した。特に、科学的根拠の不足を指摘し、AI法案の前文でもこの技術の科学的根拠に関する深刻な懸念が示されていることを述べた。

6.3. プライバシーと公共の利益のバランス

ロイデーン博士は、AIの社会実装において個人のプライバシーと公共の利益のバランスを取ることの重要性を強調した。特に、バイオメトリクス技術と感情認識技術の文脈で、以下の点を指摘した：

1. これらの技術の使用を検討する際は、必要性と比例性の原則に基づいた慎重な評価が必要である。
2. 技術の使用に関する透明性と説明責任を確保することが重要である。
3. 技術の使用には、独立した監督機関による定期的な審査と評価が必要である。

ロイデーン博士は、EUのAI法案が、これらのバランスを取ろうとする試みの一つであると評価した。しかし、同時に以下の課題も指摘した：

1. 法執行機関による使用の例外規定が広範であり、濫用の可能性がある。
2. 国家安全保障目的での使用がAI法案の適用範囲外となっていることで、重大なプライバシー侵害のリスクがある。
3. 感情認識技術の科学的根拠が不十分な現状で、その使用を許可することへの懸念がある。
4. 過去のデータを用いたバイオメトリクス識別システムに対する規制が不十分である。

結論として、ロイデーン博士は、AIの社会実装における倫理的課題に対処するためには、継続的な対話と慎重な検討が不可欠であると強調した。また、技術の進歩に合わせて法律や規制を定期的に見直し、更新していく必要があると述べた。

7. AIの環境への影響と持続可能性

7.1. エネルギー消費と温室効果ガス排出の問題

ヨーロピアン・ニュー・スクール・オブ・デジタル・スタディーズのフィリップ・ハッカー教授は、AIの環境への影響、特にエネルギー消費と温室効果ガス排出の問題について報告を行った。

ハッカー教授によると、情報通信技術（ICT）セクター全体の温室効果ガス排出量は、現在、世界全体の1.8%から3.9%を占めているとされている。これは航空業界の排出量（2.5%）と比較可能な規模である。

特に、AIの中でも大規模言語モデル（LLM）などの生成AIモデルのエネルギー消費量は膨大である。検索エンジンにAIを中程度に採用した場合、2027年までにアルゼンチンやオランダ一国分に相当する温室効果ガスを排出する可能性があるという予測が紹介された。

また、AIのエネルギー消費は、モデルのトレーニング段階だけでなく、推論（インファレンス）段階でも大きな問題となっていることが指摘された。例えば、高解像度の画像を1枚生成するのに、スマートフォンをフル充電するのと同程度のエネルギーが必要とされる。

ハッカー教授は、アメリカのデータセンターの電力消費量の急増を例として挙げた。近年、データセンターの建設により電力需要が再び急激に上昇している。

さらに、エネルギー消費だけでなく、水消費の問題も指摘された。アリゾナ州の砂漠地帯に建設されたデータセンターは、大量の水を消費しており、既存の都市と水資源を巡って競合している状況にある。

7.2. 規制と技術革新のバランス

ハッカー教授は、AIの環境への影響に対する現在の規制状況について分析を行った。EUには排出量取引制度（ETS）や水枠組み指令（WFD）など、他の産業セクターに対する環境規制が存在するが、これらの規制はAI産業に十分に適用されていないことが指摘された。

EUのAI法案においても、AIの環境への影響に関する規制が不十分であることが指摘された。AI法案では、エネルギー消費の開示が要求されているが、具体的な制限や削減目標は設定されていない。

ただし、ハッカー教授は、AI法案の中に環境保護に関する規定が「隠れている」可能性を指摘した。具体的には、AI法案の前文で環境保護が基本的権利と同列に扱われており、これを根拠にAIシステムの環境影響評価を要求できる可能性があるという。

7.3. 具体的な対策案

ハッカー教授は、AIの環境への影響を軽減するための具体的な対策案をいくつか提示した：

1. エネルギー消費の測定と開示
2. 排出量取引制度のAI産業への拡大の検討
3. データセンターの水消費に関する明確な規制の設定
4. 再生可能エネルギーの利用促進
5. エネルギー効率の高いアルゴリズムの開発支援
6. AIの使用目的に応じた規制（例：医療AIには比較的大きなエネルギー消費が許容される一方、娯楽目的のAIには厳しい制限を設けるなど）
7. AIの環境影響に関する国際的な基準の策定

ハッカー教授は、これらの対策を実施するためには、技術者、政策立案者、環境専門家など、多様なステークホルダーの協力が不可欠であると強調した。また、AIの環境への影響に関する研究をさらに進め、より正確なデータと予測に基づいた政策立案が必要であると述べた。

結論として、ハッカー教授は、AIの環境への影響は看過できない問題であり、早急な対応が必要であると訴えた。同時に、この問題に対処することは、AIの持続可能な発展と社会受容性の向上にもつながるとして、積極的な取り組みの重要性を強調した。

8. 結論と今後の展望

8.1. 主要な論点のまとめ

このワークショップを通じて、AIの技術的側面から規制、社会実装、そして環境への影響に至るまで、幅広いトピックが議論された。主要な論点は以下のようにまとめられる。

まず、AIの技術的側面に関しては、説明可能性と透明性の重要性が強調された。カーネギーメロン大学のマーシャル・ヘバート学部長は、表現工学（Representation Engineering）などの手法を用いて、AIモデルの内部表現を理解し、その決定プロセスを説明可能にする取り組みを紹介した。これらの技術的アプローチは、AIシステムの信頼性と責任ある利用にとって不可欠であることが確認された。

AI規制に関しては、EUのAI法案を中心に議論が展開された。オックスフォード大学のジェレミアス・アダムス＝プラスル教授は、AI法案がリスクベースのアプローチを採用し、高リスクAIシステムに対する規制を設けていることを説明した。一方で、法案の法的不確実性や既存の法律との重複、矛盾などの課題も指摘された。また、包括的規制と分野別規制のバランスの重要性も議論された。

責任あるAIの実装に向けた取り組みについては、アフリカ責任あるAI観測所のレイチェル・アダムス所長が「グローバル責任あるAIインデックス」の調査結果を報告した。この調査は、138カ国を対象に責任あるAIの実装状況を評価したもので、多くの国でAIガバナンスフレームワークの存在が必ずしも責任あるAIの実践につながっていないことが明らかになった。

AIのガバナンスと監督に関しては、EU AI事務所の役割と課題が議論された。欧州委員会AI事務所のサブリナ・キュスパート氏は、AI法の執行や信頼できるAIの開発・利用の強化、国際協力の促進などを主な任務として挙げた。一方で、人材確保や予算の不足、他の規制機関との調整などの課題も指摘された。

AIの社会実装と倫理的課題については、バイオメトリクス技術や感情認識技術の利用に伴う人権への影響が議論された。ロンドン大学のノラ・ニー・ロイデーン博士は、これらの技術の使用が人権、特にプライバシー権や人間の尊厳に対して重大な影響を与える可能性があることを強調した。

最後に、AIの環境への影響と持続可能性に関しては、ヨーロピアン・ニュー・スクール・オブ・デジタル・スタディーズのフィリップ・ハッカー教授が、AIのエネルギー消費と温室効果ガス排出の問題を指摘した。特に、大規模言語モデルなどの生成AIモデルのエネルギー消費量が膨大であることが強調され、この問題に対する規制と対策の必要性が議論された。

8.2. 国際協力と標準化の重要性

ワークショップを通じて、AIの開発と規制における国際協力と標準化の重要性が繰り返し強調された。

まず、AI規制に関しては、各国・地域が独自のアプローチを取っている現状が報告された。EUのAI法案、アメリカの大統領令、中国のAI規制など、それぞれの地域で特徴的な取り組みが行われている。しかし、AIの影響が国境を越えて広がることを考えると、ある程度の国際的な調和が必要であることが指摘された。

アダムス＝プラスル教授は、OECDやG20が2019年に策定したAI原則が、多くの国・地域の規制アプローチの基礎となっていることを指摘した。これらの原則には、AIの透明性、説明可能性、公平性、安全性などが含まれており、グローバルなコンセンサスの基盤となっている。

EU AI事務所のキュスパート氏も、国際協力の重要性を強調した。具体的には、G7コードオブコンダクト、AI安全サミット、OECD、国連、グローバルAIパートナーシップなどとの協力を通じて、グローバルなAIガバナンスの枠組み作りに貢献していることが報告された。

また、ハッカー教授は、AIの環境影響に関する国際的な基準の策定の必要性を訴えた。AIの環境への影響は世界規模の問題であり、一国や一地域だけの取り組みでは不十分であることが指摘された。

さらに、アダムス所長の報告した「グローバル責任あるAIインデックス」のような取り組みは、国際的な比較と協力を促進する上で重要な役割を果たすことが確認された。

これらの議論を通じて、AIの開発と規制に関する国際協力と標準化の重要性が再確認された。同時に、各国・地域の文化的、法的、経済的背景の違いを考慮しつつ、どのようにして国際的な調和を図るかが今後の大きな課題であることも明らかになった。

8.3. 今後の研究課題と政策提言

ワークショップでの議論を踏まえ、今後の研究課題と政策提言として以下の点が挙げられた。

1. AIの説明可能性と透明性の向上： AIシステムの説明可能性と透明性を向上させるための技術的研究をさらに推進する必要がある。特に、複雑な深層学習モデルの内部表現を理解し、その決定プロセスを人間が理解可能な形で説明する手法の開発が求められる。
2. AI規制の実効性の検証： EUのAI法案をはじめとする各国・地域のAI規制について、その実効性を継続的に検証し、必要に応じて改善を行う必要がある。特に、技術の急速な進歩に規制が追いつけているか、イノベーションを不当に阻害していないかなどの観点から検証が必要である。
3. 責任あるAIの実装状況のモニタリング： 「グローバル責任あるAIインデックス」のような取り組みを継続的に実施し、世界各国の責任あるAIの実装状況を定期的に評価することが重要である。これにより、ベストプラクティスの共有や課題の特定が可能となる。
4. AIガバナンス体制の強化： EU AI事務所をはじめとするAIガバナンス機関の能力強化が必要である。特に、AI技術の専門家の採用・育成、十分な予算の確保、他の規制機関との効果的な連携などが求められる。
5. AIの倫理的課題への対応： バイオメトリクス技術や感情認識技術などの利用に伴う倫理的課題について、さらなる研究と議論が必要である。特に、プライバシーの保護と公共の利益のバランスをどのように取るかについて、社会的合意形成を目指す必要がある。
6. AIの環境影響の軽減： AIのエネルギー消費と温室効果ガス排出を軽減するための技術的・政策的研究を推進する必要がある。具体的には、エネルギー効率の高いAIアルゴリズムの開発、再生可能エネルギーの利用促進、AIの環境影響評価の義務化などが考えられる。
7. 国際協力の促進： AIの開発と規制に関する国際協力を一層促進する必要がある。特に、AI原則の国際的な調和、越境データ流通の枠組み作り、AIの環境影響に関する国際基準の策定などが重要課題となる。
8. 学際的研究の推進： AIの社会実装に伴う課題に対処するためには、技術、法律、倫理、社会科学など多様な分野の専門家による学際的研究が不可欠である。このような学際的研究を促進するための支援策が求められる。
9. 市民参加の促進： AIに関する政策決定プロセスへの市民参加を促進する必要がある。AIが社会に与える影響の大きさを考えると、専門家だけでなく一般市民の声も反映させることが重要である。
10. 教育・啓発活動の強化： AI技術やその社会的影響について、一般市民の理解を深めるための教育・啓発活動を強化する必要がある。これにより、AIに関する社会的議論の質を高め、より適切な政策決定につながることが期待される。

これらの研究課題と政策提言は、AIの責任ある開発と利用を促進し、その潜在的な利益を最大化しつつリスクを最小化するために重要である。しかし、AI技術の急速な進歩と社会への浸透を考えると、これらの課題に迅速かつ柔軟に対応していく必要がある。そのためには、産学官民の協力とグローバルな連携が不可欠であり、今回のワークショップのような国際的な対話の場を継続的に設けていくことが重要である。

最後に、AI技術がもたらす可能性と課題は、人類がこれまで直面したどの技術革新よりも大きく、複雑である。そのため、AIの開発と規制に関する議論は、単なる技術的・法的な問題にとどまらず、私たちが望む未来の社会の姿そのものを問うものでもある。この認識のもと、多様なステークホルダーを巻き込んだ継続的な対話と協力を通じて、AIがもたらす恩恵を公平に分かち合い、リスクを適切に管理できる社会の実現を目指していく必要がある。