2023-10-10 多様な視点で築くAIガバナンス：グローバルな課題と具体的アプローチ

※本稿は、京都で開催されたInternet Governance Forum(IGF) 2023の2日目に開催されたMAIN SESSION 3のAI要約記事になります。

1. はじめに

本セッションでは、AIガバナンスの倫理的原則、技術標準の役割、民間セクターの取り組み、政府の役割、グローバルサウスの視点など、多岐にわたるトピックが取り上げられました。

2. AIガバナンスの倫理的原則と実践

2.1 倫理的原則から実践へ：日本の事例

有佐絵真氏（東京大学准教授）は、日本におけるAIガバナンスの取り組みについて言及しました。日本では、法的拘束力のあるAIガバナンスよりも、非拘束的なガイドラインが好まれる傾向にあります。これは、日本企業が世論を重視し、ソフトローによる規律が効果的であるためです。

具体的な事例として、有佐氏は日本の金融庁が2018年に発表した「AIガイドライン」を挙げました。このガイドラインは、金融機関がAIを利用する際の基本原則を示したもので、透明性、説明責任、公平性などの重要性を強調しています。例えば、AIを用いたローン審査システムを導入する際には、その判断プロセスを説明可能にすることが求められています。

2.2 リスクベースアプローチの重要性

有佐氏は、AIガバナンスにおけるリスクベースアプローチの重要性を強調しました。同じAIシステムでも、使用される文脈によってリスクが大きく異なる可能性があります。

例えば、顔認識システムを例に挙げると：

1. 空港での利用：テロリスト検知のために使用される場合、高いリスクと見なされる可能性があります。誤検知による人権侵害や、プライバシーの問題が懸念されます。
2. オフィスビルの入退館管理：セキュリティ目的で使用される場合、比較的低リスクと見なされる可能性があります。ただし、従業員のプライバシーへの配慮は必要です。
3. スマートフォンのロック解除：個人使用の場合、リスクは更に低くなります。

このように、同じ技術でも使用目的や文脈によってリスク評価が異なるため、ケースバイケースでの判断が重要になります。

3. 技術標準と倫理原則の関係

3.1 IEEEの取り組み：Ethically Aligned Design

Clara Nepal氏（IEEEヨーロッパ支部シニアディレクター）は、IEEEが取り組んでいる「Ethically Aligned Design（倫理的に整合した設計）」イニシアチブについて説明しました。このイニシアチブでは、AIシステムの開発において倫理的考慮を組み込むための具体的なガイドラインを提供しています。

具体的な事例として、Nepal氏は自動運転車の開発を挙げました。Ethically Aligned Designの原則に基づくと、以下のような倫理的考慮が必要になります：

1. 安全性：事故発生時の判断アルゴリズムをどのように設計するか（例：乗員の安全vs歩行者の安全）
2. プライバシー：収集されるデータの種類と利用目的の透明性確保
3. 説明責任：事故発生時の責任の所在（開発者、所有者、利用者）の明確化
4. 公平性：異なる道路環境や気象条件下での性能の一貫性確保

3.2 Age Appropriate Design：子どもの保護

Nepal氏は、IEEEが策定した「Age Appropriate Design」標準についても言及しました。この標準は、英国の「Age Appropriate Design Code」を実装するための具体的なガイダンスを提供するものです。

具体的な適用例：

1. ソーシャルメディアプラットフォーム：
• デフォルトでの高プライバシー設定
• 年齢に応じたコンテンツフィルタリング
• 位置情報共有の制限
2. オンラインゲーム：
• 課金制限の実装
• プレイ時間の制限機能
• 年齢確認メカニズムの導入
3. 教育アプリ：
• データ収集の最小化
• 広告表示の制限
• 保護者の同意を得る仕組みの導入

これらの具体的な実装ガイドラインにより、開発者は子どもの権利とプライバシーを保護しつつ、年齢に適したデジタル環境を構築することができます。

4. 民間セクターの取り組み

4.1 OpenAIの透明性確保への取り組み

James Harrison氏（OpenAI国際政策・パートナーシップ責任者）は、同社のAIガバナンスへの取り組みについて説明しました。OpenAIでは、AIツールの開発における透明性の確保に努めており、以下のような具体的な施策を実施しています：

1. システムカードの公開：
• 目的：AIモデルの構築内容を詳細に説明
• 例：GPT-3のシステムカードでは、モデルの訓練データ、アーキテクチャ、性能評価、倫理的考慮事項などを公開
2. オープンなレッドチーミング：
• 目的：外部の専門家によるAIシステムの脆弱性評価
• 事例：ChatGPTのリリース前に、サイバーセキュリティの専門家や倫理学者を招いて潜在的なリスクを評価
3. 研究コミュニティとの連携：
• 目的：AIシステムの安全性と評価に関する能力構築
• 例：大学研究機関と共同で、AIの長期的影響に関する研究プロジェクトを実施
4. 国際的な規制対話への貢献：
• 目的：各国の法整備を支援するための議論に参加
• 事例：EU AI Actの策定プロセスにおいて、技術的な知見を提供

4.2 民主的インプットへの助成プログラム

Harrison氏は、OpenAIが実施している「民主的インプットへの助成プログラム」についても紹介しました。このプログラムは、コミュニティや国、異なるドメインがAIシステムに期待する固有の価値観やアウトプットを明らかにすることを目的としています。

具体的な事例：

1. 地域言語の保護：
• プロジェクト：少数言語コミュニティと協力し、言語モデルに地域固有の表現や文化的文脈を組み込む
• 成果：マオリ語やウェールズ語など、消滅の危機に瀕した言語の保護と普及に貢献
2. 医療分野でのAI活用：
• プロジェクト：途上国の医療従事者と協力し、地域特有の疾病に対応した診断支援AIの開発
• 成果：限られた医療リソースの中で、効率的な診断と治療計画の立案を支援
3. 教育における公平性：
• プロジェクト：異なる教育背景を持つ学生に対応した個別化学習AIの開発
• 成果：学習格差の是正と、多様な学習スタイルに対応した教育支援の実現

これらのプロジェクトを通じて、OpenAIはローカルなコンテクストに対応したAIの開発を促進し、AIの恩恵をより広範な層に届けることを目指しています。

5. 政府の役割と課題

5.1 米国政府の取り組み：AIの権利章典とNISTフレームワーク

Seth Santer博士（米国国家安全保障委員会人工知能委員会上級顧問）は、米国政府のAIガバナンスへの取り組みについて説明しました。特に、以下の2つの重要な枠組みが紹介されました：

1. AIの権利章典：
• 目的：AIシステムの開発と利用における基本原則を定める
• 主な原則： a) 安全で効果的なシステム b) アルゴリズムの差別防止 c) データプライバシーの保護 d) 通知と説明 e) 人間による代替手段の確保

具体的な適用例：

• 採用プロセス：AIを用いた候補者スクリーニングシステムにおいて、人種や性別による差別を防止し、判断根拠を説明可能にする
• 金融サービス：AIによるクレジットスコアリングシステムにおいて、データの使用目的を明確に通知し、人間による再審査の機会を設ける
2. NISTのリスク管理フレームワーク：
• 目的：AI開発者と利用者に対し、リスク評価と管理のガイダンスを提供
• 主要コンポーネント： a) ガバナンス b) マッピング c) 計測 d) 管理

具体的な適用例：

• ヘルスケア：医療診断AIの開発において、誤診のリスクを評価し、人間の医師による確認プロセスを組み込む
• 自動運転：車両制御AIのテストと評価において、様々な道路環境や天候条件下でのリスクを体系的に分析し、対策を講じる

これらの枠組みは、多様なステークホルダーとの幅広い協議を通じて開発されました。Santer博士は、こうした包括的なアプローチがAIガバナンスの実効性を高める上で重要だと強調しました。

5.2 規制と自主的取り組みのバランス

Santer博士は、規制の枠組みと企業の自主的な取り組みのバランスを取ることの重要性を指摘しました。米国では、企業に対して安全性、セキュリティ、信頼性の枠組みに沿った行動を求める自主的なコミットメントを推進しています。

具体的な事例：

1. AI企業による自主的な安全性評価：
• 取り組み：主要AI企業が参加する「Responsible AI Coalition」の設立
• 内容：AIシステムの潜在的リスクを評価し、緩和策を共有するプラットフォームの運営
2. 政府主導のAI安全性テスト：
• 取り組み：NISTによる「AI Test Bed」プログラムの実施
• 内容：様々な条件下でのAIシステムの性能と安全性を評価し、結果を公開
3. 産学官連携によるAI倫理教育：
• 取り組み：「AI Ethics Curriculum」の開発と導入
• 内容：大学や企業のAI開発者向けに、倫理的考慮事項を組み込んだカリキュラムを提供

これらの取り組みを通じて、政府は直接的な規制だけでなく、業界の自主的な取り組みを促進し、柔軟かつ効果的なAIガバナンスの実現を目指しています。

6. グローバルサウスの視点

6.1 アフリカにおけるAIガバナンスの課題

Toby Kelly Matembe氏（Paradigm Initiativeパートナーシップ・エンゲージメント担当シニアマネージャー）は、アフリカ大陸におけるAIガバナンスの現状と課題について説明しました。多くのアフリカ諸国では、AIに関する国家戦略の策定や、自動意思決定やアルゴリズムを規制するデータ保護法の整備が遅れています。

具体的な課題と事例：

1. データ保護法の不足：
• 問題：多くのアフリカ諸国では、包括的なデータ保護法が整備されていない
• 事例：ある西アフリカの国では、政府がAIを用いた顔認識システムを導入したが、市民のプライバシー保護に関する法的枠組みがなく、データの収集と利用に関する透明性が欠如
2. AIリテラシーの不足：
• 問題：一般市民や政策立案者のAIに関する知識と理解が不足
• 事例：東アフリカの国で導入された農業支援AIシステムが、地域の農業慣行や環境条件を考慮せずに設計されたため、不適切な助言を提供し、収穫量の低下を招いた
3. デジタルインフラの格差：
• 問題：都市部と農村部のデジタルインフラの格差により、AIの恩恵が不均等に分配される
• 事例：南アフリカの遠隔医療プロジェクトでは、都市部の病院ではAIを活用した診断支援システムが導入されたが、農村部ではインターネット接続の不安定さにより同様のサービスを提供できず、医療格差が拡大

6.2 アフリカ連合の取り組み

Matembe氏は、アフリカ連合の人権委員会が2021年に採択した決議573について言及しました。この決議は、アフリカ諸国に対してAIの利用における人権保護を確保するための戦略や法的枠組みの策定を求めています。

具体的な取り組みの例：

1. パンアフリカンAI戦略の策定：
• 目的：アフリカ大陸全体でのAI開発と利用に関する共通ビジョンの構築
• 内容：人権保護、データ主権、技術移転、人材育成などの重点分野を設定
2. アフリカAI倫理委員会の設立：
• 目的：AIの倫理的利用に関するガイドラインの策定と監視
• 活動：各国のAI関連プロジェクトの倫理審査、ベストプラクティスの共有
3. AIリテラシー向上プログラム：
• 目的：政策立案者、市民社会、一般市民のAI理解度向上
• 実施例：モバイルアプリを活用したAI基礎教育コース、地域コミュニティでのAIワークショップ

しかし、Matembe氏によれば、これらの取り組みは未だ十分に進展しておらず、グローバルな議論にアフリカの声を反映させることが重要だと強調しました。

7. 具体的な課題とユースケース

セッションでは、AIガバナンスに関連する具体的な課題とユースケースについても議論が行われました。以下に、主要なトピックとそれに関連する事例を紹介します。

7.1 子どもの保護

バングラデシュの17歳の少年から、多国間レベルでのAI規制とガバナンスが子どもと若者に配慮した包括的なものとなるためにはどうすべきかという質問が提起されました。

具体的な事例と対応策：

1. オンラインゲームにおける子どもの保護：
• 課題：過度の課金や長時間プレイによる健康被害
• 対応：年齢に応じた課金制限、プレイ時間制限機能の実装
• 実例：中国の「ゲーム防沈迷系統」では、18歳未満のプレイヤーに対して1日1.5時間のプレイ時間制限を設定
2. SNSにおけるプライバシー保護：
• 課題：個人情報の過度な収集と利用
• 対応：デフォルトでの高プライバシー設定、年齢に応じた機能制限
• 実例：EUのGDPRに基づき、FacebookはEU域内の13-15歳のユーザーに対して、プロフィールを非公開に設定し、位置情報の共有を制限
3. 教育AIにおける倫理的配慮：
• 課題：学習データにおける偏見や差別の再生産
• 対応：多様性を考慮したデータセットの使用、定期的なバイアス監査の実施
• 実例：米国の教育テクノロジー企業が開発した個別化学習AIで、人種や社会経済的背景による不公平な評価を防ぐためのアルゴリズム調整を実施

7.2 労働者の権利保護

カナダのトロント大都市大学のViet Vu氏から、AIの開発における労働者の権利保護と国際的な労働基準の重要性について質問がありました。

具体的な課題と対応策：

1. AIトレーニングデータのアノテーション労働：
• 課題：低賃金、長時間労働、精神的ストレス
• 対応：適正賃金の保証、労働時間管理、メンタルヘルスケアの提供
• 実例：米国のテクノロジー企業が、データアノテーション作業者に対して生活賃金を保証し、定期的な休憩とカウンセリングサービスを提供
2. AIシステムによる労働管理：
• 課題：過度の監視、不透明な評価システム
• 対応：労働者のプライバシー保護、アルゴリズムの透明性確保
• 実例：EUのある物流企業が、倉庫作業員の動きを追跡するAIシステムに対して、労働組合との協議を経て、データ収集の制限と評価基準の透明化を実施
3. AI開発者の倫理的ジレンマ：
• 課題：倫理的に問題のあるプロジェクトへの参加圧力
• 対応：内部告発保護制度、倫理委員会の設置
• 実例：シリコンバレーの大手テクノロジー企業が、AI倫理審査委員会を設置し、開発者が倫理的懸念を申し立てる仕組みを導入

7.3 合成データの活用と課題

セッションでは、合成データの活用可能性と課題についても議論が交わされました。

具体的なユースケースと考慮事項：

1. 医療分野での活用：
• 目的：希少疾患の研究促進、患者プライバシーの保護
• 方法：実際の患者データを基に統計的に類似した合成データを生成
• 事例：英国のNHSが、癌患者のデータを基に合成データセットを作成し、研究者に提供することで、個人情報を保護しつつ研究を促進
2. 自動運転車の開発：
• 目的：多様な交通シナリオのシミュレーション、実世界でのテスト削減
• 方法：実際の交通データを基に、様々な天候条件や交通状況を含む合成データを生成
• 事例：ドイツの自動車メーカーが、都市部の複雑な交差点での自動運転挙動をテストするため、合成データを用いたシミュレーション環境を構築
3. 金融分野でのリスク分析：
• 目的：稀少な金融イベントの予測、個人情報保護
• 方法：過去の金融データを基に、様々な市場条件下での合成取引データを生成
• 事例：米国の大手銀行が、マネーロンダリング検知システムの精度向上のため、合成取引データを用いたトレーニングを実施

考慮すべき課題：

• データ品質：合成データが実際のデータの特性を正確に反映しているか
• バイアス：元のデータセットに存在するバイアスが合成データにも引き継がれる可能性
• 法的・倫理的問題：合成データの生成と使用に関する規制や倫理的ガイドラインの必要性

8. グローバルな合意形成の可能性と課題

セッションの最後では、AIガバナンスに関するグローバルな合意形成の可能性について議論が交わされました。

8.1 合意形成の可能性

James Harrison氏は、グローバルなAIガバナンスの枠組みについて一定の合意があると述べました。例えば、高度なファウンデーションモデルやジェネレーティブAIに必要なセーフガードとして、以下の点が挙げられました：

1. 内部・外部のレッドチーミング
2. 開発者間の情報共有
3. サイバーセキュリティ対策
4. 第三者による検証可能性
5. 能力に関する公的報告
6. バイアスや差別への対処

具体的な事例：

• 国際的なAI安全性評価フレームワーク： OECDが主導する「AI System Classification」プロジェクトでは、AIシステムのリスクレベルを評価し、それに応じた安全性要件を定義する国際的な枠組みの策定を目指しています。
• グローバルAIパートナーシップ： G7諸国が立ち上げた「Global Partnership on AI」では、AI技術の責任ある開発と利用に関する国際的な協力体制を構築し、ベストプラクティスの共有や共同研究を推進しています。

8.2 合意形成の課題

一方で、グローバルな合意形成には多くの課題があることも指摘されました。

1. 地政学的対立：
• 課題：米中間の技術覇権競争がAIガバナンスの国際協調を阻害
• 事例：5G技術を巡る米中対立が、AIインフラの国際標準化プロセスに影響
2. 文化的・価値観の違い：
• 課題：プライバシーや個人の権利に対する考え方の違いがAIガバナンスの統一的なアプローチを困難に
• 事例：EUのGDPRと米国のデータ保護アプローチの違いが、AIシステムのデータ利用に関する国際的な合意形成を複雑化
3. 発展段階の差：
• 課題：AI技術の発展段階が国によって異なり、統一的な規制の適用が困難
• 事例：アフリカ諸国では基本的なデータ保護法の整備が課題である一方、欧米ではAIの高度な応用に関する規制が焦点
4. 産業界の利害関係：
• 課題：AI企業の競争力維持と社会的責任のバランス
• 事例：顔認識技術の規制を巡り、プライバシー保護団体と技術企業の間で意見の対立

8.3 IGFの役割

Seth Santer博士は、AIガバナンスに関するグローバルな枠組みの構築には時間がかかることを指摘しつつ、IGFのような多国間対話の場の重要性を強調しました。

IGFの具体的な役割と取り組み：

1. 知識共有プラットフォーム：
• 活動：年次会合でのAIガバナンスセッションの開催、オンラインリソースセンターの運営
• 成果：各国のAI政策や規制の比較分析レポートの公開、ベストプラクティス集の作成
2. マルチステークホルダー対話の促進：
• 活動：政府、企業、市民社会、学術界の代表者が参加する作業部会の設置
• 成果：AIガバナンスに関する共通原則の策定、セクター別のガイドライン作成
3. キャパシティビルディング：
• 活動：途上国の政策立案者向けAIガバナンス研修プログラムの実施
• 成果：アフリカ、アジア、中南米諸国におけるAI国家戦略策定支援
4. グローバルナレッジネットワークの構築：
• 活動：AI研究者、政策立案者、実務者をつなぐオンラインプラットフォームの運営
• 成果：地域間の知識格差の解消、国際共同研究プロジェクトの促進

これらの取り組みを通じて、IGFはAIガバナンスに関するグローバルな対話と協力を促進し、包括的かつ実効的な枠組みの構築に貢献することが期待されています。

9. 結論

IGF 2023のAIガバナンスセッションでは、多様なステークホルダーが一堂に会し、AIの責任ある開発と利用に向けた課題と機会について議論を交わしました。倫理的原則の実践、技術標準の役割、民間セクターの取り組み、政府の役割、グローバルサウスの視点など、多岐にわたるトピックが取り上げられ、具体的な事例やユースケースを通じて理解が深められました。

AIガバナンスの実現には、多様なステークホルダーの参加と協力が不可欠です。特に、グローバルサウスの声を反映させ、地域の文脈に即したアプローチを採用することが重要です。また、技術の急速な進歩に対応するため、柔軟かつ適応性のあるガバナンスフレームワークが求められます。

IGFのようなマルチステークホルダープラットフォームは、AIガバナンスに関する継続的な対話と協力を促進する上で重要な役割を果たします。グローバルな合意形成には課題も多いですが、共通の原則と目標を見出し、各国・地域の状況に応じた実装を進めていくことが重要です。

AIがもたらす恩恵を最大化しつつ、リスクを最小化するためには、以下の点に重点を置いた取り組みが必要です：

1. 包摂性と多様性の確保： AIガバナンスの議論と実践において、地理的、文化的、社会経済的に多様な背景を持つステークホルダーの参加を促進することが不可欠です。特に、グローバルサウスの声を反映させ、地域の文脈に即したアプローチを採用することが重要です。

具体的な取り組み例：

1. 多言語でのAIガバナンス資料の提供
2. 地域ごとのAIガバナンスワークショップの開催
3. オンラインプラットフォームを活用した遠隔地からの参加促進
2. 継続的な対話と学習： AIの急速な進歩に対応するため、ステークホルダー間の継続的な対話と学習が必要です。ベストプラクティスの共有、新たな課題の特定、解決策の共同開発などを通じて、AIガバナンスの枠組みを常に更新していく必要があります。

具体的な取り組み例：

1. 定期的なAIガバナンス会議の開催
2. オンラインフォーラムでの常時議論の場の提供
3. AIガバナンスに関する事例研究データベースの構築
3. 柔軟かつ適応性のあるフレームワーク： AIの技術進歩のスピードを考慮すると、硬直的な規制ではなく、柔軟かつ適応性のあるガバナンスフレームワークが求められます。原則ベースのアプローチと具体的なガイドラインを組み合わせ、技術の進歩に応じて迅速に更新できる仕組みが必要です。

具体的な取り組み例：

1. リスクベースのAIガバナンスフレームワークの採用
2. 定期的なフレームワークの見直しと更新プロセスの確立
3. 実証実験を通じたガバナンス手法の有効性検証
4. セクター間の連携強化： AIガバナンスの課題に効果的に対処するためには、政府、企業、市民社会、学術機関などのセクター間の連携を強化する必要があります。それぞれの強みを活かし、相互補完的な役割を果たすことが重要です。

具体的な取り組み例：

1. 官民学連携のAIガバナンス研究プロジェクトの実施
2. セクター横断的なAI倫理委員会の設置
3. オープンイノベーションプラットフォームを通じたAIガバナンスソリューションの共同開発
5. 人材育成と能力構築： AIガバナンスの実効性を高めるためには、関連する知識とスキルを持つ人材の育成が不可欠です。特に、政策立案者、企業経営者、技術者、市民社会リーダーなど、各セクターのキーパーソンの能力構築に注力する必要があります。

具体的な取り組み例：

1. AIガバナンスに特化した大学院プログラムの設置
2. 政策立案者向けAI倫理・ガバナンス研修の実施
3. AIガバナンスに関するMOOC（大規模オープンオンラインコース）の提供
6. グローバルな協調と地域的アプローチの両立： AIガバナンスにおいては、グローバルな協調と地域的なアプローチのバランスを取ることが重要です。共通の原則と目標を設定しつつ、各国・地域の状況に応じた柔軟な実装を可能にする枠組みが求められます。

具体的な取り組み例：

1. 国連機関を中心としたAIガバナンスの基本原則の策定
2. 地域機関（EU、ASEAN、AUなど）によるAIガバナンス行動計画の策定
3. 国別AIガバナンス戦略の策定支援と国際比較分析
7. 透明性と説明責任の確保： AIシステムの開発と利用における透明性と説明責任を確保することは、信頼性の高いAIガバナンスを実現する上で不可欠です。アルゴリズムの透明性、意思決定プロセスの説明可能性、結果の検証可能性などを担保する仕組みづくりが重要です。

具体的な取り組み例：

1. AIシステムの影響評価（AIIA）の義務化
2. AIシステムの監査とモニタリングの標準化
3. AIガバナンスの実践に関する企業の情報開示促進
8. 倫理的考慮の制度化： AIの開発と利用において倫理的考慮を制度化し、人間中心のアプローチを確保することが重要です。人権、公平性、包摂性、プライバシーなどの価値を、AIシステムの設計段階から組み込むプロセスを確立する必要があります。

具体的な取り組み例：

1. AIシステムの倫理的設計原則の策定と普及
2. AI倫理審査委員会の設置と運営ガイドラインの提供
3. AIの倫理的影響に関する継続的な研究支援

結論として、AIガバナンスは複雑かつ長期的な課題であり、その実現には忍耐と継続的な努力が求められます。IGFのようなマルチステークホルダープラットフォームは、多様な視点を取り入れ、包摂的かつ実効的なAIガバナンスの在り方を探る上で重要な役割を果たすことができます。

AIがもたらす恩恵を誰もが公平に享受できる社会を実現するためには、グローバルなマルチステークホルダー・プロセスをさらに発展させ、技術の進歩と社会の要請に柔軟に対応できるガバナンス体制を構築していく必要があります。IGF 2023のAIガバナンスセッションでの議論は、こうした取り組みの重要な一歩であり、今後もこのような対話と協力を継続していくことが求められています。