※本記事は、AI for Goodのパネルセッション「Rebuilding trust in media authenticity: Policy & interventions in Asia, Africa & Middle East」の内容を基に作成されています。本セッションは、合成メディアが事実とフィクションの境界を曖昧にする中で、新たな規制と革新的な技術的介入が公衆の信頼を回復できるかを問い、AIがもたらす未来に向けた迅速で機敏かつ応答性の高いソリューションを可能にするべく、各地域で採用されている政策・法的・規制的措置、標準、実用的なセーフガードのイノベーションを探るものです。
登壇者は以下の通りです。Allan Cheboi氏(Build Up、データおよびデジタル技術リード)、B. Ravindran氏(IITマドラス、Wadhwani School of Data Science and AI責任者)、Daniel Odongo氏(Ushahidi、技術担当ディレクター)、Juyuan Tang氏(中国信息通信研究院(CAICT)インターネット法研究センター、エンジニア)です。モデレーターは、Alessandra Sala氏(Women in AIグローバル会長、AIマルチメディア標準コラボレーション議長、Shutterstock AI・データサイエンス担当シニアディレクター)、およびNyalleng Moorosi氏(Distributed AI Research Institute (DAIR)リサーチフェロー)が務めました。
AI for Goodは、革新的なAIアプリケーションを特定し、スキルと標準を構築し、グローバルな課題解決に向けたパートナーシップを推進する取り組みです。AI for Goodは、ITUが50を超える国連パートナーと連携し、スイス政府と共催する形で開催されています。詳細情報やニューラルネットワーク・コミュニティへの参加については、https://aiforgood.itu.int/neural-netw... をご参照ください。本記事ではセッションの内容を要約しております。なお、本記事の内容は原著作者の見解を正確に反映するよう努めていますが、要約や解釈による誤りがある可能性もありますので、正確な情報や文脈については、オリジナルの動画をご視聴いただくことをお勧めいたします。
1. セッションの趣旨とパネリストの紹介
1-1. AI for Goodプラットフォームの位置づけとセッション主題の設定
司会者： AI for Goodへようこそ。AI for Goodは、国連デジタル技術専門機関であるITU(国際電気通信連合)が主催し、50を超える国連機関と提携し、スイスと共催する、人工知能に関する国連の主要プラットフォームです。AI for Goodの使命は、マルチステークホルダー型のプラットフォームとして、AIが持つ潜在力を人類のために解き放つことにあります。AI for Goodは、ソリューション、標準、スキルを推進しています。本日のAI for Goodイベントでは、ライブビデオウォール機能を活用して質問やコメントを投稿し、活発なセッションづくりにご協力いただきたいと考えています。AI for Good Discovery Badgeを通じてAIスキルを高め、キャリアを発展させることもできます。これは、AIがグローバルな課題にどのように活用されているかを探る最先端のセッションへの参加を認証するデジタル認定証として発行されるものです。各ライブセッション終了時に動画インターフェース右側に表示される青いバッジバナーで対象セッションかどうか確認でき、LinkedInなどのプロフェッショナルプロフィールで共有することができます。Discovery BadgeセッションはAI Skills Coalitionの一環で、これはITUが主導する、信頼できるAI学習経路を強化し、質の高い信頼できるAI知識へのアクセスを世界中に拡大するためのグローバルイニシアチブです。
Alessandra Sala： 改めまして皆さま、本日はお集まりいただきありがとうございます。素晴らしいパネリストの皆さまにも感謝申し上げます。本日は、世界の異なる地域がAIガバナンスへの道のりのどの段階にあるのかを探っていきたいと思います。特に、ミスインフォメーション(誤情報)、ディスインフォメーション(偽情報)、AI生成コンテンツの開示、そして人間のクリエイターの生計を守るために各国政府が知的財産や著作権の問題にどう取り組んでいるか、といった観点から議論していきます。非常に大きなテーマです。私はShutterstockのAIおよびデータサイエンス担当シニアディレクターを務めるAlessandra Salaと申します。同時に、AIマルチメディア真正性標準コラボレーション(AI Multimedia Authenticity Standard Collaboration)の議長も務めております。これはIECやITUを含む世界標準協力機関(World Standards Cooperation)が主導するグローバルなマルチステークホルダーイニシアチブで、標準策定者、技術リーダー、学術専門家、政策立案者、スタートアップ、市民社会を集め、デジタルコンテンツへの信頼再構築の技術的・政策的・社会的含意を検討しています。本日ホストいただいているAI for Goodに感謝申し上げます。本日は共同モデレーターとしてNyalleng Morosiさんに加わっていただき、このパネリストの皆さまとの議論を進めていきます。
1-2. 共同モデレーターと4名のパネリストの紹介
Nyalleng Morosi： ありがとうございます、Alessandraさん。皆さまに私の声が届いていることを願います。私はNyalleng Morosiと申しまして、Distributed AI Research Institute(DAIR)のリサーチフェローを務めると同時に、Deep Learning Indabaの共同創設者でもあります。また、これからご紹介するパネリストの多くが所属するAIセーフティラボの顧問も務めてまいりました。それではパネリストをご紹介していきます。まずおひとり目はJulian Tangさんです。Tangさんは中国のInternet Law Centerでエンジニアを務めており、ITUの研究にも携わっておられます。主にガバナンス研究者として活動しておられ、ITUとInternet Law Centerでの取り組みについてお話しいただきます。お二人目はRavindran教授です。インドIITマドラスのWadhwani School of Data Science and AIの責任者を務めておられます。三人目はAlan Shaboyさんで、Buildupのデータおよびデジタル技術リードを務め、先ほど申し上げたUNDP AI Trust and Safety Reimagination Labのファイナリストのおひとりでもあります。最後はDaniel Odongoさんで、Ushahidiの技術担当ディレクターを務めておられ、こちらも同じくReimagination Labのファイナリストとして選ばれた方です。これからお一人ずつ、Alessandraさんと共にご紹介していき、それぞれのパネリストにもう少し詳しい自己紹介をしていただきます。まずはRavindran教授に自己紹介と、ご自身の地域からみた政策・規制・介入というテーマに関する導入的なご見解をお伺いしたいと思います。
2. インドにおけるAIガバナンスの基本姿勢
2-1. 既存セクター規制を起点とするアプローチとギャップ特定の考え方
Ravindran： ありがとうございます、Nyallengさん。そして共同議長の皆さまと共に、この非常に重要な議論をホストしてくださっているAI for Goodに感謝申し上げます。私はRavindranと申しまして、IITマドラスの教員ですが、同時にインド政府レベルでのAI政策議論にも数多く関わってまいりました。ですので、インドがAIガバナンスについてどのようなスタンスを取っているかについて、少しお話しできるかと思います。
インドのガバナンスガイドラインがまず最初に述べているのは、すでに各セクターで運用されている多くの規制構造が、AIに起因するものを含む様々な種類の害を制御してきたという点です。具体的にはインドのIT法(IT Act of India)、さらに金融や医療といった各セクターの規制当局による枠組みなどが挙げられます。ですので、最初に取り組むべきは、AIの導入がこれらの既存の規制枠組みにどのような挑戦を投げかけるのかを理解することなのです。何もないところから法律を作ろうとしているわけではありません。AIによって増幅される多くの害や問題は、すでに既存のインフラの中で対処する仕組みが存在しています。
まず重要なのは、各セクターの規制当局が勧告や教育プログラムを打ち出しているかどうかを確認することです。たとえば、法執行官や司法システムに携わる人々に「現在のAI法、現在の規制がどのような場合に適用されるのか、どのような場合に見直しが必要なのか」を理解してもらう必要があります。これは私たちが強く打ち出している勧告のひとつであり、実際に各セクターの規制当局がそれぞれAIに関する執行ガイドラインを出し始めています。
そして次に重要なのが、ギャップは確かに存在する、という点です。AIが新たな課題をもたらしていないわけではありません。問題は、そのギャップをどのように特定し、どのように対処していくかです。
2-2. AIコンテンツラベリング義務化、執行・責任帰属の課題、著作権領域の未整備状況
Ravindran： 私たちが取った最も初歩的かつ重要な一歩のひとつが、政府が義務化したラベリング制度です。AIとやり取りしている時、あるいはAI生成コンテンツを見ている時には、極めて透明であるべきという考え方に基づいています。つまり、AIコンテンツのラベリングが義務化され、さらに「あなたは今AIとやり取りしている」ということを事前に申告することも義務化されています。
しかし依然として課題なのは、これをどうやって執行するか、そして誰かが従わなかった場合にどのように責任を結びつけるかという問題です。これらは非常に難しい問いであり、現在も多くの議論が行われています。
著作権に関する議論については、私たちはまだ態勢を整えている段階で、インドはこの問題への取り組み方について、まだ勧告を出していない状況です。おそらく議論が進むにつれて、より多くのインプットが得られると思います。
Alessandra Sala： ありがとうございます、Ravindran教授。フォローアップ議論への素晴らしい導入をしていただきました。
3. アフリカ(ケニア)の平和構築・紛争分析の現場視点
3-1. Buildupの活動とオープンソース分析ツールPhoenix開発の背景
Alan Shaboy： ありがとうございます、Alessandraさん。この重要な議論に参加できることを大変嬉しく思います。私の仕事について少しお話しさせていただきますと、私は現在、平和構築と技術の交差点で働いています。これは多くの場合、デジタルな害がAI、紛争、情報の完全性、そして平和や紛争分析に影響を与えるすべての領域とどう関係しているかを評価する仕事です。
私が所属しているのはBuildupという国際的な非営利組織で、平和構築組織、市民社会、政府が新興のデジタル脅威を理解し対応できるよう支援しています。私たちが現在誇りに思っている取り組みの一つが、最近開発したPhoenixというオープンソースのソーシャルメディア分析ツールキットです。これは多くのパートナーがソーシャルメディア分析を実施するために使っているもので、開発の経緯としては、ご存知の通りMetaがCrowdTangleを停止し、ソーシャルメディア分析を行うツールが非常に高価になってしまったという背景があります。そこで、世界をより良くするための仕事に取り組んでいる人々が、データにアクセスして分析を行えるよう、このオープンソースプラットフォームを構築することにしたわけです。このプロジェクトがUNDP AI Trust and Safety Reimagination Labのコホートとして選ばれ、その進展に大いに期待しているところです。
3-2. アフリカにおける合成メディアの実態と紛争状況(スーダン・ナイジェリア)での利用
Alan Shaboy： 私の仕事の大部分はアフリカの文脈で行われています。本日議論する合成メディアに関するリスクについては、これはアフリカ大陸特有のものでもなければ、世界のどの地域にも特有のものでもなく、非常に類似した形で現れています。実際、合成メディアが選挙を左右したり、何らかの形で世論に影響を与えたりするために使われている事例も観察されています。
私は紛争や平和構築を多く扱っている関係で、紛争状況における合成メディアの使用が出現してきていることも確認しています。スーダンやナイジェリアでは、こうしたものの出現が始まっています。
3-3. ケニアAI法案の構造 — AI委員会・リスクベース分類・透明性・追跡可能性・説明可能性
Alan Shaboy： 私は現在ケニアを拠点としていますが、文脈を共有しておきたいのは、つい最近、政府からAI法案が議論のためにフロートされたという発表があったことです。現在、議会で公衆参加と立法上の議論を経ているところです。興味深いのは、この法案の中にAIがもたらす機会と、それに伴うリスクの両方について明確な認識があるという点です。まだ草案段階で実施には至っていませんが、ケニアのような国にとっては一歩進んだ動きと言えます。
この法案を見て特に注目したのは、AIガバナンス構造の確立が盛り込まれていることです。これにはAI関連のオフィスのようなもの、つまり人工知能委員会のような諮問機関が含まれており、ケニアがAIに関する様々な事項を、調整や監督の観点からどう実施していくかを助言するものとなっています。しかし私にとって最も興味深い部分は、AIシステムのリスクベース分類プロセスも導入されている点です。これは、すべてのAIが同じレベルのリスクを持っているわけではないという認識を意味しており、合成メディアやそれに伴う害と機会についての議論において、特に重要な点です。
また、この法案で気づいたもう一つの点として、組織に対して透明性情報の提供、AIシステムのトレーサビリティ(追跡可能性)と説明可能性を求める内容が含まれていることが挙げられます。これは、私たちが議論している合成メディアやコンテンツの来歴(プロビナンス)の追跡に関する標準など、多くのグローバルな議論と整合していることを意味します。これは今後私たちが目にする多くのものを形作る、非常に強固な基盤になると感じています。
しかし一般的に申し上げますと、アフリカで私が観察している多くの国は、依然としてサイバー犯罪法やデータ保護フレームワーク、そして誤情報や偽情報に焦点を当てたより広範な法律や政策に依拠しています。ご承知の通り、これらの法律も重要なのですが、その多くはAI生成コンテンツ、特に合成メディアへの対処を念頭に置いて設計されたものではありません。これが私たちが注視している点です。
ですので、これからの議論で少し深掘りしたい問いは2つあります。1つは、信頼を保護するための運用プロセスへと政策フレームワークをどう移行させていくか、そしてもう1つは、たとえばラベリングだけにとどまらず、情報やコンテンツのライフサイクル全体を通じて信頼を保護するシステムをどう構築するか、ということです。
4. 中国における多層的ガバナンス枠組み
4-1. 基礎法・対象規制・技術標準の三層構造とディープ合成管理規制
Julian Tang： 本日の議論にお招きいただきありがとうございます。私はJulian Tangと申しまして、中国から参加しております。私の仕事は人工知能ガバナンスに焦点を当てており、特にAI立法、グローバルガバナンス枠組み、技術倫理といった分野を担当しています。本日このテーマに貢献できることを大変嬉しく思います。
まず中国がディープフェイクや誤情報・偽情報をどのように統治しているか、そのアプローチを簡潔にご紹介いたします。中国は、AI生成コンテンツに関連するリスクに対処するため、一般法、対象を絞った規制、そして技術標準を組み合わせた多層的な法的・政策的枠組みを発展させてきました。
基礎的なレベルでは、民法典、サイバーセキュリティ法、データセキュリティ法、個人情報保護法といった法律が一般的な義務を確立しています。この基盤の上に、中国はディープ合成技術を特に対象とした規制を導入してきました。最も重要なのは「インターネット情報サービス深層合成管理規定(Internet Information Service Deep Synthesis Management Regulation)」です。この規制はディープフェイク技術の利用について明確な境界を設定するものです。なりすましや詐欺といった違法な利用を禁止し、サービス提供者には実名登録、コンテンツレビュー、データガバナンス、リスクモニタリングを含む対策の実施を求めています。
4-2. 2025年生成合成コンテンツラベリング措置 — 明示的・暗黙的ラベリングとライフサイクル全体への適用
Julian Tang： 中国のアプローチの重要な特徴の一つは、コア・ガバナンスツールとしてコンテンツラベリングを強く重視していることです。2025年AI生成合成コンテンツラベリング措置(2025 AI Generative Synthesis Content Labeling Measures)は、AI生成コンテンツが明確に識別されることを求めています。
このラベリングシステムは2つのレベルで動作します。1つは明示的ラベリング、もう1つは暗黙的ラベリングです。明示的ラベリングとは、可視のテキスト、ウォーターマーク、音声プロンプトといったもので、特に公衆を誤解させる可能性のあるコンテンツに用いられます。一方、暗黙的ラベリングはメタデータに埋め込まれ、トレーサビリティと説明責任を支えるものとなっています。
重要なのは、これらの要件がコンテンツのライフサイクル全体に適用されるという点です。つまり、コンテンツの生成・作成から、プラットフォームによる配信、ユーザーによる共有に至るまで、すべての段階が対象となります。さらに中国はこれらの規則を支えるため、強制力のある国家技術標準を導入しており、ラベリングを実際にどう実装すべきかを規定し、いわゆる「技術ベース・ガバナンス(technology based governance)」を推進しています。
要約しますと、中国のディープフェイクおよび誤情報・偽情報に対するアプローチは、3つの要素によって特徴づけられます。明確な法的義務、プラットフォームベースのガバナンス責任、そして標準化されたラベリングとトレーサビリティの仕組みへの強い重点です。
Alessandra Sala： ありがとうございます、Julianさん。非常に包括的な概観でした。これまでのパネリストの方々と同じく、もし聴衆のために言及された具体的な規制名をチャットに追加していただければ、詳細を確認したい方が参照できるかと思います。
5. アフリカ市民技術の現場視点(Ushahidi)
5-1. Ushahidiの市民技術活動とAU大陸AI戦略・マラボ条約の政策的進展
Daniel Odongo： AI for Goodがこのパネリストの皆さま、そして私を含め本セッションのために集めてくださったことに感謝申し上げます。私はDaniel Odongoと申しまして、Ushahidiの技術担当ディレクターを務めております。同時に、世界経済フォーラム(World Economic Forum)のAIガバナンスアライアンスの一員でもあります。
Ushahidiでは、市民技術(civic technology)を構築しています。これはコミュニティ、市民社会、ジャーナリスト、各種機関が現場からの情報を収集し、整理し、その意味を読み解くことを支援するものです。特に選挙、危機対応、公的説明責任、そして公衆参加といった領域で活用されています。この仕事こそが、私たちが活動する多くの文脈において、AIとメディアの真正性に関する非常に実践的な視点をもたらしてくれていると考えています。これは単なるコンテンツモデレーションやプラットフォームポリシーの問題ではありません。信頼、安全性、そして意思決定の問題なのです。特に、メッセージングアプリやローカル言語を通じて情報が非常に速く流通する環境においては、操作されたコンテンツや誤解を招くコンテンツによる害が即座に現れる可能性があります。
アフリカからの視点で申し上げますと、政策の状況は前進していますが、進み方はやや不均一です。大陸レベルで見ますと、2024年7月に承認されたアフリカ連合(AU)の大陸AI戦略(Continental AI Strategy)は重要なシグナルです。これはアフリカの政府が、他地域から輸入されるのではなく、アフリカの優先事項によって形作られる、倫理的で包摂的なAIの未来を望んでいることを示しています。また、2023年に発効したマラボ条約(Malabo Convention)も、サイバーセキュリティと個人データ保護に関する共有された法的基盤を提供しています。
国家レベルでは、誤情報やディープフェイクが公共政策の中で認識されるようになってきています。先ほど同僚のAlanさんがケニアの例を挙げてくださいましたが、まさにこの領域に関する政策が整備されつつあります。
5-2. グローバルサウスの現実(多言語・低リソース・執行能力の不均衡)と人的検証システムの重要性
Daniel Odongo： しかし、私がより重要だと思う問いは、これらの枠組みがグローバルサウスの多くの人々が直面する現実の中で実際に機能するかどうかという点です。多言語コミュニケーションがあり、非常に多くの言語が話されています。低リソースの機関があり、執行能力にも不均衡が見られます。ここにこそUshahidiの視点が活きてくるのです。
私たちはこれまでの経験から、信頼は技術だけで構築されるものではないと学んできました。重要なのは、人々が目にしているものを実際に報告できるかどうか、疑わしいコンテンツを確認したり文脈づけたりできるかどうか、そして機関が信頼できる形で対応する手段を持っているかどうか、ということなのです。
ですので本日の議論には、グローバルサウスの実践的な視点を持ち込めることを嬉しく思います。真正性をどう定義するかという議論にとどまらず、リスクが最も高く、対応能力がしばしば制約されている環境において、真正性、説明責任、そして公衆の信頼をどう機能させるかという、より広い問いに取り組んでいきたいと考えています。
6. フェアユースとライセンスモデルにおける中国の実態
6-1. 2023年生成AIサービス暫定措置とデータセキュリティ国家標準による法的執行の強化
Nyalleng Morosi： ありがとうございます、Danielさん。それでは一連の質問に移っていきます。最初の質問はJulianさんとDanielさんにお伺いします。フェアユースとライセンスモデルについてです。皆さまの地域では、訓練データに適用されるフェアユースやライセンスの枠組みはありますか。それらは検出可能でしょうか。執行可能でしょうか。長めの質問ですが、一つずつ取り組んでいきましょう。法的概念としてのフェアユースとはそもそも何を意味するのか、そしてその枠組みが管轄を越えて運用されている中で、市場における優位性のために特定の国で責任を問えないこともある国際企業を、政策立案者や裁判所がどのように扱っているのかも含めて、お聞きできればと思います。Julianさん、先にお願いします。
Julian Tang： はい、ありがとうございます。この問いについて中国の視点を喜んで共有させていただきます。フェアユースとライセンス枠組みの検出可能性と執行可能性についてですが、中国では法的執行可能性が明確になってきています。技術的な検出可能性は改善されてきているものの、依然として限定的だと申し上げます。
法的な側面では、2023年に中国は「生成AIサービス管理暫定措置(Interim Measures for the Management of Generative AI Services)」を採用しました。これはサービス提供者に対し、合法的な情報源からのデータを使用し、IP(知的財産)権を侵害しないことを求めるものです。また企業に対しては、モデル登録(filing)プロセスを履行することも求められています。この修正またはコンプライアンスレビューを経る過程で、企業は自社のデータソースの合法性、コンテンツフィルタリングメカニズム、ラベリングルール、その他のデータセット安全性を確保する措置について開示することが期待されています。
これに加えて、中国はより詳細なコンプライアンス標準も整備しています。たとえば「生成AI訓練データに関するセキュリティ要件の国家標準(national standard on security requirements for generative AI training data)」は、企業に対し、訓練データの中で主要なIPリスクを特定し管理すること、苦情処理や報告のチャネルを確立すること、そして異なるデータモダリティにわたって侵害の可能性のあるコンテンツに対するフィルタリングメカニズムを採用することを求めています。
この規制の観点から申し上げますと、これはもはや単なる広範な政策声明ではなく、執行可能なコンプライアンス枠組みへと徐々に進化してきています。技術面では、マルチモーダル指紋認証(multi-model fingerprinting)やモデルウォーターマーキング(model watermarking)といった多くのツールが開発されていますが、これらの取り組みは中国ではまだ広く使われているとは言えず、非常に大規模で複雑なデータセットを追跡することは実務上依然として困難です。ですので全体としては、中国では執行可能性が検出可能性よりも速く進展している状況です。
6-2. クローズドリスト型著作権例外、訓練段階と出力段階の差別的判決アプローチ、規制アービトラージの兆候
Julian Tang： フェアユースとライセンスの間の緊張関係についてですが、中国は権利者の保護とAI開発の余地を残すことの間でバランスを取ろうとしている段階にあります。米国とは異なり、中国にはオープンエンドのフェアユース原則は存在しません。著作権の例外はクローズドリスト方式(closed list approach)を取っており、AI訓練は現時点で例外として明示的に列挙されていません。ですので、制定法上のレベルでは、この問題は依然として未解決の状態です。
しかし、司法実務においては中国の裁判所はより柔軟な姿勢を見せています。観察できるのは差別的アプローチで、裁判所は訓練段階での利用に対しては比較的寛容な傾向を示す一方、AI生成コンテンツやその下流利用を評価する際にはより慎重になります。中国の裁判所は、AI開発者に過度に負担の重い義務を課すことを避けながら、同時にクリエイターの利益を保護することで、このバランスを取ろうとしているわけです。
国際的なバイパスや市場ベースのライセンスに関する質問についてですが、2点申し上げたいと思います。一方で、大規模かつ明示的な規制アービトラージ(regulatory arbitrage)が完全に形成されたビジネスモデルとして現れているわけではありません。しかし他方で、その条件は明らかに出現してきています。ある法域で訓練されたモデルが、別の法域で展開され、さらに別の複数の法域で商業化されるという事例が増えてきています。ひとたびこれが起きると、管轄、証拠、執行に関する問題ははるかに複雑になります。
ですので、この問題は今日において明らかな回避というよりも、グローバルなモデル開発がすでに規制アービトラージの条件を作り出しているという事実に関するものだと言えます。法域間の差異が拡大し続け、たとえばより許容的なアプローチを取る国と、よりライセンス中心のアプローチを取る国との間で違いが広がっていけば、訓練の所在地が企業にとってより戦略的な選択肢となる可能性があります。
中国における訓練データの著作権ライセンス市場についてですが、これは依然として非常に初期段階にあります。先ほど申し上げた通り、AI訓練の法的地位がまだ完全には確定しておらず、ライセンス交渉の基礎が不確実なままだからです。大規模な訓練データセットに対する価格設定基準についてもまだコンセンサスがなく、現時点では中国は成熟した市場ベースのライセンスシステムというよりも、制度的な探索と対話の段階にあると言えます。
まとめますと、中国ではコンプライアンス義務がより明確になり、技術的な検出は改善されているものの依然として限定的で、裁判所は出力よりも訓練インプットに対してより柔軟であり、ライセンスは議論されつつあるもののまだ支配的なモデルにはなっていない、というのが現状です。
7. アフリカにおける執行ギャップとローカルコミュニティの課題
7-1. Masakhaneコミュニティ、Noodleライセンス、ケニア2025–2030 AI戦略の動向
Nyalleng Morosi： ありがとうございました。それではDanielさんからお伺いしたいと思います。Danielさん、ご存知かどうか分からないのですが、最近MasakhaneコミュニティとアフリカのチームからNoodleライセンスという新しいライセンスが出てきました。ライセンスの現状や、それがどれほど実践的で執行可能なのか、また国際的なプレイヤーとのやり取りについて、ご回答に加えていただければと思います。
Daniel Odongo： ありがとうございます、Nyallengさん。そしてJulianさんからの中国の視点も大変参考になりました。私が思うに、課題はフェアユースやライセンスが法律上存在するかどうかではありません。本当の課題は、これらの枠組みが実際に検出可能で、執行可能で、公平であるかどうかなのです。そして今、執行こそが弱点なのです。
政策レベルでは、アフリカは前進しています。先ほど申し上げた大陸AI戦略は倫理的で説明責任のあるAIを推進していますし、マラボ条約も今や完全に発効しています。ケニアでも例として、2025年から2030年までを対象とするAI戦略が策定され、生成AIによるディープフェイクなどのリスクを明示的に取り上げています。さらに同国は、政府の広報戦略(national government communication strategy)も改訂しており、誤情報、偽情報、ディープフェイクを現在のガバナンス上の課題として明確に名指ししています。
ですので、フェアユースとライセンスが技術的に執行可能かと問われれば、率直なところ、それは部分的であり、しばしば非常に脆弱だというのが私の答えです。
私たちが「私たち」と申し上げるのは、私自身がこれらのコミュニティの一員だからですが、Masakhaneコミュニティ、そしてNoodleライセンスといった取り組みが、ローカルパブリッシャーや地元のコミュニティラジオアーカイブ、Ushahidiのような市民報告プラットフォーム、あるいはローカル言語の知識ベースがスクレイピングされて管轄外で訓練に使われるといった事態に対し、保護を試みています。
7-2. 大手ライブラリ中心のライセンス慣行から取り残されるローカル言語・市民データと抽出型モデルへの懸念
Daniel Odongo： しかし、ほとんどのアフリカの機関は、こうしたコンテンツが自分たちから取られたことを証明するための技術的・法的能力すら持っていません。どこで使われているかさえ証明できず、どのような救済が続くべきかについての認識すら持っていないのが現状です。これこそが核心的な執行ギャップなのです。法律は存在するかもしれませんが、国境を越えてモデルのインプットを追跡することは、現時点の私たちにとって非常に困難なのです。
ケニアや南アフリカではデータ保護法があり、人々に個人データに関する権利と救済を与えています。南アフリカは特に、音声認識を含む生体情報のカバレッジを持っており、これはAIによる音声クローニングにとって実際に重要な意味を持ちます。しかしこれらはプライバシー請求においては強力でも、モデルが大規模に自分のデータを許可なく訓練に使ったことを実際に証明する目的では、それほど強くありません。
市場ベースのライセンスについて少し触れますと、残念ながら最も良い例はグローバル北側から出てきています。たとえばShutterstockはOpenAIとこの種の契約を結んでおり、Financial TimesやAdobeも同様の動きをしています。これらは主にパブリックドメインのマテリアルをカバーしており、スクレイピングされたユーザーコンテンツは対象外です。これらが魅力的なのは、よりクリーンで、判読しやすく、防御しやすいからです。そして広範なフェアユース理論に基づき事後的に主張しているのだと思います。
しかし私が強調したい懸念は、このライセンスはすでに市場で可視化されているアクターにしか機能していないということです。つまり、大手出版社、大規模な画像ライブラリ、主要メディアハウスといったプレイヤーです。では、非常にリソースの限られたローカル言語コミュニティはどうなるのでしょうか。市民社会組織が収集している地域報告はどうでしょうか。紛争や気候に関する草の根のドキュメンテーションはどうなるのでしょうか。これらはAIをグローバルに有用なものにする貴重なデータセットですが、その背後にいる人々は訓練データ契約を交渉できる立場にはありません。
ですので、確かにライセンスへの動きはあり、それがより支配的になっていくのは見ているのですが、これを透明性義務、公共の利益保護、そしてコミュニティやローカル言語の知識エコシステムを認識する仕組みと組み合わせない限り、価値が外に流れ出て、データを生み出すコミュニティによる制御も補償もない、もう一つの抽出型モデル(extractive model)を見ることになるリスクがあるのです。
アフリカの視点から申し上げますと、プライバシー法やサイバー法をすべて整備したとしても、データセットがナイロビでスクレイピングされ、別の管轄で処理され、さらに別の場所でモデルに組み込まれてしまえば、救済につながる形でその連鎖を証明することは依然として極めて困難です。これが今も続いている課題なのです。
8. クリエイター補償とIP保護の具体的事例
8-1. アーティストの交渉力欠如とShutterstockが先行した二層補償モデルのデファクト化
Alessandra Sala： このパネルの皆さまの回答が非常に包括的でしたので、議論がかなり速く進んでいます。私はもう少しだけ、クリエイター補償とIP保護という概念に時間を割きたいと思います。なぜなら、私は世界中のアーティストと多くの議論を重ねてきているからです。
非常にニッチな芸術的潮流に属する写真家やアーティストの小さなグループの方々と話をしますと、Danielさん、彼らはまさにあなたが言われた通りのことを伝えてくるのです。「私たちは、自分のコンテンツがAI訓練にどう使われるか、また生成AIコンテンツの作成にどう使われるかを交渉する力も、知識も、ツールも、アクセスも持っていないと感じている」と。
ここで思い出していただきたいのは、アーティストへの補償には2つの非常に異なる方法があるということです。一つは、データが訓練のため、つまり能力を構築するために取得される時に発生する補償です。もう一つは、その能力が実際に利用されて収益や利益を生み出す時に、その利益の一部が、その機械を作り上げることに貢献した人々と共有されうる、というものです。これらはShutterstockが先駆けた概念であり、その後業界全体でデファクトスタンダードとして採用されてきたものです。
しかし問題は残ります。大規模なコンテンツライブラリの話ではなく、世界中にいる小規模なプレイヤーたちのことなのです。そこで皆さまへの質問ですが、私が深く感銘を受けて読んだ、非常に包括的な枠組みを構築しているインドからの知見もお伺いしたいと思います。これは技術への要請なのでしょうか、それとも政策への要請なのでしょうか。なぜなら、アーティストやコミュニティが、特定の要件付きで自分のコンテンツを公開する手段を持てば、実装と執行が可能になるからです。世界に向けて「使ってもいいけれど、使うならこれらの条件を尊重してほしい」と伝えることができれば、その免責条項が明確になり、執行がより実行可能になります。まずRavindran教授からお願いします。
Ravindran： Danielさんが言われたことを少し繰り返すことになりますが、課題は、特定のコンテンツがモデル構築に使用されたことを証明する手段が、グローバルサウスに限らず世界のどこにもない、ということです。データがどのようにモデル構築に取り込まれたかについて、何らかの帳簿記録の証跡(bookkeeping trail)を義務付けない限りです。モデルへの無制限なアクセスがあったとしても、たとえそれが公開されたオープンウェイトモデルであっても、特定のデータが構築に使われたことを確実に立証する信頼できる手段は存在しません。
モデルの出力がアーティファクトと非常に密接に一致したとしても、それはモデルの汎化能力(generalization ability)によるものであって、そのデータポイントが訓練に使われたからではない、と主張する余地が残るのです。ですので技術的には、まだ私たちは十分なツールを持ち合わせていません。
ですから、これはより技術的な枠組みの話にならざるを得ません。データがモデル構築に使われる際にすべてタグ付けされるメカニズムを義務化するといったことです。そしてAlessandraさんが問うておられるのは、モデルが使用されるたびに自動的にデータの元の出所まで追跡される、そういうシステムが存在するかどうかということだと思います。
8-2. インドKaranプロジェクトの音声データタグ付け還元事例と中国Ultraman事件の判例傾向
Ravindran： インドには、まさにそれを実現している組織があります。Karanという、社会福祉組織でもあり、データラベリング組織でもある団体です。彼らは音声データを収集していますが、インドでは複数の言語に対応する必要があるため、村に出向いてデータを取得し、特定の音声ファイルに貢献したすべての村人がタグ付けされ追跡されるようになっています。
ですので、その音声ファイルを使って構築されたモデルが収益化されると、その支払いのごく一部が村人に還元されるのです。それは月にわずか15ドルから20ドル程度かもしれません。しかし多くの場合、彼らは国の本当に遠隔地の村々にいるわけですから、これは実際に彼らの生活に違いをもたらすのです。
これは実際に機能している事例です。技術はすでにあるのですが、それを支える規制インフラが必要なのです。だからこそ私は、技術的な解決策でなければならないと申し上げたわけです。それからAlessandraさん、私たちのガバナンス案を高く評価してくださりありがとうございます。実は私はそのガバナンス案を作成した委員会の議長を務めていたものですから、彼らに代わってお礼を申し上げます。
Julian Tang： ありがとうございます。中国のIP保護とクリエイター補償についての視点を共有させていただきます。実は中国では、補償のためのライセンス枠組みよりも、保護のための枠組みの方が速く発展しています。
判例の観点からいくつか共有させていただきますが、先ほども申し上げた通り、中国の著作権法はAI訓練をフェアユースとして明示的に分類していません。ですので、これらの問題の多くは依然として個別の司法判断を通じて対処されており、裁判所は差別的なアプローチを取る傾向にあります。訓練段階のデータ利用については比較的柔軟ですが、AI生成コンテンツとその下流での利用を評価する際にはより厳格になります。
これが意味するのは、権利者がAI生成出力が自分の作品と実質的に類似しており、プラットフォームが過失を犯していたことを示すことができれば、司法的な救済が利用可能になる、ということです。この意味で、クリエイターは訴訟を通じて承認と保護を得ることができます。しかし、補償の体系的枠組みとしてのライセンスはまだ中国で発展途上にあります。司法的保護メカニズムはすでに整っていますが、市場ベースおよび集団的アプローチによる補償はまだ発展中です。
たとえば、中国音楽著作権協会(Music Copyright Society of China)のような著作権集中管理団体が、生成AI業界と集中管理団体との間の対話と協力を積極的に推進しており、より明確なライセンス枠組みやロイヤリティ基準を確立しようとしていますが、まだ確立には至っていません。
中国の裁判所はAI関連の著作権事件における損害賠償について、慎重なアプローチを一般的に取っています。AI産業の発展を不当に制約するような過度に高額な損害賠償を課すことを避けつつ、適切な場合には司法的救済を提供しようとしているのです。たとえば、有名な「ウルトラマン事件(Ultraman case)」と呼ばれる中国の杭州インターネット裁判所での判決では、裁判所は経済的損失と合理的な費用として3万元(yuan)を裁定しました。この金額は決して非常に高くはなく、補償のための数字であって、罰金やその他の懲罰的損害賠償ではないことがわかります。
簡単に言えば、中国の現在のアプローチは、単一のモデルだけに依拠するのではなく、司法的保護とより体系的または市場ベースの補償メカニズムを構築する継続的な努力を組み合わせるものです。
9. 救済手段と国境を越える執行・協調の枠組み
9-1. AIモデル登録簿・ロギング義務・文書化義務という公共部門のベストプラクティス
Alessandra Sala： ありがとうございます。Danielさん、最初にこのテーマを口火を切って素晴らしく開いてくださったわけですが、このパートを締めくくる短いポイントをいただけますでしょうか。
Daniel Odongo： はい、私は救済手段(remedies)に焦点を当てたいと思います。そこにはまず、どこでモデルが使われているかをチェックする手段、という論点が含まれます。
これまで観察されてきたイノベーションは、主に公共部門レベルで見られています。具体的には、インベントリ(inventories)とレジストリ(registries)です。これは、たとえばどの政府機関がどのモデルを使っているかを示すもので、検索可能な形になっています。これは私たちが借用できるベストプラクティスだと考えています。特に民間部門のモデル展開に対しても適用可能ではないかと思っています。
それから、各国政府が政策策定の中に組み込めるかもしれない透明性義務(transparency obligations)と文書化義務(documentation obligations)についても注目しています。とりわけ高リスクAIシステムの展開者(deployers)に対するロギング(logging)義務は、規制された文脈の内側でトレーサビリティを向上させるのに役立つと思います。私のクローズとしてはここまでです。
Alessandra Sala： 簡単に戻りますと、これは先ほどあなたが指摘されていた点に立ち返るものでもあります。国境を越えた国内規制の執行はうまく機能しないでしょう。ですので、これは私たち全員にとって非常に大きな課題なのです。
これは確かに大きな課題であり、私たちと聴衆にとってインスピレーションを与えるポイントは、可能な救済手段、つまり物事がどこで使われうるか・使われるべきかを登録する技術がどのようなものになるのか、そしてこの非常に複雑なテーマをどのようにナビゲートしていくか、ということだと思います。それではNyallengさんに戻したいと思います。私たちはこの議論の終わりに近づいていますが、もう少し他の興味深いポイントにも触れていきたいと思います。
9-2. 共有定義(fair dealing対fair use)、プロビナンス技術標準、デジタル停戦構想による越境協調
Nyalleng Morosi： ありがとうございます。本当にビルダーのコミュニティに身を置いていると毎回耳にするような、率直な振り返りを聞ける機会となっていて、ただ聴いているだけでも素晴らしいと感じます。Julianさんが強調しておられたバランス、つまりAIコミュニティを成長させる必要がある一方で、特定のデータセットも保護しなければならない、という議論はとても重要だと思います。実際アフリカでは、そうしたデータセットはオンラインで簡単に入手できるものではなく、価値のあるデータセットでありながら、それを所有する人々がAlessandraさんやDanielさんが指摘されたように非常に断片化されているのが現状です。だからこそこの分野で勢いを得るのは難しいのですが、Masakhaneのような団体が大きくなることで、真のロビイングの主体になり得るかもしれません。
Shaboyさん、まだ伺っていませんが、複数の管轄や文化にまたがって働いておられるあなたから、そしてRavindran教授からも、国境を越えた協調(cross-border collaboration)について伺いたいと思います。政策やアクトという観点で、どこに整合の接点があるのでしょうか。グローバルサウスの国々や組織として、どう協力し、何が機能したかという知見をどう共有していくのか。これはインドのAIサミットでも南南協力(south-to-south collaboration)として大きく取り上げられたテーマでしたね。Shaboyさん、害の管理と同時に、互いを補完するように標準と実践を整合させる、その整合の接点はどこにあるとお考えでしょうか。
Alan Shaboy： はい、重要な質問ですね。Ravindranさんが先ほど言われた通り、答えるのが非常に複雑な問いです。情報共有や、管轄や国境を越えた調整というのは、不可能ではないにせよ、確かに少し難しいものです。しかし、すでに見え始めているいくつかの出発点はあると思います。
その一つが、異なる構成要素について「共有された定義(shared definitions)」を持つことです。たとえば私がAI規制の様々な枠組みを見ていて気づいたのですが、IPという構成要素について、ケニアでは「fair use」ではなく「fair dealing」と呼んでおり、その定義の仕方が、ヨーロッパ、米国、インドのものとは大きく異なっています。ですので、複数の管轄にわたって共有された定義を持つことが、極めて重要な部分になります。複数の管轄をまたいで共有定義を持てるような枠組みを開発することができれば、両者が同じ言語で語れるようになるのです。これは、国境を越えた協調を始めるうえで非常に重要な構成要素です。
それから、実装されつつある標準(standards)という構成要素があります。気候変動や他の領域では、伝統的に協調が困難だった分野でも標準が機能してきました。ですから、たとえばコンテンツの来歴(プロビナンス、provenance)を確立するために登場しつつある標準は、私たちがこの課題に取り組む上で非常に重要な入り口になると思います。
そして最後に、私は紛争の領域で働いているので、紛争分析のスペースで特に進めようとしているアプローチを共有したいと思います。それは脆弱な文脈、つまり紛争のような状況を機会として捉え、いくつかの協調的アプローチを推進するということです。その一つが「デジタル停戦(digital ceasefires)」と呼ばれるものです。
たとえば今、爆撃が止まり、物理的な停戦が成立した瞬間に、戦線はインターネットに移ります。ディープフェイクや合成メディアが「これが起きている」といった形で投げ込まれ、それが紛争状況における巨大な引き金になってしまうのです。紛争は通常国境を越えているため、紛争管理も国境を越える必要があります。そこで私たちは、停戦合意(ceasefire agreements)の一部としてデジタル停戦を推進しようとしています。
これは具体的には、AI生成コンテンツや、有害な状況のために生成されたコンテンツをインターネット上でどう扱うかという議論を、停戦合意や和平交渉(peace negotiations)の中に組み込むことを意味します。停戦合意の中に、AI生成コンテンツ、合成メディア、そしてそうしたコンテンツの利用に関するルールを埋め込んでいくということが、私が現在取り組んでいる仕事において、非常に重要な入り口になっています。
私たちが目指しているのは、停戦合意が策定される際に「デジタル停戦というアイデアもあるのだ」と種をまくことです。そしてそのデジタル停戦の中には、サイバーセキュリティだけでなく、AI生成コンテンツやAIプロセスがどう使われうるかという議論も含まれるのです。これは越境的な協調を始める一つの入り口になり得ると感じています。
10. 多国間イニシアチブとパネリストによる総括
10-1. AI Impact Commons、Trusted AI Commons、能力開発機関ネットワーク、WIPO AI Infrastructure Interchange
Ravindran： 教授としての性ですから、つい話しすぎてしまうのをお許しください。Alanさん、「デジタル停戦」というアイデアが本当に気に入りました。実際の紛争と整合させるだけでなく、サイバー戦争(cyber warfare)は毎日起きているからです。それは多くの国の間で、宣戦布告のないまま日々進行している戦争です。私がそう申し上げるのは、インドが毎日のように、しかも相当な規模で組織的なサイバー攻撃を受けていることを知っているからです。ですから「サイバー停戦(cyber ceasefire)」という発想は、本当に意義深いものだと思います。
ここで、先ほど話題に出たAI Impact Summitに少し戻りたいと思います。インドで開催されたこのAI Impact Summitの最中に、いくつかの多国間イニシアチブが立ち上がりました。その一つが「AI Impact Commons」と呼ばれるものです。これは、グローバルサウスにおいてAIが様々な社会的善の課題を解決するのに役立った成功事例についてのストーリーを収集する取り組みです。単なるコネクターではなく、人々が「自分たちにとって何が機能したのか、何が機能しなかったのか」を実際に語る場であり、その内容を共通のリポジトリに集めることで、他のグローバルサウスの地域で何が機能したのか、自国でうまく採用できそうなのは何かを知りたいときに、立ち寄れる場所が一つできるという発想です。
二つ目に、同サミットで多国間合意のもと設立されることになったのが「Trusted AI Commons」です。これは様々なツールのコレクションです。OECDも多くの取り組みを行っており、Trusted AI Commonsの構築においても協力することに合意しました。狙いは、グローバルサウス向けの信頼できるAIソリューションを構築するためのベンチマーク、ツール、ベストプラクティスを集めることです。特に十分なリソースがない地域において、こうした枠組みをどう構築するかに主眼を置いています。これは、Nyallengさんが言われたような知識共有や整合性の達成を実現するメカニズムの一つだと思います。
さらに国連も、能力開発機関のネットワーク(network of capacity development institutes)を立ち上げています。これは複数の加盟国が自発的に参加しているイニシアチブで、私もその議論に関わっています。残念ながらまだ国連総会全体の承認は得ておらず、依然として任意の取り組みではありますが、すでに非常に興味深い議論が起きており、世界中の研究機関から、共に働き、リソースやアイデアを交換することへのコミットメントが得られているのを目にしています。
実は今、本当に多くの取り組みが起きていて、「多すぎる」と言ってもいいくらいです。どこかの時点で、これらを統合してより大きな効果を上げる必要があります。しかしそれは地に足のついた形(ground up)で進めなければなりません。国連や何らかのグローバルな機関が「協調しなさい」と命じられるとは思いません。人々が自らの足元から積み上げていくべきだと思います。
Alessandra Sala： この議論の終盤に向けての素晴らしいご発言です。一つ強調しておきたいのは、世界知的所有権機関(WIPO)が「AI Infrastructure Interchange」を立ち上げ、専門家のネットワークを構築し始めたことです。これは任意ベースで、様々な国・産業・市民社会のマルチステークホルダー専門家を集め、実際にIPインフラを国境を越えて構築していくものです。それは政策の観点というより、技術的な観点からのアプローチです。なぜなら、各加盟国はそれぞれの社会に最も適した形でこの技術を規制し受け入れたいと考えているからです。ですが、もしIPインフラが国境を越えて存在し、国家間で公正な交換が可能になれば、執行や協調についての議論はより現実的なものになっていきます。これも追跡し、議論や進展を理解しておくべきイニシアチブの一つです。
10-2. 各パネリストからの締めくくりメッセージとセッション総括
Alessandra Sala： それでは、本テーマの重要性を改めて思い出させるような、お一人ずつ最後のひと言と行動への呼びかけをいただきたいと思います。まずは中国のJulianさんからお願いします。
Julian Tang： ありがとうございます。中国の視点から申し上げますと、3つのことが非常に重要だと思っています。技術ベースのガバナンス、立法の枠組み、そして人々の社会的信頼です。この3つが揃って初めて、ディープフェイクや誤情報のガバナンスがより効果的なものになるからです。ネットワーク時代とは異なり、コンテンツはもはやユーザーによって生み出されてプラットフォーム上で拡散されるだけのものではありません。AIは技術としてはるかに大きな力を持ち、はるかに速いスピードを持っています。ですから、私たちはより組み合わされた、より複雑で包括的なアプローチを用いて、これを統治していく必要があるのです。
Alessandra Sala： ありがとうございます。それではDanielさん、お願いします。
Daniel Odongo： 私の締めくくりとして申し上げたいのは、信頼の再構築は規制や技術だけからは生まれてこないということです。それは、明確なルール、実践的なセーフガード、そして信頼できる人的検証・対応システムを、どこまで組み合わせられるかから生まれるのだと思います。そして、情報が非常に速く動く環境、しばしば非公式に、あるいはローカル言語で動く環境にこそ注意を払う必要があると思っています。そこでは失敗のコストが非常に高くつくからです。ですから前進していく中で、技術的に何が可能かだけでなく、ローカルで実行可能か、公平か、そして説明責任を持てるか、ということに焦点を当てたいと考えています。
Alessandra Sala： 素晴らしいですね、Danielさん。それではAlanさんに移ります。
Alan Shaboy： Danielが言ったことに同意しますが、特にUN Trust and Safetyコミュニティについて言及したいと思います。私が見てきたイニシアチブの中でも、技術、政策、規制、政府の関係者を多く集めて、AIの機会と害の両面について議論する場として、際立った取り組みです。私たちはこの種の協調的アプローチを取り入れ、すべての活動の中心に据える方法を見つけていく必要があります。それが、こうした議論を最終的に前進させていくのだと思います。
Alessandra Sala： 素晴らしくまとめていただきました。それでは最後にRavindran教授、お願いします。
Ravindran： Danielさんが本当に上手く言ってくれましたね。実はインドの規制も、いかなる技術の採用と成功の基盤も信頼である、という基本原則から始まっています。私たちが構築してきた枠組み全体が、技術、政策の枠組み、そして社会構造を用いて、いかに信頼を醸成するか、という発想の周りに組み立てられています。もちろんAIはここに、もう一つの複雑さを加えます。なぜなら、AIの生産者・作り手のほとんどは、本日の議論に参加している誰の立法的な管轄からも外れているからです。ですから信頼をどう確立していくかは、常に新しい旅であり続けるでしょう。
Alessandra Sala： まさにその通りですね。素晴らしいパネリストの皆さま、そして共同モデレーターのNyallengさんに感謝申し上げます。本日皆さまにお集まりいただき、この重要な議論ができたことを光栄に思います。これはほんの始まりに過ぎず、議論は進化を続けていきます。こうした議論と協調こそが、AI時代における全員の貢献を認め合いながら、誰もが関わることのできる道へと私たちを進めてくれる重要な要素なのです。改めて皆さま、ありがとうございました。
司会者： 本日のAI for Goodセッションにご参加いただきありがとうございました。今日のイベントから新しく、革新的で、心に残る何かを学んでいただけたなら幸いです。引き続きライブビデオウォールやニューラルネットワークで議論を続け、ロビーを探索し、スマートマッチングクイズに挑戦し、バーチャル展示やポスターボード、eShopを訪れて、ご自身のAI for Goodプログラムを構築していただければと思います。AI for Goodの未来を共に形作っていきましょう。