※本記事は、ITU（国際電気通信連合）、UNDP（国連開発計画）、およびAI Hub for Sustainable Developmentが共催するウェビナー「AI trust, safety and diffusion in small states and low- and middle-income countries」の内容を基に作成されています。本ウェビナーは、AIシステムが社会を変容させる一方で、適切な安全性評価プロトコルと文脈に配慮したセーフガードが欠如する場合、公衆の信頼を損ない、既存の公私のシステムに新たな脆弱性を持ち込みうるという問題意識のもと、低中所得国（LMICs）および小島嶼開発途上国（SIDS）におけるAIの信頼・安全・普及のあり方を議論したものです。多くの国がAIの構築者ではなく採用者である現実を踏まえ、こうした環境におけるセーフガードの強化が、持続可能なAI採用、民間部門の参画、ローカルなAI市場と広範な経済機会の発展にとって前提条件となるという認識が共有されました。
登壇者は以下のとおりです。Mona Nabil Demaidi氏は、パレスチナのAI国家戦略の策定者であり、Arab American Universityにて人工知能担当副学長および国際関係ディレクターを務めています。Edward Yee氏は、FAR.AIにて戦略・成長部門の責任者を務めています。Kato Steven Mubiru氏は、Crane AI Labsの最高経営責任者兼共同創業者です。Rachel Adams氏は、African Observatory on Responsible AIのディレクターを務めています。モデレーターは、西インド諸島大学セントオーガスティン校の人工知能イノベーションセンターでエグゼクティブディレクターを務めるCraig Ramlal氏です。
本記事では、ウェビナーの内容を要約しております。なお、本記事の内容は原著作者および登壇者の見解を正確に反映するよう努めておりますが、要約や解釈による誤りがある可能性もありますので、正確な情報や文脈については、オリジナルのウェビナー動画をご視聴いただくことをお勧めいたします。また、AI for Goodのネットワーキングコミュニティプラットフォーム「Neural Network」（https://aiforgood.itu.int/neural-network/ ）もあわせてご参照ください。同プラットフォームは、イノベーターや専門家とのつながりの構築、社会的インパクトの機会とアイデアの結びつけ、そしてAIを活用したグローバル課題解決のためのコミュニティ形成を支援するものです。
第1章 セッションの開催趣旨とパネリスト紹介
1.1 AI for Goodイニシアチブと本セッションの位置づけ・目的
冒頭、司会者から本セッションがAI for Goodの一環として開催される旨が説明されました。AI for Goodは国際電気通信連合（ITU）が主導し、50以上の国連機関と連携し、スイスと共催する取り組みであり、AIの潜在力を人類に資する形で引き出すことを使命としています。マルチステークホルダー型のプラットフォームとして、ソリューション、標準、スキルの三領域を推進しているとの紹介がありました。視聴者に対しては、ライブビデオウォール機能を使った質問やコメントの投稿、AI for Good Discovery Badgeの取得案内、AI Skills Coalitionを通じた学習機会の活用が呼びかけられました。
続いてモデレーターのAnnan Craig氏が登壇し、本ウェビナーがITU、UNDP、AI Hub for Sustainable Developmentの共催で行われることを述べました。
Annan Craig： 私はカリブ海地域の西インド諸島大学に設置された人工知能イノベーションセンターのエグゼクティブディレクターを務めると同時に、カリブAIタスクフォースの議長も担っております。本日の議題は、低中所得国（LMICs）および小島嶼開発途上国（SIDS）における責任あるAIの普及です。AIシステムがデジタル公共インフラ、サービス提供、民間部門のオペレーションに組み込まれるにつれ、これらの文脈では重要なストレスポイントが浮かび上がってまいります。すなわち、システムが信頼性をもって機能しない場面、セーフガードが不十分な場面、そしてAIライフサイクル全体の責任の所在が曖昧な場面でございます。多くの国はAIの構築者ではなく一次的な採用者の立場にあり、こうした国々にとって、信頼、安全、文脈に即したガバナンスを強化することは、持続可能な導入を可能にし、既に複雑な公私のシステムに新たな脆弱性が持ち込まれることを防ぐうえで不可欠です。本セッションでは、LMICs、SIDS、そして広義のグローバルサウスがAIを責任を持って調達、展開、スケールさせるうえで直面する主要な課題と機会を検討してまいります。具体的には、言語的不平等、デジタル化データの限界、モデル性能、安全性、ガバナンスといった論点を扱い、パイロットの段階を超えて前進するための実践的経路を特定します。信頼の構築、組織的準備態勢の強化、開発インパクトに向けたAI導入の支援についても議論を進めてまいります。責任あるAIの原則と実装の間にある溝を埋めるため、AIガバナンス、イノベーション、安全性研究、戦略、国家AI政策の各分野から専門家をお招きしております。
1.2 モデレーターとパネリスト4名の自己紹介および各自が提起する中心的課題
Annan氏に紹介されたパネリストは、Center for AI Governance（後の発言では Global Centre on AI Governance）のCEOであるAdams Rachel氏、Kene AI LabsのCEO兼共同創業者であり「AI for Sustainable Development Innovator」でもあるMbiru Kato Steven氏、Far.aiの戦略・成長部門責任者であるYee Edward Lee氏、そしてパレスチナのAI国家戦略策定者でありArab American University Palestineで人工知能担当副学長を務めるEl Madhi Mona Nabil氏の4名です。Annan氏は各登壇者に対し、自身の視点を簡潔に紹介し、AI普及の中心的責任と考える論点を一つ提示するよう依頼しました。
Mbiru Kato Steven： ITU、UNDP、AI Hub for Sustainable Developmentに感謝申し上げます。私はKene AI Labsを共同創業者のBronson Akongaと共に立ち上げました。本セッションのテーマは、まさに私たちが取り組んでいる痛点に直接触れるものです。私たちが扱うのは低リソース環境のためのAIであり、これは主に低中所得国に当てはまります。私たちが直面している課題は、多くの言語にデジタル表現が存在しないことです。この欠如は、低中所得国向けのAI安全性に関する十分なベンチマークや評価が存在しないという問題に帰結します。私たちはこの溝を埋めるべく、ベンチマーク、データセット、そしてグローバルサウス、特に私たちの拠点であるアフリカの現場で機能するモデルの開発に取り組んでおります。
Yee Edward Lee： 私はAI安全性の領域へは金融包摂のキャリアを経てたどり着きました。これまでのキャリアの大半を、伝統的なシステムをより公正なものにすることに費やしてまいりました。レバノンでは長年ハイパーインフレが続いており、私はフィンテックを立ち上げ、貯蓄者がスイスへ飛んだりドル札をマットレスの下や靴箱に隠したりすることなく、デジタル端末から硬貨通貨で資金を保有できる仕組みを構築しました。デリーではインパクトファンドを設立し、貸し手が保証を提供することで、シングルマザーのような借り手が信用にアクセスできるようにしました。こうした経験から私が学んだのは、テクノロジーがシステムをより公正で平等な、人類に資するものに変える力を持つということです。しかし、それはテクノロジーが適切に構築され、適切に用いられた場合に限られます。同じ論理は逆方向にも作用し得るのです。AIによる被害は既に人命を奪っております。OpenAIの開示によれば、毎週100万人を超える人々がChatGPTに自殺念慮を表明しております。スロバキアやアイルランドの選挙ではディープフェイクが影響を与え、AIシステムを用いた詐欺は世界中で急増しており、なかでも東南アジアでの伸びが最も顕著です。だからこそ私は、最先端のAIシステムによる被害を軽減すべく、AI安全性の領域へ転じました。そして残念ながら、これらのテクノロジーから最も大きな影響を受けるのはLMICsの人々なのです。被害はセーフガードが最も薄い場所へ最も速く、最も遠くまで到達します。サンフランシスコでフロンティアラボのモデルが展開されれば、それは即座にダッカ、ダルエスサラーム、ラパスなどあらゆる場所で展開されます。テクノロジーは真っ先に到着し、人材、規制当局、セーフガードはずっと後から到着するのです。しかも今日存在するセーフガードのほぼ全てが、サンフランシスコ、ロンドン、杭州、シンガポールに住む機械学習の博士たちによって開発されています。だからこそAI安全性はLMICsにとって贅沢品ではなく、持続可能な開発を考えるための前提条件なのです。
El Madhi Mona Nabil： 私はパレスチナのAI国家戦略の策定に深く関与してまいりました。UNESCOのReadiness Assessment Methodologyの適用にも携わり、最近では高等教育におけるAI政策の策定を完了いたしました。これらの活動を通じて繰り返し浮かび上がってくるのが、あらゆるセクターにわたるガバナンスの欠如でございます。スキルアップやAI採用については教育、民間部門、起業エコシステムの各領域で議論されておりますが、ガバナンスはいまだ整備されておりません。信頼と安全について語る際、法制度や規制の意味でのガバナンスもなお欠落しております。次に強調したいのは、活用可能なオープンデータセットの欠如です。試みがないわけではなく、パレスチナや広くグローバルサウスにも一定のデータセットは存在しますが、多次元的なセクターに適用できるほど信頼性や文脈的豊かさを備えてはおりません。そして最後に強調したいのは、文化、言語などを捉える際のバイアスです。たとえばアラビア語は中東で広く話されておりますが、現行の大規模言語モデルにおいては十分に表現されておらず、アラビア語でプロンプトを実行すると消費電力すら他言語より多くかかってしまうのが実情でございます。
Adams Rachel： 私が率いるGlobal Centre on AI Governanceは南アフリカに拠点を置くシンクタンクであり、AIが公正で衡平な未来に資するために必要なガバナンスメカニズムを、特にアフリカ大陸とグローバルサウスと呼ばれる地域を対象に研究してまいりました。グローバルサウス、LMICs、そして特に低リソース環境こそ、AIシステムがストレステストされる現場でございます。これらの文脈におけるAIモデルの利用と普及は、モデルが言語的にどこで失敗するか、組織的セーフガードがどこで不十分か、調達システムをどこで更新すべきか、そして公衆の信頼の問題がいかに迅速に立ち上がりうるかを私たちに教えてくれます。同時にこれらの地域は、世界が学ぶに値する非常に興味深いイノベーションの現場でもあります。リソースに制約があるからこそ、政府や研究機関、その他のイノベーターたちは、こうした文脈における比例的なガバナンスとは何か、そして西洋以外の文脈で信頼に足る展開とは何かを、テクノロジーの公共価値を前面に据えながら極めて実務的に考えているのです。
Annan氏は4名の冒頭発言を受け、データセット・ベンチマーク・地域別バイアス、AI安全性とガバナンス、低リソース環境での運用といった論点が出揃ったことを確認し、ここから本格的なモデレーション付き議論へと移行することを宣言してセッション全体の方向性を整えました。
第2章 低リソース環境におけるAI展開の現実と現場からの知見
2.1 ウガンダ農村部医療AI実証にみる接続性・データセット・ベンチマーク・スキルの壁
Annan氏は最初の論点として、制約が革新の母となりうるという観点から、各国の文脈に固有の制約が現場のAIソリューションと展開のアプローチをどのように形作っているかをMbiru氏に問いかけました。
Annan Craig： 制約は往々にしてイノベーションの母となります。みなさんの国において、現在AIソリューションの実装の仕方を他とは異なる形で規定している、文脈固有の制約や条件には何がございますでしょうか。まずMbiruさんからお聞きしてもよろしいでしょうか。
Mbiru Kato Steven： はい、私たちKene AI Labsが置かれている独自の立場を申し上げますと、私たちはこれらのモデルを低リソース環境で実際にストレステストしている存在です。Kene AI LabsはDeepMindが一部のモデルへの早期アクセスを認めた唯一のアフリカのパートナーであり、低リソース環境における医療向けモデルのパイロットなどを進めてまいりました。今週、チームの大半は実際に村々へ入っております。その映像も近く公開される予定です。開発を進めるなかで、いくつもの問題が浮かび上がってまいります。私は現在ウガンダにおりますが、一部の地区を回ると、医療従事者からは「オフラインで動作するもの」「政府のガイドラインを理解できるもの」「可能であれば現地語を理解できるもの」が必要だという声が上がります。つまり、データセットが十分でないという問題、接続性の問題、そしてベンチマークの問題という三つの課題が同時に立ちはだかっているわけです。
ベンチマークについて少し補足いたしますと、私たちが開発したベンチマークは、英国政府が採択した国際AI安全性フレームワークに収録されている、おそらく唯一のベンチマークです。そして今回のパイロットでは、これを医療向けに拡張し、加えて教育向けにも展開しております。とはいえ、データを収集し、整理・分解していく作業は決して容易ではありません。そもそもそれを実行できるスキルセット自体が容易には手に入らないのです。研修も必要です。先に申し上げた接続性、研修、そうしたスキル、ベンチマーク、そしてこれらの地域の言語を代表するデータセット、これら全てが、フロンティアの最前線にいる人々へとフィードバックを返すために必要となるのでございます。
2.2 DeepMindとの協業によるモデル量子化・現地ベンチマークのフィードバック経験
Mbiru氏はそのうえで、収集した現場知見をどのようにフロンティアラボへ還流させているかを具体的に述べました。
Mbiru Kato Steven： 私たちはDeepMindのプロダクト責任者たちと直接対話する機会を持っております。そこで得たフィードバックを彼らに返すのです。「もし構築を続けるのであれば、この地域では物事がこのようになっています」と。「皆さんのモデルはそのままでは動作しない可能性があります。人々が使っている端末はRAM 4GB、8GB、ときには3GBのものです。どうかモデルを縮小し、量子化してください。そして、こうしたベンチマークについても検討してください」と伝えるわけでございます。
このやり取りは、現場でのデータセット不足、接続性の制約、そして言語的多様性に対応するベンチマーク不足という、先ほどの三つの課題に対する直接的な処方箋を、モデル開発側に提示する経路となっております。低リソース環境で機能するAIを実現するためには、フロンティアモデルそのものを縮小・量子化し、現地のハードウェア事情に適合させる必要があるという仮説が、現場での実証を通じて裏付けられているのです。
2.3 「待たずに作る」アプローチと国内成果物がもたらすフロンティアラボとの対話可能性
セッションの後半、データ主権と公共サービス展開を巡る議論のなかでMbiru氏は再度発言の機会を求め、フロンティアラボとの協業を「待つ」のではなく、まず自分たちの手で何かを作り始めることの重要性を強調しました。これは2.2で述べたフィードバック経路を成立させるための、いわば前提条件にあたる主張でございます。
Mbiru Kato Steven： もう一点付け加えたいことがございます。現在存在する設定でとにかく仕事を進める、ということです。ラボ側の協業を待っていれば、ときにそのあいだに遅れを取ってしまいます。ですから、ある国はその国にすでにいる開発者や数少ない研究者を起点に、手元にある機材で前に進めなければなりません。GPUが少ししかなくとも、データセットが少ししかなくとも、まず何かを作るのです。そうして作ったものが、近隣諸国やコミュニティの他の開発者を呼び起こすことがあります。UNDPで私たちが関わっているAI Hubでも、音声AIで何かを立ち上げると別のスタートアップがそれを引き継ぐ、という光景を何度も目にしてまいりました。彼らの才能に依存している話ではなく、こちらが踏み出した小さな一歩から彼らが学んでいく、ということなのです。
ですから私は、ガードレールを全て整えてから動くという姿勢とは一線を画したいと考えております。そんなことをしていてはテクノロジーは置き去りにしてしまいます。たとえばClaudeは現時点で非常に高性能です。あまりに高度な段階で一国にClaudeを展開してしまえば、その国の経済には適応の余地が残らなくなってしまうのです。だからこそ、その国はあらかじめ何かを持っていなければなりません。AIとは何か、ニューラルネットワークとは何かを理解していること、少なくとも数個のモデルを、たとえ性能が振るわなくとも実際に動かしてみる過程を通り抜けていること、そして開発に必要なリソースを把握していること。何かが整うのを待つのではなく、そこからまず始めるのです。これが私たちのやり方でした。
そのうえで、後からセーフガードやガードレールを整え、NVIDIA、Microsoft、Googleとの関係を築いてまいりました。ただしそれは、こちらに提示できる成果物があったからこそです。「皆さんはこの領域をこのように見るべきではないでしょうか。私たちはこのように取り組んでおります」と示せるものがあって初めて、対話が成り立つのです。それがない状態でアフリカ大陸の側からアプローチしても、Googleから返信を得ることすら容易ではございません。私が推薦してきた多くの開発者を見ても、何も作っていない開発者には、他のチームが共感したり、助けたり、何かに協力したりすることが難しいのが現実なのです。
Annan氏はこの発言を受け、各国内部での実験を先行させ、そこから得た学びを蓄積していくという順序の重要性を確認し、議論を次の論点へとつなげていきました。
第3章 小国・LMICsから大国が学ぶべき安全性ファーストの設計思想
3.1 Far.aiによるフロンティアモデル事前展開テストと汎用ジェイルブレイク発見事例
Annan氏は次の論点として、より安全で信頼に足るAI普及の実践的経路という観点から、大国が小国から学べることは何かをYee氏に問いかけました。
Annan Craig： より安全で信頼に足るAI普及の実践的経路を改善するうえで、大国は小国から何を学べるとお考えでしょうか。Yeeさん、お聞きしてもよろしいでしょうか。これは公開の対話でもございますので、他のパネリストの方々も発言を希望される場合は、どうぞ手を挙げてください。
Yee Edward Lee： 喜んでお答えしますが、まず一つの事例からお話しさせていただきます。私のFar.aiでのチームの仕事は技術的なAI安全性に多くの時間を割いていますが、その重要な柱の一つが、世界中のフロンティアラボ、そのなかでも主要なラボと協働して、モデルの事前展開テストを行うことでございます。具体的には、モデルを正式リリース前に私たちに先行アクセスさせていただき、私たちがそれをテストし、結果をラボに返したうえで、ともにセーフガードを組み込んでいくという作業です。現在、主要モデルの多くには、こうした私たちの作業を経て組み込まれたセーフガードが入っております。
昨年、私たちが主要なフロンティアAIモデルの一つに対してこの作業を進めていた際、私たちは汎用ジェイルブレイク（universal jailbreak）を発見いたしました。これはどういうことかと申しますと、私たちはそのモデルから望むあらゆる有害な応答を引き出すことができてしまった、ということです。そしてこの発見に要した時間は、およそ80時間ほどでした。注目すべきは、当該ラボがそれ以前に、社内および社外を併せて3,000時間以上の専門家によるレッドチーミングをすでに実施したと公表していたにもかかわらず、防御が破られたという事実です。今日においても、私たちはこれらのモデルの脆弱性や問題点を継続的に発見し続けております。
そして大事な点は、私たちがこれらの脆弱性を発見できた理由は、私たちがテクノロジーから遠く離れていたからではない、ということです。私のチームはむしろベイエリアに、さらには世界中のテックハブに深く根を下ろしております。それでもなお発見できたのは、私たちが極めて異なる視点と問いから出発したからにほかなりません。すなわち、これらのモデルをいかに構築するか、いかに出荷するか、いかに多くの人々や高い利用率まで届けるか、という問いではなく、これらのモデルを通じて人々のために何ができるのか、そして人々に対する潜在的なリスクや害は何か、悪用の余地はどこにあるのか、という問いから出発したのでございます。
3.2 「構築先行」と「リスク先行」という思考順序の根本的相違と小国の構造的優位
Yee氏は、この視点の違いがそのまま大国と小国の構造的相違に重なると論じ、そこから「安全性ファースト」の設計思想を導きました。
Yee Edward Lee： ここで興味深いのは、私たちが採用した視点が、まさに小国やLMICsが自然に、あるいは必然的に持たざるを得ない視点と重なるという点です。なぜなら、彼らはフロンティアで構築する立場にはないからです。そのため、彼らに対する第一の問いは、このテクノロジーを構築すべきか否か、どんなテクノロジーを構築すべきか、ということではあり得ません。それは彼らが答えられる問いではないのです。代わりに、突きつけられる問いはこうなります。「このテクノロジーをいかに自国民の利益につなげるか」「このテクノロジーのリスクをいかに最小化するか」と。これは、より大きな問題、すなわちこの分野全体がどう動いてきたかという問題を浮き彫りにいたします。
大国、つまり米国、中国、おそらくは欧州においても、フロンティアラボを抱える側の即座の発想は「まず構築しよう、問いは後でよい」というものでございます。ガードレールやリスクといった問いは後回しになるのです。しかし小国はそのように動くことができません。動けないから、まず問いを立てるしかない。「このモデルは何ができるのか」「どこで失敗するのか」「自国民や家庭にどのような責任や負担を負わせ得るのか」「展開する前に要求すべきことはないか」と問うのです。もちろん、ここには国家としての対応能力の不足という別の問題もございますが、リスクと安全性をまず考え、展開はその次、というこの順序こそが、分野全体が採用すべきものだと私は考えております。だからこそ、大国が小国から学べることがあるのです。一部の小国はこのアプローチを採用せざるを得ない立場に置かれた結果、ガードレールや安全性を草の根レベルで思考することや、人々への実際の便益を考え抜くことに先んじて取り組んできており、ここから学ぶべきものは数多くございます。
Annan氏はこの議論を受けて要点を整理し、ローカルモデルや学習能力を考えるだけでなく、輸入されるモデルが学習データに起因する構造的脆弱性を抱えているという認識のもと、安全性とリスクを先に考えてから自前のモデルを構築するアプローチが小島嶼国にとっても有益であろうとまとめました。これに対しEl Madhi氏が短く発言を加えております。
El Madhi Mona Nabil： 短く申し上げます。Yeeさんが述べたことに完全に賛同いたします。これは私たちが直面している主要な誘因の一つでもございます。私たちはAI技術を統治する側に立つというよりも、それを利用する側にとどまってしまっているのが現状です。大国が小国の代わりにそのような統治の役割を果たしてくれるのであれば、それは大いに助けになります。なぜなら、パレスチナを含むグローバルサウスの多くの国々にとって、AIの採用そのものが非常にコスト負担の大きい行為だからでございます。
このやり取りを通じて、第3章で焦点となっていた「安全性ファースト」という思考順序の問題が、小国側の能動的な選択ではなく構造的に押し付けられた条件であること、そしてそれゆえに大国側にとっての学習源となり得ることが明確に位置づけられたのでございます。
第4章 言語的多様性・文脈感受性と公共サービスへのAI統合課題
4.1 アラビア語のトークン非効率と中東諸国（サウジ・UAE・カタール）の独自LLM動向
Annan氏はEl Madhi氏の冒頭発言で触れられたアラビア語のトークン消費の問題を取り上げ、言語と公共サービスへのAI統合という論点へと議論を展開しました。
Annan Craig： El Madhiさん、興味深い論点を冒頭で挙げていらっしゃいました。アラビア語の場合、おそらくそこに含まれるトークン数の関係で、プロンプティングのコストが他言語より高くなる、という話です。そこでお尋ねしたいのですが、公共サービスシステムへのAI統合とAIの普及を、こうした言語の使用を踏まえて、長期的に持続可能で、地域の言語的多様性と人口動態を代表する形にし、AIの精度、信頼性、文脈的認識を改善していくにはどうすればよいでしょうか。これは公共サービスにおける体系的な差別や不正義を回避することにもつながる問いでございます。
El Madhi Mona Nabil： まさに言語そのものが、私たちが現在直面している主要な課題の一つでございます。第一に、モデルがそもそもアラビア語向けに学習されていないという問題があり、それにもかかわらず多くの人々がアラビア語でプロンプトを実行しているのが現実です。しかも彼らは、その背後で実際に何が起きているのかを自覚しておりません。一つの方策は、大規模言語モデルをアラビア語のデータで豊かにしていくことです。実際、いくつかのアラブ諸国がこれに取り組み始めているのを私たちは目にしております。たとえばサウジアラビアは膨大な量のアラビア語データを学習させた独自の大規模言語モデルを持つに至りました。UAEやカタールでも同様の動きが見られます。こうした動きがアラブ諸国で起きているのです。私自身は、パレスチナのような国はむしろこれらの大規模言語モデルへ自らをプラグインさせていくべきだと考えております。米国や中国、その他で既に開発されたモデルにそのまま依存する道へ戻るのではなく、地域の取り組みに接続していく道を取るべきだ、という立場でございます。
4.2 文脈非対応モデル・人間監督欠如・アカウンタビリティ不在と協業の必要性
El Madhi氏は続いて、言語の問題が単なるトークン効率の問題にとどまらず、公共サービスにおけるバイアス、文脈非対応、人間による監督の不在、そしてアカウンタビリティの欠如へと連なる構造的問題であることを論じました。
El Madhi Mona Nabil： 公共サービスに関して申しますと、バイアスに加えて主要な課題は、これらのモデルの多くがそもそも文脈を理解していないことです。私たちパレスチナ人が日々直面している現実の問題や課題、そして私たちが必要としているサービスをモデルは理解しておりません。私たちがモデルとどのように対話するか、どこから来ているかという文化的感受性に対しても、応答はなされないのです。さらにそのうえに重なるのが、これらのツールがどう使われているかについて、人間による監督が存在しないという問題です。私が行ってきた調査の中で、政府、民間部門、教育のいずれのエコシステムにおいても、データがこれらのモデルによってどのように処理され利用されているかについての認識と理解は、いまだ十分ではないということが明らかになってまいりました。
公共サービスについて議論するのであれば、政府の職員、あるいは専門家が、プロセス全体を監督できる、出力がそうなった理由を説明できる立場にあることを保証しなければなりません。さらにそのうえに、法と規制の専門性を持つ人々の存在も必要となります。冒頭で申し上げたとおり、データのプライバシーと保護に関する制度はいまだ整っておりません。出力を正当化できず、誰にも責任を問えない状態のまま、AIを用いた公共サービスをどうやって立ち上げるというのでしょうか。アカウンタビリティと責任の問題はここから派生してくるのです。
別の言い方をしますと、私たちはモデルを豊かにしていくことを単独では到底担えません。時間的にも、金銭的にも、電力的にも、極めて高くつきます。加えて、たとえばパレスチナのような文脈では、AIモデルを動かすためのハードウェアを調達する能力も持ち合わせておりません。これも一つの大きな苦闘でございます。そこから抜け出す一つの道は、フロンティアラボを擁する大国との大規模な協業を始めることであり、その意味で私はYeeさんに100%同意いたします。
Annan氏はこの整理を受け、多くの課題が浮上したこと、そして一つの突破口がフロンティアラボを抱える大国との協業を通じたデータセットの拡充である点を再確認しました。本章で扱った言語的多様性と公共サービス統合の問題は、その後の章で論じられる調達、データ主権、グローバル協調といった論点へと連なっていく前提となる議論でございます。
第5章 AI調達ポリシーと統治メカニズムの空白
5.1 Global Index on Responsible AIと南アフリカのドラフトAI政策撤回事件
Annan氏は議論の方向性を、ここまで比較的発言の少なかったAdams氏に向けて転じ、AI採用がAI開発を上回る速度で進む国々において、調達ポリシーと実務の最大の課題は何かを問いかけました。
Annan Craig： 多くの国においてAI採用の速度はAI開発の速度を上回っております。小国と低中所得国におけるAI調達ポリシーと実践において、もっとも大きな課題はどこにあるとお考えでしょうか。
Adams Rachel： ありがとうございます。私たちが直面しているおそらく最大の課題の一つは、これらのシステムをどのように調達するか、そして社会のためにその利用をどのように保護するかを統治する、意味あるガバナンスメカニズムが欠如しているという点でございます。私たちはGlobal Index on Responsible AIという研究を実施しており、その第二版は7月のAI for Good Summitで公開・発表される予定です。この研究は世界135カ国における責任あるAIガバナンスの取り組みを測定するものです。カリブ海地域のほとんど、アフリカ、アジア、ラテンアメリカの大部分、そして世界の他の地域も対象に含めており、政府が何をしようとしているか、そしてその意図と実際の実装との間にあるギャップを把握する、現時点でもっとも世界的に代表性のある研究でございます。
調達の問題について申しますと、これは現在の南アフリカにおいて極めて切迫した現実の論点となっております。南アフリカは現在、ビッグテックからAIインフラへの大規模投資について交渉を進めているところでございます。世界中の多くの国も同じ立場に置かれております。先週、ちょうどこの種の交渉を統治するはずだったドラフトのAI政策が公表されたのですが、週末のうちにこの政策は撤回されました。理由は、文書内にAIが生成した架空の参照文献が含まれていたことが判明したからでございます。私はこの件について論考を発表しております。AI生成の架空参照が政策の信頼性を損なったという事実そのものも問題ですが、より大きな問題は、AIの公共調達を、南アフリカや世界の他の多くの国々に資する形で統治し条件を定めるためのガバナンス枠組みがいまだ存在していないという点なのです。
5.2 西アフリカのテロ組織AI利用とAmino Health Labsのバイオ兵器特定実験
Adams氏は続いて、ガバナンスの空白はAIの悪用に関する論点でも顕在化していると指摘し、二つの具体的な研究事例を提示しました。
Adams Rachel： もう一つの論点として挙げたいのが、AI安全性に特化したガバナンスメカニズムの欠如です。グローバルサウスと呼ばれる地域の国々は、これまで普及とポジティブなユースケースに極めて強く焦点を合わせてまいりました。その結果、これらの文脈においてAIがどのように悪用され得るかという問いは大きく後回しにされてきたのです。まもなくケンブリッジ大学（言及上はUniversity of Cape Cambridgeと述べられました）に所属する研究者から、西アフリカにおけるテロ組織によるAI利用に関する非常に興味深い研究が公表される予定です。これは何が起きているかをより深く理解するのに役立つ研究になるでしょう。
加えて、ガーナのアクラに拠点を置き、大規模言語モデルを用いて医療技術を開発しているAmino Health LabsというAI企業が公表した素晴らしい研究もございます。この研究では、ジェイルブレイクを防ぐための技術的パラメータ、すなわちセーフガードを取り外し、モデルが破壊的な用途に使われないようにしている制限を外して何が起きるかを検証いたしました。その結果、当該モデルは、現地に固有の生物剤を特定し、それが生物兵器の作成に利用され得ることを示す能力を有していたのです。こうした問題は、グローバルサウスにおける主要なガバナンスの議論から大きく抜け落ちているように私には感じられます。AIがいかに有益たり得るかを積極的に考えるのと並行して、こうした極めて深刻なリスクにも取り組まなければ、大きな問題が生じてしまうでしょう。
5.3 社会給付不履行判例から導かれる民間調達企業のアカウンタビリティ枠組み
Annan氏は議論をテロ組織による悪用の事例から、より広い調達実務の改善という問いへと戻し、調達慣行をどう変えていくべきかをAdams氏に重ねて問いました。
Annan Craig： Adamsさんのご指摘で響いたのは、AIの悪用という論点でございました。とはいえ、どの国も何らかの形でAIを調達するか、自ら開発する必要があります。テロ組織による悪用といった極めて深刻な事例を踏まえると、AIへの信頼を高めるために、各国の調達実務はどのように変わるべきだとお考えでしょうか。
Adams Rachel： 論点はいくつかございます。まず、調達プロセスを管理する各国の部局は、これらのモデルの能力を、西洋以外の文脈、特に異なる言語的環境で利用される場合について評価するに足るスキルを必ずしも備えておりません。これらのモデルの能力を測定するための世界的なベンチマークも、世界の多くの地域においては文化的・文脈的に適切とは言えないのが現状です。そこには科学的な遅れがあり、そして政策上の遅れもあるのです。
これに関連するもう一点として、新たに登場しつつあるAI特化型の調達枠組みは、システムの機能性、つまりどの程度うまく動作するかという観点に強く焦点を合わせており、モデルの展開を取り巻く責任の所在をどう確保するかという観点が手薄になっています。AIが失敗したとき、公共部門での利用において誰が責任を負うのか、という問いです。ここで、南アフリカの判例を改めて参照させていただきます。AIに関する事例ではございませんが、ある技術企業が、人口の過半数を大きく超える層が受給している社会給付の支給を支援するために起用されたことがありました。ある時点で同社が給付の提供に失敗いたしました。長い法的プロセスを経て成立した判例は、憲法上、人々には社会保障へのアクセス権が認められており、その権利は民間部門の主体、すなわち起用された技術企業によって履行される場合でも、公共部門の主体によって履行される場合でも、必ず履行されなければならないと判示いたしました。すなわち、権利の履行に責任を負うのは国家だけではなく、その履行のために調達ないし任命されたあらゆる当事者だ、というのが結論でございます。AIシステムが公共部門で大規模に展開される場面、特に重要な基礎的サービスの提供に用いられる場面では、まさにこの種の枠組みを整備していかなければなりません。
Annan氏はこの議論を、規模を伴う形での悪用、そしてアカウンタビリティとガバナンスメカニズムの不在のもとでそれがいかに発生し得るかという問題として要約し、次の論点である調達の文脈から派生するデータ主権の議論へと議論をつなげていきました。
第6章 データ主権とオープンウェイトモデルの両義性
6.1 パレスチナのデータローカリゼーション政策・二重データセンター構想・データエンバシー構想
Annan氏は調達の議論をデータ主権の論点へと接続し、特にオープンウェイトモデルを利用する際の市民の機微情報の保護という観点からEl Madhi氏に問いかけました。
Annan Craig： El Madhiさんに伺います。みなさんの国においてデータ主権は優先事項でしょうか。あるいはオープンウェイトモデルを使う場面で市民の機微情報の露出を防ぐ意味でも、データ主権の確保はそもそも可能だとお考えでしょうか。
El Madhi Mona Nabil： これはまさに現政権が議論している主要な優先事項の一つでございます。データ主権は私たちが国内外の主要なフォーラムで議論する論点となっており、いまや中心的なテーマです。ただし、率直に申し上げれば、私たちはそれを実装するための能力をいまだ十分に持ち合わせておりません。現時点で私たちがデータを保護するために取っている方策は、公共サービスの大半をローカルサーバー上で運用することを義務付けるという形になっております。そして、これは持続可能ではないのです。重複データセンターを設けるという方向への大きな後押しがあり、たとえばパレスチナが取り組んでいるプロジェクトの一つとして、英国に一つ、ヨルダンにもう一つデータセンターを置き、それによってデータを保護しようとしているという事例がございます。とはいえ、これも主権を保証するものではございません。
私が昨年から推進しようとしている考え方が「データエンバシー」という構想です。私たちには法律も規制もなく、ガバナンスもいまだ整っていない、という現実を前提に、いかにしてデータを保護し、データを利用する消費者をも保護していくか。その方策としてデータエンバシーが昨年提案されたのです。アフリカではすでに一部の段階で具体化していると伺っており、ぜひより多くを知りたいと考えております。私たちもこの構想に取り組み、推進しようとしておりますが、正直に申し上げて実装には至っておりません。まだ議論を重ねている段階でございます。現在の状況を踏まえれば、データエンバシーがたとえば欧州のどこかに設置されることが決まれば、国際法によってそれを統治していくという道も視野に入ってまいります。これは私自身、他の地域のみなさんからもぜひコメントを伺いたいテーマでございます。
6.2 DeepSeek V4の2.5時間ジェイルブレイク事例とDefense in Depth剥奪のリスク
Annan氏は他地域の知見を求めて発言を促し、Yee氏がデータ主権そのものよりも、オープンウェイトモデルを選択した場合に発生する安全性の負担という観点から応答いたしました。
Annan Craig： 他の地域でもオンショアでデータを保持することが重要視されているかどうかをぜひ伺いたいです。Yeeさん、そしてAdamsさん、Mbiruさんも、それぞれの取り組みを教えていただけますか。
Yee Edward Lee： データに関する論点、国家戦略、そしてソブリンAIについては、この場の他の専門家に委ねたいと思います。地政学的な側面の仕事は私自身があまり多くしておりませんので。ただ、一点強調したいのは、オープンウェイトモデルは多くの政府にとって大きな魅力を持っているということです。自国のサーバー上に保持でき、自国のデータで訓練でき、ファインチューニングもできる。ある程度「自分たちのもの」にする手段が多く、一定のセキュリティ水準を確保できる可能性もある。これは大きな利点でございます。しかしオープンウェイトモデルを考える際には、もう一つの対比点を見落としてはなりません。かなり硬いトレードオフがそこには存在するのです。オープンウェイトモデルは、少なくとも現時点では、プロプライエタリモデルが備えているガードレールやセーフガードのごく一部しか持っていないのです。
例として申し上げますと、DeepSeek V4が先週金曜日にリリースされました。その日のうち、正確には2時間半以内に、私たちはDeepSeekに対する汎用ジェイルブレイクを三つ発見いたしました。これは簡単に発見できると聞こえるかもしれませんが、プロプライエタリモデルにおいて汎用ジェイルブレイクを発見するのは本来非常に困難な作業です。たとえばあるケースでは、汎用ジェイルブレイクを一つ見つけるのに数千時間を要しました。それにもかかわらず、DeepSeek V4ではほぼ一日のうちに、しかも特段複雑でない手法で発見できてしまった。これは、ある程度のモデルレベルでの拒否トレーニングは入っているものの、本来あるべきdefense in depthスタック、すなわち多層防御の他のすべてが剥がされてしまっていることを意味します。
defense in depthについて少し説明しておきますと、現代のLLMの提供者がモデルに緩和策を組み込む方法は、複数の防御層を構築することにあります。入力フィルタ、モデルの拒否トレーニング、推論のモニタリング、出力フィルタといった具合に、何層もの防御を重ねるのです。技術的詳細には立ち入りませんが、オープンウェイトモデルの場合は基本的にこれらが剥がされてしまっています。セーフガードがそこに存在しないからです。さらに言えば、Adamsさんが先ほど触れたケースのように、文献モデル（refusal training）の再利用にまで遡って剥がさずとも、もとから保護が薄いのが実情でございます。
つまり、ある国が主権を選び、オープンウェイトモデルを自国のサーバーや私的な利用で動かすことを選ぶとき、その国はそもそも本来であればプロプライエタリモデル側で守られているはずの安全性の負担を、自ら引き受けることになるのです。だからこそ、オープンウェイトモデルを採用する国は、自国の緩和策スタックがどのような形になっているかを考え始めなければなりません。独立した評価、テスト、レッドチーミングの能力をどう確保するか。それを自国にとって望ましい水準にまで引き上げられるかどうか。多文化・多言語の課題（MCML：multicultural and multilingual issues）にきちんと配慮できるかどうか。そして、これらのガードレールと多層防御スタックを構築するための国内の能力をどう見出すか、という問いに直面することになります。
その負担の一部は当該国自身が担うことになります。同時に一部は、調達ポリシーを超えた他のレバーをどう動かすかという問題にもなります。政府が国境内でAIを規制する際に使えるレバーは実は数多くございます。たとえ小国であっても、地政学的にそれほど大きな影響力や強さを持たないように見えても、オープンウェイトリリースに関する開示基準を設けることは可能です。そうすれば、企業や他の国が一定のベースラインの情報を起点に作業を進められるようになります。ですから、データ主権そのものを単独で議論するのは全体像を捉えきれていないのです。それに付随する安全性のことまで考えなければなりません。そして多くの場合、オープンウェイトモデルを選ぶということは、その安全性の確保を自家負担化することを意味するのでございます。
第7章 オンデバイス展開とフロンティアモデルアクセスの現実的ギャップ
7.1 Kene AI Labsのオンデバイス小規模言語モデル展開戦略と農村部ユーザー体験
Annan氏は、データ主権と安全性のトレードオフという論点を踏まえ、他地域における具体的な実装の在り方を尋ねるべくMbiru氏に発言を促しました。
Annan Craig： 私としてはぜひ他の地域の話も伺いたいと思います。Mbiruさん、まずあなたからお願いできますか。市民の機微情報の露出を防ぐという観点で、データをオンプレミスで保持しておられるのか、あるいはオープンウェイトモデルにどのようにアプローチしておられるのか、感覚を教えていただけますでしょうか。
Mbiru Kato Steven： 先ほどの議論で既存のインフラとともに仕事を進めるという話に触れましたが、私たちの場合、率直に申し上げて、利用者データを何かのために必要とする場面そのものがほぼございません。アフリカではそもそも利用者データに収益化価値が存在せず、規制も地域ごとに異なるため、データを収集すること自体が、その分野に参入しようとするスタートアップにとって大きな負担となるのが現実なのです。そのため私たちは、モデルを量子化して端末上で動作するようにし、応答や処理のためにインターネットを必要としない形に仕上げております。
これはアプリケーションの作り方にある程度の制約を課しますが、量子化を進めれば進めるほど効果は大きくなります。10億パラメータや2億3,000万パラメータといった規模、たとえばGemmaモデルや、NVIDIAの各種モデル、Quora AIのモデルなどを量子化すれば、まずデータを収集する必要がなくなりますし、どこかでホスティングする必要もなくなります。必要なのは、そのモデルを動かせる端末だけです。これが現在私たちが取っているアプローチでございます。APIエンドポイントは持たず、私たちが「オンデバイス・スモールランゲージモデル展開」と呼ぶ手法を、すべての業務において採用しております。コスト効率が高く、データがユーザーの端末から外へ出ないため規制にも適合し、ユーザーも満足してくれます。
興味深いのは、村にいる方々の多くはそもそもAIをあまり理解しておりません。それでも「自分の言語で応答してくれる」と感じてくれます。さらに「機内モードにしてみてください」と伝えると、それでも動くのです。そこで初めて、本物の喜びの表情に出会えます。農家の方であれ、教師の方であれ、「すごい、データ通信もいらないし、インターネットもいらない、自分の情報もどこにも送られない」と感じてくださる。私たちにとって、まさにそこに魔法があり、私たちが深く掘り下げて取り組んでいるのもその一点でございます。データへの対応はこのように行っているのです。
7.2 10億と1兆パラメータの能力差・アフリカのデータセンター構築制約・Gemma 4の動向
このオンデバイス戦略に対し、Yee氏は能力差の観点から重要な留保を加え、ここからフロンティアモデルへのアクセスを巡る具体的なやり取りが展開されました。
Yee Edward Lee： 一点申し上げてもよろしいでしょうか。今のお話は本当に素晴らしく、絶対に必要なことだと思います。ただ、ここで語られているのはフロンティアの能力ではないという点も押さえておかなければなりません。10億パラメータのモデルを見ているわけですが、今日この時点で、DeepSeekから1兆パラメータ規模のモデルがリリースされている状況にあるのです。この能力差は文字どおり夜と昼ほどの違いです。やがてそうした能力が草の根レベルにまで降りてくる時点が来るでしょう。それはまだかなり先の話だと思いますが、草の根レベルにそれが到達したとき、本当の危険が見え始めるのです。私が示唆していた危険とは、10億パラメータのはるかに小さいモデルから生じる類のものではなく、まさにそうしたフロンティア級の能力が広がってきたときの危険でございます。
Annan Craig： 整理すると、Mbiruさんがおっしゃっているのは、現時点での狭いインテリジェンスの範囲、すなわち各国が実際に使う水準のものは、国内で構築し消費者レベルで利用できる、というお話ですね。一方Yeeさんがおっしゃっているのは、汎用知能を備えたフロンティアモデルがあり、それを各国内でホストすることはできない、という趣旨と理解してよろしいでしょうか。
Yee Edward Lee： いえ、モバイル端末上にはホストできない、という意味です。
Annan Craig： モバイル端末上にホストできない、ということですね。
Yee Edward Lee： はい、データセンター上であればホストできます。フロンティアモデルについて補足しますと、LMICsやSIDSは独自のフロンティアモデルを持つことはないでしょうが、オープンウェイトのフロンティアモデルをホストすることは可能です。Mbiruさんの例で挙げられた個々の小規模農家がそれを携帯電話でホストすることはできませんが、たとえばケニアにデータセンターが建っていれば、そこで比較的容易にホストできるのです。
Mbiru Kato Steven： 一点だけ補足させてください。アフリカ大陸にいる方ならご存じのとおり、現状ではAI向けのデータセンターを建設すること自体が極めて困難なのです。電力の問題があり、関連機材の購入に関する制約があるからです。私たちのチームはアフリカで初めてDGXを購入できたチームです。しかしこれもインセプションプログラムに参加していたからこそ可能だったのであって、アフリカからこうした機材を調達することは現状では本当に難しい作業です。私たちもそれを持ち込むまでに何段階もの手続きを経なければなりませんでした。
ですから、写真のうえではアフリカの政府もフロンティアモデルを持ちたいと思っているように見えるかもしれません。しかしこれらのモデルが要求するリソースという問題があります。アフリカでは既存のデータセンターが電力やエネルギーを圧迫しているのが現状です。だからこそ、好むと好まざるとにかかわらず、必要が私たちを携帯電話へと向かわせるのです。データセンター型のモデルに挑戦して資金を燃やしながら、収益を上げられないでいるスタートアップを数多く見てまいりました。アフリカ大陸においては、このモデルは現状うまく当てはまらないのです。
だからこそ私たちがDeepMindにフィードバックを返すと、Gemma 4のようなプロダクトに反映されていきます。Gemma 4はマルチモーダルであり、エージェント型AIをスマートフォン上で動作させるよう設計されているのです。もしDeepMindがこの話を聞いて、オープンモデルの方向性を、スマートフォン上で動作しエージェント機能を提供できるものへと舵を切っているのだとすれば、それは彼らが市場全体を取りに行きたいということ、そしてギャップに気づいたということを意味します。AI Hubには130のスタートアップが集まっており、私たちは大陸全体で常に同じ課題を目にしております。チュニジアであれ、ナイジェリアであれ、東アフリカであれ、南アフリカであれ、同じです。何らかの形で、彼らはフロンティアの仕事を担うことができません。政府の支援を得ても、資金がまだそこまで届いていないのです。これには時間がかかるでしょう。
Annan Craig： Yeeさん、これに対していかがでしょうか。
Yee Edward Lee： あまり押し返したくはないのですが、オープンウェイトモデルの一つを動かすのにデータセンターは必要ありません。推論コストは高くはありますが、極端に高いわけではないのです。確かに大半の人々のモバイル端末では動きませんが、ラップトップ上であれば動かせます。私自身もいくつかのオープンウェイトモデルを自分のラップトップで動かしております。小規模な政府であっても、フロンティアモデルを動かすに足る計算資源は十分に存在するのです。そうなると問いは、これらのオープンウェイトモデルが展開されたとき、そこから生じるリスクは何か、という点に移ってまいります。
Annan氏はこのやり取りを、能力・アクセス・開発・モデルの実行という側面と、安全性という側面を同時に語ることの難しさとして要約しました。フロンティアモデルが悪用へと近づいていく状況において、アクセスと安全性のあいだの均衡をいかに取るかという問題は、リソース制約を抱えるLMICsとSIDSの文脈においてとりわけ重い問いとして残されることになり、議論はここからグローバルな協調と規制のハーモナイズという次の論点へと移っていったのでございます。
第8章 グローバル協調と技術的標準化の可能なライン
8.1 「意味ある主導」を求めるグローバルサウスと相互運用フレームワークの幻想
Annan氏は、市民を保護するための規制という観点から、小国がいかにしてグローバルに協力し、調和の取れたAI安全規制と技術的知識の共有を実現できるかをAdams氏に問いかけました。
Annan Craig： 規制とは市民を守るためのものでございます。では小国はどのようにグローバルに協力して、調和の取れたAI安全規制を作り、技術的な知見を共有していけばよいのでしょうか。Adamsさん、この問いはあなたに伺いたいと思います。
Adams Rachel： Annanさん、本当に魅力的な議論で、私自身は技術の専門家ではないので、皆さんの話から多くを学ばせていただいております。Annanさんはまさに、世界の周縁化された地域から来た方々がこうしたグローバルな議論にいかに参加しにくいかを誰よりもよくご存じの立場にいらっしゃると思います。そして実のところ、この問題はしばしば「代表性（representation）」として枠付けられてしまうのですが、本当に必要なのは、こうした地域から来た人々が議論とアジェンダを意味ある形で主導し形作っていけるようにすることなのです。
これには多くの実務的な配慮が必要となります。私は最近、LMICsの方々をこうした議論にどのように代表させるべきかを考えている西側諸国の政府関係者と多く対話しております。答えは率直に申しまして、参加に資金をつけてほしい、ということです。本当に実務的な話なのです。世界各地のさまざまな国からチームを送り、すべての異なるセッションに参加できるよう、十分な資金と支援が確実に届くようにしてほしいということでございます。なぜなら、これらのグローバルフォーラムで起きていることは、十分に資源を持つ国々はあらゆる分野ごとにスペシャリストからなるチーム全体を伴って参加し、それぞれの異なる会合に座っているという現実です。一方、世界の他の地域から同じことを行う能力は、決して同等ではないのです。ですから、これは構造的かつ実務的・物質的な問いの集合体だと申し上げたいのです。
もう一点付け加えますと、現在グローバルサウスからの主導が実は非常に多く起きているということを認識することも重要でございます。国連の科学パネルにアフリカ大陸全体から非常に多くの専門家が任命されたのを目にして、私たちは大いに喜びました。これは長年にわたって主導的な研究を続けてきた方々であり、この点においては私たちは非常にうまくやっていると言ってよいと思います。
ただし、もう一つ申し上げたいのは、グローバルガバナンスは往々にしてAIを統治するための「相互運用可能なグローバル枠組み（interoperable global framework）」へと向かおうとしているという点です。私はこれは絵に描いた餅だと考えております。相互運用可能な枠組みというのは、しばしば最も支配的な国々と最も支配的な視点の枠組みがそれ以外のすべてを規定してしまうことを意味するからです。私たちはすでに、欧州連合の一般データ保護規則（GDPR）が世界の他の地域のデータフローに及ぼした余波を目の当たりにしてまいりました。AIガバナンスは、最初に想定されるよりもはるかに分断的（fragmented）であると私は考えております。なぜなら世界の国々はそれぞれ非常に異なる優先事項を持ち、市民を守る仕事を担う組織や文脈もそれぞれ大きく異なるからでございます。
私が常に考えているのは、AIが政府による統治の仕事、すなわち自国のコミュニティ、市民、社会の繁栄を守り確保する仕事の能力をいかに掘り崩しているか、という問いです。これはますます主権を巡る決定的な問いになりつつあります。先ほどデータ主権について議論しましたが、より大きな主権の問いがあります。それは、市民の最善の利益のため、また正当に選出された市民の代表として、統治する国家の権力と能力をめぐる問いです。ビッグテック企業が世界各国のガバナンス体制を形作る力を増していることで、こうした国家の根本的な主権能力が掘り崩されつつあることを私は懸念しております。これは中心的に考えるべき問題だと思います。各国がグローバルガバナンスのフォーラムに参加する際には、強い国家主権の立場から参加できるようにしなければなりません。特定の強国に都合のよい国際法やルールのセットに従わざるを得ない立場で参加するのではなく、です。
8.2 評価方法論・開示基準・インシデント報告のハーモナイズ可能領域と地域固有領域
Annan氏はこのAdams氏の主権論を受けて、技術的なレベルで本当に調和（ハーモナイズ）してよい領域とは何か、そしてローカルかつ文脈依存のまま残すべき領域は何かをYee氏に問いました。
Annan Craig： Adamsさんの発言を踏まえると、技術的なレベルで真に調和を取るべきものは何で、ローカルかつ文脈依存のままにしておくべきものは何でしょうか。グローバルに調和された相互運用可能な枠組みという論点に照らして、Yeeさんに伺いたいです。
Yee Edward Lee： Adamsさんに完全に同意いたします。国家の能力に資金をつけ、世界中の規制当局や政府が、特にローカルな文脈においてこれらのテクノロジーのリスクを理解できるようにし、この技術をどう規制するかを思考するための枠組みを彼らに提供しなければなりません。私たちも実際に世界各国の政府と協働し、テクノクラートとともにリスクモデリング、レッドチーミング、そして特定のレベルや閾値がどのような姿になるかを真剣に考える作業を進めているところでございます。
それと同時に、私には標準化やグローバルなハーモナイゼーションについて譲れない立場もございます。ただ、産湯と一緒に赤子を流してはならない、という側面もあります。ある領域においては、ハーモナイゼーションが意味を持つのです。私たちは過去にもこれを見てきました。医薬品の世界ではFDAの規制があり、これが高額なRCTを実施するうえで世界にとって大きな恩恵となってまいりました。航空機の機体に対するFAA認証もそうですし、銀行規制ではバーゼル合意があります。各国がそれぞれの「ベスト」を取り出してローカルに適応させるとしても、これらは大いに有用であり続けてきたのです。
問題は、何を適応させ、何を適応させないか、ということです。技術的なレベルで世界中に調和させ得るものがいくつかあると考えております。第一に、評価とテストです。ただし評価とテストそのものではなく、その方法論です。私たちのチームが実際にフロンティアモデルにレッドチーミングを行う際には、特定のプロセスを通ります。まず防御の構造がどうなっているか、防御が配置されているかどうか、そしてその多層化を確認し、各防御層を貫くためにいかに攻撃を多層化するかを考えます。次に脆弱性がどの程度危険かを評価し、その後ラボと協働して改善していきます。これは、たとえばCBRN、Adamsさんが触れた生物兵器をテストする場合であれ、サイバーをテストする場合であれ、メンタルヘルスをテストする場合であれ、いずれも大まかには同じ階梯（ladder）に従います。ですから、この方法論は転用可能であり、ここに標準を設けることが可能なのです。
第二に、開示基準（disclosure standards）でございます。フロンティアラボがどの程度の情報を実際に開示しているか。モデルカードの分量は、Anthropicの200ページ以上にわたるものから、特に大規模なオープンモデルではほぼゼロのものまで、極端な幅があります。何を開示すべきかをある程度ハーモナイズすることは可能ではないでしょうか。たとえば国際財務報告基準（IFRS）は、「会計のやり方は違ってもよい、GAAPもIFRSもある、しかし少なくともこれらの項目は開示してください」と求めるうえで非常に有用でした。数字をどう操作するかを指示するわけでも、特定の金融規制を強制するわけでもなく、一定の項目の開示だけは求める。同様の発想が応用できるはずです。
第三に、所見の認識をめぐる一定のハーモナイゼーションです。脆弱性が発見された場合、あるいはインシデントの報告が発生した場合、それを世界中でうまく共有していくことができます。
一方で、ハーモナイズすべきでない領域もあります。言語はその一つで、文化もまたその一つです。私はインドのAI Impact Summitに参加した際、インドのAI Seatの立ち上げを支援しているKalikaから非常に興味深い話を聞きました。インドでは胎児の性別を判定することは違法であると。しかし今では、超音波画像をアップロードすればどのみち情報を得られてしまう状況になっており、違法なのは医師がそれを行うことだけ、という形になっているのです。では、ローカルな慣習や規制をどうやって守るか。同じことがインドのカースト制度についても言えます。害が生じないよう、害が実行されないようにするために設けられるべき仕組みは、地域ごとに異なるのです。
ですから、世界中で十分に調和可能で国境を越えて転用できる技術的な事柄もあれば、ローカルに固有のままとすべき領域もあるのです。小国の立場からすると、何を自国で内製化しないで済ませるか、どこに技術的な負担を自国に課すか、そして自国の特定の文脈にとって極めて重要であり、自分たちにしかできないがゆえに内製化すべき領域はどこか、を戦略的に思考する必要があるということでございます。
第9章 パネリストによる結語とクロージング
9.1 各パネリストの最終コメントとモデレーター総括
Annan氏はセッションがEST午前11時に達したことを告げ、残された時間で議論が「グローバルからローカルへ」と移動してきた流れを総括するため、特にまだ最後の発言機会を得ていなかったEl Madhi氏とMbiru氏に短く最終コメントを求めました。標準、プロトコル、政策、インフラの観点から、こうした選択肢を支えるために必要なものについて触れてほしいとの依頼でございました。
Annan Craig： 私のいるEST時間で午前11時となりました。少し時間を超過しておりますが、El MadhiさんとMbiruさんにこれまでの議論を踏まえた最後のコメントの機会を、ぜひお渡ししたいと思います。グローバルからローカルへと議論が移ってまいりましたので、標準の観点、あるいはこうした選択肢を支えるために必要なプロトコルや政策、インフラの観点から、もし可能であれば10秒ずつでお話しいただければと思います。El Madhiさん、まずレディーファーストでお願いいたします。
El Madhi Mona Nabil： 手短に申し上げます。私はグローバルな協力こそが前進の道だと信じております。本日の議論がそのような方向に展開していったことを大変嬉しく思います。これは私たちが今まさに取り組むべきテーマでございますし、グローバルなデータがその出発点となり得ます。そして、グローバルサウスや低資源国の声が実際に議論の一部になるよう、強く後押しする必要があると確信しております。Adamsさんが指摘してくださった点、すなわちこれらの声を議論の場に持ち込み、専門性が不足している国々への知識移転を支援するという論点を、私は本当に大切に受け取りました。本当にありがとうございました。
Annan Craig： ありがとうございます。Mbiruさん、最後の言葉をお願いいたします。
Mbiru Kato Steven： はい。アフリカの現場で活動するイノベーターとして申し上げます。AI Hubのアプローチに倣い、エコシステムの現場へ足を運び、エコシステムそのものを後押しし、そこにいる若い人々にリソースを渡し、イノベーションを実行させ、こうしたものを作らせる、そして彼らがある程度の成果を出した段階で、その成果に対して規制をかけていく、という順序を取るべきだと考えております。さらに申し上げたいのは、アフリカにおける展開の仕方は他の地域とは完全に異なるものになる、ということです。アフリカは固有の問題を抱えており、多くの国があり、多くの文化があり、多くの言語があり、断片化されており、時間の経過とともにこれから統合へと向かっていく場所です。ですからアフリカでの展開はまったく異なるものとなるのです。サーバーやデータセンターに載せれば済むように見えるかもしれませんが、地上ではアフリカはそのように動きません。アフリカは他の地域からの想像とは完全に異なる場所であり、ここに来て自ら試し、見てみるのは素晴らしいことです。ありがとうございました。
Annan氏は閉会に向かい、本パネルを実現させたITU、UNDP、AI Hub for Sustainable Developmentに改めて謝意を述べたうえで、議論全体から浮かび上がった要点を整理いたしました。
Annan Craig： このパネルディスカッションから出てきてほしい成果の一つは、グローバルサウス同士、あるいはSIDSとLMICs同士のさらなる協力でございますし、私たちはグローバルな協力を志向しているということも本日の議論で確認できたと思います。私にとって特に印象に残ったのは、各国がまず実験を行い、自国内の能力を構築したうえで、それを混ぜ合わせていくべきだ、という点です。これは国家の根本的な主権的能力を築くことにつながるため、極めて注目すべき発言でした。もう一つ浮かび上がったのは、AIの悪用の場面においても意味あるガバナンスメカニズムが必要だという点であり、私たちはSIDSとLMICsからの「代表性」を求めているのではなく、こうしたテーブルにおける「意味ある貢献」を求めているのだ、ということでございます。パネリストの皆さま、本当に素晴らしいご貢献をいただき、心より感謝申し上げます。
9.2 視聴国紹介とNeural Networkでの対話継続案内
Annan氏は続いて、本セッションの視聴者層を共有することで、議論が掲げたグローバル協力の理念が会場そのもののなかで現に体現されていることを示しました。
Annan Craig： 視聴してくださっている皆さまにも感謝を申し上げたいと思います。本日は技術標準に関わるメンバーからの質問を一件いただきました。視聴者の所在地としては、イタリア、米国、スイス、英国、ブラジル、トルコ、ガーナ、ネパール、メキシコ、ベネズエラ、ギリシャ、南アフリカ、ドイツ、フィリピン、オーストラリア、日本、ジンバブエ、インドからご参加いただいております。私たちはグローバルな協力という方向へ、確実に近づきつつあるのだと思います。お越しくださり、議論してくださった皆さまに改めて感謝申し上げます。それでは閉会といたしまして、Anna Rabasaに進行をお渡しいたします。
最後にAnna Rabasaがクロージングのアナウンスを担い、視聴者に対して引き続きNeural Network上での対話を進めるよう案内が行われました。本日のAI for Goodセッションに参加してくれたことへの謝意が述べられ、ライブビデオウォール上で質問やコメント、いいね、リンクの共有、ポール（投票）への回答、興味深いプロフィールとのつながり、そしてチャットおよびビデオ機能を用いた一対一の対話を続けることが奨励されました。あわせて、ロビーの探索、Smart Matching Quizへの挑戦、バーチャル展示や掲示板、e-shopの閲覧、そして個々人に合わせたAI for Goodプログラムの構築といった案内が行われ、AI for Goodの未来を共に形作っていこうという呼びかけをもってセッションは閉じられたのでございます。