※本記事は、ITU主催「AI for Good」サミットで開催されたパネルディスカッション「Viral vs. verified: Media's role in the misinformation era」の内容を基に作成されています。AI生成コンテンツがフィードに氾濫し、誤情報が光のような速さで拡散される時代において、「何が真実か」を定義するのは誰なのか――本セッションでは、TikTokのインフルエンサーとメディアの専門家たちが集い、バイラル性、検証可能性、そして人工知能が交わる、強力でありながら危ういその交差点を検証しました。ディープフェイクからアルゴリズムによる増幅まで、AIがコンテンツ制作、メディアへの信頼、公共的言論をどのように再構築しつつあるのかを掘り下げる、ハイエネルギーな対話となっています。
登壇者は、Kytabu Inc.創業者のTonee Ndungu氏、ジャーナリスト・著者・クリエイターでありViralect創業者のSophia Smith Galer氏、Umanitek共同創業者のTomaz Levak氏、Brand Nat創業者のNatalie Choprasert氏の4名です。モデレーターはGZERO MediaのGlobal Chief Content OfficerであるTony Maciulis氏が務めました。
「AI for Good」は、革新的なAIの応用を見出し、スキルと標準を構築し、グローバルな課題を解決するためのパートナーシップを推進する取り組みです。ITUと50を超える国連パートナーが連携し、スイス政府との共催で組織されています。本セッションの詳細情報および「AI for Good」のネットワーキングコミュニティについては、 https://aiforgood.itu.int/neural-netw... をご参照ください。
本記事では、パネルディスカッションの内容を要約しております。なお、本記事の内容は原著作者および登壇者の見解を正確に反映するよう努めていますが、要約や解釈による誤りがある可能性もありますので、正確な情報や文脈については、オリジナルの動画をご視聴いただくことをお勧めいたします。
1. パネル開幕と4名の登壇者の背景紹介
1-1. モデレーターによる呼び込みと簡単な紹介
パネルディスカッションは、モデレーターが4名のパネリストを順に壇上へ呼び込むところから始まりました。最初にSophia Smith Galerが「ジャーナリストでありVirality創業者」として紹介され、続いてNatalie Choprasertが「AI教育者であり、brand nutというプラットフォームのコンテンツクリエイター」として呼び込まれます。さらにThomas Laycockが「Humanity TechとOriginTrailの共同創業者」として、その背後には「信じられないほど魅力的な物語がある」と添えて紹介されました。最後にTony Ndunguが「Kitabu Inc.の創業者」として登壇します。
モデレーターは「事前に全員と話す機会があったので、これは皆さんにとって本当に魅力的な対話になるはずです」と切り出した上で、「ただし冒頭の私の紹介だけでは、彼らがどんな人物で、なぜここにいるのかを伝えきるには到底足りません」と率直に語り、各パネリストに「あなたは誰で、なぜここにいるのか」を自分の言葉で簡潔に説明してもらう形式へと移していきました。この導入の流れにより、議論本編に入る前に、4人それぞれが持ち寄る異なる視点と経験の輪郭が浮かび上がる構成となりました。
1-2. Sophia Smith Galer――英国のTikTokジャーナリズム開拓者であり、Sofiyanaアプリ創業者としての経歴と多言語学習者としての側面
Sophia： 私はSophia Smith Galerと申します。英国出身のジャーナリスト兼コンテンツクリエイターで、英国人とイタリア人のハーフ、いわゆる「Britalian」です。これまで母国でTikTokジャーナリズムを切り拓いた功績によって、複数の賞を受賞してきました。直近では「Sofiyana」というアプリを立ち上げています。これは専門家が自分の書いた作品を、TikTokのようなプラットフォーム上で撮影してバイラルになるためのスクリプトへと変換できるツールです。
モデレーター： あなたは少し言語学者でもありますよね。動画をいくつか拝見しました。何カ国語を話せるのですか。
Sophia： 私は常に4つの言語を学び続けています。もしかしたら、もっと多くなるかもしれません。新婚旅行のために5つ目を学ぼうとしているところです。話せるのは英語、スペイン語、アラビア語、イタリア語です。
モデレーターは「素晴らしいですね」と応じ、ジャーナリズム、TikTokという縦型動画文化、多言語性という3つの軸を持つSophiaの立ち位置を、本日の議論における重要な視点の一つとして位置づけました。
1-3. Natalie Choprasert――Future AI Lab創業者、ビジネスオーナー向けAI教育プラットフォーム「brand nut」を運営するクリエイターとしての立場
モデレーター： Natalie、あなたの仕事について少し聞かせてください。
Natalie： 私はNatalie Choprasertと申します。Future AI Labの創業者であり、これはビジネスオーナー向けのAI教育を行う取り組みです。経営者がどのようにAIをビジネスに実践的に応用し、具体的な行動ステップに落とし込んで実装できるかを教えています。さらに、私はあらゆるソーシャルメディアにまたがって「brand nut」というブランド名でプラットフォームを運営しており、自分の生活やビジネスでAIをどう活用できるかを学びたいと考えるすべての人々にリーチしています。
Natalieは、AIの理論ではなく「ビジネスで実装するための実践知」を扱う教育者であると同時に、多数のフォロワーを抱えるコンテンツクリエイターでもある、というハイブリッドな立場を自身の言葉で明確に位置づけました。後の議論で語られるAI悪用の被害体験や自己クローン実験は、この「教育者かつ実践クリエイター」という二重の立場から生まれてくることになります。
1-4. Thomas Laycock――OriginTrailで10年かけて構築した分散型ナレッジグラフの実績（Walmart、Home Depot、Costco、Swiss Federal Railwaysなど採用）と、Humanity Tech創業の経緯
Thomas： こんにちは、Thomasです。私はここ10年ほどをOriginTrailの立ち上げに費やしてきました。OriginTrailは世界初の分散型ナレッジグラフです。深入りはしませんが、ブロックチェーンに支えられた分散型データベースとお考えください。これによってデータ所有権、アイデンティティ、検証可能性、そして来歴（プロビナンス）の追跡といった魅力的な機能が実現されます。こうした信頼と透明性の要素はグローバルなサプライチェーンに非常に有用で、Walmart、Home Depot、Costcoに、スイスではSBB（スイス連邦鉄道）に利用いただいてきました。
ただし私が今日ここにいる理由は、この技術がここ数年、生成AIモデルと組み合わせて使われ、AIの領域にもその信頼と透明性を持ち込むようになったからです。OriginTrailの共同創業者であるChris Reinig（Porsche-Piech家のファミリーオフィスAMIPの方）と、ドキュメンタリー『The Social Dilemma』の設計者の一人として知られているかもしれないAzhar Askinとともに、私たちはHumanity Techという会社を立ち上げました。Humanity Techが立脚しているのは、AIは人類にとって変革的な力であるという理解です。ただし、そこには非常に大きな「ただし」がついており、それは適切な安全弁を組み込めた場合に限る、というものです。私たちはAIの害について警鐘を鳴らしながらも、本当の焦点はこの「AIのジレンマ」を解決することにあります。何が真実で何がそうでないか、何が本物で何が偽物かを集合的に見分けられるよう支援し、有害なコンテンツ、誤情報、知的財産侵害からグローバルな言論空間を、信頼と透明性をもって守りたいと考えています。
モデレーター： この対話を楽しみにしています。
Thomas： 私もです。
Thomasの自己紹介は、本人が後に「良いロボット対悪いロボット」「安全性を儲かるものにする」と論じていく際の土台、すなわち分散型データベースによる来歴追跡という具体的な技術背景と、それを生成AI領域に応用しようとする企業家としての動機を、議論の冒頭で明示するものとなりました。
1-5. Tony Ndungu――2009年からのケニア「Silicon Savannah」黎明期に関わったOGとしての歩み、Kitabu Inc.での現在の取り組み、ChatGPT-1・2がケニアで作られたという話題
モデレーター： Tony、あなたは非常にブランドに忠実ですね。すでにグッズショップに立ち寄ったようで。お見事です。
Tony： これは実は去年のものなんです。私の名前はTony Ndunguで、ケニアから来ました。2009年頃、私はケニアのテックシーンを立ち上げた若者の一人で、ナイロビのテックハブの一つで活動を始めました。「Nailab」と呼ばれる場所で、友人のEric HersmanとともにiHubの中に作ったものです。皆さんが「Silicon Savannah」、つまり東アフリカのテック拠点について耳にしたことがあれば、私はそのOG（草分け）の一人ということになります。2009年からこの世界にいるので、長くやっているわけです。多くの方はミレニアル世代やGen Xでしょうし、Gen Zは90年代生まれ――いや、その話はしたくないですね、聞きたくない。
興味深いのは、人々は普通、アフリカがAI競争に関わっているとは思っていない点です。注目している人なら、ChatGPT-3、4、そしてこの夏に出てくる5は皆さんご存じでしょう。しかし1と2を知る人はいません。実は1と2はケニアでしか動いていなかったのです。ケニアのテック技術者がChatGPT-1を作りました。これはひどい代物でしたが、その後ChatGPT-2へと進化しました。そして彼らは社内のさまざまな課題や精神的な問題によって、後に訴訟を起こすことになりました。それでもAIが世界の舞台に上がった今、人々はまだAIがアフリカ大陸にあると思っていない。実際には、多くの人が考えるよりずっと深く関わっているのです。
ですから私にとっては、AIによって人々の生活におけるどのような機会、教育、ライフスタイル、課題にアクセスできるのか、そしてそれをどう解決していけるのかという議論を開いていくことが大切なのです。私たちはケニアでKitabuを通じて、まさにそれに取り組んでいます。
モデレーターは「素晴らしいですね」と受け止め、「ご覧の通り、この対話には非常に多くの側面があり、進むべき方向もたくさんあります」と述べて、本格的な議論への移行を予告しました。英国のジャーナリスト、オーストラリア圏で活動するAI教育者、欧州を拠点とする分散型データ技術の起業家、そしてアフリカのテック黎明期を担ってきた起業家という4人の異なる視点が揃ったことで、誤情報時代におけるメディアの役割を多角的に問う土台が整いました。
2. AIスロップ急増の衝撃と生成AIがもたらす質的変化
2-1. 2024年以降AIスロップが前年比約700%急増したという統計と問題提起
モデレーター： 今お聞きいただいた通り、この対話には実に多くの側面があり、進める方向もいくつもあります。けれども私は、まず「AIスロップ」という概念から始めたいと思います。皆さんもこの言葉はお聞きになったことがあるはずです。私自身、ある事実を知って正直なところ衝撃を受けました。2024年からのわずか1年で、AIスロップはソーシャルメディア上で前年比約700%も拡大しているのです。私たちはそれが何であるかをすでに知っています。
その上でSophiaに最初にお聞きしたいのは、次の点です。クリックバイト自体は何も新しいものではありません。フェイク写真も、フェイク動画ですら新しい話ではない。それなのに、なぜ今この「AIの瞬間」が、これほど危うい状況を生み出しているのでしょうか。
このモデレーターの問いかけは、本パネルの議論全体を方向づける起点となりました。前年比700%という定量的な指標を提示することで、AI生成コンテンツの氾濫がもはや「いつかの未来の懸念」ではなく、すでに進行中の現実であることを聴衆に印象づけ、その上で「何が新しくないのか」と「何が今まさに新しいのか」を切り分けることを最初の論点として設定したわけです。
2-2. クリックバイトやフェイク画像・動画は新しくないという歴史的整理（Yahoo時代の有名人画像悪用広告など）
モデレーター自身は、この問題の歴史的な前史についても具体的な実例を交えて触れています。
モデレーター： ところで「フェイク」というこの話題について、私たちは昨日も少し話しました。私自身、Yahooで働いていた時代に、プログラマティックに配信される広告を山ほど見てきました。それらは実在する有名人の写真を使っているのですが、本来であれば100万年経ってもその有名人が決して推奨することのない商品の広告に転用されているのです。そうした事象は新しいものではありません。しかし、それが起きている速度は、今、明らかに違うのです。
つまりモデレーターは、有名人の画像が無断で商品広告に流用されるといった「他人を欺くためのメディア操作」は、生成AI以前から存在し続けてきた現象であることを、自身の実務経験から確認しています。問題は「フェイクが存在すること」そのものではなく、その「発生速度」と「規模」が桁違いに変わってしまった点にある、という整理がここで提示されます。この前提が共有されたことで、議論は「では何が本質的に変わったのか」という次の問いへと自然につながっていきます。
2-3. Sophia：信頼に関わる業界（メディア、医療、公共政策、政治）における意思決定への影響の重大性
Sophia： 信頼に関わる仕事をしている人は、実に膨大な数の業界に存在しています。そして当然のことながら、そうした方々は今回のサミットにも数多く参加しています。これはメディアから医療、公共政策、政治に至るまで、人々が自分の人生について情報に基づいた意思決定を行うこと、そして自分にとって最善の選択をすることに関心のあるあらゆる領域に及びます。
ここで重要なのは、私たち全員が同じ決定を下すべきだという話ではない、という点です。そうではなく、私たち一人ひとりが自分自身と自分の状況にとって最も適切な、情報に基づいた選択ができる状態にあることが大事なのです。もしその意思決定の力が、私たちを騙そうとする人々――それは私たちが欲しくもない物を売りつけようとする人かもしれませんし、私たちの最善の利益を考えていない人物に投票させようとする人かもしれません――によって影響を受けてしまうのであれば、それは大きな問題です。
Sophiaは、AIスロップを単なる「ネット上のゴミ」の問題としてではなく、「人々が自分の人生について適切に判断する力そのものを蝕む脅威」として位置づけ直しました。彼女が列挙した医療や公共政策、政治という領域は、誤情報による意思決定の歪みが直接的に個人の健康や安全、社会の方向性に影響を及ぼす分野です。本パネルが扱う「メディアの役割」というテーマが、メディア業界の内輪の話ではなく、信頼を必要とするあらゆる社会機能と接続していることを、Sophiaはこの発言で明確にしました。
2-4. 生成AIが「信じられるコンテンツ制作の参入障壁を崩壊させた」という核心的脅威
Sophia： ネット上で人を欺くことが常に可能だったというのは、おっしゃる通りです。動画や写真を加工することも常に可能でした。しかし生成AIが突きつけている脅威は、「信じられるものを作るための参入障壁が崩壊した」という点にあります。ほぼ誰でも、その気になればやれてしまう。だからこそ私たちは、その技術が悪用されることを止めるために、多くの障壁と抑止策を導入しなければならないのです。
このSophiaの定式化は、本パネル全体を通じて繰り返し参照される核心的な論点となりました。フェイクを作る技術自体は以前から存在していたものの、それを実行するには相応のスキル、ツール、コストが必要でした。だからこそ実害を及ぼせる規模のフェイクは、ある程度の意志と能力を持つ少数の主体に限られていたわけです。ところが生成AIの登場によって、「信じてしまうほど精巧なもの」を作るために必要な技術的・経済的なハードルが事実上ゼロに近づいてしまいました。結果として、悪意ある主体の母数が爆発的に拡大し、その帰結が前段で示された前年比700%という数字に表れている、という構造です。
Sophiaは同時に、技術側の進化を止めるのではなく、「悪用を止めるための障壁と抑止策」を別個に積み上げていく必要性を提起しています。これは後のセッションでThomasやTonyが論じる「安全性を儲かるものにする」「不安全を高価にする」といったアプローチの議論へと、自然な橋渡しとなっていきます。
2-5. 有害でないAIスロップ（低品質コンテンツ）と有害なAIスロップの区別
Sophia： これをAIスロップをめぐる対話の中に位置づけるのは興味深いことです。なぜなら、ここで強調しておかなければならないのは、AIスロップの中には別段、有害ではないものも多く存在するということだからです。
モデレーター： その通りですね。
Sophia： トレンドの類いや、私が「低グレード、低品質コンテンツ」と表現するようなもの。それは本質的に「悪い」というわけではないのですが、ともかく量が多い。「量が多い」ということと「有害である」ということは別物なのです。
このSophiaの整理は、議論の精度を保つために極めて重要な区別を導入しました。生成AIが生み出すコンテンツの中には、単に質が低くて目障りな、しかしそれ以上の害はない種類のものが大量に含まれます。トレンドに乗っただけのつまらない動画、内容のない量産記事、安易な合成画像といったものです。一方で、人々の意思決定を歪め、騙し、損害を与えることを目的として作られる有害なAIコンテンツも存在します。これらを一緒くたに「AIスロップ問題」と扱ってしまうと、解くべき問題の輪郭が曖昧になり、適切な対処が難しくなります。
Sophiaが「量の問題」と「有害性の問題」を切り分けたことで、本パネルは以降、「単に氾濫している」AIコンテンツへの嫌悪感や疲労感の話ではなく、「実際に人々や社会に害を及ぼす」AIコンテンツへの対処という、より焦点の絞られた議論へと進んでいくことになります。モデレーターはこの整理を受けて、次に同じテーマについてのNatalieの見解を引き出していきました。
3. クリエイターが体験したAI悪用の現場とディープフェイクの政治的脅威
3-1. Natalie自身のコンテンツが無断改変され、別ブランドのツール宣伝に使われた実体験
モデレーター： Natalie、この点についてあなたの考えも聞かせてください。昨日も少しこの話をしましたよね。
Natalie： Sophiaがおっしゃっていた通り、これまでも悪意ある行為者になってフェイクコンテンツを作ろうと思えば作れたわけです。でも今は、それがはるかに速いペースでスケールアップして起きている。以前なら一つだけフェイクコンテンツを作るのが精一杯だったところを、今は何千ものバリエーションを一度に量産できてしまうのです。
そして実体験としてお話ししますと、私はコンテンツクリエイターなので、AIツールやテックツールについて発信してきたわけですが、自分のコンテンツがそのまま抜き取られて、別のブランドが彼らのツールを私のコンテンツに差し込み、「Natalieが私たちの製品を宣伝している」かのように発信されてしまったことがありました。
Natalieはこの事例について、当時は必ずしもAIが使われていたわけではないとも補足しています。つまり彼女が言いたいのは、コンテンツの無断改変によるなりすまし宣伝そのものは以前から存在していたのですが、生成AIによってそれが格段に高速かつ大量に行えるようになったという、Sophiaの「参入障壁の崩壊」という論点を、自分自身のクリエイターとしての被害経験から裏づける形で具体的に示した、という流れになっています。
3-2. 友人クリエイターが声と顔をAIクローンされ、製品宣伝に悪用された事例
Natalie： ですが最近、別のクリエイター仲間で、声と顔がAIによってクローンされてしまった人がいました。そのクローンが今、「ねえ皆さん、この製品を買うべきですよ」と発信しているのです。
この事例は、前段でNatalie自身が経験した「コンテンツ差し替え型」のなりすましから一歩進んだ次元の悪用です。前者では本人の発信物が改変されるにとどまっていましたが、後者では本人の声と顔そのものがAIによって生成され、本人が一度も発したことのないセールスメッセージを語らせられています。Natalieは、こうした手口が「はるかに大規模に起きており、将来的にはさらにリアルに見えるようになっていくでしょう。単に名前を差し込むようなレベルではなく」と述べ、ディープフェイク的な人格乗っ取りの精度が今後どんどん向上していくことへの強い懸念を示しました。
3-3. 偽コンテンツが大量・高速・多バリエーションで生産されるスケールの問題
Natalieが繰り返し強調したのは、問題の本質が「やれるかどうか」ではなく「どれだけのスケールでやれるか」に移ったという点です。彼女自身の言葉を借りれば、以前はフェイクコンテンツを作りたければ一つは作れた、しかし今では「一度に何千もの異なるバリエーションを量産できる」のです。これは前セクションでSophiaが指摘した「信じられるコンテンツを作る参入障壁の崩壊」と、モデレーターが提示した「前年比700%増」という統計の、実務現場側からの裏づけになっています。
そしてNatalieは、この量と速度の問題に対する答えとして、規制的・プラットフォーム的な対応の必要性を訴えました。
Natalie： ですから、Sophiaがおっしゃっていた通り、私たちには何らかの規制や、これらのプラットフォーム上で「何が本物で何がそうでないか」を識別できる仕組みが、もっと必要なのです。
クリエイター当事者の立場から、技術側だけでも、消費者側だけでも対応しきれない以上、プラットフォームと規制の両輪が必要だという主張が、ここで明確に提示されたことになります。
3-4. 消費者はAI使用そのものを嫌うのではなく、AI生成であることが告知されるかが分岐点という気づき
Natalie： 実は私自身もAIツールを使って自分自身をクローンしてみたことがあって、それはそれですごく楽しかったんです。
ただし彼女は、その実験から得た「気づき」を非常に重要なものとして語ります。
Natalie： でも今日の消費者が気にしているのは、AIを使ってコンテンツを作ること自体ではないと思うんです。それがAI生成であると消費者にきちんと伝えられている限りは、彼らは気にしない。その「告知の有無」こそが、違いを生む分かれ目なんです。
この発言は、本パネル全体を貫く重要な仮説の最初の提示になっています。すなわち、視聴者・消費者の不信感は「AIが使われていること」そのものに対して向けられているのではなく、「AIが使われていることを隠されていること」に向けられている、という整理です。後にSophiaが紹介するロイター・デジタルニュースレポートの調査結果、Natalie自身による自己クローン実験の視聴者反応、そしてThomasが論じる「透明性こそが信頼を生む」という議論は、すべてこのNatalieの最初の気づきと響き合いながら展開していくことになります。モデレーターはこの発言を「うまい流れですね」と受け止め、議論は次のテーマへと進んでいきました。
3-5. 米国ニューハンプシャー予備選前のジョー・バイデン偽音声ロボコール事例
モデレーター： それは実はThomasへの良い流れになります。あなたが取り組んでいるお仕事は、有害なコンテンツを識別することの一部だからです。つまりあなたは、そうしたものをどう見つけるかをご存じなわけです。Sophiaが言っていたように、世に出ているものすべてが危険なわけではないけれど、悪意あるものは確かに存在します。
そしてディープフェイクの中には、たとえば米国でも目撃された事例があります。ニューハンプシャー予備選を前に、ジョー・バイデンの声を装ったロボコールが流れたのです。これは非常にはっきりとフェイクでした。
この事例は、ディープフェイクが選挙という民主主義の根幹を直接揺さぶる兆候として米国で広く報じられたものです。モデレーターはここで、前段までクリエイターのコンテンツ被害という個人レベルの話題で進んでいた議論を、一気に国家政治レベルの脅威へと引き上げました。バイデンの偽音声を使ったロボコールは、まさに前年比700%増のAIスロップという量的問題が、有権者の投票行動という「信頼に基づく意思決定」を直接攻撃する事例として位置づけられます。
3-6. パキスタンのイムラン・カーン陣営による意図的フェイク動画事例
モデレーター： そしてパキスタンでは、イムラン・カーンの陣営が、それが偽物だと知った上で、フェイク動画を作成するという事例も見ました。
モデレーターがこの2つの事例を並べて提示したことには、明確な意図があります。バイデンの偽音声ロボコールが「外部の悪意ある行為者による攻撃」だったのに対し、イムラン・カーン陣営の事例は「政治当事者自身が、フェイクと知った上で、選挙キャンペーンの一環として意図的にディープフェイクを使った」というものです。つまり、ディープフェイク技術はもはや単なる外部からの脅威ではなく、政治アクター自身の戦術ツールとして組み込まれつつあるわけです。
モデレーターはこの2つの実例を踏まえて、Thomasに対して核心的な問いを投げかけました。
モデレーター： あなたの視点から見て、私たちはどうやってガードレールを構築していけばよいのでしょうか。
この問いかけによって、議論はクリエイターが受ける個別の悪用被害から、選挙や国家政治を揺さぶる規模のディープフェイク脅威へと一気に射程を広げ、その対処のための技術的・制度的なガードレールという次の主題へと進んでいくことになります。
4. 「flippening」現象とHumanity Techの技術的対応
4-1. Thomas：AI生成コンテンツが人間の声をかき消す量的拡大「flippening」
Thomas： モデレーターさん、あなたが今おっしゃった点は本当に重要な指摘でした。私たちが今まさに目撃しているのは、ある種の「flippening（フリッペニング）」とでも呼ぶべき逆転現象です。AIベースのシステムによって生み出されるコンテンツの絶対量そのものが、今この瞬間も拡大し続けている。
Thomasが導入したこの「flippening」という言葉は、本パネルの議論を象徴する重要な概念として機能しました。彼が指し示しているのは、これまで人間が生成してきたコンテンツとAIが生成するコンテンツとの量的バランスが、いつのまにかひっくり返り、AI由来のコンテンツが人間の声を圧倒する側へと反転していく現象です。前セクションでモデレーターが提示した「前年比約700%増」という統計、そしてNatalieが当事者として体験した「以前なら一つしか作れなかったフェイクが今は何千ものバリエーションで量産される」という現場感覚は、まさにこのflippeningの数値的・体感的な裏づけとして位置づけられます。
Thomasは、この量的拡大が単に「うるさい」「目障り」というレベルの問題ではなく、人間の声そのものを「かき消してしまう（drowning out）」ことに本質的な危機があると整理しました。
4-2. AIシステムの品質向上により肉眼での識別が近い将来不可能になる予測
Thomas： ただ、これには量の問題以外にも、いくつか重要な留保があります。一つは、AIシステムの品質そのものの進化です。Sophiaが先ほどほのめかしていたように、信じられるコンテンツを作ることがどれほど簡単になっているか、という論点ですね。そしてこれらのシステムの進化速度を前提とするならば、ごく近い将来、肉眼では見分けがつかなくなることは確実です。だからこそ、空間に対して誠実さ（integrity）と透明性をもたらすための、別のやり方が必要になってくるのです。
Thomasが提示したこの予測は、誤情報対策における従来の戦略の限界を突きつけるものです。これまでメディアリテラシー教育や注意喚起キャンペーンは、「よく見ればおかしいところがある」という前提に立っていました。指の本数が合わない、影の向きがおかしい、瞬きが不自然――こうしたサインを見抜く目を養うことが対策とされてきたわけです。しかしThomasは、その前提自体が間もなく崩壊すると断言します。生成AIの品質向上スピードを直線的に外挿すれば、人間の肉眼による判別はごく近い将来、原理的に不可能になる。であれば、コンテンツの真偽を判定する仕組みは、コンテンツ表面の検査ではなく、別の層――誠実さと透明性を担保する基盤――に求めなければならない、というのが彼の論立てになっています。
4-3. AIエージェントの並列化と低コスト化による「agency問題」――失敗しても瞬時に学習し改善するシステムを安価に大量生成できる
Thomas： そしてもう一つ、まだここで触れられていない進化の側面があります。それは「エージェンシー（agency）」の問題です。5年前や10年前に文字が書き込まれた有名人の写真と、今日それを行うシステムとの違いは、現代のシステムが「絶えず自分自身を改善し続ける」という点にあります。一度失敗しても、その1秒後には改善することができる。そして、そういったエージェントの並列インスタンスを、これほどまでに低コストで、いくらでも作り出せてしまうのです。ですから、はるかに対処の難しい問題になっているわけです。
ここでThomasが提起した「agency問題」は、前項の「品質向上」とは異なるもう一つの次元の脅威です。前項が「個々のコンテンツの精度が上がる」という質的進化の話だったのに対し、agency問題は「そのコンテンツを生み出す主体（エージェント）が、自律的に試行錯誤し、並列で大量に動き、しかも極めて安価である」という、攻撃側の構造そのものが変質しているという指摘です。
従来であれば、フェイクコンテンツの制作者は人間であり、一つ作って失敗すれば、次を作るまでに時間とコストがかかりました。ところがAIエージェントは、失敗してから次の試行までの時間が事実上ゼロに近く、しかも複数のエージェントを並行して走らせることができる。結果として、防御側がどれだけ巧妙なガードレールを作っても、攻撃側はその穴を自動的に学習し、瞬時に回避策を編み出してくる、という非対称な構造が生まれます。Thomasはこの構造的非対称性こそが、これまでの誤情報対策の延長線上では太刀打ちできない新しい脅威の本質だと位置づけています。
4-4. Humanity Techが立ち上げた製品「Guardian」――有害コンテンツの可視化と早期削除支援
Thomas： ですから、今日の議論で挙がってきたものを総合すると、これは多くの要素の組み合わせで取り組むべき問題だと考えています。一つは、安全性のガードレールを実装するための技術的能力を作り上げていくことです。そしてHumanity Techでは、まさにその方向へ向けて「Guardian」という製品を立ち上げました。これは有害なコンテンツを浮かび上がらせて可視化すること、そしてもし表に出てしまった場合には、できる限り迅速に取り下げることを可能にするためのものです。
ここでThomasは、自身の会社が抽象論ではなく具体的な製品として現場に投入している対抗策を初めて提示しました。Guardianの設計思想は、前段までの議論――肉眼での識別が不可能になる、エージェントが並列で攻撃してくる――という前提と整合しています。すなわち、人間の目視や個別の通報に頼るのではなく、有害コンテンツを技術的に「surface（表面化）」させて検知可能にし、検知後はできるだけ短い時間で対処に持っていく、という考え方です。Sophiaが冒頭で示した「悪用を止めるための障壁と抑止策を別個に積み上げる」という方向性に、Thomasの側から具体的なプロダクトの形で応答した格好になります。
4-5. 技術的ガードレールと並行して必要となる社会教育の重要性
Thomas： そしてそれに加えて、教育が必要です。人々はこれらのシステムが何であるか、何ではないか、そしてそれにどう向き合うべきかについて、きちんと知らされている必要があります。なぜなら、この「flippening」が現代社会に持ち込んでくるスピードは、本当に速いものになるからです。
Thomasがここで「技術的能力」と「教育」を並べて提示したことは、本パネルの議論構造において重要な意味を持ちます。技術側のガードレール、すなわちGuardianのような検知・削除の仕組みだけでは、flippeningの速度に対して十分ではない。同時に、人々がこれらのAIシステムの本質――何ができて、何ができないのか、どう接すればよいのか――を理解しているという社会的な土台が必要だ、というわけです。
ただしThomasの語り口に注意深く目を向けると、ここで言われている「教育」は、前項のAIシステムの品質向上予測と矛盾するものではないことがわかります。彼は「人間の目でフェイクを見抜く方法を教える」とは言っていません。彼が言うのは、システム自体への理解、すなわち「これは何で、これは何ではないか」を知り、向き合い方を身につけることです。これは後にモデレーターがTonyへの問いかけの中で取り上げる「メディアリテラシー教育 vs プラットフォーム責任」という大きな論争へとつながっていく伏線となりました。モデレーターはThomasの応答を受けて、「では少しこのテーマに留まりましょう」と述べ、議論は責任の所在をめぐる次の局面へと進んでいきます。
5. 責任の所在をめぐる議論――Tonyによるアナロジーと家族を装った詐欺の脅威
5-1. モデレーターの問題提起：メディアリテラシー教育を消費者に課すか、プラットフォーム側が投稿を許さない方が良いのではないかという論点
モデレーター： ええ、少しそのテーマに留まりましょう。実は興味深いことに、私は別のパネルでも非常に似たテーマを扱ったことがありまして、そこにはあるテック企業の幹部が出ていました。名前は出しませんが、その人物はメディアリテラシーについて、そして消費者にこうしたものを見抜けるよう教えることについて語っていたのです。
それに対して私が反論したのは、「では、そもそもユーザーがそうしたものを投稿できないようにすればよいのではないですか」ということでした。テック企業の側の責任はどこにあるのですか、と。Tony、あなたの視点から見ると、ここには責任のあらゆる側面が絡んでいます。規制があり、民間セクターの責任があり、そして消費者の責任もある。
モデレーターのこの問いかけは、AIスロップやディープフェイクへの対処責任を「誰が負うべきか」という議論の構造そのものを浮き彫りにしました。テック企業がしばしば持ち出す「ユーザー側のメディアリテラシーを高めよう」という論法に対して、彼女は「そもそも有害な投稿を許さなければよいのでは」とプラットフォーム責任の側から切り返しています。Thomasが直前のセクションで「技術的ガードレール」と「教育」を並べて提示したのを受けて、その両者の責任配分をめぐる本格的な議論へと、ボールがTonyに渡されました。
5-2. Tony：スパムフィルタの普及と「ナイジェリアの王子」メールという歴史的アナロジー
Tony： 身近な話に引き寄せましょう。皆さんのうち、スパムフィルタを使っている方はどれくらいいますか。ご覧の通りです。これだけ多くの人が手を挙げる。これこそが、インターネットがもたらしたもので、それ以前には存在しなかったものを示しています。
それから、皆さんのうち、失礼を承知でお聞きしますが、ナイジェリアの王子からメールを受け取ったことのある方は何人いらっしゃいますか。ほら、私の言いたいことがおわかりでしょう。
Tonyが選んだこのアナロジーは、議論の枠組みを一気に身近で具体的なものへと引き戻す効果を持ちました。スパムフィルタという仕組みが今や当たり前のものとして広く普及している事実、そして「ナイジェリアの王子」という古典的な詐欺メールが今や半ば笑い話として共有財産になっている事実――この二つは、新しい技術が新しい欺瞞を生み、それに対して社会がフィルタリングという技術的対応と「警戒すべき手口」という集合的知識の両方を獲得してきた歴史を象徴しています。Tonyはこの歴史的アナロジーを起点として、AIによる新しい欺瞞についても同じパターンで対処していけるかを問おうとしました。
5-3. ブラッド・ピット詐欺事件（フランス女性が80万ポンドを送金）の実例
Tony： さあ、ここからが本題です。皆さんもあのニュースをご覧になったでしょう。間違っていたら訂正してください、あの女性はフランス人でしたよね。ブラッド・ピットからメールを受け取った――。
会場の声： そうです。
Tony： ブラッド・ピットが入院していたときに、ですよね。ご覧になりましたか。彼女は80万ドル、いやポンドを送ってしまったのです。
モデレーター： 普通そうしますよね（皮肉）。
Tony： 大金ですよね。
この事例は、AIや高度なディープフェイク技術が必ずしも前提でなくとも、有名人へのなりすましがどれほど甚大な金銭被害を生み得るかを示す象徴的な実例として持ち出されました。フランス人女性がブラッド・ピット本人だと信じ込み、入院中の彼を助けるためという名目で約80万ポンドを送ってしまったというこの事件は、それ単体で衝撃的ですが、Tonyの議論にとって重要なのは、これが「現状の技術水準ですでに起きていること」だという点です。今後、生成AIによって声や顔のクローンが完全に自然なものになれば、同種の被害がどれほど規模を拡大していくのか――その想像をかき立てるための、極めて生々しい導入になっています。
5-4. 「グレード1の生徒にはグレード10の詐欺が必ず来る」というAI詐欺の段階的高度化の比喩
Tony： 私たちはこれを笑い話のように扱ってしまいますよね。それも構いません、笑うことはできる。痛ましい話ではあるのですが。ただ、ここで考えてほしいことがあります。AIに関しても、人々にはさまざまな知能のレベル、リテラシーのレベルがあるわけです。彼女のケースで言えば、AIに関しては小学1年生（グレード1）の段階だったとしましょう。それなら、必ず小学10年生（グレード10）の詐欺がそこへ向かってきます。その詐欺は、必ずあなたのところにもやって来るのです。
Tonyが提示した「グレード1にはグレード10の詐欺が来る」という比喩は、本パネル全体の中でも特に印象的な定式化の一つになりました。これが意味しているのは、攻撃者と被害者の間に存在する「能力差」こそが詐欺成立の鍵だ、という洞察です。被害者がAIリテラシーの初級段階にいるならば、攻撃側はその初級者にとって見抜きようのない高度な手口で攻めてくる。能力差さえあれば詐欺は成り立つわけですから、自分が中級・上級になったとしても、その時点で自分より上の段階にいる攻撃者がより精緻な手口で迫ってくるという、エスカレーションの構造が示されています。前セクションでThomasが指摘した「AIエージェントは失敗しても1秒後に改善できる」というagency問題と組み合わせると、攻撃側の能力上昇は事実上止まらず、誰もが常に「自分より一段上の攻撃」に晒され続ける構図が見えてきます。
5-5. 家族を装ったWhatsApp詐欺シナリオ（「トイレに携帯を落とした、メールパスワードを教えて」）の具体的描写
Tony： そしてあなたの娘さんや息子さん、お父さんやお母さんが、WhatsAppに動画を送ってきて、こう言ってきたとします。「ねえ、今こういう場所にいて困っているから、あれを送って」「ねえ、もう一度教えてくれない、私のメールアドレスのパスワード何だっけ」「ねえ、お姉ちゃんの電話番号何だっけ、見つからないの、携帯をトイレに落としちゃって」と。それであなたは送ってしまう。
そして後になって、本物の親御さんから電話がかかってきて「あれは私じゃないわよ」と言われる。そのときになって初めて、あなたは「自分のレベルで」詐欺に引っかかったということに気づくのです。
Tonyが描き出したこのシナリオは、前項の「グレード1とグレード10」の話を、家族という最も信頼の置かれる関係性に当てはめて具体化したものです。ブラッド・ピット詐欺は「会ったこともない有名人を信じてしまった」というある意味で例外的な状況に見えるかもしれませんが、家族からのWhatsAppメッセージというのは、ほとんどの人にとって警戒心がほぼゼロになる文脈です。そこに「携帯をトイレに落とした」という、誰もが「ありそう」と思える生活感のある言い訳が添えられ、求められる情報も「メールのパスワード」「姉の電話番号」といった日常的なもの。動画という強力な信憑性付与の道具が組み合わさることで、攻撃の成功確率は劇的に上がります。Tonyはこの描写を通じて、AIによるなりすまし詐欺が「他人事の有名人スキャム」ではなく、自分自身の家庭で明日にでも起こり得るリアルな脅威であることを聴衆に突きつけました。
5-6. ソーシャルメディアが構築した個人間の信頼が悪用される構造的問題
Tony： ですから私たちがソーシャルメディアについて話すときには――そして実際こちらの方向にいるあなたは100万人のフォロワーをお持ちですし、こちらの方向にも――いや、実はあちらの方向ですね、はいはい――その力というのは、私たち一人ひとりが個人的に築き上げてきた信頼の大部分にあるわけです。
つまり、「私はあなたを知っている、あなたは私を知っている」、ええと、靴ひもがほどけていますよ。
会場の声： あ、本当ですね。
Tony： ああ、結んでいないんですね。ああ、いえ、結んでありますね。ええ、見事、見事です。ご覧の通りです。今のがまさに、信頼がもたらす力なのです。リアルタイムだからこそ、私たちはこうした個人的なやり取りを成立させ、相手の言うことを信じることができる。
Tonyはここで、靴ひもについての冗談めいたやり取りを即興的に挟みながら、ソーシャルメディアが提供してきた「対面に近い、リアルタイムの個人的信頼」というものが、まさに今、悪用の標的になっていることを示しました。フォロワー数百万を抱えるインフルエンサーの影響力も、家族間のWhatsAppでのやり取りも、本質的には「私はこの人を個人として信じている」という人格ベースの信頼関係に支えられています。前項のWhatsApp詐欺シナリオが恐ろしいのは、まさにこの個人的信頼の回路を直接ハイジャックしてくるからです。
5-7. 国家指導者による嘘が信頼を悪用する政治的危険性（隣人を敵に仕立てる例）
Tony： では、そのユーザー生成データが、最高レベルで欺瞞的なものだったとしたら、どうなるでしょうか。Tonyのようなレベルではなく、たとえば大統領があなたに嘘をついているとしたら、そのときあなたはどうしますか。大統領があなたに、「あなたの敵はあなたから金銭的に奪っている人々ではない、あなたの敵はあなたの隣に住んでいる人たちだ」と告げたとしたら――。
Tonyがこの最後の論点で議論の射程を一気に押し広げた意味は重大です。前項までは家族や個人クリエイターという、ある種「私的な」信頼関係の悪用が議論されてきました。それに対してここで持ち出されたのは、国家指導者という、市民が「公的な」場面で信頼を寄せる存在による欺瞞です。
しかも彼が挙げた例は単なる事実誤認ではありません。「あなたの本当の敵は、あなたから金銭的に奪っている人々（経済的格差や搾取の構造）ではなく、あなたの隣人だ」という言説――すなわち、社会の構造的問題から目を逸らさせ、共同体の中の他者を敵に仕立て上げる、という典型的な分断扇動の手口です。AIが生成したフェイク音声や偽動画によって、こうした分断のメッセージを国家指導者の口から発せられたかのように流布させることができてしまえば、社会全体の信頼基盤が崩壊しかねない。Tonyはこの問いを聴衆に投げかけたまま発言を区切り、議論はメディア側の責任、すなわち伝統的なジャーナリズムがAI時代にどう信頼を維持するかという、次のセクションのテーマへと引き継がれていきました。
6. 伝統メディアにおけるAI活用とSofiyanaの開発実践
6-1. 伝統メディアへの信頼低下と、AI導入によるさらなる信頼喪失リスクのジレンマ
モデレーター： ただ、今あなたがおっしゃったことを受けて、議論をメディアの側へと引き寄せたいと思います。私たちは、自分にとって最も信頼できる情報源――それがBBCであれ、ニューヨーク・タイムズであれ、地元のテレビ局であれ――こそが、冷静さと事実を求めて立ち戻れる場所だと考えたいわけですよね。
ところが現実には、一方で伝統的なジャーナリズムやメディアへの信頼が崩れ始めていて、もう一方で、そうした主要な情報源自身が、業務にAIを取り込み始めている。どなたに振るかは皆さんで決めていただいて構いませんが、信頼を失うことなく、最善の意図をもってAIツールを取材やコンテンツ制作に組み込んでいくにはどうすればよいか、という議論を始めましょう。
モデレーターのこの問いかけは、本パネルの議論を一段深い構造へと引き上げました。これまでは「悪意ある外部の主体」によるAI悪用が論点でしたが、ここからは「信頼を担保する側であるはずのメディア自身」がAIをどう扱うかという、内側のジレンマに焦点が移ります。信頼が低下している伝統メディアがAIを使えば、さらに信頼を失うのではないか――この緊張関係をどう乗り越えるかが、次の議論の出発点になりました。
6-2. Sophia：カメルーンに関するディープフェイク情報を国際メディアが検証せず報じた事例から見る人的検証責任の重要性
Sophia： その点について、私からお話しできます。問題と解決策の両方が手元にあります。あなたが今、問題を提起してくださいました。私はその具体的な話を承知しているわけではないのですが、お聞きする限り、カメルーンに関する不正確なディープフェイクコンテンツが拡散され、それを国際メディアが報じてしまった、という事案のようですね。
それは、ジャーナリストの責任です。記事を世に出す前に、その情報源を正確に検証しなかったジャーナリストの落ち度です。私たちは、こうした問題のすべてにおいて、ヒューマンエラーと人間の判断ミスがあるという事実を忘れてはなりません。彼らにはそこで負うべき責任があったのに、果たさず、結果的に読者・視聴者を裏切ってしまったのです。
Sophiaがここで明確に主張したのは、AI時代のメディア信頼低下を「AIのせい」だけに帰してはならない、という点です。たしかにディープフェイクという新しい技術的脅威は存在しますが、それを検証せずに報じてしまう判断は、紛れもなく人間のジャーナリストが行うものです。彼女は「ヒューマンエラーと人間の判断ミス」という言葉を二度繰り返すことで、技術論にすり替わりがちな議論を、ジャーナリストとしての職業倫理の問題へと引き戻しました。
6-3. 2025年のアクセシブルなジャーナリズムには縦型動画（vertical video）が不可欠という主張
Sophia： そして伝統メディアは、自らの取材とジャーナリズムを、視聴者にとって可能な限りアクセスしやすいものにすることを怠れば、これからも視聴者を裏切り続けることになります。2025年において「アクセスしやすいジャーナリズム」を作りたいのであれば、それには縦型動画（vertical video）が含まれていなければなりません。これは絶対に必要な要素なのです。オンライン上で最も多くのインタラクションを生むフォーマットがこれであり、自分のジャーナリズムによって最も大きな視聴者を巻き込めるのもこれなのです。
Sophiaの主張は、単に「縦型動画を作るべきだ」という流行への迎合ではありません。彼女が問題視しているのは、報道機関が「届けるべき人々に届かないジャーナリズム」を続けてしまうこと自体が、読者・視聴者への裏切りだという点です。前項で「ヒューマンエラー」がメディアの信頼を損ねると指摘したのに続いて、ここでは「届ける努力を怠ること」も同じく信頼を損ねる、という第二の論点を打ち出した形になります。
6-4. 縦型動画は書き物を置き換えるのではなく「and、and、and」として加える発想
Sophia： だからといって、書くことをやめろという意味ではありません。他のあらゆる種類のジャーナリズムをやめろという意味でもありません。「and、and、and（あれもこれもそれも）」になっていくのです。この、ますます断片化していくメディア空間の中で、私たちは自分たちのジャーナリズムが届くようにするために、「これも、これも、これもやらなければならない」のです。権力を追及して責任を取らせたところで、誰もそのことを知らなければ意味がありません。私たちは、人々にそれが届くようにしなくてはならないのです。
ここでSophiaが提示した「and、and、and」という枠組みは、彼女の主張の核心部分です。新聞記事もテレビ報道も、長尺の調査報道も廃止する必要はない。ただ、そこに縦型動画という新しい配信形式を「加える」必要がある、という発想です。「権力を追及しても、誰もそれを知らなければ意味がない」という一文は、ジャーナリズムが届けるという行為そのものに本質的価値があることを端的に表現しており、それを実現できなければ、どれほど優れた取材も社会的に死んでしまうという危機感を伝えています。
6-5. 英国のニュースルームを縦型動画に説得することの困難さ（時間不足、相次ぐ人員削減、崩壊するメディアモデル、動画訓練の欠如）
Sophia： 解決策については、これはまさに私が直接取り組んでいることです。正直に言って、英国の報道機関に縦型動画フォーマットを真剣に受け止めてもらうのは、本当に難しい仕事でした。ここ数年で、少しずつ多くの出版社が取り組み始めてきましたが、それでも、時間の極端な不足、相次ぐ人員削減、崩壊しつつあるメディア・モデル、そして動画制作の訓練もなく、という状況に置かれているジャーナリストたちにとっては、依然として非常に厳しい話なのです。
実のところ、「縦型動画コンテンツを作らなければならない」と言うことそのものが、当人たちにとって不公平な要求になりかねません。彼らは「そんな時間はないし、やり方も知らない」と返してくるからです。
Sophiaはここで、自分の主張をそのまま現場に押しつけることの非現実性を、自身の経験から率直に語っています。理念として縦型動画が必要だと分かっていても、報道現場には時間も人員もスキルもない――この構造的な不足を直視せずに「やるべきだ」と言うのは、ジャーナリストへの理不尽な負荷になってしまう。この自覚があったからこそ、彼女は次に語る「ツールによって支援する」というアプローチへと進んでいきます。
6-6. 2つのジャーナリズム賞を獲得して開発したスクリプト作成ツールの仕組み（GPT-4oベース、記事入力→縦型動画スクリプト出力→アプリ内テレプロンプター撮影）
Sophia： だからこそ、私は今年、私が作ったツールを開発するために2つのジャーナリズム賞を獲得したのです。これはスクリプト作成のためのツールで、OpenAIを使用しています。現在はGPT-4oモデルを、私の知識ベースとともに使っています。たとえばあなたが今週書いた記事を入れると、それに対応する縦型動画のスクリプトが返ってきます。そして、すぐにそれを使って、アプリ内のテレプロンプター（読み上げ用画面）で撮影できる、という仕組みです。
このツールがSofiyanaであり、本パネル冒頭の自己紹介で言及されていたものに該当します。Sophiaはここで初めて、その内部構造を具体的に示しました。GPT-4oという基盤モデルに、彼女自身がジャーナリストとして蓄積してきた「縦型動画のスクリプトはこう書く」という知識ベースを組み合わせ、記事を投入すると即座にスクリプトが出力され、しかも撮影のためのテレプロンプター機能まで同じアプリ内で完結するという設計です。
前項で語られた「時間がない、訓練もない」というジャーナリストの現実に対して、これは「学ぶ時間も訓練を受ける時間もないジャーナリストでも、その日のうちに縦型動画を作れる」という、極めて実務的な解答になっています。
6-7. 「ジャーナリストが置き換えられない」設計の意義
Sophia： ここで決定的に重要なのは、このプロセスの中でジャーナリストが置き換えられたわけではない、という点です。
Sophiaがこの一点を強調したのは、AIを用いたメディアツールの設計思想として極めて意識的な選択でした。Sofiyanaの仕組みは、スクリプトを書く労力を軽減し、撮影のハードルを下げますが、取材を行うのも、何を語るかを決めるのも、カメラの前に立って語るのも、すべて人間のジャーナリストです。AIが代替するのは、スキルが足りなかったり時間がなかったりで、これまで縦型動画への展開を諦めていた工程だけです。前項でNatalieが「消費者はAI使用そのものを嫌うのではなく、告知されないことを嫌う」と述べた話とも響き合いますが、ここでSophiaが提示しているのはさらに踏み込んだ設計原則、すなわち「人間を残す」ことを意図的にツール設計に組み込む、という考え方になっています。
6-8. ロイター・デジタルニュースレポートが示す視聴者の受容パターン――Human in the loopは歓迎、AI単独の人間置き換えは拒否
Sophia： そして、調査の蓄積からもわかってきていることがあります。とりわけ、ロイター・ジャーナリズム研究所が毎年発表しているデジタルニュースレポートが示しているのは、視聴者がより受け入れやすいと感じるニュース報道におけるAIの存在・使用とは、「人間をループの中に残し」、AIが私たちのより良い仕事を助けてくれている形だ、ということです。逆に視聴者が見たくないものは何か。それは、AIが私たち（ジャーナリスト）を置き換えてしまうことであり、人間の監督なしにAIが使われていることなのです。ですから私は、こうしたツールを作って、その「人間性」を、つまり記者をループの中に保ち続け、視聴者のことを忘れない、という方向で支援しようとしている多くのジャーナリストの一人にすぎないのです。
モデレーター： ロイター・デジタルレポートを取り上げてくださってありがとうございます。実は私は1〜2週間前にニューヨークでそのローンチイベントに参加していました。そこには非常に伝統的な報道機関の代表たち――ニューヨーク・タイムズのマネージング・エディター、BBCのリーダー、そしてもちろんロイターの方々が出席していました。
Sophiaがロイターの調査を引いて示した「Human in the loopは歓迎、AI単独の置き換えは拒否」という視聴者の受容パターンは、メディアにおけるAI活用の指針として極めて明快な基準を提供するものです。視聴者は「AIだから嫌だ」と思っているのではなく、「人間が責任を持って関与していないAI利用」を拒否している。逆に、人間のジャーナリストが意思決定し、検証し、最終的な責任を負う形でAIが補助的に使われるなら、視聴者はむしろそれを歓迎する。
モデレーターはこの調査を自身が直近で立ち会ったローンチイベントの場面と接続し、ニューヨーク・タイムズ、BBC、ロイターという伝統メディアの中枢にいる人々もまた、この問題意識を共有していることを補足しました。そしてここから議論は、伝統メディアの側がTikTokのようなプラットフォームでの発信にどう乗り出していくのか、そしてそれをクリエイター視点からどう見るのか、というNatalieへの問いかけへと自然に橋渡しされていきます。
7. クリエイターによるAIクローン実験と「テイスト」の境界線
7-1. Natalieが抱く「自身をクローンしてコンテンツ量を増やす」という夢
モデレーター： あなたのおっしゃった点を受けて、もう一人のクリエイターとしてのNatalieの考えも聞きたいのですが、ニューヨーク・タイムズやBBC、ロイターのような既存の伝統メディアも、縦型動画の重要性や、TikTokのような場で活躍するインフルエンサーや声の力を、十分に認識していると思います。ただ、そうなると問題は「どこから始めるか」になります。すでに確立されたブランドや人物に乗り込んでいって、自分たちのリーチを拡張するのか。それとも、既存の組織構造の中で何とかやり遂げる方法を見つけるのか。そして、もしDavid Sangerが突然縦型動画をやり始めたら、TikTok層にとってそれは果たして本物（authentic）と受け止められるのでしょうか。
Natalie： はい、私もまさにそれを試みたことがあります。私の夢は、自分自身をクローン、あるいは複製して、自分の知識ベースをレバレッジしながら、さらに多くのコンテンツを生み出せるようになることなんです。
Natalieがここで語った「夢」は、彼女が単なるAIツールのユーザーではなく、自身を被験体としてAI活用の最前線を実験している実践者であることを示しています。前セクションでSophiaが「ジャーナリストを置き換えない」設計思想を示したのとは対照的に、Natalieが目指すのは「自分自身を増やす」というアプローチです。これは矛盾ではなく、両者がそれぞれの立場――取材責任を負うジャーナリストと、自分のブランドそのものが商品であるクリエイター――から、AI活用の異なる可能性を探っていることを表しています。
7-2. HeyGenと11 Labsを用いた自己クローン実験の実施
Natalie： これをHeyGenと11 Labsで試してみたんです。
Natalieが具体的に挙げたこの2つのツールは、彼女の実験の技術的な内実を明らかにしています。HeyGenは映像側でAIアバターを生成するためのツールであり、11 Labs（ElevenLabs）は音声合成・音声クローンの代表的なツールです。前セクションでSophiaがOpenAIのGPT-4oを基盤に「テキストから縦型動画スクリプト」を生み出すツールを構築したのに対し、Natalieは別系統のサービスを組み合わせて「自分の顔と声をそのまま再現するクローン」を構築するという、より人格そのものを複製する方向の実験を行ったわけです。これは前セクション後半で議論された「Human in the loopは歓迎、AI単独の置き換えは拒否」というロイター調査の境界線が、クリエイターの世界ではどう機能するのかを実地で試す試みでもありました。
7-3. 視聴者からの「混合レビュー」――「すごい、やり方を教えて」派と「クローンと事前に教えるべきだった」派
Natalie： 視聴者の反応は混合レビュー（mixed reviews）でした。一部の人たちは「これすごい、どうやってやるの」という反応で、もう一方の半分は「ねえ、自分をクローンしたなら、ちゃんと先にそう言うべきだったでしょう」という反応だったんです。
モデレーター： ちなみに、(後から)言ったんですか？
Natalie： 後から言いました。
Natalieが正直に語ったこの反応の分布は、本パネルの重要な実証データになっています。視聴者は二分されました。一方は技術そのものに対する純粋な好奇心と称賛を示しました。もう一方は、コンテンツの真贋ではなく「事前告知の有無」を問題にしたわけです。注目すべきは、後者の人々が「クローンを使うな」と言っているのではなく、「使うなら先に教えて」と言っている点です。これは3-4でNatalie自身が提示した「消費者はAI使用そのものを嫌うのではなく、告知されないことを嫌う」という仮説を、自身の実験の中で確かに裏づける結果になりました。
7-4. クローン使用を事後告知した投稿が複数プラットフォームで合計10〜20万ビューを獲得した結果
Natalie： でも、私が試したかったのは、AI生成のままで自分のコンテンツがちゃんと成果を出すのかどうか、ということだったんです。結果として、複数のプラットフォーム全体で、たしか10万〜20万ビューほどを獲得しました。だから、うまくいったわけです。
Natalieがここで提示した数字は、彼女の実験を単なる個人的試みから、定量的に評価可能な仮説検証へと押し上げています。クローンによるコンテンツが10万〜20万ビューに到達したという事実は、視聴者の一部が事前告知のなさに反発したにもかかわらず、コンテンツ全体としては「拡散する力」を失わなかったことを示しています。AI生成であること自体は拡散の致命傷にはならない、というのが、この実験から導かれる第一の経験的知見になりました。
7-5. 技術精度がまだ完璧でなくてもこれだけ広まったという観察
Natalie： ただ、私が使った技術の使い方では、「超リアル」というレベルでは正直まだ完璧ではなかったんですよね。
この控えめな自己評価がむしろ重要です。Natalieが用いたHeyGenと11 Labsの組み合わせは、現時点では「明らかにAIだとわかる程度」の精度しか出せていなかった。それでも10万〜20万ビューに到達したという事実は、視聴者がコンテンツを評価する基準が「完璧な現実感」ではないことを示唆しています。前セクション4-2でThomasが「肉眼での識別は近い将来不可能になる」と予測したことを思い起こすと、現時点ですら精度不問で拡散する以上、技術がさらに進化したときに何が起きるか、という問いが自ずと立ち上がってきます。
7-6. 仮説：技術が完全に現実的になり、かつ事前告知と本人らしい本質的コンテンツが揃えば視聴者は受容する
Natalie： ただ、もし本当にリアルに作れるようになったら、たとえAI生成だったとしても、消費者はそれを受け入れてくれると思うんです。条件は二つあります。第一に、AI生成であることを最初に伝えていること。第二に、それでも、私が普段出しているような本物の（authentic）コンテンツであり続けていることです。
Natalieがここで定式化した仮説は、本パネル全体を通じて提示された複数の論点を結びつける役割を果たしています。3-4で提示された「告知の有無こそが分かれ目」という最初の気づき、7-3の実験で得られた「事前告知を求める視聴者の存在」という観察、そして6-8でSophiaが紹介した「Human in the loopは歓迎」というロイター調査の知見――これらすべてが、Natalieの「事前告知＋本人らしい本質」という二条件の仮説に統合されている格好です。
ここで彼女が「authentic（本物の）」という言葉を選んだ点は注目に値します。それは「人間が作っている」という意味ではありません。AIが生成していようと、その人物が普段視聴者に提供している価値観、視点、トーンを保持していれば、それは「authentic」たり得る、という主張です。
7-7. AIでハリウッド級プロダクションを低予算で制作するクリエイターの存在
Natalie： 人々が評価するのは、つまりChatGPTから出てきた典型的なAIスロップではない、ということなんだと思います。人間はもっと賢くて、それがAIなのかそうでないかを感じ取れるはずです。
それでも、私は他のクリエイターたちと同じように、自分が普段投稿しているような、本物で本気のコンテンツを発信したいと思っています。私自身、AIコンテンツをたくさん見てきましたが、AIを使ってストーリーを語り、本来であれば予算もチームの体制もなくては実現できないようなハリウッド級の制作物を作り上げている、本当に素晴らしいクリエイターが存在するんです。私が観てきた一部の映画よりも、むしろ良いと感じるぐらいで、本当にすごいことだと思います。
Natalieがここで提示したのは、AIスロップ批判と、AIによる卓越したコンテンツ制作の称賛とが、彼女の中で両立しているという立場です。低品質な量産コンテンツへの批判はそのままに、しかしAIという技術を「個人クリエイターが従来は不可能だった規模の表現を実現する手段」として用いることには、彼女は強い肯定の姿勢を示しています。本セクション冒頭の「自分自身をクローンしてコンテンツ量を増やす夢」も、この同じ地平に位置づけられるものです。
7-8. AIスロップと一線を画す「テイストとスタイル」の重要性
Natalie： ですから、ええ、私もAI生成コンテンツの世界にもっと踏み込んでいきたいと思っています。ただ、それを「テイストとスタイル」をもってやるかどうかが、残りのAIスロップから自分を区別する鍵になるのです。
モデレーター： ええ、その通りですね。
Natalieが最後に提示した「テイストとスタイル」という基準は、本セクション全体を貫く境界線を端的に表現する言葉になりました。AIを使うかどうかが境界線なのではなく、AIを使った上で何を選び、どう構成し、どう仕上げるか――その選択を司る人間側の美意識と編集判断が境界線である、という整理です。
これは2-5でSophiaが導入した「有害でないAIスロップと有害なAIスロップの区別」を、クリエイター視点からさらに精緻化したものとも言えます。Sophiaは「量が多いことと有害であることは別」と区別し、Natalieはそこに「同じAI生成でも、テイストとスタイルの有無が分岐点」という第三の軸を加えました。AIが量と精度を急速に拡大していく時代において、量にも精度にも還元されない「人間の美意識による選択と編集」こそが、コンテンツの価値を決定する、という主張がここで明確に定式化されたのです。モデレーターの短い同意を挟んで、議論はThomasの「良いロボット vs 悪いロボット」という次の局面へと移っていきます。
8. 「良いロボット vs 悪いロボット」と安全性を儲かるものにする戦略
8-1. Thomas：良い直感だけに頼らず技術的カウンターアタックが必要という主張
Thomas： はい、その点ですが、良くも悪くも、AI時代になってもなお揺るがない根本原理がいくつかあると思っています。「信頼とは透明性であり、透明性とは信頼である」ということ、そしてジャーナリストは良い仕事をしなければならないということ。これらは依然として真実です。同時に、私たちは利用可能なツールを使って、こちら側からも反撃を始めなくてはいけません。
例の「赤く点滅する目、オーストリア訛り」の映画シーン（ターミネーター）の世界に踏み込みすぎるつもりはありませんが、要するに「私たちの側のロボットが、悪い側のロボットと戦う」必要があるのです。自分の良い直感だけに頼ってこの問題に対処できると考えるわけにはいきません。
Thomasがここで打ち出した主張は、本パネルの議論構造の中で重要な転換点になっています。前セクションまで議論されてきた人間側の対応――ジャーナリストの検証責任、クリエイターの事前告知、視聴者のリテラシー――これらの重要性をThomasは否定していません。むしろ「信頼と透明性」「ジャーナリストが良い仕事をすること」という伝統的な原則は、AI時代でも揺るがないと明言しています。その上で、それだけでは不十分だ、と踏み込んだのです。攻撃側がAIエージェントによる並列・高速・低コストの攻撃を仕掛けてくる以上、防御側もまた技術的な手段を組織的に用いる必要がある――これがThomasの「ロボット対ロボット」という比喩の核心です。
8-2. メディアハウスをAI-readyにし、人間・AIエージェント双方によるファクトチェック基盤を整える必要性
Thomas： ここで、私たちが今手にしている技術には、メディアハウスをよりAI-ready（AI対応可能）な状態にできるものがあります。それは、彼らがどのようにストーリーを提示するか、そしてそれがどのように――人間のエージェントによってであれ、AIのエージェントによってであれ――ファクトチェックされるかを変えるための技術です。
Thomasがここで提示した「AI-ready」という概念は、メディアの構造的なアップグレードを指しています。これは前セクション後半でSophiaが論じた「ジャーナリストを置き換えない」設計とは別の層の話で、Sophiaの議論が制作工程内部のAI活用を指していたのに対し、Thomasは「制作されたコンテンツが外部からどう検証可能か」という出力側のインフラを問題にしています。重要なのは、彼が検証主体として「人間のエージェントによってであれ、AIのエージェントによってであれ」と両方を並列に挙げた点です。検証作業そのものが、もはや人間の手作業だけでは追いつかない量とスピードで行わなければならない現実を、彼は前提として組み込んでいます。
8-3. 古い素材を新しい文脈に流用してディープフェイク化する手口への長期的ファクトチェック可用性の必要性
Thomas： そして彼らがそれを行う際には、ファクトチェックが非常に長期にわたって利用可能であり続けるような形で実装すべきです。なぜなら、しばしば起きるのは、古い素材を新しい文脈で再利用して、何らかの形でディープフェイクを作り、大混乱を引き起こす、という手口だからです。
Thomasのこの指摘は、ディープフェイクの実態に即した重要な洞察を含んでいます。完全にゼロから生成された偽コンテンツだけがディープフェイク被害ではありません。むしろ実害が大きいのは、過去に実際に行われた本物の発言や本物の映像を、まったく別の文脈に切り貼りして、あたかも今この出来事に関する発言・行動であるかのように見せかける手口です。この場合、「素材そのものは本物」なので、表層的な検証では真贋を見抜けません。だからこそ、過去のコンテンツがいつ、どの文脈で、どのように作られたかという来歴情報（彼が冒頭で語ったOriginTrailのプロビナンス追跡の技術が活かされる領域）を、長期にわたって参照可能な状態で保持しておく必要がある、というのが彼の論立てです。
8-4. コアとなる真実が参照可能であれば「良いロボット」が対応しやすくなるという見解
Thomas： しかし、もし参照すべきコアとなる真実（core truth）が利用可能な状態で存在していれば、「良いロボット」にとって、「悪いロボット」が達成しようとしていることに対処するのは、より容易な仕事になるのです。
Thomasがここで提示した「core truth」という発想は、彼の議論全体の鍵になっています。攻撃側のAIエージェントがいかに高速・並列・自己改善するとしても、防御側のAIエージェントが参照できる「真実の基準点」さえ堅固に保持されていれば、両者の対決はフェアな勝負になり得る。逆に言えば、core truthがどこにも参照可能な形で存在しなければ、防御側はそもそも何と何を比較してよいかわからず、勝負以前の問題になってしまう。前セクション4-2でThomasが「肉眼での識別は近い将来不可能になる」と予測したことを踏まえると、識別はもはや視覚的特徴ではなく、「参照可能なcore truthとの照合」という構造的な仕組みに依拠せざるを得ない、という結論が導かれます。
8-5. グローバルな協調とインセンティブ整合の必要性
Thomas： これには、たとえどれほど大上段の物言いに聞こえても、グローバルな「村全体」での取り組みが必要です。そして、私たちはインセンティブを揃える良い方法を見つける必要があります。
Thomasのこの言葉は、技術論からガバナンス論への意識的な移行を示しています。core truthの保持とそれへの参照という仕組みは、一企業や一国家が単独で構築できるものではなく、複数のプラットフォーム、メディア、規制当局が協調して初めて機能する基盤です。しかし協調を呼びかけるだけでは機能しません。各アクターがその基盤に貢献し、参加することが経済的にも合理的だという、インセンティブ設計が伴わなくてはならない――この問題意識が、次の論点である「安全性を儲かるものにする」という主張へと直結していきます。
8-6. 「安全性を儲かるものにする」――善行ではなく市場差別化要素として位置づける考え方
Thomas： ちょうどパネルの前に少し話していたのですが、「安全性を儲かるものにしなくてはならない」のです。それは単なる「良いことをしましょう」という話ではあり得ません。それを実現する必要があり、私はそこには明確な要素があると思っています。なぜなら、もし安全なAIソリューションが存在すれば、それは安全でないAIソリューションに対して、より優れた市場提案であるはずだからです。
Thomasがここで定式化した「安全性を儲かるものにする」という主張は、本パネル全体の中でも最も重要な戦略的提言の一つになりました。これは、安全性を企業のCSR的な「コスト」「義務」として位置づける従来の見方を逆転させ、「市場で勝つための差別化要素」として再定義する考え方です。インセンティブが整合しなければ協調は持続しない、というのが前項の論点でしたが、その整合の方法として彼が提案するのは、規制による強制ではなく、市場における優位性を通じた誘導です。
8-7. ヘルスケアなどリアルタイム本番運用領域では安全性が機能（feature）になるという論点
Thomas： とりわけ、「これを改善するのを手伝って」といった、自分の内部用途のための些細なユースケースを超えていくとき、たとえばヘルスケアであれ、メディアを超えた領域であれ、本番でリアルタイムに動かす必要がある場面に入っていくとき、安全性は「持っていたい機能（feature）」になるのです。
Thomasが「feature」という言葉を選んだことには意図があります。製品の世界で「feature」とは、ユーザーが対価を払ってでも欲しいと思う機能のことです。彼の主張は、業務上の重要度が増し、リアルタイム性が要求され、失敗のコストが高くなる領域に入っていくほど、「この製品は安全である」という性質そのものが、購入や採用の決め手になる――つまり消費者の選好に組み込まれる、というものです。前セクションで議論されたメディア領域や、ここで例示されたヘルスケアのような場面では、不安全なAIの導入はそもそも法務・経営判断として通らない。だからこそ安全性は「あったほうがいいもの」ではなく「ないと取引が成立しないもの」へと格上げされる、という論理です。
8-8. 航空業界アナロジー――黎明期の無謀飛行から業界全体の安全弁合意による安全な空の旅への変遷
Thomas： 私が先ほど挙げた例ですが、航空業界を考えてみてください。最初は無謀な人たち、アドレナリン中毒の人たちが、崖から飛び降りていた――誇張ですが、要するにスリルを求める人たちで、何かを飛ばす技術的能力と、その意志、そしてビジョンを持っていた人たちが始めたわけです。しかしそれは、今日のように安全な移動手段ではありませんでした。そして今のように安全になったのは、業界全体としての安全弁について合意し、「これは持っておくべきいいものだ」と決めたからです。そのおかげで、私たちは今、空を安全に移動できるのです。
ですから、この非常にざっくりとしたロジックをAI空間にも当てはめるなら、私が言いたいのは、「安全弁を製品の一部として組み込めるなら、それは可能だ」ということです。
このアナロジーは、Thomasの議論の中で最も説得力のある比喩として機能しています。航空という業界も、誕生時は危険で予測不能なものでした。それが今や統計的に最も安全な移動手段の一つになっているのは、規制と市場と業界自身の協調的合意によって、安全性が業界の共通基盤として組み込まれたからです。AIもまた、現在は黎明期の航空に似た無秩序状態にあるが、業界全体が安全弁を合意し製品に組み込めば、同じように成熟した安全な領域へと移行できる――というのが彼の歴史的展望です。
8-9. 企業・メディアハウスが安全性なしには萎縮してAI導入に踏み切れない現実、データ非流用とIP保護が導入条件であるという観察
Thomas： そして、これは実際に市場でも裏付けられていると思います。私が企業や事業会社と交わす会話の中で、安全性がない場合、彼らは「萎縮して（deflated）」しまい、前に進もうとしなくなるのです。メディアハウスも例外ではありません。ですから、「データが目的外に使われない」「自分たちのIPが保護される」という安全性の要素こそが、彼らがより多くのAI技術の利用に踏み込むための条件になっているのです。ですから、ええ、私はそちら側の見方をしています。
Thomasが現場で観察してきたこの事実は、「安全性を儲かるものにする」という抽象的提言を、極めて具体的な市場メカニズムへと接地させるものです。企業がAI導入を決めるとき、彼らが警戒するのは、自社のデータがAIプロバイダ側で別の用途に流用されてしまうこと、そして自社の知的財産がモデルの学習に取り込まれて競合に流出してしまうことです。これらが保証されない限り、企業はAI導入を躊躇する――Thomasの表現では「deflated（萎縮した／意気消沈した）」状態になる。
これは前セクション6でSophiaが論じた「メディアの信頼回復」の問題と、同じ構造の裏返しになっています。メディアは視聴者からの信頼を確保しなければ存在できず、AIプロバイダは企業顧客からの信頼を確保しなければ採用されない。両者にとって「信頼」は道徳的徳目ではなく、事業継続の必要条件であり、そして同時に競争優位の源泉でもある――この理解こそが、本パネルが提示する「AI時代における信頼の経済学」の核心であり、次のセクションでTonyが対比的に提示する「不安全を高価にする」アプローチへの自然な橋渡しとなっていきます。
9. 「不安全を非常に高価にする」アプローチとガードレールの実例
9-1. Tony：安全性を儲かるものにするか、不安全を非常に高価にするかの二択
モデレーター： 今おっしゃった点に、ちょっとだけ立ち止まらせてください。「安全性を儲かるものにする」というのは、AI全般をめぐる規制とイノベーション、自由市場と企業の成長と、ガードレールとの間のバランスという、より大きな対話の一部ですよね。安全性をどう儲かるものにするのか、私には正直まだ見えないところがあります。ただ、十分な「罰」を確立して、悪用されたら割に合わないとさせることはできるのではないか。ソーシャルメディアであれ他の業界であれ、企業が「これは引き受けるべきリスクではない」と判断する分岐点はどこにあるのか。
Thomas： この場面では、「酢より蜂蜜（あるいはニンジン）」のほうが遠くまで連れていってくれると思います。たとえば私が先ほど挙げた航空業界の話のように、彼らが業界全体として合意した安全弁が、最終的に安全な空の旅を実現したわけです。これはAI領域にも応用できる「広いロジック」で、市場での会話においても、安全性が組み込まれていなければ事業会社やメディアハウスは前に進もうとしない、データの目的外利用がない、IPが保護される、という安全要素こそが彼らをAI導入に踏み込ませるのです。ですから、私はそちら側に立っています。
Tony： あなたは「安全性を儲かるものにする」ことができるし、あるいは「その逆――不安全を極めて高価にする」こともできるのです。
Tonyのこの応答は、本パネルの議論構造の中で、Thomasと対比される第二の戦略軸を導入する役割を果たしました。Thomasが「ニンジンと蜂蜜」、すなわち報酬で誘導するアプローチを推したのに対し、Tonyは「鞭と酢」、すなわち罰によって悪用のコストを引き上げるアプローチに比重を置きます。ただし注意深く読むと、Tonyはどちらか一方だけを選ぶよう求めているわけではなく、両者が同じ目的への異なる経路として併存し得ることを示唆しています。
9-2. 携帯電話パスコード進化史アナロジー（Nokia 3310→4桁→6桁→指紋→顔認証）
Tony： 一つアイデアをお話ししましょう。多くの方が携帯電話を持っていますよね。皆さん、携帯にパスコードがなかった時代を覚えていますか。Nokia 3310を使っていた方は？ いえ、見ませんね。一人、二人、いるかな。覚えていますか。それで、何があったか。
会場の声： （沈黙）
Tony： ということは、私は見た目より歳を取っているのかもしれませんね。
その後、4桁のパスコードが来ました。1、2、3、4、みたいなものです。覚えていますね？ しかしそのうち、お子さんたちがそれを取って、推測して、解いてしまうようになった。そこで6桁のパスコードへと進化しました。10、10、10、みたいな。それでもなお、携帯はjack（強奪）され、皆さん失っていました。当時600ドルで買った携帯がjackされる。誰かが簡単にそれを破る。
次に何が来たか。指紋認証です。皆さん、「これはクールだ」と思いましたよね。でも、これはあなたから生体データの一バージョンを取り上げたということなのです。ただし、私にとっては、600ドルの携帯を失うよりも、自分の指紋というプライバシーを差し出すほうがコストが高いのです。
それから、どうやってかは知りませんがこれもクラックされて、あるいは指が太い私のような人間が誤操作して落としてしまったりして、次に来たのは何か。顔認証です。携帯が自分の顔を読み取り始めたときに、文句を言った方はここにいらっしゃいますか。一人。二人。三人。後ろにも見えますね。四人。後ろの方も。はい、5人くらいですね。ええ、何人かはいた。世界の大半は文句を言わなかった。なぜなら、私のデバイスを失うほうが、私のプライバシーの一部を差し出すよりも、コストが高いからです。
Tonyのこのアナロジーは、抽象的な「安全 vs 不安全」の議論を、聴衆が自分自身の経験として追体験できる具体的な歴史へと落とし込みました。Nokia 3310の時代から顔認証に至るパスコード進化史は、社会全体が「自分の何を差し出せば、何を守れるか」という交換比率を段階的に変化させてきた歴史でもあります。
9-3. 「$600のスマホを失う方が、生体情報を渡すより高くつく」というユーザーの心理的トレードオフ
Tonyのアナロジーの中核にあるのは、「コスト比較」という極めてシンプルな心理メカニズムです。600ドルの携帯を失うこと、その中にある連絡先や写真や仕事のデータを失うこと、新しい端末を買い直すこと――これらを合計したコストが、「自分の指紋を企業に提供する」「自分の顔の生体スキャンを携帯メーカーに提供する」というプライバシー上のコストを上回った瞬間に、人々は躊躇なく後者を選びました。そして実際、その通りのことが起きたわけです。生体認証技術への移行は、規制で強制されたのではなく、ユーザー側の合理的計算によって自発的に受け入れられたものでした。
このトレードオフの構造をAIの誤情報問題に当てはめると、Tonyが「不安全を極めて高価にする」と言うときの意味が明らかになります。攻撃側にとっても、ユーザー側にとっても、「これを行うコスト」が「これによって得られる利益」を超えれば、その行動は自然に減少する。罰や規制とは要するに、このコスト計算を意図的に書き換える仕掛けなのです。
9-4. デンマークが個人の顔・姿・声に著作権を認める法整備を検討しているという事例
Tony： ドゥームズデイ的な悲観論にはしたくないのですが、申し上げたいことがあります。実は昨日の夜にも話したのですが、デンマークは――立法を検討中なのか、すでに実施したのか、私には正確にはわかりませんが――個人が自分の顔、自分の姿、自分の声に対して著作権（copyright）を持てるようにしているのです。つまり、自分自身に著作権を設定できる。誰かがあなたの許可なくあなたを使った場合、訴えることができる、ということです。
Tonyが提示したこのデンマークの事例は、「不安全を高価にする」という戦略の、極めて先進的な制度的実装例として位置づけられます。これまでの議論で問題視されてきたディープフェイクや無断クローン――前セクションでNatalieが体験した「コンテンツの無断改変」、彼女の友人クリエイターが受けた「声と顔のAIクローンによる悪用」、Tonyが描いたWhatsAppでの家族なりすまし――これらすべてに対して、被害者本人が法的に直接訴える根拠を持てるようになる、という発想です。生体情報や人格的属性を「財産」として扱い、その無断使用に経済的なペナルティを科すことで、攻撃側のコストを引き上げる。これは前セクションでThomasが論じた「IP保護が企業のAI導入の前提条件になる」という観察と地続きであり、IPの概念を企業から個人へと拡張した制度設計と言えます。
9-5. 4K/8K動画への虹彩スキャンによるAI生成検出という将来技術構想
Tony： ただ、たとえば私があなたの画像を動画に使い、しかも私が匿名の個人だったとしたら――蜂蜜やアップルパイの代わりとなる「酢」は、ニンジンに対する「鞭」は、何になるのでしょうか。そして私が思うに、ここで多くの人々は、さらに多くの生体データを差し出すようになる、あるいはすでに差し出しつつあるのです。今や4K、8K、あるいはそれ以上の動画が作られていますから、その動画に対して目の生体スキャン（biometric scan）を行うことができ、「いや、Tonyはそんなクレイジーなことを言っていない」と判定できるようになる。動画は本物に見えるけれど、私たちは「これはTonyではない」とわかる。それは人間が肉眼で見てわかるのではなく、彼の虹彩をスキャンして「これはAI生成の動画である」と判定できる技術があるからです。
つまり、Tonyは自分の虹彩を誰かに提供しなければならないということになります。
Tonyがここで描き出した未来像は、本パネルの議論が前提としてきた多くの論点を集約しています。前セクション4-2でThomasが「肉眼での識別は近い将来不可能になる」と予測し、8-4で「core truthとの照合」が真贋判定の鍵になると論じたことを思い起こしてください。Tonyのこの構想は、まさにその「core truth」を個人の生体情報という形で実装する具体策の一例です。本人の虹彩データが基準点として保持されていれば、AIで生成された偽動画の中の「目」が、本人の実際の虹彩パターンと一致するかを技術的に判定できる、というアイデアです。
ただしTonyは、この技術がもたらす意味を意図的にひねって提示しています。安全性を確保するためには、Tony自身が自分の虹彩データを誰かに（おそらくは認証サービスを提供する企業や機関に）差し出さなければならない。9-3で見たパスコード進化史の延長線上で、生体情報の提供範囲がさらに拡大していく――この流れの必然性と引き換えに、新しい問題が生まれることをTonyは続けて指摘していきます。
9-6. 自己情報を提供し続けるほど「収穫逓減」が起きるリスクと、Googleが23年分のデータを保有する現実
Tony： 私たちが安心を感じるためにテクノロジーが必要だとして、そのために計算上、私たちはますます多くの「自分自身」を、テクノロジー側に渡して、テクノロジーが自分自身に対して私たちを検証できるようにしなくてはならない、ということになるわけです。
しかしそうすると、ある時点で――私たちが「収穫逓減の法則（rule of diminishing returns）」と呼ぶような事態が訪れます。あまりにも多くの自分自身が、他の誰かによって所有され、保持されているという状態です。Googleなど、Googleはこれを使ったことのある私たち全員について23年分のデータを知っているわけです。広告が出てくるとき、それはほとんど正確に私たち自身そのものです。あなたは、本来あなたを守るべきだった人々から、ほとんど侵害されていると感じる。だからこれは難しい問題なのです。
Tonyが提示したこの懸念は、本パネルが扱ってきた「安全 vs 不安全」「公開 vs 秘匿」のトレードオフを、長期的視野で再検討する必要を突きつけました。生体情報や個人データを差し出すたびに、瞬間的にはコスト計算が成立して安全性が向上したように見える。しかし、その積み重ねがある閾値を越えた瞬間、収穫逓減が始まる――どれだけさらにデータを差し出しても安全性の追加分は減少し、逆に保有された情報の累積が、自分を守るはずの主体から自分が侵害される元になる、という構造です。
Googleが23年分のデータを保有しているという指摘は、この収穫逓減がすでに私たちの身に起きていることを示す具体例です。広告が「ほとんど正確に私たち自身そのもの」になるとき、これは利便性であると同時に侵害でもある。Tonyの言う「あなたを守るべきだった人々から侵害されている」という表現は、データを集めた主体と、データを濫用する主体が同一であるか、あるいは前者が後者へとデータを流出させ得る現実を指しています。
9-7. 娘を脅迫材料に使われるシナリオから見る、安全と非安全の境界設定の困難さ
Tony： ですからこれは難しい問題で、これからもずっと難しい問題であり続けるでしょう。なぜなら、「あなたを攻撃して、あなたの娘さんを材料に脅迫してくる」ところに行き着かないようにするためには、自分のどれだけのプライベートな情報を差し出さなければならないのか――その線を誰が引くのか、という問題だからです。
私には娘がいます。私の娘を、私への重しとして使い、金を払えと、あるいは何かを差し出せと――「あなたの娘さんがハンバーガーを買うために」「ヨーロッパに旅行に行くために」といった、援助の名目を装って――要求してくる、そうした状況になりかねない。
ですから、「安全性を儲かるものにする」のか、それとも「不安全を極めて非常に高価にする」のか、その間は本当に微妙なところなのです。
Tonyがここで持ち出した「娘を脅迫材料に使われる」というシナリオは、前セクションで描いた「WhatsAppで娘を装った詐欺」と対をなしながら、より深刻な段階の脅威を示しています。前者は娘になりすまして親から情報を引き出す詐欺でしたが、ここで描かれるのは、本物の娘の情報を握った攻撃者が、その情報を脅迫の梃子として使ってくる事態です。
そして重要なのは、Tonyがこの恐ろしい仮想シナリオを、9-1で提示した「儲かるものにする vs 高価にする」の二択の間で揺れる議論の結論として持ち出している点です。線引きは難しい。どちらの戦略にも限界がある。だからこそ、二者択一ではなく、両方を組み合わせ、状況に応じて配分を調整していかざるを得ない――そういう実践的な現実認識が、この発言の底にあります。
9-8. Sophia：Synthesia社のAI Futures Council参画と、過去の報道がガードレール強化につながった経緯
モデレーター： あなたが話したいのが見えますので、最後の一言をどうぞ。
Sophia： 既存のガードレールの一例として、私はSynthesia社のAI Futures Councilに加わっています。実は、これは私がだいぶ前に行った報道がきっかけになった部分があるのです――私一人が行ったわけではなく、ほかの記者も同様の報道をしていたはずですが――その結果、彼らはガードレールを強化する必要があると認識しました。とりわけ、人々が政治的なコンテンツを生成するために彼らのプラットフォームを使おうとすることに関してです。ここは、私たちの多くが、ディープフェイクが大きな損害を引き起こし得ると懸念している領域の一つです。
Sophiaがここで導入した事例は、本パネルの議論を抽象論から現実の制度設計へと着地させる役割を果たしました。Synthesiaはまさに生成AI動画の代表的プラットフォームの一つであり、本パネルが議論してきたディープフェイクの「供給側」に位置する企業です。そのような企業の内部審議機関（AI Futures Council）にジャーナリストが招かれているということ自体が、生成AIの責任ある運用が業界の自発的取り組みとして始まっていることの証左です。
そして特筆すべきは、その取り組みの引き金が「ジャーナリズムの報道」だったとSophiaが明示している点です。前セクション6で議論された「ジャーナリストが良い仕事をする」ことの重要性が、ここで具体的な制度的成果として実を結んでいる――取材と報道が、プラットフォーム企業のガードレール強化を引き出し、それが今度はディープフェイク被害の予防につながる、という連鎖が示されています。
9-9. Synthesiaにおける政治コンテンツ生成は最高価格プラン限定という具体策――コストと身元情報の提示で悪用を高価にするアプローチ
Sophia： 私の理解が正しければ、彼らのプラットフォーム上で政治コンテンツを作成するためには、利用可能な中で最も高額なオプションに対して支払う必要があるのです。つまり、一部の企業は基本的に、顧客側により多くの費用を負担させているということです。なぜなら、彼らは「あなたにとってコストが高くなりすぎるはずだ」「あなたが過剰な個人情報を差し出さなければならないはずだ」という前提を置いているからです。この場合、生体情報ではありませんが、こうした企業に対する氏名や本人確認情報です。さもなければ、ツールとして使うことを許されない。
そして、これは何らかの解決策へと向かう一つの道筋だと、私は実際に思っています。
Sophiaがこの最後の説明で示したのは、本セクションの冒頭でTonyが提示した「不安全を極めて高価にする」という戦略の、極めて具体的かつすでに運用されている実装例です。
Synthesiaの仕組みを分解すると、二重のフィルタが働いていることがわかります。第一に「金銭的コスト」――政治コンテンツ生成を最高価格プランに限定することで、安易な悪用の経済的ハードルを引き上げる。第二に「身元情報の提示」――最高価格プランを契約するために、氏名や本人確認情報を企業側に提示せざるを得なくなる。匿名で安価にバイデンの偽音声を量産しようとした攻撃者は、この二つのフィルタを同時に突破しなければならず、その時点で多くの悪意ある主体にとっては割に合わない取引になるわけです。
これはTonyが9-3で描いた「600ドルの携帯 vs 指紋」のトレードオフ構造を、コンテンツ生成プラットフォーム側に組み込んだ設計です。攻撃側にとって「自分の身元を企業に登録してまで政治ディープフェイクを作る」コストが、それによって得られる利益や満足を上回るならば、その攻撃は実行されない――Tonyの言う「不安全を高価にする」戦略の、実務的な完成形と言える事例になっています。
9-10. モデレーターによる閉会と4名への感謝
モデレーター： よし、これは正直、皆さんとあと2時間でも座って話していられるテーマですが、まだ取り上げなければならない議題がたくさんあります。
ですから、本当にどうもありがとうございました。Sophia、ありがとうございました。Natalie、Thomas、Tony、皆さんに拍手をお願いします。素晴らしいセッションでした。
モデレーターのこの締めくくりは、本パネルが提示してきた論点の広さと深さを認めつつ、限られた時間の制約の中で議論をどこかで区切らなければならないという現実を率直に表現するものでした。AIスロップの700%増という統計から始まった対話は、信頼の参入障壁崩壊、クリエイターの被害体験、ディープフェイクの政治的脅威、メディアの責任とアクセシビリティ、AIクローン実験、良いロボットと悪いロボットの対決、安全性の市場化、不安全のコスト化――と幅広く展開し、最終的にSynthesiaの具体的なガードレール実装という現実の地点へと着地しました。
Sophia、Natalie、Thomas、Tonyという、英国のジャーナリスト、AIクリエイター、分散型データ技術の起業家、ケニアのテックシーンの草分けという、極めて異なる背景を持つ4名が、同じ「誤情報時代におけるメディアの役割」というテーマを多角的に照らし出した本パネルは、ここで幕を閉じました。