※本記事は、Yoelle Maarek氏(TII)とHakim Hacid氏(TII)がモデレーターを務めた、ACM Web Conference 2026における登壇者パネル「Artificial Intelligence Fueled by and Fueling Open Science」の内容を基に作成されています。動画の詳細は https://www.youtube.com/watch?v=e3y7by2iRjo でご覧いただけます。本記事では、パネルディスカッションの内容を要約・整理しております。なお、本記事の内容は登壇者の発言を正確に反映するよう努めていますが、要約や解釈による誤りがある可能性もありますので、正確な情報や文脈については、オリジナルの動画をご視聴いただくことをお勧めいたします。
本パネルには、Philipp Christmann氏(CISPA Helmholtz Center for Information Security)、Taylor Lynn Curtis氏(Quebec Artificial Intelligence Institute)、Giorgio Maria Di Nunzio氏(University of Padua)、Dame Wendy Hall氏(University of Southampton)、Mounia Lalmas氏(Spotify)の5名が登壇しています。
1. 開会とパネル趣旨説明
1.1 Yannis Ioannidisの紹介とWeb ConferenceのACM移行
司会者： 皆さん、おはようございます、こんにちは、こんばんは。世界各地からご参加いただき、ありがとうございます。本日は、プレナリーパネルを開催できることを大変嬉しく思っております。Hakimと私は、このパネルを開催できることを非常に光栄に感じております。このパネルは、Yannisが議長を務める、おそらく最後のパネルになります。Yannisは2日前までACMの会長でした。彼とACMのおかげで、この素晴らしい会議シリーズが存在しています。彼がACM会長を務めていた間に、Web ConferenceはIW3C2からACMへと移行しました。そのため、私たちは今、この大きなACMコミュニティの一員となれたことを大変嬉しく思っています。彼はアテネ大学の計算機科学教授でもありますが、経歴の紹介は割愛させていただきます。それでは、Yannis、どうぞよろしくお願いします。
Yannis Ioannidis： ご紹介いただき、ありがとうございます。このパネルの調整とホストを任せていただけたことを、大変嬉しく光栄に思っております。本来であれば4月にドバイで皆さんと直接お会いできるはずでしたが、少なくとも技術のおかげでこうして共に集まる機会を得られたことに感謝しています。
1.2 パネルテーマ「AIとオープンサイエンス」の趣旨説明
Yannis Ioannidis： このパネルの名称は、人工知能とオープンサイエンスという2つの要素を組み合わせたものです。正式な題目は「人工知能はオープンサイエンスによって推進され、また同時にオープンサイエンスを推進する」というものです。この2つの大きな変化の間には相互作用が存在しており、本パネルではその様々な側面を検討していきます。
人工知能とは何かについて、皆さんに詳しく説明する必要はないと思いますが、それは大規模言語モデルだけではなく、深層学習、機械学習、基盤モデル、特化型モデルなど、思いつくものすべてを含みます。また、ロボティクスのような組み込み型の人工知能も忘れてはなりません。一方でオープンサイエンスとは、研究のライフサイクル全体を公開の場で行うことを意味します。最も分かりやすいのはオープンアクセスで、論文、データセット、ソフトウェアなどが、利用時点で誰でも無料で公開されている状態を指します。ここで申し上げたいのは、ACMが2026年1月1日をもって、同等の質を持つ組織として初めてデジタルライブラリを完全にオープンアクセス化したという点です。これは大きな節目であり、この出来事が起きた時に自分が会長であったことを嬉しく思っています。これは多くの人々の努力の成果ですが、それだけではありません。オープンサイエンスとは、オープンレビューを意味し、オープンなインフラストラクチャーを用いたオープンアーカイブを意味し、中間結果や失敗した実験を明らかにすることも意味します。さらに研究のライフサイクルを遡ると、何かを研究しようと考えた時点、つまりアイデアの段階から公開すること、研究したい内容を最初から明らかにすること、方法論を明らかにすること、そして失敗した場合でも世界がそれを見ているということまでを含みます。つまりオープンサイエンスとは、研究のライフサイクル全体を開くことなのです。
本パネルでは、開放性と人工知能の関係性にまつわる一連の問いを検討していきます。私たちは5名の素晴らしいパネリストにお集まりいただけたことを、大変幸運に思っています。参加を承諾していただき、ありがとうございます。私たちは複数のタイムゾーンをまたいでおり、また経験の浅い方から非常に若く活気ある方まで、幅広い「年齢ゾーン」もまたいでいます。それぞれが正しい方向へ議論を導いてくれることに、大変期待しております。
2. パネリスト自己紹介
2.1 Mounia Almas(Spotify)とGiorgio Di Nunzio(パドヴァ大学)の自己紹介
Yannis Ioannidis： それでは、パネリストの皆さんに自己紹介をお願いしたいと思います。それぞれ3分程度で、ご自身について、そしてAIとオープンサイエンスの重要性について、この2つが直交する概念なのか、あるいはAIを使えば必然的にオープンにならざるを得ないのか、といった点についてお話しください。まずはMounaさん、お願いします。
Mounia Almas： お招きいただき、ありがとうございます。Yannis、ご退任おめでとうございます。これからもっと楽しいことが待っていると思います。私はMona Almasです。Spotifyで研究組織を率いており、パーソナライゼーション、推薦システム、評価を専門としています。バックグラウンドは情報検索、Web検索、ユーザーエンゲージメント、評価などです。学術界と産業界の両方に20年近く携わってきており、両方の立場を経験してきました。
AIとオープンサイエンスが直交する概念かという問いについては、私はそのようには考えていません。むしろこの2つの間には多くの流動性があると思っています。確かにクローズドなAIとクローズドなサイエンスというものは存在しますし、オープンサイエンスを伴わないオープンAIというものも存在します。しかし私が見ている限りでは、両方の次元においてオープンな方向へ動いているという傾向があります。例えばこのWeb Conferenceは、まさにこの動きを推進する力の一つです。オープンデータ、オープンベンチマーク、オープン評価を非常に重視してきましたし、AI手法についても同様の姿勢を取っています。両方がクローズドである領域や、片方だけがクローズドである領域と比べると、両方がオープンである領域でこそ多くのエネルギーが生まれていると感じています。
より具体的な例を挙げますと、Spotifyではオープンなウェブモデルを用いてドメイン適応型の推薦システムを構築し、そこで得られた成果物をコミュニティに還元しています。例えばbackstageという開発者プラットフォームを構築し、これをオープンソース化してCloud Native Computing Foundationに寄贈しました。これはAIエージェントが推論に利用できる構造的な知識レイヤーを提供するものであり、エンジニアリング領域での貢献の一例です。また、産業界に不足しがちなオープン性への貢献として、研究手法自体をコミュニティに共有することにも取り組んでいます。例えば私はキーノートでセマンティックIDについて発表しましたが、これによってモデル自体へのアクセス権がなくとも、何が行われているかをある程度知ることができるようになります。このように出版や本会議のような場を通じて、私は全体として楽観的な見方をしています。
Yannis Ioannidis： 素晴らしいですね。ありがとうございます。続きまして、Giorgioさん、ご自身について少しお話しいただけますか。
Giorgio Di Nunzio： Yannis、そして皆さん、お招きいただきありがとうございます。私はGiorgio Di Nunzioです。イタリア、パドヴァ大学の計算機工学准教授で、主に情報検索、テクノロジー支援レビュー、自然言語処理、計算用語学を研究しています。このパネルとの関連で申し上げますと、私はパドヴァ大学のオープンサイエンス担当学長代理も務めています。私の研究経歴でオープンサイエンスに関わる最も重要な部分は、20年以上携わってきたCross Language Evaluation Forum、現在はConference and Labs of the Evaluation Forumと呼ばれる取り組みです。これは共有タスク、オープンな評価キャンペーン、再利用可能なデータセットやベンチマークが、いかに科学コミュニティの進歩を助けるかを示す非常に良い事例です。私にとってオープンサイエンスとは、研究を始めた当初から、論文やデータへのアクセスだけでなく、共有された評価プロトコル、再現性、共通のインフラストラクチャーを含むものでした。
AIとオープンアクセス、オープンサイエンスの関係については、Monaさんも触れていたように、直交しているとも言えますが、もう少し議論の余地があると思います。両者は同一のものではありません。AIはオープンサイエンスに利用できますが、非常にクローズドな環境でも利用できるからです。また、オープンサイエンスはAIなしでも存在してきました。オープンデータ、プロトコル、ソフトウェア、査読といったものは、これまでずっと存在していたものであり、必ずしもAIと結びついたものではありません。とはいえ、実際には両者は次第に相互に影響を及ぼし合うようになってきていると考えています。AIシステムはデータ、コード、ベンチマークへのアクセスを必要としており、オープンサイエンスはまさにこれらの資源を提供しています。同時に、AIは研究者がデータを準備し、ワークフローを準備し、メタデータを抽出する作業を支援することができます。ここで一つ危惧しているのは、AIが研究プロセスの一部を自動化できるからといって、そのプロセスが自動的にオープンになるわけではないという点です。これは部分的には真実ですが、オープン性の実現には文書化、由来の追跡、透明性といった、コミュニティによる多大な努力が必要です。私の見解を総括すると、全体としては楽観的でありながらも慎重であり、AIがオープンアクセスを加速させる強力なツールとなり得ることを、若手研究者にどのように伝え、説明していくかを考える必要があると考えています。
2.2 Taylor(Mila)、Philipp Christmann(CISPA)、Dame Wendy Hallの自己紹介
Yannis Ioannidis： ありがとうございます。それでは大西洋を越えて、Taylorさんにお願いしたいと思います。3分ほどでお願いします。
Taylor： はい、皆さんおはようございます、こんにちは。私はモントリオール、カナダにおりますので、私にとっては少し早い時間です。私の名前はTaylorで、経歴としては技術政策のバックグラウンドと計算機科学のバックグラウンドを両方持っています。もともとは計算機科学者、ソフトウェアエンジニアとしての訓練を受けましたが、現在は政策の分野で働いています。具体的には、Yoshua Bengio氏が2018年に設立したケベックAI研究所、Milaにおいて、Bengio氏の政策顧問として働いています。Mila自体は1,200名以上の研究者が所属し、AIに関する様々な中核的な問いに取り組んでいる研究機関です。その中核は研究機関でありながら、政策研究、教育など、AIに関連する様々な活動も行っています。
AIとオープンサイエンスの直交性についてのご質問にお答えしますと、理論上は対立する概念だと思いますが、それは理論上に限られると考えています。深層学習の歴史を振り返れば、その多くはオープンサイエンスのおかげで発展してきました。archiveのようなもの、既に言及されたオープンデータセット、そしてその他様々なツールが、私たちを現在の地点まで導いてきました。また、オープンソース化などによって長い時間をかけて大きなエコシステムが構築されてきたからこそ、こうした発見が可能になったのです。このことは、AIが科学的な成果物であると同時に、オープンサイエンスのプロセスの中で使えるツールともなっているということを示していると思います。先ほど少し触れられていましたが、実際には様々な組み合わせが存在します。AIなしでオープンサイエンスがある場合、あるいはその逆にAIを使いながらもオープンでないサイエンス、あるいはオープンなサイエンスがある場合など、可能性はマトリクス状に広がっています。ただ私たちが時に誤りを犯すのは、このようなマトリクスの中で、あるいはオープン性の実践の中で、AIを単なる標準的な科学ツールの一つとして扱ってしまうことだと思います。AIが開かれた科学によって促進されてきたことは明らかですが、AIがオープンサイエンスにどのような影響を与えるかは、はるかに複雑な関係性を持っています。現在私たちが目にしているのは、計算資源や安全性に関する様々なボトルネックが、私たちが期待するオープンサイエンスの循環そのものを変化させ始めているという状況です。オープンなAIモデルがあるからといって、そのプロセス自体が自動的にオープンになるとは言い切れません。したがって私の考えは、この2つは直交する概念ではなく、しばしば互いを推進し、互いを支え合っているというものです。AIを単なるツールとして扱うのは誤りだと思います。
Yannis Ioannidis： 素晴らしいですね、ありがとうございます。残るお二人のパネリストにお願いします。Philippさん、3分ほどで、ご自身について、そしてお考えについてお話しください。
Philipp Christmann： はい、私からもこの機会にお招きいただき感謝いたします。私はPhilipp Christmannです。ドイツのCISPAヘルムホルツ情報セキュリティセンターの博士研究員で、主な研究テーマはAIエージェントとデータおよび知識の交差点にあります。博士号はMax Planck Institute for InformaticsのGerhard Weikum教授の研究グループで取得しました。博士論文では、構造化データと非構造化データからの情報を組み合わせて、知識集約的なタスクや質問に回答し、その回答プロセスを検証可能にする研究に取り組みました。現在CISPAヘルムホルツセンターでは、AIエージェントとデータの交差点における研究を続けていますが、このパネルとも関連の深い、信頼性、安全性、セキュリティ、特にプライバシーといった側面にも取り組んでいます。
AIとオープンサイエンスの相互作用についての私の見解を申し上げますと、AIは既に研究のあらゆる場面、論文の執筆や改稿、コーディングやコード基盤の構築などで、研究をより速く進めるためのツールとして広く用いられていると感じています。一方で、まだあまり探求されていない、非常に有望な方向性として、オープンサイエンスがAIに貢献できる側面があります。具体的には、長らく分断されていた異なる研究分野同士をつなぐという役割です。異なる研究分野の間では使われる用語自体が異なることがありますが、オープンサイエンスはこうした分野間のコミュニケーションを橋渡しするための重要な手段になり得ますし、AIはこれらの分野を横断する有望な仮説を特定するために利用することもできます。直交性についても簡単に述べますと、他のパネリストの見解に同意する部分もありますが、オープンサイエンスを伴わないAIという状況は存在しますし、長期的にはAIを伴わない科学というものも存在し続けられることを願っています。しかし同時に、現在のAIシステムの多くが、これまでの大量のオープンサイエンスの成果によって学習されてきたことも明らかであり、そうした知見がこれらのモデルの大きな改善につながってきたことも間違いないと思います。
Yannis Ioannidis： ありがとうございます。それでは最後になりますが、自己紹介と、AIとオープンサイエンスの関係性についての最初の見解をお願いします、Dame Wendy Hallさん。
Dame Wendy Hall： 私はWendy Hallです。世界にWendy Hallは一人しかいませんが。私は大英帝国勲爵士であり、王立協会フェロー、王立工学アカデミーフェローです。英国のAI戦略を執筆し、国連のAIに関するハイレベル諮問委員会にも参加してきました。現在は世界中でAIをどのように統治していくかについて、国連報告書が述べているように「人類全体の利益のために」議論する立場にいます。
まず一つ申し上げたいのは、皆さんはオープンサイエンスの良い側面ばかりに目を向けているようですが、私たちは皆、大手AI企業とトランプ政権が展開する駆け引きによって、人質に取られる危険性にさらされているという点です。どのLLMを使って作業をするか、そのLLMが停止された場合にどうなるか、データはどこに保存されているのか、誰がアクセス権を持っているのか、誰がそのデータを収集し利用しているのか、こうした問題はすべて現在まさに「ワイルド・ウェスト」の状態にあります。これに関連して中国についても触れたいのですが、中国は「良い側」を演じようとしていますが、非常に長期的な戦略を取っています。習近平主席が7月に上海で「世界AI協力機構」に関する大きな発表を行うと聞いています。また、私の友人であるZhipuのJie Tang氏の会社が、先週GLMというソフトウェアのオープン版を公開し、世界を驚かせました。これはOpenAIやAnthropicと同等の性能を持つとされています。このことは、投資家たちがOpenAIやAnthropicに投資を続けるのか、それとも無料で使えるオープンウェイトのモデルに目を向けるのか、といった状況の変化をもたらしています。実際、Microsoftは既にDeepSeekを利用しています。
私がこうした議論の場でよく述べているのは、私たちは皆、大学出身であるという点です。この場にいる皆さんも、いずれかの時点で大学から出てきているはずです。大学というものは、こうした企業のいずれよりも、はるかに長く存続し続けるでしょう。ギリシャ人であるYannisはこのことを誰よりもよくご存知のはずです。AIはますます高コストになっていきます。それがこれらの企業の力の源泉であり、彼らはトークンを販売していますが、企業側もトークンが不足する事態に陥りつつあります。チップやエネルギー消費に関する問題も存在しており、これらは長期的には技術で解決できるかもしれませんが、短期的には解決できません。大学は長く存続し、人材を育成してきた素晴らしい遺産を持っていますが、私たちが望む研究を行うための資源を確保することには、今後困難が伴うでしょう。
最後にもう一点申し上げたいのは、Yannisが私を任命してくれたことでもありますが、私はACM出版委員会の共同議長を務めています。なぜそのような役目を引き受けたのかは分かりませんが、それは別として、私は現在、AIが科学のプロセスをどのように変えていくか、人々が論文の執筆、研究の実施、研究のレビューにAIをどのように利用しているか、という議題に関する多くのメールに毎日対応しています。中には、AIが研究を行うようになり、人間が不要になるという、いわば「ブラックミラー」的な極端なシナリオを語る人もいますが、私はそのシナリオには同意しません。しかし、私たちがAIを適切に制御しなければ、あるいは私たちがチームとして、人間と機械が協働して研究を行うことについて深く議論しなければ、すべてをAIに委ね、大学という存在を解体してしまうことになるのではないか、という懸念は持っています。そうなることはないと思いますが、今後起こり得るシナリオとして、真剣に考える必要があると思います。
3. AIはオープンサイエンス・査読プロセスをどう変えるか
3.1 Wendy Hallの見解:査読危機とビッグテック依存
Yannis Ioannidis： これは大変興味深いお話でした。実は私が事前に準備していた進行の中で、次に予定していた質問はまさに今Wendyさんがすでに答えてくださった内容です。私たちはAI研究者、AI論文執筆者、AI査読者を持つことになるのでしょうか。もうすでにお答えいただきましたが、この点についてもう少し考える必要があるでしょうか。
Dame Wendy Hall： ある程度、私たちはすでにその状況にあります。問題は、コミュニティとして私たちがそれをどのように管理していくかということです。私のメールボックスは、この議論で溢れかえっています。Triple AI(AAAI)ともこの問題について議論していますが、ある会議に1万件もの論文が提出され、その多くが不正であったり、同じテーマについて同じ著者が複数の論文を重複して提出しているようなケースもある中で、いったい誰がそのすべてをレビューするのか、誰がそれを取り締まるのか、という問題があります。私はRoyal Societyの活動にも多く関わっていますが、そこでもこの問題について議論しています。査読という概念そのものが危機にさらされているのです。
Yannis Ioannidis： まさにその通りですね。私たちはAI研究者を持つことになるかもしれませんが、人間の研究者も同時に存在し、それはハイブリッドなコミュニティになっていくのでしょう。今後を見ていく必要があります。ありがとうございます。それでは話を進めますが、Wendyさんのお答えからも、また他の皆さんの発言からも明らかなように、AIは確かに科学を促進しています。それはツールであるかもしれませんし、そうでないかもしれません。Taylorさんも「ツール」という言葉に言及されていました。研究プロセスの中にAIが組み込まれていることは間違いありません。しかし、AIは特にオープンサイエンスの進展を促進しているのでしょうか。研究者がデータを公開しやすくなったり、持続可能なアイデアを生み出しやすくなったりしているのでしょうか。Giorgioさん、いかがでしょうか。
3.2 Giorgio Di NunzioとMouniaの見解:データ公開のコストとWeb標準の歴史
Giorgio Di Nunzio： ありがとうございます、Yannis。複雑な質問ですが、私の見解をお話しさせていただきます。私たちが目にしているのは、AIがオープンサイエンスを実現するために必要な作業の一部を助けているという状況です。オープンサイエンスにおける実務的な問題の一つは、何かをオープンにすることには費用がかかるという点です。データセットをオープンにするというのは、単にファイルをどこかにアップロードするだけの作業ではありません。私は同僚たちに、少なくとも何らかの形式でデータセットを公開してほしいと常に言っています。そうしなければ私はそれを利用できないからです。それは最初の一歩に過ぎませんが、それに加えて文書化、メタデータ、ライセンス、さらに高度な段階になると、データクリーニングやデータの由来管理といった作業が必要になり、多くの手間がかかります。
私はEuropean Open Science Cloud Associationにも関わる機会があり、欧州レベルの多くの機関の人々と協働しています。FAIR原則(findability、accessibility、interoperability、reusability)に関する有名な論文の著者の一人であるMark Wilkinson氏とも、しばらく一緒に仕事をしており、様々な機関のデータおよび研究リポジトリが、データレベルでの発見可能性をどの程度支援できる状態にあるかを分析しています。すべてを人間のレベルの精度で確認しようとすると、大変な作業量になります。AIはこの点で助けになりますし、実際に助けになっています。それは重要なことです。なぜなら、人間として見落としてしまうことや、他の人間と同様に何時間も作業した後で疲れてミスをしてしまうことを、AIが見つけてくれる可能性があるからです。しかし私は常に一つのことに注意を払う必要があると言っています。AIは優れていますが、完璧ではありません。少なくとも私たちが望むほどには完璧ではないのです。
一つの観点は、研究者としての視点からAIを評価するというものです。研究者として、最先端の技術より優れたものを作りたいと考えるなら、それで十分です。しかし、例えばデータクリーニング、リンクの発見、固有表現抽出といった作業において、現在のAIの最先端技術の精度は、データセットを今すぐ公開するために私たちが望むレベルに達しているのか、という点については、非常に注意が必要です。私たちはAIツールを、研究者がデータセットを作成し、文書化し、リンクづけする作業を支援するために利用してきましたが、オープンサイエンスには依然として優れた標準、優れた由来管理、そしてYannisが指摘されたように永続的識別子が必要であり、完璧ではありません。したがって、私たちは処理後の内容について非常に注意深くある必要があります。結論として申し上げれば、AIはオープンサイエンスを促進することができますが、それは透明なワークフローの中に組み込まれ、私たちがAIで何をしているかを理解し、いつ介入し、いつ修正すべきかを分かっている場合に限られると思います。
Yannis Ioannidis： 素晴らしいですね。Wendyさんは「はい、AIは科学と研究を助ける」とおっしゃいました。Giorgioさんは「はい、オープンサイエンスを助ける」とおっしゃいました。さて、このパネルはWeb Conferenceで開催されていますので、Mounaさん、特にWebサイエンスやWeb中心の研究について、AIがこの方向で特に助けとなるような、研究ライフサイクルにおける開放性との相互作用について、何かございますか。
Mounia Almas： ありがとうございます。この質問はとても考えさせられました。dubdubdub(WWW)会議がどのように進化してきたかという歴史を振り返ってみますと、Web Conferenceは実際にすべてを地図化する上で非常に重要な役割を果たしてきたと思います。例えば、Webコミュニティは開放性のインフラを構築してきました。HTML、URI、HTTP、W3C標準は、すべて設計上オープンなものです。つまり、単にWeb上に来て何かを公開できるというだけではなく、標準とプロトコルを作り出すことによって、他のあらゆる人々が公開し、Web上に何かを置くことができるようになったのです。この基盤があったからこそ、Webコミュニティがこれまで機能してきた方法があります。Web Conferenceに来れば、Webスケールの情報検索、Webマイニング、推薦システムについて聞くことができ、検索に関してはオープンデータの利用、TRECやClueWebのようなオープンベンチマーク、そしてオープン評価が多く行われてきました。これまで長年会議で発表されてきた研究手法、クラウドソーシング、実環境でのユーザースタディなど、多くのものが今では機械学習やAIの標準的な手法となっています。ですから私たちはこのことをしっかりと認識する必要があると思いますし、Webに独特なものとして、Webはオープンサイエンスの対象であると同時に媒体でもあるという点があります。私たちは論文をWeb上に置き、データをWeb経由で共有し、コードをGitHubに置き、archiveに公開します。これは今や非常に一般的になった概念です。
これが現在の状況にどのように反映されているかというと、私たちは今、オープンな設計といった同様のパターンを目にしています。例えばModel Context Protocol(MCP)は、Anthropicによって導入され、現在はLinux Foundationの下にあります。これはエージェントをツールやデータソースに接続するためのオープンな標準です。これはまさにWebコミュニティが常に重視してきた論理、つまりオープンなプロトコルに合意することでシステム間の相互運用性を実現するという考え方に従っています。例えば私たちもSpotifyで、多くの業務にこれを利用しています。ですから、Webコミュニティの役割は非常に大きいと考えています。私たちはこれまでも多くのことを成し遂げてきましたし、この会議は様々な人々を引き続き結びつけています。つまり私たちはすべての中心にいるということです。もちろんこれが完璧だと言っているわけではありません。多くの取り組むべき課題があります。AIの発展のすべてがこの開放性の方向に進んでいるわけではありません。私たちは最も高性能なモデルの一部について、それがどのように機能しているのか分かっていません。それらはデータ、学習プロセス、アーキテクチャの点でクローズドなままです。しかし私は、このWebコミュニティが大規模に機能するオープンな標準を構築してきた経験を持っていると信じています。ですから彼らの経験は今後、極めて重要な意味を持つでしょう。Wendyさんが取り組まれている多くの活動や、この会議に参加している多くの人々の活動からも、それがうかがえます。考えるべきことはたくさんありますが、私たちは共にこの状況の中にいるのです。
Yannis Ioannidis： 素晴らしいですね。ありがとうございます。それはまさにこのパネルの精神そのものです。少し余談ですが、あなたが歴史に言及されたことに関連して申し上げますと、私はWeb ConferenceがACM Web Conferenceとなったこと、つまりACMという家族の一員になれたことを大変嬉しく思っています。これはWendyさんのおかげです。
Dame Wendy Hall： 私が家に連れて帰ったのです。
Yannis Ioannidis： そうですね、まさに。それがこの精神を正しく捉えている表現だと思います。ACMは、あらゆる良いものにとっての「家」であるべきだと私は思っています。
4. オープンサイエンスはAI開発をどう促進・制約するか
4.1 Philipp Christmannの見解:オープンウェイトモデルと安全性の緊張関係
Yannis Ioannidis： それでは方向を逆にして考えてみたいと思います。研究ライフサイクルにおける開放性は、AIの発展を促進するのでしょうか。明白なこととしては、オープンなデータがあれば、AIはそれを分析し、モデルのために利用できるという点があります。しかし、それを超えた影響はあるのでしょうか。生成にとどまらず、それがどこまで及ぶ可能性があるのでしょうか。特にPhilippさん、あなたはプライバシー、セキュリティ、正確性といったことを重視されていますので、オープンサイエンスを用いてAIを開発する際に、これらの点がどのように関わってくるのか、お聞かせください。
Philipp Christmann： ご質問ありがとうございます。複数の側面があると思います。まず、少数の産業界プレイヤーへの依存という、Wendyさんが先ほど言及された点について少しコメントしたいと思います。開放性、特にオープンウェイトモデルは、この点である程度助けになると考えています。というのも、最近ではオープンウェイトモデルと産業界のプレイヤーとの間のギャップが実際にかなり縮小してきているからです。これによって、研究者がそうした依存関係なしにAIを構築することも、ある程度可能になってきています。論文、データセット、研究成果物へのオープンアクセスについても、これはAIの開発を様々な側面で大いに助けていると思います。というのも、基盤モデルはこれらすべての資源、コードも含めて学習されており、それをパラメトリックな知識として取り込んでいるからです。
ここで強調したいのは、オープンソースには推論時にもグラウンディングに利用できるという別の側面があり、それによってAIの回答や推論プロセスを追跡・検証できるようになるという点です。これは、先ほどご質問いただいたセキュリティ、正確性、追跡可能性といった論点にも関わってきます。オープンウェイトモデルに関しては、セキュリティやセーフティのコミュニティにおいても、明確な答えは出ていないと思います。一方で、これらのオープンウェイトモデルは安全性のアライメントが施されており、例えば有害な画像の生成など、ダウンロードした際に有害な問題をある程度緩和する助けになります。しかし他方で、オープンウェイトであることは、そうしたモデルをファインチューニングして、こうした安全性の学習パラダイムを実質的に回避できてしまうという課題も生じさせます。この分野で最近も、セキュリティに影響を及ぼす事例として、言語モデルによる脆弱性の発見、エクスプロイトの生成、攻撃的なサイバーセキュリティタスクの能力に関するインシデントが起きています。これは考慮すべき点です。それでも、こうした問題をそもそも特定するため、また緩和方法を特定するためにも、モデルを分析目的でオープンに利用可能にしておくことが重要だという合意は、コミュニティの中で依然として存在していると思います。ただ、セキュリティの観点から見えるこうした緊張関係は、ぜひ強調しておきたいと思います。
4.2 Taylorの見解:オープンソースAIとオープンサイエンスの違い、フロンティアAIの二重用途問題
Yannis Ioannidis： よくわかります。私たちが何か良いことをしようとしても、さらに多くの課題が生じてくるものであり、それに対処していかなければなりません。それではTaylorさん、あなたにお伺いしたいと思います。あなたは計算機科学者でありながら政策アドバイザーという、非常に価値のある2つの役割を組み合わせていらっしゃいます。実際にBengio氏というAIの「半神」のような存在の一人の顧問をされているわけですが、研究とAIモデルにおける開放性を促進するために、学界、産業界、ACM自身、あるいは政府が採用すべき政策とはどのようなものだとお考えでしょうか。それらを統一的に進めることは可能なのでしょうか。また、私たちはそうした政策からどれくらい離れているのでしょうか。そして地政学についてはどうお考えでしょうか。世界は一枚岩ではありませんので。
Taylor： はい、とても良いご質問ですね。まず、私たちが「オープンサイエンス」という言葉を使うときに何を意味しているのか、そして「オープンソースAI」という言葉、それがオープンサイエンスの一部としてどのように位置づけられるのかについて、一つ区別しておきたいと思います。これはしばしば非常に容易に混同されている点だと思います。オープンソースAIは、必ずしもオープンサイエンスを意味するわけではありません。私たちはよく巨大なモデルが公開されるという話を耳にしますが、実際に考えてみると、1,000億パラメータのモデルを公開したとしても、それをファインチューニングしたり実行したりするために必要なGPUクラスターを持っていない一般的な学術研究者にとっては、実質的にほとんど役に立たないのです。何かがオープンであるということは、必ずしもそれがオープンアクセスであることを意味しません。オープンアクセスこそが、まさにオープンサイエンスの核心であり、これらのツールを自由に利用できるということなのです。真の科学とはアクセス可能であるべきものですが、現在オープンウェイトのフロンティアモデルは、極めて大きな計算能力を持つ者たちの手に大きく集中しています。
このことは、今私たちが考えなければならない核心的な政策課題につながります。それは、こうしたツールを利用する必要性と、フロンティアAIをめぐる緊張関係との間にある課題です。一方で私たちは、学術研究者の透明性を維持し、それを加速させ、このオープンサイエンスのプロセスに貢献し、より多くの情報とより多くの進展をもたらしたいと考えています。しかしこれは、高度な能力を持つ汎用モデル、つまりフロンティアAIの拡散によって、大きく相反する状況に置かれています。これらのモデルは高度なマルウェアを作成することもできますし、mythosの例で見られたように、生物学的な基盤モデルが安全策を剥ぎ取って兵器や生物学的な懸念を生み出す用途に使われるケースも一方では存在しています。
これを緩和するためには、科学のプロセスにおいて非常に有用な特化型のツールと、フロンティアモデルの分野におけるより広範な拡散との間に、興味深い区別を設ける必要があると思います。より特化型のツールに目を向けると、例えば天候パターンを予測するために利用されるような、科学のための狭い範囲に限定されたモデルは、進歩を大いに助けながらも、この種のデュアルユース技術に伴うリスクの一部を回避できるということが、より明確に言えます。そして政策のレジームにおいては、こうしたツールに規制を課す際に、何について話しているのかを区別する必要があります。私が科学の進歩を助ける従来型のツールに近いと分類するのは、狭い範囲に限定されたAIであり、それは単なるツールではない汎用のフロンティアモデルとは異なります。汎用のフロンティアモデルにはより多くの意味合いが伴い、規制することがはるかに難しいものです。特に科学プロセスにおけるその利用を規制しようとする場合には、このような汎用技術のデュアルユースの性質のために、より一層困難になります。したがって、特化型からデュアルユースの汎用AIまでのこうした範囲に関する懸念に対処するためには、政府および国際レベルにおいて、厳格なハードウェアの追跡、計算資源の利用状況の監視、義務的なライセンス制度、そしてこれらのモデルが本当に安全であることを証明する予防原則への強い依拠を分離するような政策のレジームが必要です。そしてACMや学界にとっては、それは日常的なオープンサイエンスを維持しながら、高度な能力に関する私たちの倫理的な境界を精緻化していく必要性へと結びついていきます。ACMのような組織が、AI研究がこうした存在論的、倫理的な課題に触れるようになった際に、それに特化して対処するプロセスを持つことです。私たちは、こうしたものがより広いコミュニティに公開される前に、それらが検証されていることを確認し、テストする方法を確保する必要があります。
そして最後のご質問、私たちがこれにどれだけ近づいているかについてお答えしますと、残念ながら私たちは危険なほど遅れています。私たちは、互いに競争し合っている企業側の善意に大きく依存している状況です。幸いにも、mythosについては、いわゆるProject Glasswingのもとで、リリースが少し保留にされましたが、それも完璧な例とは言えません。それにもまた、政策や法制度に関する様々な留保が伴っていました。興味深い留保の一つとして、Anthropicの安全性チームに所属する米国内の外国籍の人々が、mythosの高度な能力ゆえに、実際にそれをテストすることを許可されなかったという事例がありました。これは米国の輸出管理法によるものです。私たちは、最良のAIモデルを開発しようとする競争の中で、こうした事態に次々と直面するようになっており、これは政策の面で私たちが危険なほど遅れをとっていることを意味しています。私たちは、科学プロセスの中で狭い範囲のAIモデルやツールの利用を維持しつつ、フロンティアAIの拡散を厳格に抑制するために必要なことを行えていませんし、これから起こることに対する備えも十分ではありません。
5. グローバルなオープン基盤モデルは実現可能か
5.1 Wendy HallとPhilipp Christmannの回答:英国主権AI構想と「AI版CERN」
Yannis Ioannidis： これらのレベルにおける課題があり、出口が見えないという状況ですね。今の質問に移る前に、参加してくださっている皆さんに、パネリストへの質問をぜひご入力いただきたいと思います。残り12分ほどありますので、私からの質問だけでなく、視聴者の皆さんからの質問にも答えていただければと思います。ぜひご入力ください。それでは、私が事前に準備していた質問の中から選んでお伺いしたいと思います。どなたでもお答えいただければと思いますが、先ほどデュアルユースについてお話がありましたし、ビッグテックとフロンティアモデルについても言及がありました。実は私はベイエリアで開かれた、オープンなフロンティアモデルについて話し合うための会合に参加してきました。ビッグテックの外側で何かを開発する可能性について議論するために、多くの人々が集まったのです。ですので、「オープンAI」という2語の意味での共通のオープンAIモデルを、地政学とは無関係に、世界中の学術界、さらには産業界のパートナーが参加するオープンなコミュニティ主導の取り組みとして構築することは可能なのでしょうか。そしてそのようなモデルを訓練するためのデータをどこで見つけるのか、計算能力をどこで見つけるのか、という課題もあります。私はまだ、我が愛するACMの前会長として、こうした夢を語りたいと思っています。米国のものでもなく、中国のものでもなく、火星のものでもない、グローバルな取り組みによるオープンなモデルが一つあってもいいのではないか、と。皆さんはこれが実現可能だとお考えでしょうか。まずWendyさん、あなたは国連にも深く関わっていらっしゃいますので、このようなことが国連レベルで好意的に受け止められる可能性はあるのでしょうか。
Dame Wendy Hall： 問題は、私がRishi Sunakが英国首相になった際に関わっていたことです。それはChatGPTが登場した後、2023年のことでした。当時、私たちは英国のための主権AIモデルを構築する取り組みを行っていましたが、それは政権によって中止されてしまいました。その理由は、それを開発し維持するために必要な資源の問題でした。ただ、私たちが検討していたのは商用モデルではありませんでした。私たちが議論していたのは、研究と教育のためのモデルでした。というのも私の主張は、Philippさん、あなたはどのモデルを使っているのか、実は伺いたかったのですが。
Philipp Christmann： はい、例えば私は現在、Gemma 4を使って実験を行っています。これは自分のノートパソコンでも実行できるモデルです。
Dame Wendy Hall： それはどこの提供によるものですか。
Philipp Christmann： それはGoogleによるものです。あとはQwenのモデルも使っていますが、300億パラメータのモデルであっても、適切なスキャフォルディング(足場となる仕組み)を組み合わせれば、多くのタスクにおいて既に十分に強力だと思います。
Dame Wendy Hall： そうですね。ただ、それを実現するには、結局Googleのような企業に依存せざるを得ないという問題があります。とはいえ私自身は、長年Googleに賭けてきたと言えます。というのも、彼らはDeepMindの人材を抱えているにもかかわらず、他社のようにIPOをして資金を調達する必要がないからです。そして彼らは既に私たちのデータを何十年もかけて収集し続けています。つまりGoogleは多くの強みを持っており、素晴らしい研究・エンジニアリングチームも抱えています。Transformerに関する研究もGoogleから生まれたものです。ですから私は長期的にはGoogleに賭けてきましたし、彼らがオープンウェイトのモデルを人々が使えるように提供してくれるのであれば、それは素晴らしいことです。私が今取り組んでいる課題は、次世代の科学者を育成し、彼らが将来これらのモデルを本格的に科学のために開発したり利用したりできるようにするためには、彼らがそのブラックボックスの内部にアクセスできる必要があるという点です。そのため私は今も、英国が研究・訓練のための主権AIを開発すべきだと主張している一人です。それはAnthropicやOpenAI、DeepSeekなどと競争するためではなく、もし他のあらゆるモデルへのアクセスを失うような事態、つまりトランプ政権がGoogleに対しても輸出管理を課すようなことが起きた場合や、私たちの国が中国のモデルへのアクセスすら失うような事態が起きた場合に、頼れるものを持っておくためです。私にとって重要なのは、将来の科学者や研究者、そして次世代のAI技術を推進していく人材の育成です。彼らは皆いずれかの大学から出てくるわけですから、「大学に行く必要はない」という人もいますが、実際にこうした分野に取り組みたいのであれば、訓練を受ける必要があります。AI教授というものは木から生えてくるわけではありません。次世代を訓練できるAI教授を育てるには長い時間がかかります。もちろん、彼らの一部は企業に就職し、いずれかの形で戻ってくることもあります。
5.2 Giorgio、Taylor、Wendy、Philipp、Mouniaの回答:実現可能性と各国の役割
Yannis Ioannidis： ただ問題は、私たちはこれを世界のために一つ実現できるかどうかという点です。私自身、それに賭けるつもりはありません。誰がそれを担うのかという問題があります。先ほどOxfordのトップAI研究者の一人であるMike Wooldridge氏と話していたのですが、彼はEUが「AI版CERN」を開発しようとする取り組みについて話していました。もし政治的な重鎮たちの後ろ盾を得られれば、欧州のために、そして私はそこに英国も含めたいのですが、何か実現できるものがあると思います。私たちはCERNの一員として会費を払っているわけですから。もしそれを後ろ盾にできるものがあれば、それが私にとって最も期待できる方向だと思います。
Yannis Ioannidis： それは素晴らしいですね。主権AIモデルというのは一つの方向性で、トランプ政権のような存在から皆さんを守るものですが、私たちが目指したいのはグローバルなものです。Giorgioさん、手を挙げていらっしゃいますね。ぜひお話しいただきたいですし、他の皆さんからもお伺いしたいと思います。残り4分程度ですので、それぞれ1分未満でお願いできればと思います。先ほどWendyさんから「AI版CERN」というアイデアが出ましたが、Giorgioさん、いかがでしょうか。
Giorgio Di Nunzio： はい、ありがとうございます。Wendyさんがおっしゃったことと同じ方向性ですし、Taylorさんの発言とも部分的に重なりますが、可能性はあると思いますが、私たちは現実的である必要もあると思います。もし私たちが目指すのが最大級のフロンティアモデルの構築だとすれば、それはおそらく非現実的です。公共機関や大学としては制約があるからです。しかし、私たちが目指すのがオープンで信頼できる、研究志向のAIシステムの開発だとすれば、私たちにはビッグテックの外側に重要な領域があると思います。データの制約、評価、利用のあり方が明確なモデルを持ちたいのであれば、これはおそらくオープンなコミュニティ主導の取り組みが価値を発揮できる領域だと思います。
Yannis Ioannidis： 素晴らしいですね。アメリカについて言えば、StanfordでPercy Liang氏が私と一緒に取り組んでいることも、この方向性における一つの試みだと思いますが、もちろん彼自身と、Open Athenaが彼に提供しているものだけでは十分ではありません。私たちは共に取り組んでいく必要があります。Taylorさん、いかがでしょうか。
Taylor： はい、とても良いご質問ですね。ここで本当に重要なのは、オープンサイエンスコミュニティの精神、あるいは開放性の原則そのものを取り上げ、それがどこに転用できるかを見ることだと思います。AIについて、そして何かを共に構築するというアイデアについて話すとき、開放性が本当に語っているのは、現在私たちが目にしている権力の集中に対抗することだと思います。それこそが最も重要な対抗すべき対象であって、開放性そのものが目的というわけではないと思います。そして正直に申し上げると、フロンティアAIモデルを取り巻く安全保障上のリスクを考えると、完全なオープンウェイトの方法を取ることは、最善の戦略ではないかもしれませんし、最も競争力のある戦略でもないかもしれません。それは現状を踏まえての判断です。しかし、人々が共有し、協働できる場は必要であり、Wendyさんが話していたような「AI版CERN」というものは、まさに興味深い戦略だと思います。それはそうした協力関係、公共投資、そして知見の共有を可能にするものであり、AIに関して私たちが目にしている多くの安全保障上のリスクと、アクセスへの必要性、そして開放性の原則を優先するという要請との間で、良いトレードオフになると思います。
Dame Wendy Hall： 時間がないのは承知していますが、Taylorさんの発言に少し重ねてお話ししたいのですが、実はこれを欧州に限定する必要はないと思います。カナダはどうでしょうか。あるいはオーストラリア、シンガポールなど、AIに非常に優れているものの、米国や中国の大企業へのアクセスを持たない「ミドルパワー」の国々も、これに参加してくるのではないかと思います。
Yannis Ioannidis： そうですね、グローバルであるべきだと思います。時間が来てしまいましたが、Philippさん、2文程度で、そしてYunaさんで締めたいと思います。Philippさん、お願いします。
Philipp Christmann： はい、もちろんです。私も他のパネリストの皆さんがすでに述べられたことに同意します。私の視点からもう一つ論点を挙げたいと思います。仮に私たちがグローバルなレベルでこの基盤モデルの構築に成功したとしても、その後にはメンテナンス、つまり何度も繰り返し再学習する必要が出てきます。最近では、6ヶ月前のモデルでも、一部の論文ではすでに古いものとみなされてしまうという状況をよく目にします。つまり一度学習すれば済むという話ではなく、何度も継続的に学習を続けていく必要があるということです。私の視点としては、専門知識を構築し、研究者たちを集め、産業界のラボへのアクセスが困難になるような事態が起きたときに備えて、知識と教育を発展させておくことの方が重要だと思います。ただ、今すぐ基盤モデルをゼロから学習する必要があるとは考えていません。
Yannis Ioannidis： そうですね。Mounaさん、最後の一言、一文で、私たちを未来へ導くようなお話をお願いできますか。
Mounia Almas： はい、私もゼロから基盤モデルを構築することについては同意します。また、私たちはすべての企業が実際に基盤モデルを開発しているわけではないということも認識すべきだと思います。これは非常に重要な点です。基盤モデルは構築するのも、維持するのも、改善するのも大変です。Spotifyのような企業は、そうしたモデルを利用する側であり、それで十分なのです。ですからこれは学界と産業界だけの話ではないと思います。私はこのコミュニティには多くを提供できる力があると思っています。私たちは専門家であり、産業界にいる人もいれば、学界にいる人もいて、物事の仕組みを理解しており、発言する力を持っています。産業界と対話し、学界と対話し、様々な政府と対話することによって、私たちは前進するための何かを持っていると思います。繰り返しになりますが、私は楽観的です。ただ、私たちは大手研究所にいる人々とも協働していく必要があります。彼らも良いことをしたいと思っていますし、だからこそ私は、皆で一緒に取り組み、対話を続けていくべきだと考えています。この会議、このコミュニティは、そのための素晴らしい場だと思います。
6. 閉会の挨拶
6.1 謝辞とまとめ、次回開催地への言及
Yannis Ioannidis： 素晴らしいですね。「共に取り組む」ということが強調されましたが、これは大切なことだと思います。皆さん、本当にありがとうございました。皆さんは多くの視点、様々な背景をもたらしてくださいました。先ほども申し上げたように、タイムゾーンも年齢層も、産業界、学界、政策の分野も、それぞれ異なる立場からの視点でした。参加を承諾し、このパネルで共有してくださったすべてのことに、心より感謝いたします。ご一緒できて本当に良かったです。これでお別れの時が来たようです。ホストの方、私たちは終了ということでよろしいでしょうか。皆さん、本当にありがとうございました。そして、このパネルにご参加くださったすべての方々に感謝いたします。ありがとうございました。
パネリスト一同： さようなら。さようなら。さようなら。皆さん、さようなら。さようなら。ありがとうございました。皆さん、本当にありがとうございました。素晴らしいパネルでした。本当に。
あるパネリスト： はい、私も楽しかったです。そうですね。
Yannis Ioannidis： どうもありがとうございました。
あるパネリスト： そちらでお会いできることを願っています。はい。はい。はい。
司会者： そうですね、私たちは最善を尽くします。来年はダブリンで皆さんにお会いできることを願っていますし、このプレナリーセッションのクリップをすべて公開して、ドバイで参加できなかった方々にもご覧いただけるよう、最善を尽くします。でも、それはあまり問題ではありません。今回もとても良い形で開催できましたから。
Yannis Ioannidis： 本当にありがとうございました。
あるパネリスト： ありがとうございました。
別のパネリスト： いつかまたドバイで開催できることを願っています。
Yannis Ioannidis： はい、そうですね。私もそれに賛成です。それでは、さようなら。さようなら。皆さん、ご参加いただきありがとうございました。ありがとうございました。お気をつけて。さようなら。