※本稿は、2024年に開催されたAI for Good Global Summit 2024での「To share or not to share: the dilemma of open source vs. proprietary Large Language Models」というパネルディスカッションを要約したものです。
1. はじめに
1.1 パネルディスカッションの概要
このパネルディスカッションでは、大規模言語モデル（LLM）をオープンソース化するか、あるいは独自開発として保持するかという重要な課題について議論します。AI技術の急速な発展と社会への影響が拡大する中で、技術の共有と保護のバランスをどのように取るべきか、様々な観点から考察していきます。
1.2 参加者紹介
本パネルディスカッションには、AI技術の最前線で活躍する多様な背景を持つ専門家に参加いただきます。
まず、Linux Foundationの最高経営責任者（CEO）であるJim Zemlin氏です。Zemlin氏は、オープンソースの哲学とその実践的な利点について深い知見をお持ちです。
次に、Metaの代表としてMelinda氏にご参加いただいています。Melinda氏は、LlamaモデルなどのAI技術をオープンソースとして公開している大手テクノロジー企業の視点をお話しいただきます。
Future of Life InstituteからはIsabella氏にお越しいただきました。Isabella氏は、AIの倫理的側面や長期的な影響について洞察を提供してくださいます。
Googleを代表してMalika氏にご参加いただいています。Malika氏は、同社のAI開発におけるオープンソースと独自開発のバランスについてお話しいただきます。
最後に、Wikimedia Foundationの代表としてChris氏にご参加いただいています。Chris氏は、オープンな知識共有の理念と、AIがそれに与える影響について議論を展開してくださいます。
これらの専門家の方々の知見と経験に基づいた見解を交わすことで、LLMのオープンソース化に関する包括的な理解を深めていきたいと思います。
2. オープンソースの利点と課題：Jim Zemlin（Linux Foundation CEO）のスピーチ
2.1 Linux Foundationの視点とオープンソースの経済的価値
Jim Zemlin、Linux Foundationの最高経営責任者です。本日は、オープンソースの重要性と大規模言語モデル（LLM）におけるその役割について、私の見解を共有させていただきます。
まず強調したいのは、オープンソースが現代のテクノロジー産業にとっていかに不可欠であるかということです。驚くべきことに、現在のモダンなコンピューティングシステムの80%から90%がオープンソースコードで構成されています。これは単なる選択肢ではなく、技術革新の基盤そのものなのです。
LLMの文脈で言えば、PyTorchなどのオープンソースツールが不可欠な役割を果たしています。私たちLinux Foundationは、LLMをオープンにする必要があると強く信じています。なぜなら、それによってモデルを検証し、信頼性を構築し、集団的に革新を進めることができるからです。
オープンソースの経済的価値についても触れたいと思います。ハーバード大学の研究によると、オープンソースは社会に9兆ドルもの節約をもたらしているのです。この驚くべき数字は、企業や組織がゼロから技術を開発する必要がなく、既存のオープンソースプロジェクトを基盤として利用できることを考えれば、十分に納得できるものです。
2.2 オープンモデルフレームワークの提案と課題への対応
しかし、課題も存在します。市場の集中化は主な懸念事項の一つです。LLMの開発に必要な層（レイヤー）の多くが少数の企業によって所有されているという現状は、イノベーションと競争の障害となる可能性があります。
この課題に対処するため、私たちLinux Foundationは「オープンモデルフレームワーク」の創設を提案しています。これは、LLMの「オープン性」を新しい方法で記述するためのものです。GPUから始まり、データに至るまでの各層において、どの程度のオープン性が必要かを明確にすることを目的としています。
また、国際電気通信連合（ITU）や他の国連機関におけるオープンソースLLMの潜在的な利用についても言及したいと思います。例えば、MetaのLlama 3モデルは、リリースからわずか数日で、LLM技術の進歩や、ヘルスケアなどの分野でのAI利用の促進に貢献しました。これは、オープンソースモデルが持つ即時的かつ広範な影響力を示す素晴らしい例です。
最後に強調したいのは、オープンソース化の利点がモデル自体だけでなく、その開発や評価に使用されるツールにも及ぶということです。例えば、交差バイアスを検出するためのオープンソースツールの存在は、AIの安全性と信頼性の向上に大きく貢献しています。
結論として、私は、オープンソースがLLMの発展において重要な役割を果たすと確信しています。しかし、その実現には明確な定義、適切なフレームワーク、そして業界全体の協力が必要です。私たちのオープンモデルフレームワークの提案は、これらの課題に対する具体的な解決策の一つとなり、今後のAI開発における重要な指針となることを期待しています。オープンソースの力を信じ、共に未来のAI技術を形作っていきましょう。
3. Metaのオープンソース戦略：Melindaによるスピーチ（Meta代表）
3.1 Llamaモデルの公開と責任あるオープンソースアプローチ
皆さま、こんにちは。Metaを代表して、本日はLLMのオープンソース化に関する私たちの戦略についてお話しさせていただきます。
まず強調したいのは、オープンソースとクローズドソースの二分法では、この複雑な問題の本質を捉えきれないということです。実際には、公開の程度にはスペクトラムがあります。Metaは長年、オープンソースの強力な支持者でしたが、特に最近のLlamaモデルの公開においてその姿勢を明確に示しました。
Llama 3は、私たちが最近リリースした最新のLLMです。このモデルの公開後、わずか数日でLLM技術の進歩や、ヘルスケアなどの分野でのAI応用の促進に貢献しました。これは、オープンソースモデルが持つ即時的かつ広範な影響力を示す素晴らしい例です。
しかし、オープンソースが安全性や保護の欠如を意味するわけではありません。私たちは「責任あるオープンソース」アプローチを採用しています。これには、データ収集段階からのリスク評価とリスク軽減、データのフィルタリング、開発者向けの責任ある使用ガイドの公開、セーフガードやその他の技術的保護策のオープンソース化、そしてフィードバックチャンネルの提供が含まれます。
3.2 具体的なユースケースとLlama Impact Grants
オープンソースLLMの影響は、特に低資源環境やローカライズされたAIアプリケーションの開発において顕著です。例えば、韓国のAIサミットで聞いた事例では、地元の企業がLlamaモデルを基に、韓国の数学カリキュラムに特化した個別化された数学チュータリングシステムを開発しました。
また、インドでは、Llamaモデルを活用して、女性に子育てや健康管理に関する高品質の情報を提供するシステムが開発されました。これらの例は、オープンソースモデルが地域のニーズに合わせたAIソリューションの創出を促進していることを示しています。
さらに、私たちはLlama Impact Grantsプログラムを通じて、有望なユースケースの開発を積極的に支援しています。このプログラムでは、Llamaモデルを活用した革新的なアイデアを持つ開発者に資金を提供し、それらのアイデアの実現と実用化を後押ししています。
例えば、低資源言語のための機械翻訳システム、環境モニタリングAI、医療診断支援ツールなど、社会に有意義な影響を与えるプロジェクトが生まれています。
結論として、私たちのオープンソース戦略は、技術の民主化と責任ある開発の両立を目指すものです。Llamaモデルの公開は、AIの恩恵を広く社会に行き渡らせると同時に、潜在的なリスクに対処するための枠組みを提供しています。
オープンソースLLMの開発と展開に際しては、技術的な可能性、倫理的な考慮、法的な要件、そして社会的な影響を総合的に評価し、バランスの取れた判断を下す必要があります。私たちMetaは、この複雑な課題に対して、継続的な対話と柔軟なアプローチを通じて取り組んでいきます。
4. 倫理的観点からの考察：Isabellaによるスピーチ（Future of Life Institute代表）
4.1 Future of Life Instituteの見解
Future of Life Instituteを代表して、LLMのオープンソース化に関する倫理的観点からの考察をお話しさせていただきます。
私たちFuture of Life Instituteは、AIの長期的な影響と潜在的なリスクに焦点を当てている組織です。LLMのオープンソース化について議論する際、最も重要な点は、オープンソースを目的ではなく手段として捉えることです。
オープンソースは、私たちが達成したい目標のためのツールです。その主な目的には、AIモデルの透明性の確保、競争環境の維持、協調的な安全性向上、そして技術アクセスの民主化が含まれます。
しかし、オープンソース化には潜在的なリスクも存在します。例えば、悪意のある使用や、適切な安全対策なしでの展開などの懸念があります。そのため、オープンソース化の決定は慎重に行われるべきであり、モデルの能力や社会への影響を十分に評価した上で判断する必要があります。
4.2 オープンソースの目的と手段
オープンソースを手段として効果的に活用するためには、他の補完的なアプローチも必要です。例えば、以下のような方策が考えられます：
- 段階的な公開：モデルの完全な公開ではなく、研究者に限定した部分的な公開から始め、リスク評価を経て段階的に公開範囲を拡大する。
- 責任ある使用ガイドラインの策定：モデルの公開と同時に、適切な使用方法や潜在的なリスクに関するガイドラインを提供する。
- 継続的なモニタリングと評価：公開後もモデルの使用状況や影響を継続的に監視し、必要に応じて対策を講じる。
- 国際的な協力と標準化：各国の規制機関や国際組織と協力し、AIモデルのオープンソース化に関する国際的な基準や規制を策定する。
私たちFuture of Life Instituteは、AIの力の集中に関する研究助成を行う予定です。この取り組みは、オープンソース以外の創造的な解決策を探るものであり、AIの発展がもたらす課題に対する新たなアプローチを模索します。
また、国家AI研究リソース（National AI Research Resource）の取り組みは、開発者や研究者にコンピューティングリソースやデータへのアクセスを提供し、安全性研究を促進する重要な役割を果たすと考えています。
結論として、オープンソース化の決定は個々のケースに基づいて慎重に行われるべきです。オープンソースは確かに重要な役割を果たしますが、それだけでは十分ではありません。より包括的なアプローチが必要です。
私たちは、技術の進歩と社会の福祉のバランスを取ることの必要性を強く認識しています。今後、AIの倫理的開発と社会的責任の重要性がますます高まっていくでしょう。Future of Life Instituteは、この複雑な課題に対して、継続的な対話と協力を通じて取り組んでいきます。
5. Googleのアプローチ：Malikaによるスピーチ（Google代表）
5.1 オープンソースと独自開発の歴史
Googleを代表して、本日は私たちのAI開発におけるオープンソースと独自開発のアプローチについてお話しさせていただきます。
Googleは2005年以来、オープンソフトウェアとオープンサイエンスの分野で先駆的な役割を果たしてきました。この伝統は、現在の生成AIや大規模言語モデル（LLM）の開発にも引き継がれています。私たちは「テック・オプティミスト」の立場を取っており、技術の可能性に対して前向きな見方をしています。
Googleのアプローチの特徴は、オープンソースへの積極的な貢献と、同時に独自の技術開発を進めるというバランスの取れた戦略にあります。この戦略により、業界全体の技術革新を促進しつつ、自社の技術的優位性も維持することができています。
5.2 Transformerアーキテクチャとタンパク質構造予測
Googleのオープンソース貢献の具体例として、特に二つの重要な技術について紹介したいと思います。
まず、2017年に私たちが公開したTransformerアーキテクチャは、現在のすべての大規模言語モデル（LLM）の基礎となっている革新的な技術です。この技術をオープンソースとして公開したことで、世界中の研究者や開発者がこの技術を活用し、さらなる改良や応用を行うことが可能になりました。
次に、AlphaFoldと呼ばれる3Dタンパク質構造予測モデルの公開があります。私たちは、AlphaFoldを使用して予測された2億以上のタンパク質構造を、研究者や科学者が自由にアクセスできるオープンデータベースとして公開しました。
この取り組みは、がん治療の進展、マラリアワクチンの開発、酵素機能の解明など、医療や生命科学の分野で具体的かつ重要な貢献を果たしています。これらの例は、オープンソースとして公開された高度なAI技術が、社会に大きな影響を与えることができることを示しています。
5.3 Gemmaモデルの公開
最後に、私たちの最新のオープンソース貢献として、Gemmaと呼ばれる大規模言語モデルの公開について説明させていただきます。Gemmaは、Googleの高性能AIモデルであるGeminiの派生版として開発されました。
Gemmaは、個人の開発者や小規模なチームが容易に利用できるよう設計されており、モデル構造の透明性、カスタマイズの容易さ、新しいモデル創出の基盤としての役割を重視しています。
実際に、Gemmaの公開後、インドの開発者グループが15のインド固有の言語に対応した新しいAIモデルを作成した事例があります。これは、オープンソースモデルが地域のニーズに合わせたAI開発を促進する可能性を示しています。
私たちの戦略は、オープンソースの利点を最大限に活用しつつ、技術革新のペースを維持することを目指しています。この戦略がAI技術の民主化と、責任ある開発の両立を可能にすると確信しています。
同時に、オープンソース化には慎重なアプローチが必要であることも認識しています。特に、モデルの能力やリスク、そして具体的にどの程度のオープン性が適切かについて、慎重に検討する必要があります。
Googleは、これからもオープンソースと独自開発のバランスを取りながら、AI技術の発展と社会への貢献を続けていきます。
6. Wikipediaとオープンコンテンツ：Chrisによるスピーチ（Wikimedia Foundation代表）
6.1 Wikipediaのデータ共有哲学とAIモデルでの活用
Wikimedia Foundationを代表して、Wikipediaのオープンコンテンツに対する哲学と、大規模言語モデル（LLM）時代におけるその重要性についてお話しさせていただきます。
Wikipediaは、インターネットが生み出した最も価値あるプロジェクトの一つであり、人類の知識を自由に共有するという理念を体現しています。私たちの核心的な価値は、無料でアクセス可能な知識の宝庫を提供することです。数百万時間に及ぶ人間の労力によって作成された膨大な情報を、誰でも無料で利用できるようにしています。
私たちの透明性と開放性へのコミットメントは絶対的です。Wikipediaの全コンテンツは完全にオープンであり、誰でもダウンロードして利用することができます。実際、Wikipediaの全コンテンツをダウンロードするための簡単な方法さえ提供しています。
このオープンな哲学が、AIモデルの学習データとしてWikipediaが広く利用されている理由です。私たちはこの状況をWikipediaの成功の証と捉えています。しかし、同時にいくつかの懸念も抱いています。
特に重要なのは、AIモデルがWikipediaのデータを使用する際の適切なクレジット付与の問題です。Wikipediaの情報を利用してAIが生成した回答や要約に、元のソースへのリンクや言及がない場合、情報の出所が不明確になってしまいます。これは、Wikipediaの持続可能性と、人間の編集者の貢献に対する認識を脅かす可能性があります。
6.2 オープンソースモデルの透明性
Wikipediaは、そのプラットフォーム上で使用される機械学習モデルについても、オープンソースアプローチを採用しています。現在、Wikipediaでは400以上の機械学習モデルが本番環境で稼働しており、これらすべてがオープンソースです。
私たちのオープンソースモデルアプローチの特徴は、完全な透明性にあります。モデルの訓練に使用されたコード、評価指標、内部文書など、すべての情報を公開しています。さらに、Wikipediaの機械学習チームの内部チャットルームは一般に公開されており、誰でも開発プロセスをリアルタイムで観察し、議論に参加することができます。
このアプローチの利点は多岐にわたります。モデルの検証可能性が高まり、広範なコミュニティからのフィードバックにより、モデルの改善が加速されます。また、透明性が高いことで、ユーザーや研究者からの信頼を得やすくなります。
さらに、このアプローチは、Wikipediaのような非営利組織が、限られたリソースで高度なAI技術を活用することを可能にしています。オープンソースコミュニティとの協力により、最先端の技術を効率的に導入し、改善することができるのです。
結論として、Wikipediaのオープンコンテンツとオープンソースモデルへのアプローチは、知識の民主化とAI技術の透明性を両立させる重要な事例となっています。私たちは、AIの発展が人間の知的活動を補完し、拡張する可能性を示すと同時に、人間の貢献の重要性を再確認させるものだと考えています。
今後、AIとオープンコンテンツの関係がどのように発展していくかは、デジタル時代の知識共有の未来を占う上で重要な指標となるでしょう。Wikipediaは、この exciting で challenging な時代において、人類の知識の自由な共有という使命を果たし続けていきます。
7. セキュリティと倫理的な懸念への対応：Jim Zemlinによるスピーチ（Linux Foundation CEO）
7.1 市場の集中化と対策
Jim Zemlinです。Linux Foundationの最高経営責任者として、大規模言語モデル（LLM）の開発と展開に伴う市場集中化の問題と、その対策についてお話しします。
私たちが特に懸念しているのは、LLMの開発に必要な各層（レイヤー）において市場集中が進んでいることです。例えば、GPU層では、NVIDIAのCUDA APIが事実上の標準となっています。また、LLMを構築するための基本的なツールやライブラリの多くが、一部の大手テクノロジー企業によって開発・提供されています。
この市場集中化に対する対策として、私たちは以下のアプローチを提案しています：
- オープンな代替技術の開発：例えば、GPU層においてはCUDAの代替としてのUXLのような、より中立的でオープンなソリューションの開発と採用を促進します。
- 基本的なツールのオープンソース化：LLM開発に必要な基本的なツールやライブラリをオープンソース化し、より多くの企業や個人が参入できる環境を整備します。
- オープンモデルの促進：MetaのLlama 3のような、高性能なオープンソースモデルの開発と公開を奨励します。
- データ共有の促進：オープンデータライセンス契約の策定など、データ共有を促進するための法的・技術的フレームワークを整備します。
7.2 オープンソースツールによる安全性向上とデータ共有の課題
次に、LLMの安全性と信頼性の向上におけるオープンソースツールの役割について触れたいと思います。
私たちは、セーフガードやバイアス検出ツールなどの安全性向上ツールもオープンソース化することの重要性を強く訴えています。例えば、交差バイアスを検出するためのオープンソースツールや、非同意の性的画像や深層偽造（ディープフェイク）などの問題に対処するためのC2PAというプロバイダンスツールの開発が進んでいます。
これらのオープンソースツールには、透明性の確保、迅速な改善、アクセシビリティの向上といった利点があります。
最後に、データ共有の課題と取り組みについて説明します。私たちLinux Foundationは、オープンデータライセンス契約を作成し、データ共有に関する法的問題に対処しています。
また、Overture Mapsという約3000万ドル規模のプロジェクトを立ち上げ、公共および私有の地理空間データを収集し、正規化して、無料でライセンス供与することを目指しています。これにより、多対多のデータ共有モデルが実現し、モデルの訓練に利用可能な高品質なデータセットが提供されることを期待しています。
結論として、セキュリティと倫理的な懸念への対応は、LLMの開発と展開において中心的な課題です。市場集中化への対策、オープンソースツールによる安全性向上、そしてデータ共有の課題への取り組みは、いずれもAI技術の責任ある発展と、その恩恵の公平な分配を目指すものです。
私たちLinux Foundationは、これらの課題に対する継続的な取り組みと、産業界、学術界、市民社会の協力が、AI時代における健全な技術生態系の構築に不可欠だと考えています。
8. オープンソース化の具体的な影響：Melindaによるスピーチ（Meta代表）
8.1 低資源環境での活用事例とローカライズされたAIアプリケーション
Metaを代表して、オープンソースLLMの具体的な影響について、特に低資源環境での活用事例とローカライズされたAIアプリケーションに焦点を当ててお話しさせていただきます。
私たちが開発したLlamaモデルの公開後、世界中で革新的な活用事例が生まれています。特に注目すべきは、これまでAI技術の恩恵を受けにくかった低資源環境での活用です。
例えば、医療分野では、医療リソースが限られている地域で、Llamaモデルを活用したAIによる初期診断や健康アドバイスの提供が可能になっています。症状の初期評価や基本的な健康管理アドバイスを提供するチャットボットの開発が進められ、医療へのアクセスが困難な地域の人々が基本的な健康情報を得られるようになっています。
教育分野でも、学習リソースが限られている地域で、LLMを活用して生徒一人一人の学習ペースや理解度に合わせた教材を自動生成する取り組みが行われています。これは、教師不足や教材不足の問題に対する新たな解決策となっています。
ローカライズされたAIアプリケーションの例として、韓国での事例を紹介したいと思います。韓国のAIサミットで聞いた話ですが、地元の企業がLlamaモデルを基に、韓国の数学カリキュラムに特化した個別化された数学チュータリングシステムを開発しました。これは、オープンソースモデルを活用して地域のニーズに合わせたAIソリューションを作り出した好例です。
また、インドでは、Llamaモデルを活用して、女性に子育てや健康管理に関する高品質の情報を提供するシステムが開発されました。これは、特定のコミュニティのニーズに応えるAIアプリケーションの例です。
8.2 メタのLlama Impact Grants
これらの革新的な活用を更に促進するため、私たちはLlama Impact Grantsプログラムを立ち上げました。このプログラムは、Llamaモデルを活用した革新的なアイデアを持つ開発者や研究者に資金を提供し、それらのアイデアの実現と実用化を後押しすることを目的としています。
Llama Impact Grantsプログラムでは、単なる資金提供だけでなく、技術サポート、ネットワーキングの機会、実用化支援なども提供しています。私たちのメタの専門家チームが、選ばれたプロジェクトに技術的なアドバイスを提供し、アイデアの共有や協力関係の構築を促進しています。
このプログラムを通じて支援された興味深いプロジェクトをいくつか紹介させていただきます：
- 低資源言語のための機械翻訳システム：言語リソースが限られている言語ペアの間で高品質な翻訳を提供するシステムの開発。
- 環境モニタリングAI：衛星画像と地上センサーのデータを組み合わせて、森林破壊や水質汚染などの環境問題を検出し、予測するAIシステム。
- 医療診断支援ツール：医療リソースが限られている地域で、基本的な症状分析と初期診断を提供するAIアシスタント。
これらの事例は、オープンソースLLMが単に技術を提供するだけでなく、地域のニーズに合わせたカスタマイズと革新を促進していることを示しています。私たちは、この傾向が継続することで、AI技術がより多様で包括的になり、世界中のさまざまなコミュニティに価値をもたらす可能性があると考えています。
オープンソースLLMの開発と展開に際しては、技術的な可能性、倫理的な考慮、法的な要件、そして社会的な影響を総合的に評価し、バランスの取れた判断を下す必要があります。私たちMetaは、この複雑な課題に対して、継続的な対話と柔軟なアプローチを通じて取り組んでいきます。
9. モデルの公開・非公開の判断基準：Malikaによるスピーチ（Google代表）
9.1 段階的アプローチと安全性テスト
Googleを代表して、大規模言語モデル（LLM）の公開・非公開の判断基準について、私たちの見解をお話しさせていただきます。
まず強調したいのは、この判断が単純な二元論ではなく、段階的なアプローチを取るべきだということです。私たちGoogleでは、公開の程度にはスペクトラムがあると考えています。完全に非公開から、限定的な公開、API アクセスの提供、部分的なオープンソース化、そして完全なオープンソース化まで、様々な段階があります。
例えば、私たちが最近公開したGemmaモデルでは、この段階的アプローチを採用しました。初期段階では開発者向けに最適化されたバージョンを公開し、その後のフィードバックや評価に基づいて、さらなる展開を検討するという方法を取りました。
安全性テストについても、非常に厳格なプロセスを採用しています。Gemmaモデルの公開に際しては、内部での徹底的なテストに加え、外部の専門家による評価も実施しました。これには、バイアス、有害なコンテンツ生成、セキュリティ脆弱性などについての広範なテストが含まれます。
また、レッドチーミングと呼ばれる手法も採用しており、意図的に悪用を試みるチームによる評価を行い、潜在的な脆弱性を特定しています。これらのテストの結果に基づいて、必要な改善や対策を講じてから公開を決定しています。
9.2 責任ある公開と標準化への取り組み
責任ある公開のために、私たちは開発者向けに、モデルの適切な使用方法と潜在的なリスクに関する詳細なガイドラインを提供しています。また、モデルと共に、安全性を確保するためのツールやテクニックもオープンソースで公開しています。
標準化への取り組みについても、私たちは積極的に参加しています。特に、米国の人工知能に関する大統領令を受けて、国家電気通信情報庁（NTIA）が主導している標準化の取り組みに注目しています。この取り組みでは、政府、市民社会、企業が協力して、AI技術の標準化に向けた議論を進めています。
また、パートナーシップオンAIやフロンティアモデルフォーラムなどの業界グループにも参加し、オープンソースAIの標準化と責任ある開発に貢献しています。
私たちは、これらの標準化の取り組みが、技術的な側面だけでなく、倫理的・社会的な側面も考慮に入れる必要があると考えています。AIの能力評価や社会的影響の評価方法の標準化も重要だと認識しています。
結論として、LLMの公開・非公開の判断は、段階的なアプローチ、厳格な安全性テスト、そして業界全体での標準化の取り組みを通じて、より体系的かつ責任ある形で行われるべきだと考えています。
同時に、オープンソース化には慎重なアプローチが必要であることも認識しています。特に、モデルの能力やリスク、そして具体的にどの程度のオープン性が適切かについて、慎重に検討する必要があります。
Googleは、これからもオープンソースと独自開発のバランスを取りながら、AI技術の発展と社会への貢献を続けていきます。また、業界全体での協力を通じて、より安全で責任あるAI技術の開発と展開に取り組んでいく所存です。
10. Wikipediaにおけるオープンソース言語モデルの統合：Chrisによるスピーチ（Wikimedia Foundation代表）
10.1 人間編集者との共存とAIツールによる編集支援
Wikimedia Foundationを代表して、Wikipediaにおけるオープンソース言語モデルの統合について、お話しさせていただきます。
まず強調したいのは、Wikipediaの基本的な編集モデルは、20年以上にわたり、誰もが自由に編集できるオープンな構造を維持してきたということです。この人間中心のモデルは、AIの時代においても引き続き重要だと私たちは考えています。
Wikipediaの編集モデルの特徴は、オープンな編集環境、コミュニティによる検証、信頼性の確保、そして継続的な改善にあります。AIがこのモデルを根本的に変えるのではなく、むしろ補完し、強化する可能性があると私たちは考えています。
現在、Wikipediaでは400以上の機械学習モデルが本番環境で稼働しており、これらはすべてオープンソースです。これらのAIツールは、編集者の作業を効率化し、潜在的な問題を早期に発見するのに役立っています。
具体的には、vandalism検出、信頼性の低い情報源の識別、編集の優先順位付け、文章の要約と生成、多言語翻訳支援などの機能を提供しています。これらのツールにより、人間の編集者はより高度な判断や創造的な作業に時間を充てることができるようになっています。
10.2 スロップ(AI生成コンテンツ)への対応
AIによって生成された低品質なコンテンツ、いわゆる「スロップ」への対応は、私たちにとって重要な課題の一つです。Wikipediaのスロップへの対応方針は以下の通りです：
- 人間中心のアプローチの維持：AIが生成したコンテンツであっても、最終的な判断は人間の編集者が行います。
- 品質基準の厳守：AI生成コンテンツであるかどうかに関わらず、Wikipediaの既存の品質基準と検証プロセスを適用します。
- 透明性の確保：コンテンツの出所を明確にし、AI生成であることが判明した場合はそれを明示します。
- 継続的なモニタリング：AI技術の進化に合わせて、スロップ検出と対応の方法を継続的に更新しています。
私たちは、Wikipediaのモデルがスロップへの対応に適していると考えています。誰でも編集できるオープンな構造は、20年以上にわたって機能してきました。AI生成コンテンツが増加しても、この基本的な構造は変わりません。
さらに、インターネット上でスロップが増加することで、逆にWikipediaのような信頼できる情報源の価値が高まる可能性があると私たちは考えています。ユーザーは、信頼性の高い情報を求めてWikipediaに集まり、それがさらに編集者のモチベーションを高め、コンテンツの質の向上につながるという好循環が期待されます。
一方で、AIが生成した回答や要約がWikipediaの情報を使用しているにもかかわらず、適切な出典や引用を提供していない場合があることを懸念しています。この問題に対処するため、私たちは以下のような取り組みを行っています：
- AI開発者との協力：AI企業に対して、Wikipediaのコンテンツを使用する際には適切なクレジットを付与し、可能であればリンクを提供するよう働きかけています。
- 技術的対策：AIによる大規模な自動編集を検出し、必要に応じて制限するシステムの開発を進めています。
- 教育と啓発：ユーザーと開発者に対して、適切な引用と出典の重要性を啓発するキャンペーンを実施しています。
- 法的・倫理的枠組みの検討：AI時代におけるオープンコンテンツの利用と引用に関する新たな枠組みを検討しています。
結論として、私たちWikipediaは、オープンソース言語モデルとAIツールを積極的に統合しつつも、人間の編集者の役割と貢献を中心に据えたアプローチを維持していきます。この方針は、高品質で信頼性の高い情報を提供するというWikipediaの使命を、AI時代においても実現するための重要な戦略だと考えています。
AIとの共存は、Wikipediaのコミュニティモデルに新たな課題をもたらしていますが、これらの課題に対する継続的な取り組みが、Wikipediaの進化と持続可能性を支えていくと信じています。
11. ガバナンスとポリシーの提言：Jim Zemlinによるスピーチ（Linux Foundation CEO）
11.1 規制の対象と責任の所在、オープンソースイノベーションの保護
Linux Foundationの最高経営責任者として、LLMのオープンソース化に関するガバナンスとポリシーについて、私の見解を共有させていただきます。
まず、規制の対象と責任の所在について、航空産業の規制モデルを参考にした視点を提案したいと思います。航空業界では、オープンソースソフトウェアが広く使用されていますが、規制の焦点は航空会社や製造業者に当てられています。同様に、AI技術の規制においても、上流のオープンソース開発者ではなく、それを実際に展開し利用する下流の企業や組織に規制の重点を置くべきだと考えています。
この考え方の背景には、実装の多様性、リソースの差、イノベーションの促進、そして実際の影響の観点があります。大企業は規制遵守のためのリソースを持っていますが、個人の開発者や小規模なオープンソースプロジェクトにはそれが難しいのが現状です。
オープンソースイノベーションを保護するためには、段階的な規制アプローチ、研究開発の自由の確保、安全性研究への支援、そして善意のオープンソース開発者を不当な法的リスクから保護するための法的枠組みの整備が必要だと考えています。
11.2 グローバルな原則と具体的な解決策
AI技術のグローバルな性質を考慮すると、国際的に調和のとれたアプローチが不可欠です。具体的な解決策として、以下のような提案をしたいと思います：
- 国際的な標準化：私たちが提案している「オープンモデルフレームワーク」のような、LLMのオープン性を評価する国際標準の策定が重要です。
- データ共有メカニズム：私たちが取り組んでいるOverture Mapsプロジェクトのような、国際的なデータ共有と標準化の取り組みの拡大が必要です。
- 国際的な研究協力：計算資源やデータへのアクセスを国際的に共有する仕組みの構築が重要です。
- 責任ある公開プラクティスの標準化：メタの「責任あるオープンソース」アプローチを基に、国際的なベストプラクティスを確立することを提案します。
- 国際的な監視メカニズム：LLMの影響を継続的に評価し、必要に応じて規制を調整する国際的な監視体制の構築が必要です。
これらの原則や解決策を実現するためには、政府、企業、学術機関、市民社会の緊密な協力が不可欠です。特に、技術の急速な進歩に対応するため、柔軟で適応性のある規制フレームワークが必要だと考えています。
結論として、LLMのオープンソース化に関するガバナンスとポリシーは、イノベーションの促進と安全性の確保のバランスを取りつつ、グローバルな協調と各国・地域の特性への配慮を同時に実現する必要があります。
私たちLinux Foundationは、この複雑な課題に対処するためには、継続的な対話と柔軟な政策アプローチが不可欠だと考えています。オープンソースコミュニティの創造性と企業の実装能力、そして政府の規制機能が適切に調和することで、AI技術の恩恵を最大化しつつ、潜在的なリスクを最小化する道筋が開かれると期待しています。
今後も、オープンソースの力を信じ、共に未来のAI技術を形作っていきましょう。
12. まとめ
12.1 オープンソースの重要性と課題
本議論を通じて、大規模言語モデル（LLM）におけるオープンソースの重要性が繰り返し強調されました。Linux FoundationのJim Zemlin氏が指摘したように、オープンソースは現代のコンピューティングシステムの80%から90%を占める基盤技術となっています。特にAI分野では、PyTorchなどのオープンソースフレームワークがLLMの開発を可能にし、GoogleのTransformerアーキテクチャの公開が現在のLLM革命の起点となりました。
MetaのMelinda氏やGoogleのMalika氏が紹介したLlamaモデルやGemmaモデルの公開は、オープンソースLLMが低資源環境やローカライズされたアプリケーションの開発に大きく貢献できることを示しています。韓国の数学チューターアプリケーションやインドの多言語AIモデルなどの具体例は、オープンソースモデルが地域のニーズに応じたAIソリューションの創出を促進していることを明確に示しています。
一方で、Future of Life InstituteのIsabella氏が指摘したように、オープンソースLLMには重要な課題も存在します。セキュリティリスク、品質管理、責任の所在、経済的持続可能性、規制との整合性、データの扱い、市場の集中化などが主な課題として挙げられました。
12.2 バランスの取れたアプローチの必要性
パネルディスカッションを通じて最も強調された点の一つは、LLMの開発と展開におけるバランスの取れたアプローチの必要性です。これは、技術的、倫理的、法的、そして社会的な側面から多角的に議論されました。
GoogleのMalika氏が示したように、オープンソースと独自開発のバランスを取ることで、業界全体の発展に寄与しつつ、自社の競争力も維持することができます。MetaのMelinda氏が説明した「責任あるオープンソース」アプローチは、安全性と革新性のバランスを取るための一つのモデルを提示しています。
規制と自由なイノベーションのバランスについては、Jim Zemlin氏が航空産業の例を引用しながら興味深い提案を行いました。規制の焦点を上流のオープンソース開発者ではなく、下流の実装者に当てることで、イノベーションを阻害せずに安全性を確保できる可能性があります。
また、WikipediaのChris氏が示した、AIツールを積極的に活用しつつも、最終的な判断と創造性は人間が担うというアプローチは、技術と人間の能力を最適に組み合わせる一つのモデルを提示しています。
結論として、LLMのオープンソース化は、AI技術の民主化、透明性の向上、イノベーションの促進に大きく貢献する可能性を秘めています。しかし同時に、安全性の確保、責任の所在の明確化、経済的持続可能性の維持など、多くの課題も存在します。これらの課題に対処し、オープンソースLLMの潜在的な利点を最大限に引き出すためには、技術界、学術界、政府、そして市民社会の緊密な協力が不可欠です。
バランスの取れたアプローチを通じて、オープンソースLLMは、AI技術の発展を加速させるだけでなく、その恩恵をより広く、より公平に社会全体に行き渡らせる可能性を持っています。今後、このバランスをどのように具体化し、実践していくかが、AI技術の健全な発展と社会への統合の鍵を握っているといえるでしょう。