※本レポートは、AWS re:Invent 2024で発表されたAmazon Novaに関するセッション「[NEW LAUNCH] Practical generative AI using Amazon Nova (AIM398-NEW)」の内容を基に作成されています。セッションの詳細情報およびその他のAWSイベント情報は https://go.aws/3kss9CP でご覧いただけます。

本レポートでは、セッションの内容を要約・構造化しております。なお、本レポートの内容はAWSの発表内容を正確に反映するよう努めていますが、要約や解釈による誤りがある可能性もありますので、正確な情報や文脈については、AWSの公式ドキュメントやイベント録画をご確認いただくことをお勧めいたします。

また、より詳しい情報については、以下のリソースもご参照ください：

• AWS re:Invent: https://go.aws/reinvent
• AWS events videos: http://bit.ly/316g9t4
• AWS videos: http://bit.ly/2O3zS75

1. イントロダクション

1.1 セッション概要と登壇者紹介

このセッションは、AWS re:Invent 2024で発表された新しい基盤モデルAmazon Novaについての実践的な活用方法を紹介するものです。Andyのキーノートで発表されたばかりのAmazon Novaについて、開発チームと実際の活用事例を持つ内部顧客からの詳細な説明が行われました。

主な登壇者は、Amazon AGIのProduct Team LeadであるJayと、同じくAmazon AGIのDirector of EngineeringであるShubhamです。彼らはAmazon Novaの開発と製品化を主導してきました。

また、Amazon Nova の実際の活用事例を紹介するため、以下の3名の内部顧客も登壇しました：

• AWSサポートからPatrick氏：技術的な問題解決におけるNovaの活用事例を紹介
• Prime VideoとAmazon MGM studiosからGerard Medioni氏（Vice President and distinguished scientist）：コンテンツ要約におけるNovaの活用事例を紹介
• Amazon Q DeveloperからJamie St. Onge氏（Senior Manager of Product）：開発者向けツールにおけるNovaの活用事例を紹介

このセッションでは、まずAmazonにおけるジェネレーティブAIの活用状況の概要が説明され、続いてAmazon Novaファミリーモデルの紹介、そして最後に内部顧客による具体的な活用事例の紹介という構成で進められました。特に、ビジネスユースケースとしてのドキュメント理解、会話型アシスタント、マルチモーダルコンテンツ生成に焦点を当てて、Novaがどのように設計され、実際のビジネスで活用されているかが詳しく説明されました。

1.2 企業におけるジェネレーティブAIの活用状況

Jay: 私たちが観察している企業のジェネレーティブAI活用状況について、いくつかの重要なトレンドをお話ししたいと思います。現在、企業はジェネレーティブAIを活用して驚くべき効率化を実現しています。特に注目すべき活用事例として、インテリジェントドキュメント処理、ワークフロードキュメンテーション、専門家による支援などが挙げられます。

Shubham: そうですね。特にインテリジェントドキュメント処理の分野では、企業内の大量の文書を効率的に処理し、必要な情報を抽出・整理することで、業務プロセスの大幅な効率化を実現しています。また、開発者向けのコーディング支援など、専門的なタスクにおいてもAIが人間の専門家を効果的にサポートしています。

Jay: カスタマーサービスの分野でも革新的な変化が起きています。ジェネレーティブAIを活用したカスタマーサービスアシスタンスにより、応答時間の短縮と品質の向上を同時に実現しています。また、インシデントやケース管理においても、AIによる効率的な処理と分析が可能になっています。

Shubham: 興味深い点は、これらの活用が単なる効率化だけでなく、顧客体験の向上にも直結していることです。例えば、ジェネレーティブAIを活用したソリューションにより、よりパーソナライズされたカスタマーエクスペリエンスの提供や、クリエイティブなコンテンツ生成が可能になっています。

Jay: そうですね。特に注目すべきは、これらの活用がすでに実験段階を超えて、実際のビジネスプロセスに組み込まれ、具体的な価値を生み出している点です。企業はジェネレーティブAIを活用して、業務効率の向上だけでなく、新しい価値創造にも成功しています。このトレンドは今後さらに加速すると予想しています。

1.3 Amazonにおけるジェネレーティブアプリケーションの規模

Jay: Amazon全体で、現在約1,000のジェネレーティブAIアプリケーションが進行中です。この規模は、私たちがジェネレーティブAIの実装においてどれだけ先進的な取り組みを行っているかを示していると思います。

Shubham: その通りですね。特に印象的なのは、Amazon広告部門での活用事例です。彼らはマルチモーダルコンテンツ生成を活用して、ベンダーが動画広告を生成する際のハードルを大幅に下げることに成功しています。従来は高コストと専門的なスキルが必要だった動画広告制作が、はるかに手軽になりました。

Jay: AWS部門でも興味深い活用が進んでいます。特にカスタマーサポート体験と開発者体験の向上にジェネレーティブAIを活用しており、Amazon Qを通じて具体的な成果を上げています。また、私たちの法務・財務チームの活用事例も注目に値します。

Shubham: そうですね。法務・財務チームは、1,000件以上の文書の分析や、複数のソースにまたがるキャッシュフローの確認など、非常に複雑なユースケースでジェネレーティブAIを活用しています。これらの業務は従来、膨大な時間と人的リソースを必要としていました。

Jay: このような幅広い活用実績があったからこそ、私たちはジェネレーティブAIアプリケーションの構築に関する課題や可能性を俯瞰的に理解することができました。この知見が、内部および外部の開発者向けにAmazon Novaを構築する際の重要な基盤となっています。

Shubham: まさにその通りです。各部門での実践的な活用経験が、Amazon Novaの開発における重要な指針となっていると言えますね。特に、異なる部門での多様なユースケースに対応できる柔軟性と拡張性を確保することの重要性を学びました。

2. Amazon Nova モデルファミリーの概要

2.1 6つのモデル構成

Shubham: Andy氏が昨日のキーノートで発表したように、Amazon Novaは合計6つのモデルを導入します。4つのインテリジェンス理解モデルと2つのクリエイティブコンテンツ生成モデルです。インテリジェンスモデルは、テキスト、画像、ビデオといった異なる入力モダリティに対応したテキスト応答を生成できます。

Jay: 特筆すべきは、私たちのモデルがテキストに対して非常に高い対応力を持っているだけでなく、画像やビデオの理解についても優れたネイティブな理解能力を備えていることです。

Shubham: その通りです。クリエイティブコンテンツ生成モデルについては、テキスト指示、入力画像、そして既存コンテンツの反復的な改善に対応したビデオと画像の生成が可能です。これらのモデルの詳細については後ほど具体的なユースケースと共に説明させていただきます。

Jay: また、6番目のモデルとなるAmazon Nova Premierについても触れておく必要がありますね。

Shubham: はい。昨日事前発表したAmazon Nova Premierは、2024年第1四半期に提供開始を予定しています。このモデルについては、現時点で詳細な仕様を公開できませんが、他のNovaモデルの特徴を踏まえた上で、さらに高度な機能を提供する予定です。

Jay: Nova Premierの導入により、私たちのモデルファミリーは基本的なテキスト処理から高度なマルチモーダル処理まで、幅広いユースケースに対応できる完全なラインナップとなりますね。

Shubham: そうですね。各モデルが異なる強みを持ち、互いを補完し合うことで、お客様の多様なニーズに応えられる構成になっています。

2.2 Nova モデルの主要な特徴

Shubham: Amazon Novaモデルの最も特筆すべき特徴について、いくつかの重要なポイントをお話ししたいと思います。まず、すべてのNovaモデルは驚くべき高速性を実現しています。その上で、非常にコスト効率が高く、お客様のデータやシステムとの統合が容易になるよう設計されています。

Jay: 実際の性能面で言えば、各モデルは同じインテリジェンス層の中で最も高速なモデルの一つとなっていますね。さらに、Bedrockで利用可能な同等の性能を持つモデルと比較して、約75%のコスト削減を実現しています。

Shubham: はい。また、言語サポートの面でも非常に強力です。200以上の言語に対応し、複数のモダリティをサポートしています。セキュリティ面でも、設計の段階から安全性と責任あるAIの原則を組み込んでいます。

Jay: 特に、セキュリティと責任あるAIの実装については、私たちは非常に慎重に取り組みました。基盤システムの設計段階から、これらの要素を組み込むことで、企業での利用に耐えうる堅牢なシステムを実現しています。

Shubham: そうですね。また、すべてのNovaモデルはBedrockサービスと深く垂直統合されています。これにより、Bedrockを使用する際に最高のパフォーマンスとレイテンシー体験を確実に提供できます。

Jay: この垂直統合は、特に大規模な企業導入において重要な意味を持ちますね。システムの安定性と一貫性が保証され、スケーラビリティも確保できます。

Shubham: ええ、その通りです。この統合により、お客様は複雑なインフラストラクチャの管理を心配することなく、モデルの機能に集中することができます。また、将来的な機能拡張やアップデートもスムーズに行えるよう設計されています。

2.3 各モデルの詳細仕様とユースケース

Shubham: 各Novaモデルの特徴を詳しく説明させていただきます。まず、Microは私たちのラインナップで最も高速で費用対効果の高いモデルです。128Kのコンテキスト長をサポートしており、意図分類や要約など、スピードと効率性が重要な高ボリュームのワークロードに最適です。

Jay: 特にMicroモデルは、大規模な処理を必要とするエンタープライズ用途で、コストを抑えながら高速な処理を実現できる点が特徴的ですね。

Shubham: 次にLiteについてですが、これは最もアクセスしやすい価格帯でマルチモーダル機能を提供するモデルです。300Kまでのコンテキスト長をサポートし、チャートや画像を含むドキュメントの理解や、手書きメモなどの非構造化データからの構造化データの作成、大規模な独自データセットに対するQ&Aなどに最適です。

Jay: Liteの特筆すべき点として、他の競合製品と異なり、画像やドキュメントをネイティブに処理できる点がありますね。テキストへの変換による情報の損失がないのは大きな利点です。

Shubham: その通りです。続いて、Pro modelは現在一般提供されている中で最も高度なモデルです。300Kのコンテキスト長をサポートし、ビデオからのメタデータ抽出や推論、プランニングなど、複雑なマルチモーダルユースケースに対応できます。

Jay: 生成モデルについても説明しましょうか。Canvasは、高品質な画像生成と最先端の画像編集機能をサポートしています。特に、色調整やカメラモーションのような細かい制御が可能で、2K×2Kの解像度まで対応できます。

Shubham: そして最後にReelですが、これはテキストや画像、ビデオ入力からの動画生成をサポートしています。現在は6秒間の動画生成に対応していますが、今後は2分までの長尺動画もサポートする予定です。また、長尺動画の生成をガイドするためのストーリーボーディング機能も追加予定です。

Jay: 両方の生成モデルに共通する重要な点として、エンタープライズでの使用を想定した責任あるAI制御が組み込まれていることも強調しておく必要がありますね。不可視の透かしや出力の補償など、企業での利用に必要な機能が標準で実装されています。

2.4 長文コンテキスト処理におけるパフォーマンス評価

Shubham: 長文コンテキストの処理は、お客様から最も強い要望のある機能の一つです。特にRAG（Retrieval-Augmented Generation）のようなアプリケーションでは、長文ドキュメントの効果的な処理が不可欠です。そこで、私たちはAmazon Novaモデルを設計する段階から、長文ドキュメントで高いパフォーマンスを発揮できるよう開発を進めてきました。

Jay: 具体的な性能評価の結果を共有していただけませんか？特にNeedle-In-A-Haystack タスクでの結果が印象的でしたね。

Shubham: はい。Needle-In-A-Haystack タスクは、長文テキスト内に隠された情報を正確に見つけ出す能力を測定する一般的なベンチマークです。私たちのNovaモデルは、このタスクで97%から99%という非常に高い性能を達成しています。特に注目すべきは、この高い性能が様々な入力長でも一貫して維持されている点です。

Jay: その性能の背景には、ドキュメント処理に対する私たちのユニークなアプローチがありますよね。

Shubham: その通りです。多くの競合製品とは異なり、Amazon Novaは様々な形式のドキュメントをネイティブに処理することができます。PDFやその他の形式のドキュメントに含まれるチャートや豊富な空間情報を、テキストに変換することなく直接処理できます。これは従来のアプローチでは失われがちだった多くの重要な情報を保持できることを意味します。

Jay: このネイティブな処理能力は、実際のビジネス現場でどのような影響をもたらしていますか？

Shubham: 例えば、複雑な図表やレイアウトを含む技術文書や財務文書の処理において、従来のテキスト変換ベースのアプローチでは失われていた重要な視覚的・構造的情報を保持したまま処理できるようになりました。これにより、文書の理解精度が大幅に向上し、より正確な分析や意思決定が可能になっています。

Jay: つまり、単なる性能数値の向上だけでなく、実際のビジネスプロセスにおける質的な改善にもつながっているということですね。

Shubham: はい。特に企業の重要文書を扱う場面では、この高い精度と豊富な情報保持能力が、リスク低減とより良い意思決定の実現に貢献しています。

2.5 価格性能比の分析結果

Shubham: Amazon Novaモデルの価格性能比について、第三者機関であるArtificial Analysisの分析結果をお示ししたいと思います。この分析では、100万トークンあたりの価格を横軸に取り、より左側に位置するモデルほどコスト効率が高いことを示しています。

Jay: その分析結果は非常に興味深いですね。Andyのキーノートで言及されていた比較モデルと同じものを対象にしていますが、具体的な数値はいかがでしたか？

Shubham: はい、分析の結果、Amazon Micro、Lite、Nova Proはそれぞれのクラスで価格性能比において業界をリードする位置にあることが確認されました。特に注目すべき点は、すべてのNovaモデルが、Bedrock上の同等のモデルと比較して少なくとも75%のコスト削減を実現していることです。

Jay: その結果をより具体的に見てみましょう。例えば、Bedrockで利用可能な他のモデルと比較した場合の状況はどうでしょうか？

Shubham: 興味深い質問ですね。実は、Bedrock上の既存モデルとの比較に限定して見た場合でも、Micro、Lite、Proの各モデルは依然として最も優れた価格性能比を示しています。具体的には、現在Bedrockで利用可能な選択肢と比較して、少なくとも75%以上のコスト効率を実現しています。

Jay: この優れた価格性能比は、実際のビジネス利用においてどのような影響をもたらすと考えていますか？

Shubham: 企業がジェネレーティブAIを大規模に導入する際、コストは常に重要な検討事項となります。この75%のコスト削減は、特に大規模なワークロードを扱う企業にとって、ジェネレーティブAI導入の経済的な障壁を大きく下げることができます。同時に、パフォーマンスを犠牲にすることなくこの価格優位性を実現できているのが重要なポイントです。

Jay: まさにその通りです。この価格性能比の優位性は、私たちが目指していた「企業での実用的な導入」というビジョンを実現する上で重要な要素となっていますね。

3. Amazon Novaを活用した事例紹介

3.1 AWS サポートでの活用事例

Patrick: AWS サポートでは、お客様と私たちのサポートチームが技術的な問題を最も効率的・タイムリー・責任を持って解決できるよう、インテリジェントツールの開発を担当しています。AWS サポートは業界をリードする品質とサービスを提供していることで知られており、多くのお客様から90%を大きく上回る満足度評価をいただいています。

Jay: その高い満足度の背景には、具体的にどのような取り組みがあるのでしょうか？

Patrick: 現状では、技術的な問題の解決に平均で3時間以上の専任のサポートエンジニアの作業時間が必要です。さらに、お客様や他のAWSチームからのフォローアップ情報を待つ時間を含めると、解決までの経過時間は数日に及ぶことも少なくありません。この課題に対して、Novaを活用した変革を進めています。

Shubham: 具体的な改善点について、もう少し詳しく教えていただけますか？

Patrick: はい。Novaモデルに技術データと知識へのアクセスを提供し、トレーニングすることで、問題を最初から正しく解決できるようになりました。これにより、お客様は人的サポートを待つことなく、必要なときにすぐに問題を解決できるようになっています。その結果、従来の処理時間とリソースの何分の一かで、技術的な問題を解決できるようになっています。

Jay: 特に注目すべき機能面での利点はありますか？

Patrick: 主に3つの重要な利点があります。1つ目は、Novaのエージェント機能、特に文脈理解、思考の連鎖、ツール呼び出しなどの能力により、複雑な一般的なガイダンスやトラブルシューティングの質問に対して、完全で関連性の高い正確な回答が可能になったことです。2つ目は、大量のデータを使用した事前トレーニングと微調整により、技術ドメインにおける理解力と推論能力が強化されたことです。これは実質的に、AWSが記録したすべての問題の解決策と、未知の問題に対する解決技術を知っているモデルを作成したということです。3つ目は、テキストによる説明だけでなく、ログ、技術図、グラフ、プレゼンテーションなど、お客様のビジネスコンテキストとクラウド環境の完全な状態を表す豊富なマルチモーダルデータに基づいて解決策を予測できるようになったことです。

このような改善により、今年は技術アカウント管理と請求リクエストを処理できるAI技術者を導入し、来年はシステムのコスト、パフォーマンス、可用性、セキュリティを向上させるアドバイスを提供するAIアドバイザーを導入する予定です。さらに、ワークロードを管理し、運用上の問題を予測して解決できるAI管理者の最初のバージョンもリリースする予定です。

3.2 Prime VideoとAmazon MGM studiosでのコンテンツ要約事例

Gerard: Prime Videoのポータルでは、私たちのスタジオで制作したオリジナルの映画やシリーズに加え、Max、Apple TVなどのチャンネルパートナーのコンテンツ、そして木曜日のナイトフットボールなどのスポーツコンテンツも提供しています。今回は、Amazon Nova を活用して、オリジナルシリーズ "Bosch: Legacy" シーズン2のナレーション付きリキャップを作成した事例をご紹介します。

Jay: 特に注目すべき技術的な点はどこでしょうか？

Gerard: はい。シーズン3を見る前にシーズン2を思い出したいという視聴者のニーズに応えるため、約7時間に及ぶシーズン2の10エピソードを3分間のリキャップに圧縮する必要がありました。従来の方法では、キャラクター、プロット、サブプロット、ストーリーアークの特定に数週間を要していましたが、Novaを使用することで、数時間で劇場品質のリキャップを作成することができました。

Jay: その処理プロセスについて、もう少し詳しく説明していただけますか？

Gerard: 処理は大きく3つの段階で行われます。まず、シノプシス生成です。Novaの優れたビデオ理解能力により、長編の映像コンテンツを理解し、詳細なテキストのシノプシスを生成します。例えば、「緊迫感あふれるシーズン2で、ハリー・ボッシュは殺人、汚職、個人的な苦悩が絡み合う複雑な事件に巻き込まれていく」といった具合に、キャラクターの紹介も含めた効果的なナレーションを生成します。

次に音声合成の段階では、単なるテキスト読み上げではなく、感情、トーン、強度を伝える必要があります。これが視聴者を物語に引き込む重要な要素となります。

最後に視覚的なモンタージュを作成します。各キーコンポーネントに対して適切なクリップを選択し、それらを組み合わせて、ナレーションと時間的に同期した滑らかで一貫性のある映像を作成します。

Shubham: この事例は、Novaのビデオ理解能力と長文脈処理能力を組み合わせた良い例ですね。

Gerard: その通りです。特に重要なのは、単なる要約ではなく、次のシーズンを視聴したくなるような魅力的なコンテンツを生成できている点です。人間によるクリエイティブな編集とAIの効率的な処理を組み合わせることで、高品質なコンテンツを短時間で作成できるようになりました。

3.3 Amazon Q Developerでのリソース管理活用事例

Jamie: Amazon Q Developerは、アプリケーションの構築、管理、デプロイのための最も高機能なAIベースソリューションとして開発を進めてきました。特に、AWSリソースの管理において、Novaを活用した重要な機能を実装しています。

Jay: AWSの環境が拡大するにつれて、リソース管理の課題も増えていますよね。

Jamie: その通りです。AWSの環境が拡大すると、複数のアカウント、組織、そして多数のワークロードを管理する必要が出てきます。従来は、リソースの検査や管理のために複数のサービスコンソールページを移動したり、CLIを使用したり、複数のAPIにまたがるカスタムスクリプトを作成したりする必要がありました。

Shubham: そこでNovaを選択した理由は何だったのでしょうか？

Jamie: 主に3つの理由があります。第一に、精度の高さです。AWSリソースの状態を確認する際、最新かつ正確な情報を提供することが不可欠です。私たちのオフライン評価では、他のモデルと比較して94.3%という最高レベルの精度を達成しています。

第二に、レスポンス速度です。大規模なAWS環境では、多数のAPIへのアクセスに時間がかかりますが、Novaを使用することでレイテンシーを大幅に削減し、お客様により迅速な応答を提供できるようになりました。

第三に、コスト効率です。フルーガリティは私たちのリーダーシップ原則の一つであり、その恩恵をお客様にも還元したいと考えています。Novaは品質、パフォーマンス、価格の面で私たちの要件を満たす最適な選択でした。

Jay: 具体的な使用例を示していただけますか？

Jamie: はい。例えば、Q Developerを使用すれば、「S3バケットを一覧表示して」という簡単な要求から、「どのRDSをアップデートする必要があるか」や「Linuxで実行されているインスタンスは何個あるか」といった複雑な質問まで、自然言語で問い合わせることができます。システムは現在設定されているリージョンや指定されたリージョンを確認し、必要な情報を収集して回答を提供します。

Shubham: この機能は、どのように実装されているのでしょうか？

Jamie: Q Actionsと呼ばれるツールを使用しています。これは私たちのエージェンティックフレームワークの一部で、Qからの自然言語クエリをCLIコマンドに変換し、それらのCLIコマンドをNovaに渡します。Novaは次に、リソース検査に必要なAPIを生成します。シンプルな仕組みですが、数千のAWSリソースを複数のアカウントや組織にまたがって管理する際には非常に強力なツールとなります。

3.4 Amazon Adsでのビデオ広告生成事例

Jay: Amazon Adsチームの取り組みについて共有させていただきます。ビデオ広告は非常に高いエンゲージメントを生み出すことができますが、制作コストが大きな課題となっていました。

Shubham: その課題に対して、具体的にどのようなアプローチを取ったのでしょうか？

Jay: Amazon Adsチームは、広告主の商品詳細ページなどの既存アセットやコンテンツを活用して、Nova Reelを使用したAds Video Generator製品を開発しました。この製品により、ほとんどの広告主が手の届く価格帯で、高いエンゲージメントを実現するビデオ広告を生成できるようになりました。

Shubham: Nova Reelを選択した理由は何だったのでしょうか？

Jay: 主に3つの理由があります。第一に、責任あるAI制御が組み込まれていること。第二に、編集などの高度な制御が可能なこと。そして第三に、カスタマイズ性が高いことです。これらの特徴により、広告主のブランドや商品の特性に合わせた最適なビデオ広告の生成が可能になりました。

実際のデモでは、例えばハンバーガーの写実的な表現など、非常に詳細なプロンプトに基づいて高品質な広告を生成できていることが確認できました。この技術により、Amazon Adsはビデオ広告の制作コストを大幅に削減しながら、高いエンゲージメント率を維持することに成功しています。

Shubham: この取り組みは、広告主にとってどのような意味を持つのでしょうか？

Jay: これまでビデオ広告の制作コストが障壁となって活用できなかった中小の広告主でも、手軽にビデオ広告を活用できるようになりました。また、大手広告主にとっても、より多くのバリエーションのA/Bテストや、商品ラインナップごとのカスタマイズされた広告の作成が容易になるなど、大きなメリットがあります。

4. Amazon Novaの今後の展開

4.1 音声処理モデルの追加予定

Jay: Amazon Novaの次のステップとして、Andyのキーノートでも言及された新しい音声処理モデルについてお話しさせていただきます。この新モデルは、音声と文字の両方を入力として受け付け、同様に音声と文字の両方を出力として生成できる機能を持つことになります。

Shubham: このモデルの技術的な特徴について、もう少し詳しく説明していただけますか？

Jay: はい。私たちが開発中の音声処理モデルは、音声認識と音声合成の両方の機能を統合した形で提供します。特に注目すべき点は、単なる音声のテキスト変換や、テキストの音声変換だけでなく、音声から音声への直接的な変換も可能になることです。

Shubham: そのような機能は、具体的にどのようなユースケースを想定していますか？

Jay: 例えば、リアルタイムの会議や通話での多言語翻訳、音声コンテンツの自動要約、感情や話者の特徴を保持したまま音声を処理するような高度なユースケースを想定しています。特に、Prime Videoでのコンテンツ要約やAWS サポートでの顧客対応など、既存の活用事例とも組み合わせることで、より豊かなユーザー体験を提供できると考えています。

Shubham: このモデルの開発タイムラインについてはいかがでしょうか？

Jay: 具体的な発表時期は今後お知らせさせていただく予定ですが、現在最終段階の開発を進めており、できるだけ早期にお客様にご提供できるよう努めています。特に、既存のNovaモデルファミリーとの統合性を重視しながら、高い品質基準を満たすことに注力しています。

4.2 マルチモーダル変換機能の開発計画

Jay: 来年の重要な開発計画として、新しい特別プロジェクトを進めています。このプロジェクトでは、テキスト、画像、音声、ビデオなど、あらゆる形式の入力を受け付け、同様にあらゆる形式で出力を生成できる「any-to-any」モデルの開発を目指しています。

Shubham: その「any-to-any」モデルの具体的な技術的特徴について、もう少し詳しく説明していただけますか？

Jay: はい。このモデルの最も革新的な点は、異なるモダリティ間のシームレスな変換を単一のモデルで実現できることです。例えば、テキストから画像、画像から音声、音声からビデオといった、あらゆる組み合わせの変換が可能になります。

Shubham: そのような機能は、既存の事例とどのように統合されていく予定でしょうか？

Jay: 例えば、Prime Videoでのコンテンツ要約では、映像からテキスト、テキストから音声、さらには新しい映像の生成といった一連の処理を、より効率的に行うことができるようになります。また、AWS サポートでは、技術文書や図表、音声による説明など、様々な形式の情報を柔軟に変換・統合して、より効果的なサポートを提供できるようになると考えています。

Shubham: 2024年の開発ロードマップについては、どのように計画されていますか？

Jay: はい。まず第1四半期にはNovaの新しい音声処理モデルをリリースし、その後、段階的にマルチモーダル変換機能を拡充していく予定です。特に、各モダリティ間の変換品質の向上と、実用的なユースケースの開発に重点を置いて進めていきます。

4.3 導入・評価方法のガイダンス

Jay: Amazon Novaを始めるための具体的な方法をご紹介させていただきます。まず、Amazon Bedrockでの実装に対してNovaの評価を実行していただくことをお勧めします。これにより、お客様の具体的なユースケースでNovaがどのように機能するかを直接確認することができます。

Shubham: 特にPlaygroundでのテスト環境について、もう少し詳しく説明していただけますか？

Jay: はい。Amazon Bedrock Playgroundは、Novaの機能を簡単に試すことができる環境として用意しています。ここでは、実際のプロダクション環境に導入する前に、様々な機能やパラメータを検証することができます。また、プロンプトの調整や最適化も、この環境で効率的に行うことができます。

Shubham: プロンプトガイダンスとクイックスタートガイドについては、どのような内容が含まれているのでしょうか？

Jay: 提供しているQRコードからアクセスできるガイドラインには、プロンプトの作成方法や、効果的なユースケースの例、さらには具体的な実装手順まで、包括的な情報が含まれています。特に、実装初期段階でよくある課題への対処方法や、ベストプラクティスについても詳しく解説しています。

Shubham: 実際の導入プロセスではどのようなステップを踏むことをお勧めしますか？

Jay: まずPlaygroundで基本的な機能を試していただき、その後、クイックスタートガイドを参考に段階的に実装を進めていくことをお勧めします。また、プロンプトガイダンスを活用することで、より効果的なモデルの活用が可能になります。これらのリソースはすべて、右側に表示されているQRコードからアクセスできます。

5. 主要な実験結果と知見

5.1 Needle-In-A-Haystack タスクでの性能達成

Shubham: Needle-In-A-Haystack タスクでの評価結果について、詳しく説明させていただきます。このタスクは、長文ドキュメント内に埋め込まれた特定の情報を正確に特定できるかを測定する重要なベンチマークです。

Jay: その評価方法の具体的な詳細を教えていただけますか？

Shubham: はい。このタスクでは、様々な長さの入力文書を用意し、その中に特定の情報を埋め込みます。Novaモデルは、これらの長文から必要な情報を正確に抽出する必要があります。特に重要なのは、文書の長さが変化しても一貫して高い性能を維持できることです。

Jay: 97-99%という非常に高い精度を達成していますが、これを可能にした技術的な背景は何でしょうか？

Shubham: この高精度の達成には、主に2つの技術的な革新が貢献しています。1つ目は、モデルの設計段階から長文処理を重視し、アーキテクチャを最適化したことです。2つ目は、PDF、チャート、その他の形式の文書をネイティブに処理する能力を実装したことです。これにより、文書の変換過程で失われがちな空間的情報や視覚的な文脈を保持したまま処理することが可能になりました。

Jay: このような高い性能は、実際のビジネスシーンでどのように活かされているのでしょうか？

Shubham: 例えば、AWS サポートでの技術文書の分析や、Prime Videoでのコンテンツ理解など、実際のユースケースでこの高い精度が大きな価値を生み出しています。特に、複雑な技術文書や長時間のビデオコンテンツを扱う場面で、この正確な情報抽出能力が重要な役割を果たしています。

5.2 Bedrock モデルとの比較によるコスト削減

Shubham: Artificial Analysisによる第三者機関の分析では、Amazon NovaモデルがBedrockプラットフォーム上の他のモデルと比較して、少なくとも75%のコスト削減を達成していることが確認されました。これは、私たちが開発段階から効率性を重視してきた結果です。

Jay: その大幅なコスト削減を実現できた具体的な要因について、詳しく説明していただけますか？

Shubham: はい。主な要因は3つあります。1つ目は、モデルアーキテクチャの最適化です。特にMicro、Lite、Proの各モデルは、それぞれのインテリジェンス層で求められる機能に特化した設計となっています。2つ目は、Bedrockサービスとの深い垂直統合により、システムのオーバーヘッドを最小限に抑えていることです。3つ目は、効率的なトークン処理の実装です。

Jay: パフォーマンスを維持しながらコストを削減するのは難しい課題だと思いますが、どのようにバランスを取っているのでしょうか？

Shubham: はい、これは重要な点です。私たちは、各モデルのユースケースに応じて最適なバランスポイントを設定しています。例えば、Microモデルは高速で費用対効果の高い処理が必要なユースケースに特化し、Proモデルは複雑なマルチモーダルタスクに対して高度な機能を提供しつつ、それぞれのカテゴリーで最高のコストパフォーマンスを実現しています。

Jay: これは実際のビジネス展開にどのような影響をもたらしていますか？

Shubham: この価格性能比の優位性により、企業は規模に関係なくジェネレーティブAIを導入できるようになっています。特に、大規模なワークロードを扱う企業にとって、75%のコスト削減は導入の大きな推進力となっています。同時に、パフォーマンスを維持しながらこの価格優位性を実現できていることで、プロダクション環境での実用的な導入が可能になっています。

5.3 Prime Videoコンテンツ要約における処理時間短縮

Gerard: Prime Videoでのコンテンツ要約において、従来は複数の工程に数週間を要していました。具体的には、キャラクターの特定、プロットとサブプロットの分析、新シーズンに関連するストーリーアークの抽出など、各工程で専門家による詳細な分析が必要でした。

Jay: その処理時間を数時間に短縮できたということですが、具体的にどのような改善を行ったのでしょうか？

Gerard: はい。主に3つの処理工程を最適化しました。まず、ビデオコンテンツの理解においてNovaの優れたマルチモーダル処理能力を活用し、映像、音声、字幕を同時に分析することで、文脈の理解を効率化しました。次に、シノプシス生成では、長時間のコンテンツから重要なポイントを自動的に抽出し、ナレーション用のテキストを生成します。最後に、音声合成と視覚的なモンタージュの作成を自動化しました。

Shubham: 処理時間を大幅に短縮する一方で、品質はどのように維持されているのでしょうか？

Gerard: 品質維持のために、各工程で重要なチェックポイントを設けています。例えば、シノプシス生成では、キャラクターの紹介方法や物語の展開が視聴者にとって理解しやすいものになっているかを確認します。音声合成では、感情やトーンの適切な表現を重視し、視覚的なモンタージュでは、ナレーションとの同期性や映像の流れの自然さを確保しています。結果として、従来の手作業による制作と同等以上の品質を維持しながら、処理時間を劇的に短縮することができました。

Jay: この成果は、他のコンテンツでも再現可能なのでしょうか？

Gerard: はい。このプロセスは高度に標準化されており、様々なジャンルや長さのコンテンツに適用可能です。実際、"Bosch: Legacy"以外のシリーズでも同様の成果を上げています。重要なのは、AIによる自動化と人間による品質管理のバランスを適切に保つことです。

5.4 AWS サポートにおける問題解決時間の改善効果

Patrick: AWS サポートの現状について、まず基本的な数字をお伝えしたいと思います。私たちは業界をリードする品質とサービスを提供し、90%を大きく上回る顧客満足度を維持していますが、技術的な問題の解決には平均して3時間以上の専任のサポートエンジニアの作業時間が必要です。

Jay: その3時間という時間は、実際の解決までの経過時間とは異なるのでしょうか？

Patrick: その通りです。実際の経過時間については、お客様や他のAWSチームからのフォローアップ情報を待つ時間を含めると、数日に及ぶことがあります。この課題に対して、ジェネレーティブAIは重要な解決策となっています。

Shubham: AIの導入による具体的な改善効果はどのように測定されているのでしょうか？

Patrick: Novaモデルに技術データと知識を提供し、適切なトレーニングを行うことで、問題を最初から正しく解決できる能力を実現しました。これにより、お客様は人的サポートを待つことなく、必要なときにすぐに問題を解決できるようになっています。特に注目すべきは、複雑な技術的ガイダンスやトラブルシューティングの質問に対して、完全で関連性の高い正確な回答を提供できるようになったことです。

Jay: カスタマー満足度への影響はいかがでしょうか？

Patrick: 従来から90%以上という高い満足度を維持してきましたが、AIの導入により、特に応答時間の短縮と24時間対応の実現に対して、お客様から非常に肯定的なフィードバックをいただいています。また、技術的な問題の解決精度が向上したことで、再問い合わせの率も低下しています。今後は、さらに多くのエージェントを導入することで、より広範な技術的問題に対応できるよう開発を進めていく予定です。