AWS Trainium3 をちょっと身近に感じたい

re:Growth 2025 札幌

Transcript

1. 2025/12/8 クラウド事業本部 コンサルティング部 ⼤村 保貴 AWS Trainium3 を ちょっと⾝近に感じたい
2. ⾃⼰紹介 大村 保貴 (Yasutaka Ohmura) クラスメソッド株式会社 クラウド事業本部 コンサルティング部 ソリューションアーキテクト 出身 • 網走市（道東、オホーツク海沿いです） • 今年のふるさと納税に網走のホタテはいかがでしょうか 仕事 • お客様のクラウド活用推進のための伴走支援 • 専門はHPC（スパコン）、ライフサイエンス少々 経歴 • オンプレITインフラの設計構築→ 自社IoTサービスの構築運用 → クラスメソッド 受賞 • Japan AWS Top Engineers (Services) 2021, 2023 - 2025 • Japan AWS All Certifications Engineers 2021 - 2025
3. 画像引⽤: AWS re:Invent 2025 - Keynote with CEO Matt Garman
5. Trainium（Trnインスタンス）を 機械学習や推論で使ったことある⽅ 🙋
6. Amazon Bedrock、Kiro などの AWSの⽣成AIサービスを使っている⽅ 🙋
7. GPU が溶けそう
8. 8   Open AI CEO サム‧アルトマン⽒の発⾔より 引⽤: Post 2025/3/28
9. GPU が溶けている
11. 計算処理の多くは⾏列演算 ここの計算を GPU が担っている
12. なぜ GPU が必要とされているのか
13. なぜ GPU が必要とされているのか？ GPU はもともとゲームや映像の描画処理を⾼速化する⽬的で発展してきました
14. なぜ GPU が機械学習に効いたのか？ なぜ GPU が必要とされているのか？ 似たようなこと
15. CPU
16. CPUは「何でもできる」 複雑な処理でも⾼速にさばけます
17. GPU
18. GPU は「並列計算能⼒が⾼い」 ⽐較的シンプルな処理ができるコアを⼤量に持っています
19. ⾏列演算のような計算処理が中⼼の⽣成 AI のワークロードでは、 シンプルな演算を数万コアで処理する GPU が有利でした。
20. NVIDIA GB300 NVL72 が GPU インスタンスとして提供開始されました 画像引⽤: AWS re:Invent 2025 - Keynote with CEO Matt Garman
21. NVIDIA Blackwell Ultra GPU データセンター向けの GPU は AI 向けに最適化 CUDA Core が 20,480個 Tensor Coreが 640 個 画像引⽤: Inside NVIDIA Blackwell Ultra: The Chip Powering the AI Factory Era
22. Trainium
23. AWS の⾃社設計の半導体ラインナップ 画像引⽤: AWS re:Invent 2025 - AWS Trn3 UltraServers: Power next-generation enterprise AI performance(AIM3335)
24. AWS の⾃社設計の半導体 機械学習‧⽣成 AI 向けのチップとしては 2 種類
25. AWS の⾃社設計の半導体 機械学習‧⽣成 AI 向けのチップとしては 2 種類 そう思っていた時期がありました
26. 画像引⽤: AWS re:Invent 2025 - Keynote with CEO Matt Garman Trainium2 は推論も現在世界最⾼レベルとのこと
27. 画像引⽤: AWS re:Invent 2025 - AWS Trn3 UltraServers: Power next-generation enterprise AI performance(AIM3335)
28. AWS Trainium3 8 つのコアで、AI 向けの計算専⽤エンジンを積んでいます
29. で、いつ使うの？
30. Bedrock、Claude Code、Web アプリ、モバイルアプリの ⼤部分のトラフィックは、Trainium2 で処理されているとのこと 画像引⽤: AWS re:Invent 2025 - AWS Trn3 UltraServers: Power next-generation enterprise AI performance(AIM3335)
31. Trainium のお仕事紹介 Claude Sonnet 4.5 Opus 4.5 Haiku 4.5
32. Trainium のお仕事紹介 Kiro を使っても！
33. 2024年11⽉に Amazon と Anthropic の戦略的提携 Anthropicの主要クラウドプロバイダーとしてAWSを継続 TrainiumとInferentiaを使⽤したトレーニングと展開を⾏うと発表していました
34. 2025年10⽉、11⽉の発表 Google Cloud、Azure + NVIDIA も同様の取り組みをしています
35. まとめ
36. Trainium の進化は、 直接 Trn インスタンスを使わないユーザーにも恩恵があります！ 現在、Claude モデルでの推論の⼤半は Trainium が処理しています
37. 画像引⽤: AWS re:Invent 2025 - Keynote with CEO Matt Garman
38. 参考 - https://qiita.com/Sh1ragami/items/08a8e36c9fc26695d6d6 - https://note.com/techbits/n/n841792523fb0 - https://developer.nvidia.com/blog/inside-nvidia-blackwell-ultra-the- chip-powering-the-ai-factory-era/ - https://speakerdeck.com/htokoyo/aws-innovate-aws-inferentia-train ium?slide=16