20260715 AWS Trainium / Neuron SDK 最新アップデート

2026/7/15に開催された Neuron Community 2026 Vol.1 イベントから：
AWS Trainium / Neuron SDK 最新アップデート

Transcript

1. Neuron Community 2026 Vol.1 AWS Trainium / Neuron 最新アップデート 常世 ⼤史 (Hiroshi Tokoyo) Principal Solution Architect, Annapurna Labs アマゾン ウェブ サービス ジャパン合同会社 © 2026, Amazon Web © 2026, Services, Amazon Inc. or Web its Services, affiliates.Inc. All or rights its affiliates. reserved.All rights reserved.
2. ⾃⼰紹介 名前︓常世 ⼤史 (とこよ ひろし) 所属︓Annapurna Labs (アンナプルナラボ) 職務︓アンナプルナラボ発信技術の拡販、技術⽀援 経歴︓グローバル半導体企業でのキャリアを経て、 2013 年、アンナプルナラボに参画。国内外 チップ外販ビジネスの技術⽀援を主導 2015 年の Amazon による買収後は、Nitro カードの開発⽀援などを経て、現在は Trainium/Inferentia に関わる技術⽀援に従事 © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved. 2
3. Annapurna Labs (アンナプルナラボ) 🤔 ご存知でした 🤔 © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved.
4. 7 ⽉ 14 ⽇ テレビ東京 WBS（ワールドビジネス サテライト）で取り上げていただきました 放送内容は、Tver および テレ東 Biz（有料登録）で視聴可能です。 配信限定版︓ 国内テレビ初︕︕アマゾンの半導体開発拠点 「アンナプルナ・ラボ」を取材︕コスト性能UP アンソロピックも使う半導体の強みとは︖幹部 インタビューも https://txbiz.tv-tokyo.co.jp/original2/vod/post_344620 © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved.
5. Annapurna Labs とは • 2011年に設⽴ - イスラエル発ファブレスチップ設計会社 • NAS (Network Attached Storage) やネットワーク機器に搭載 • 2015年から AWS の⼀員に © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved.
6. AWS を⽀えるシリコンイノベーション AWS Nitro System 2013 2024 • Amazon EC2 独⾃の仮想化基盤 • 共通処理を専⽤ハードウェアに オフロード NITRO NITRO v2 NITRO v3 NITRO v4 NITRO v5 NITRO v6 2018 AWS Graviton 2025 • ARM コア搭載プロセッサ • クラウドネイティブなワークロードに最適化 GRAVITON GRAVITON2 AWS Trainium / Inferentia GRAVITON3 GRAVITON4 2019 GRAVITON5 2025 • 機械学習向けアクセラレータ • 低コスト、⾼い電⼒効率、持続可能な AI 基盤を実現 © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved. INFERENTIA TRAINIUM TRAINIUM2 TRAINIUM3
7. AWS Summit Japan 2026 (CMP336) https://aws.amazon.com/jp/events/summits/japan/ © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved. 7
8. AWS Graviton Graviton5 Neoverse-V3 192 コア 3nm プロセス 1720億トランジスタ Graviton4 と⽐較して •最⼤ 25% 性能向上 •2倍のコア数 •シングルソケットで 192 コアを実現 •NUMA レイテンシを 33% 削減 •5倍の L3 キャッシュ容量（192MB） Nitro Isolation Engine で数学的に証明された分離セキュリティ に対応 2026年6⽉10⽇、 M9g/M9gd インスタンスが ⼀般提供開始 © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved. https://aws.amazon.com/jp/ec2/graviton/
9. GPU だけでは動かない ─ Agentic AI の真実 ボトルネックは AI チップから CPU へ︖ • Agentic AI では、LLM 推論 1 回に対し 5〜20 回の CPU 処理 が発⽣ • エージェント化が進むほど CPU の重要性は増す チャットボット型 AI エージェント型 AI 動作パターン 聞かれたら答える （1問1答） ⾃律的に判断し動き続 ける 処理の流れ プロンプト → トークン ⽣成 → 応答 ⽬標分解 → 検索 → ツール実⾏ → 評価 → 次のステップ 主な計算 並列⾏列演算 逐次制御フロー © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved. （オーケストレーション、 ツール実⾏、メモリ管理） 数千万の Graviton コアを展開、Agentic AI の CPU 集約型ワークロードをスケール https://www.aboutamazon.com/news/aws/metaaws-graviton-ai-partnership 今後 5年間で AWS 上の Graviton および AI インフラに60億ドルを投資 https://www.snowflake.com/ja/news/pressreleases/snowflake-expands-aws-collaboration-with6b-commitment-to-accelerate-enterprise-agentic-aiadoption/
10. AWS Trainium 事例アップデート © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved. 10
11. Anthropic to secure up to 5 gigawatts of current and future generations of Amazon’s Trainium chips to train and power their advanced AI models. April 20, 2026 https://www.aboutamazon.com/news/company-news/amazon-investsadditional-5-billion-anthropic-ai OpenAI to consume 2 gigawa's of Trainium capacity through AWS infrastructure February 27, 2026 https://www.aboutamazon.com/news/aws/amazon-open-ai-strategicpartnership-investment © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved.
12. 2025年、100万個を超えるチップを導⼊ PROJECT R AINIER 世界最⼤規模の AI コンピュート クラスタ © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved. https://www.aboutamazon.com/news/aws/aws-projectrainier-ai-trainium-chips-compute-cluster
13. Uber pilots AWS Trainium3 to build faster, smarter AI predictions and models. April 7, 2026 https://www.aboutamazon.com/news/aws/aws-uber-ai-trainium-graviton $4 billion commitment through 2031. Pinterest will use AWS Trainium and Graviton to train and run AI models at scale. June 4, 2026 https://www.aboutamazon.com/news/aws/pinterest-aws-4-billion-aiinfrastructure-deal © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved.
14. AWS Neuron アップデート © 2026, Amazon Web Services, Inc. or its affiliates. affiliates. All rights reserved. 14
15. NxD (NeuronX Distributed) ライブラリ さらなるライブラリのネイティブ化を推進中︕ Native PyTorch, Native vLLM © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved. 15
16. vLLM-Neuron は 7/20 Public Release となりました︕ h"ps://awsdocs-neuron.readthedocshosted.com/en/latest/about-neuron/whats-new.html Beta版での PoC を希望の⽅は AWS 担当営業までお問い合わせください © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved.
17. Neuron 2.31.0 • 7 ⽉ 7 ⽇リリース © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved. NKI Library 新規カーネル追加、既存カーネルの最適化進⾏中 https://github.com/aws-neuron/nki-library
18. ⚙ Trainium での性能最適化⼿法は︖ ネイティブ化 = 性能最適化 Anthropic のパフォーマンスエンジニア のお気に⼊り機能 😍 © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved. Claude On Three Accelerators @Modular GPU Kernel Hackathon https://youtu.be/-k6yikkxQqI 18
19. 先⽉ ⽶国で NKI Bootcamp を開催しました︕ DMA © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved.
20. 先⽉ ⽶国で NKI Bootcamp を開催しました︕ © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved.
21. Neuron Agentic Development NKI カーネル開発⽤のエージェントコーディング機能を提供 © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved.
22. Next Step? © 2026, Amazon Web Services, Inc. or its affiliates. affiliates. All rights reserved. 22
23. Thank you! © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2026, Amazon Web Services, Inc. or its affiliates. All rights reserved.