Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
今さら聞けない!? AWSの生成AIサービス Amazon Bedrock入門!
Search
みのるん
PRO
March 27, 2024
Technology
25
8.8k
今さら聞けない!? AWSの生成AIサービス Amazon Bedrock入門!
Bedrockの入門書、アマゾンのクラウド書籍でベストセラー1位です!
https://www.sbcr.jp/product/4815626440/
みのるん
PRO
March 27, 2024
Tweet
Share
More Decks by みのるん
See All by みのるん
AIエージェント最前線! Amazon Bedrock、Amazon Q、そしてMCPを使いこなそう
minorun365
PRO
10
3.5k
本部長の代わりに提案書レビュー! KDDI営業が毎日使うAIエージェント「A-BOSS」開発秘話
minorun365
PRO
14
2.3k
やさしい認証認可
minorun365
PRO
30
12k
やさしいClaude Code入門
minorun365
PRO
42
36k
地味にいろいろあった! 2025春のAmazon Bedrockアップデートおさらい
minorun365
PRO
2
710
30代からでも遅くない! 内製開発の世界に飛び込み、最前線で戦うLLMアプリ開発エンジニアになろう
minorun365
PRO
16
6k
やさしいMCP入門
minorun365
PRO
190
150k
マネコン操作いらず! TerraformでAWSインフラのコーディングに入門しよう
minorun365
PRO
7
2.4k
Qiita Organizationを導入したら、アウトプッターが爆増して会社がちょっと有名になった件
minorun365
PRO
2
840
Other Decks in Technology
See All in Technology
Amazon S3標準/ S3 Tables/S3 Express One Zoneを使ったログ分析
shigeruoda
2
380
Azure AI Foundryでマルチエージェントワークフロー
seosoft
0
140
Кто отправит outbox? Валентин Удальцов, автор канала Пых
lamodatech
0
260
新卒3年目の後悔〜機械学習モデルジョブの運用を頑張った話〜
kameitomohiro
0
370
LinkX_GitHubを基点にした_AI時代のプロジェクトマネジメント.pdf
iotcomjpadmin
0
160
Agentic DevOps時代の生存戦略
kkamegawa
0
900
_第3回__AIxIoTビジネス共創ラボ紹介資料_20250617.pdf
iotcomjpadmin
0
140
TechLION vol.41~MySQLユーザ会のほうから来ました / techlion41_mysql
sakaik
0
140
Oracle Cloud Infrastructure:2025年6月度サービス・アップデート
oracle4engineer
PRO
1
140
25分で解説する「最小権限の原則」を実現するための AWS「ポリシー」大全 / 20250625-aws-summit-aws-policy
opelab
6
680
SFTPコンテナからファイルをダウンロードする
dip_tech
PRO
0
580
Windows 11 で AWS Documentation MCP Server 接続実践/practical-aws-documentation-mcp-server-connection-on-windows-11
emiki
0
660
Featured
See All Featured
VelocityConf: Rendering Performance Case Studies
addyosmani
330
24k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
507
140k
Responsive Adventures: Dirty Tricks From The Dark Corners of Front-End
smashingmag
252
21k
The Straight Up "How To Draw Better" Workshop
denniskardys
233
140k
The Cost Of JavaScript in 2023
addyosmani
51
8.4k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
228
22k
Understanding Cognitive Biases in Performance Measurement
bluesmoon
29
1.8k
A designer walks into a library…
pauljervisheath
206
24k
Typedesign – Prime Four
hannesfritz
42
2.7k
Optimising Largest Contentful Paint
csswizardry
37
3.3k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
124
52k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
35
2.3k
Transcript
今さら聞けない!? AWSの⽣成AIサービス Amazon Bedrock⼊⾨︕ KDDIアジャイル開発センター株式会社 テックエバンジェリスト 御⽥ 稔
1 KDDI Agile Development Center Corporation $ whoami 御⽥ 稔(みのるん)
@minorun365 テックエバンジェリスト KDDIアジャイル開発センター(KAG)& KDDI兼務 JAWS-UG運営 東京⽀部 / SRE⽀部 / NW-JAWS • AWS Samurai 2023 • AWS Community Builder • KDDI Cloud SAMURAI 2021
2 KDDI Agile Development Center Corporation ⽣成AIブーム、すごいですよね︕
3 KDDI Agile Development Center Corporation クラウド各社の⽣成AIサービス展開(開発者向け) マイクロソフト(Azure OpenAI Service)
グーグル(Google Cloud Vertex AI) オラクル(OCI Generative AI) アマゾン(Amazon Bedrock)
4 KDDI Agile Development Center Corporation AWSクラウド Amazon Bedrockとは︖ •
AWSが提供する開発者向けの⽣成AIサービス • ⽣成AIモデルをサーバーレスで、APIとして利⽤できる︕ アプリケーション サーバー Amazon Bedrock APIを叩くだけ アプリ利⽤者
5 KDDI Agile Development Center Corporation Bedrockの何がいいの︖ OpenAIとかあるやん︕ • 何よりAWSのいちサービスとして⽣成AIが使える
利⽤者多いのでエンジニアも⾒つけやすく、既存AWSシステムにも組み込みやすい。 コミュニティが超活発なので、最新機能の知⾒も爆速でインターネットに転がります • ⾊んなAI企業の有⼒モデルをいいとこ取りできる テキスト⽣成はClaude、RAG⽤のベクトル化ならCohere、 画像⽣成はStable Diffusion…など。 しかも使えるモデルが⽇に⽇に増えてます • エンプラReady。セキュリティ、ガバナンス、サポートの品質︕ ⼊⼒データが学習されない、閉域ネットワーク対応など。 AWSサポートも⾮常に評判よく、優先度低のチケットもそこそこ爆速で親切に返ってきます
6 KDDI Agile Development Center Corporation そんなBedrockの機能紹介︕
7 KDDI Agile Development Center Corporation Bedrockのメイン機能︓⽣成AIモデルを⼿軽に使える︕ 2024年3⽉時点で7社、25モデルが利⽤可能 Anthropic •
Claude 3 Opus • Claude 3 Sonnet • Claude 3 Haiku • Claude 2.1 / Instant Cohere • Command • Embed English • Embed Multilingual Stability AI • SDXL 1.0 • SDXL 0.8 Amazon • Titan Text Express / Lite • Titan Embeddings • Titan Multimodal Embeddings • Titan Image Generator Meta • Llama 2 Chat 70B • Llama 2 Chat 13B • Llama 2 70B • Llama 2 13B Mistral AI • Mistral Large • Mixtral 8x7B • Mistral 7B AI21 Labs • Jurrasic-2 Ultra • Jurrasic-2 Mid
8 KDDI Agile Development Center Corporation 多すぎる︕︕︕ ΞϚκϯͷ Ϟσϧ ଟ͗͢Δɻ
9 KDDI Agile Development Center Corporation 結局、おすすめモデルはどれなの︖ • テキスト⽣成︓Claude(Anthropic社) ◦
最新のClaude 3はGPT-4を超えた︖と評判 ◦ マルチモーダル(テキスト+画像)の読み込みにも対応 ◦ 最上位モデルのOpusもついに今週、利⽤可能となりました🎉 • 埋め込み︓Embedシリーズ(Cohere社) ◦ ⽇本語含め、多⾔語対応のMultilingualモデルもあり • 画像⽣成︓Stable Diffusion XL(Stability AI社) ◦ ただしAmazonのTitan Image Generatorもそこそこ良い (コスパ⾼く、写実系の画像⽣成が優秀)
10 KDDI Agile Development Center Corporation 実際に使ってみよう︕(GUI編) AWSマネコンから、 プレイグラウンドで簡単に試せます
11 KDDI Agile Development Center Corporation 実際に使ってみよう︕(API編) 実際のアプリケーション開発では、BedrockのモデルをAPIから利⽤します Python(AWS SDK)からテキスト⽣成
⽣成AIフレームワーク(LangChain)を利⽤
12 KDDI Agile Development Center Corporation なんとLangChainにAWS専⽤パッケージが登場︕(4/19 New)
13 KDDI Agile Development Center Corporation AWSクラウド よくある⽣成AIアプリのアーキテクチャ例 Amazon Bedrock
Amazon DynamoDB AWS Lambda Amazon Simple Storage Service (Amazon S3) Amazon API Gateway ブラウザから Webチャット フロントエンド バックエンド 会話履歴 社内チャットボット の例
14 KDDI Agile Development Center Corporation モデル以外にも、いろんな機能がある︕
15 KDDI Agile Development Center Corporation エンプラでも安⼼の付随機能 • メトリクス監視、ログ出⼒(CloudWatch) •
監査証跡保存(CloudTrail) • 閉域対応(PrivateLink) AWSクラウド Amazon Bedrock VPC AWS PrivateLink アプリケーション
16 KDDI Agile Development Center Corporation ⾊んな応⽤機能もあります • ナレッジベース&エージェント ⾼度なAIアプリを、複雑なコードを書かずとも簡単に作れる
• ファインチューニング&事前学習 ⾃分のデータを⼤量に⾷わせてモデルを学習させられる • ガードレール AIがヤバいこと⾔わないように制御できる • モデル評価 どのモデルを使えばいいの!? を点数評価してくれる
17 KDDI Agile Development Center Corporation AWSクラウド イチオシ機能① ナレッジベース ⽣成AIでみんなやる社内⽂書検索(いわゆるRAGアーキテクチャ)を簡単に作れる︕
社内⽂書 ナレッジベース for Bedrock Embed モデル Claude モデル OpenSearch Serverless ベクトル変換 結果参照 取り込み 質問 回答⽣成
18 KDDI Agile Development Center Corporation イチオシ機能① ナレッジベース ☝ 30分で試せる⼊⾨ハンズオンを公開してます︕
JAWS DAYS 2024 でも⼤好評でした︕
19 KDDI Agile Development Center Corporation AWSクラウド イチオシ機能② エージェント ⽣成AIに細かく指⽰出すの⾯倒ですよね︖
⼤きな⽬的を与えるとAI⾃ら⾏動計画を⽴てて、 • 必要あればLambda関数を実⾏したり… • 必要あればナレッジベースを⾒にいったり… そんな⾃律型AIエージェントを マネコンから簡単に作れる︕ ナレッジ ベース エージェント APIとして 呼び出せる 関数 基盤 モデル 外部 サービス など
20 KDDI Agile Development Center Corporation イチオシ機能② エージェント こっちも ⼊⾨ハンズオン
作りました👍 qiita.com/minorun365
21 KDDI Agile Development Center Corporation 他のAWSサービスと組み合わせると⾯⽩い 例︓Step Functionsと組み合わせてAIアプリをローコード開発︕ aws.amazon.com/jp/blogs
22 KDDI Agile Development Center Corporation 注意点︓対応リージョンはまだアメリカが中⼼ • 最新のモデルや機能は、東京に来るの待ってたら結構時間かかる ◦
Claude最新モデルの来⽇にはいつも1ヶ⽉〜程度かかる ◦ ナレッジベースやエージェントはまだアメリカのみ • ただ、ぶっちゃけここはそれほど障壁ではない。なぜなら… ◦ 海外のモデルだからレスポンスがめちゃ遅い︕みたいなことは全然ない ◦ リージョンまたいでも、AWSサービス間の通信はAWS設備内に閉じる ◦ Bedrock関係なく、もし個⼈情報を海外リージョン上に保管するような場合は データガバナンス⾯を社内相談しましょう ※社内ルールをちゃんと確認しましょう︕
23 KDDI Agile Development Center Corporation ⽣成AI領域、めっちゃ⾯⽩いんです︕
24 KDDI Agile Development Center Corporation ⽣成AI領域が⾯⽩いのはなぜ︖ • API叩くだけなので内製開発の⼊⾨にも持ってこい︕ •
AIが賢いので、⼯夫次第ですぐ実⽤的なアプリに活かせる • 毎⽇アプデがたくさんあるので コミュニティで楽しく学べる 今朝のアプデ⾒た!? これ熱くね??? xxさんのブログが 分かりやすかったよ!
25 KDDI Agile Development Center Corporation 週明け、Anthropic社の緊急来⽇イベントやります︕ jawsug-ai.connpass.com/event/313318 なんと申し込み 1,100名超え︕
26 KDDI Agile Development Center Corporation おまけ︓Bedrockの本を出します︕
大規模言語モデル 御田 稔/熊田 寛/森田 和明 Amazon Bedrock アプリ開発入門 [AWS 生成AIガイド]
作って学べる! [LLMアプリ開発]の基本とコツ 今知るべき最先端の知識!! ハンズオン 「社内文書検索RAGアプリ」 「便利なAIエージェント」 ・セキュアな生成AI活用 ・モデルの使い分け ・ローコード開発 ・活用事例 まで サンプル コード配布 ࠷ڧͷ#FESPDLೖॻ ॻ͖·ͨ͠ 🎉🎉 ,"(,%%* ΈͷΔΜ 3FMJD ۽ా ࢜ιϑτ ా ͢Ͱʹ"NB[POͰ༧Մೳʂ
2JJUBͷ#FESPDLΧςΰϦʔ ؒϥϯΫΠϯͷ໊͕ࣥචʂ
大規模言語モデル 御田 稔/熊田 寛/森田 和明 Amazon Bedrock アプリ開発入門 [AWS 生成AIガイド]
作って学べる! [LLMアプリ開発]の基本とコツ 今知るべき最先端の知識!! ハンズオン 「社内文書検索RAGアプリ」 「便利なAIエージェント」 ・セキュアな生成AI活用 ・モデルの使い分け ・ローコード開発 ・活用事例 まで サンプル コード配布 ஶऀਞհ ޚాູʢΈͷΔΜʣ ,%%*ΞδϟΠϧ։ൃηϯλʔגࣜձࣾ ςοΫΤόϯδΣϦετ "844BNVSBJ ۽ా גࣜձࣾ3FMJD ઌςΫϊϩδʔݚڀ։ൃϦʔυ +BQBO"84"MM$FSUT ా໌ ࢜ιϑτגࣜձࣾ ΤόϯδΣϦετɾΞʔΩςΫτ +BQBO"84"NCBTTBEPS
৽ػೳཏˍϋϯζΦϯେྔʂ
4#ΫϦΤΠςΟϒΑΓ ্݄०ץߦ༧ఆʂ ͢ͰʹΞϚκϯͰ ༧Մೳ👉
Be a Change Leader. アジャイルに⼒を与え 共に成⻑し続ける社会を創る