AWSのノーコード・ローコードLLMアプリ開発

ノーコード・ローコードLLMアプリ開発ツールの実際！Difyなど4つのツールの概要とディスカッション
https://studyco.connpass.com/event/321457/

で発表した資料です。

スライド中の動画はこちらで公開してます。
https://youtube.com/playlist?list=PLsQ6iCGMAhandf4MFRIPSBZIjTELigKD1&feature=shared

Transcript

1. AWSのノーコード・ローコードLLM アプリ開発 ノーコード・ローコードLLMアプリ開発ツールの実際！Difyなど4つのツールの概要とディスカッション @moritalous
2. 自己紹介 森田　和明 富士ソフト株式会社 主任 / フェロー（アーキテクト・エバンジェリスト） AWS Ambassador（2023～）　AWS Top Engineer（2020～） AWS All Certifications Engineer（2024）　AWS Community Builder 生成AIに限らず、AWS関係のアーキテクトとエバンジェリストをやってます Java Webアプリ開発出身　新しいもの好き X / Qiita / GitHub : @moritalous Bedrockタグで週間/月間/年間一位 だった
3. 書籍を執筆しました 通称「サクッと読める鈍器」www 重版決定🎉🎉🎉
4. おしながき 1. AWSの生成AIサービスについて 2. Bedrock Studioの紹介 3. AWS Step Functionsの紹介
5. 1. AWSの生成AIサービスについて
6. AWSの生成AIサービスは3つのレイヤーで構成されています 生成AIをアプリーケーションとして利用したいエンドユーザー向け Amazon Q Business Amazon Q Developer PartyRock AWS HealthScribe 生成AIアプリケーションを作りたい開発者向け Amazon Bedrock 生成AIモデルの学習・推論インフラがほしい機械学習エンジニア向け Amazon SageMaker Amazon Inferencia Amazon Trainium
7. Amazon Bedrockとは Amazon BedrockはAWSが提供する生成 AIサービス さまざまな会社が提供する生成AIモデルをサーバーレス で利用できます。 これによって、モデルのデプロイや運用に手間をかけることなく、AWS上で生成AIを活用 したアプリケーションを手軽に開発 できます。 Bedrockの強み 1. AWSの強みの多くを享受できる 2. 複数の会社が提供する最先端モデルを幅広く利用 できる 3. アプリケーション開発と親和性が高い 4. エンタープライズ環境での本番利用に耐えうる高いセキュリティとガバナンスが提 供されている
8. Bedrockで利用できるモデル AI21 Labs (3) Jamba-Instruct Jurassic-2 Ultra Jurassic-2 Mid Amazon (7) Titan Embeddings G1 - Text Titan Text G1 - Lite Titan Text G1 - Express Titan Image Generator G1 Titan Multimodal Embeddings G1 Titan Text G1 - Premier Titan Text Embeddings V2 Anthropic (6) Claude 3.5 Sonnet Claude 3 Opus Claude 3 Sonnet Claude 3 Haiku Claude 2.1 / 2.0 Claude Instant Cohere (6) Command R+ Command R Embed English Embed Multilingual Command Command Light Meta (6) Llama 3 8B Instruct Llama 3 70B Instruct Llama 2 Chat 13B Llama 2 Chat 70B Llama 2 13B Llama 2 70B Mistral AI (4) Mistral 7B Instruct Mixtral 8x7B Instruct Mistral Large Mistral Small Stability AI (1) SDXL 1.0 テキスト　テキスト＆ビジョン 埋め込み　イメージ 2024年7月6日時点で33モデル！！
9. Amazon Bedrockの主な機能 Amazon Bedrockは様々な生成AIを使える以外にも機能が提供されています。 • Knowledge bases for Amazon Bedrock（ナレッジベース） • Agents for Amazon Bedrock（エージェント） • カスタムモデル（ファインチューニング、継続事前学習など） • セーフガード（ウォーターマーク検出、ガードレール） • 評価と導入（モデル評価、プロビジョンドスループット） • バッチ推論 • Bedrock Studio
10. 2. Bedrock Studio
11. Bedrock Studioとは Bedrock Studioは組織内の生成AIアプリケーション開発者向けにWebベースのプロトタ イピング環境を提供するサービス（本日時点、プレビュー） ユーザー管理がAWSの管理画面（マネジメントコンソール）と別のため、AWSを利用しな い人にもBedrockだけを使える環境を提供 ログイン画面がかっこいい シンプルなチャットを試すプレイグラウンド
12. Bedrock Studioの主な機能 コンポーネントを作成できる（画面右半分） コンポーネントの種類 • ナレッジベース • ガードレール • ファンクション ※バックグラウンドで Bedrockの機能が 作成されますが、Bedrock Studioの利用 者は、この画面だけで作業が完結します アプリ コンポーネント コンポーネントを組み合わせてアプリを作成できる（画面左半分）
13. コンポーネントの解説 ナレッジベース ベクトルDBによるRAG ガードレール コンテンツフィルター ファイルを登録 フィルタリング 設定
14. コンポーネントの解説 paths: /customsearch/v1 : get: summary: Google search. description : Google search. security: - APIkey: [] - ProgrammableSearchEngineID : [] parameters : - name: q in: query description : Search query required: true schema: type: string - name: lr in: query description : | Restricts the search to documents written in a particular language (e.g., lr=lang_ja). schema: type: string enum: - lang_en - lang_ja - name: num in: query description : | Number of search results to return.Valid values are integers between 1 and 10, inclusive. required: true schema: type: integer responses: '200': description : Successful operation content: application/json : schema: {} ファンクション 外部APIを呼び出すツール OpenAPIのスキーマ定義を用意するだけ で、任意の外部APIを呼び出すことが可能 APIキーを使った認証にも対応 Google検索のAPIをOpenAPIで定義した例 YAMLだけなのでギリ ノーコード？ローコード？ Google検索のAPIの例
15. アプリを作成 コンポーネントを組み合わせてアプリを作成
16. Bedrock Studioデモ 以下のコンポーネントを組み合わせたアプリを作成します • ナレッジベース ◦ 「moritalous」に関する情報を取得 • ファンクション ◦ Google Map APIで周辺情報を検索 ◦ SlackへWebhookで通知 7/4のイベントで熊田さんが発表されたデモを堂々とパクって Bedrock Studioでやってみました 【#Bedrock開発入門 出版記念】AWSで生成AIアプリ開発をはじめよう！ https://studyco.connpass.com/event/321443/
17. Bedrock Studioデモ
18. 3. AWS Step Functions
19. AWS Step Functionsとは サーバーレスでワークフローを構築できるオーケストレーションサービス 220 を超えるAWS のサービスと組み合わせることができ、Bedrockにも対応 たくさんの AWSのサービス GUIでワークフローを構築 AWSの管理画面上 or VSCode上で作成 ワークフローはYAMLとして保存
20. AWS Step Functionsとは テンプレートをもとにして独自のワークフローを構築できます
21. AWS Step Functionsとは Step Functionsは生成AI専用のサービスではありません ワークフローの一部に生成AI（Bedrock）を組み込むことができます が
22. AWS Step Functionsとは Bedrockの呼び出しはプロンプトを指定するだけ 使用するモデルを リストから選択 プロンプトを指定
23. AWS Step Functionsとは Bedrockの呼び出しはプロンプトを指定するだけ 使用するモデルを リストから選択 プロンプトを指定
24. Step Functionデモ 以下のRAGをStep Functionsで作ってみました 質問を入力 検索クエリ生成 （複数） 回答生成 検索 検索 検索
25. Step Functionデモ
26. おまけ 書籍にStep Functionsの深堀りハンズオンを記載！！ http://isbn2.sbcr.jp/26440/