Upgrade to Pro — share decks privately, control downloads, hide ads and more …

「AI-Starter」と「らくらくRAG導入パック」で始める生成AI利活用 / Introd...

「AI-Starter」と「らくらくRAG導入パック」で始める生成AI利活用 / Introducing Generative AI Solutions

2024/06/28「DevelopersIO 2024 福岡」で発表した資料です

解説ブログ記事はこちら
https://dev.classmethod.jp/articles/developersio-2024-fukuoka-generative-ai-aoyagi/

Hideaki Aoyagi

July 15, 2024

Transcript

34 slides
  1. ⾃⼰紹介 2 青柳 英明 AWS事業本部 コンサルティング部 ソリューションアーキテクト オンプレインフラエンジニア歴: 20年 2019~

    クラスメソッド 2019 AWS Samurai (JAWS-UG福岡支部) 2021 APN AWS Top Engineer 2024 Japan AWS All Certifications Engineer
  2. ⽣成 AI とは 5 学習 膨大なデータを使って 「学習済みモデル」を構築 推論 Model (LLM)

    Model (LLM) 「学習済みモデル」を使って 生成を行う 指示・質問 テキスト・画像 一般的に「生成 AI の利用」と言えば こちら (推論) を指す 生成 AI で用いられる学習済みモデルは 「LLM」(大規模言語モデル) と呼ばれる
  3. ⽣成 AI の利⽤⽅法 既成のアプリ∕サービスを利⽤する 「ChatGPT」「Microsoft Copilot」「Google Gemini」etc. ◦ ⼿軽に使い始めることができる △

    細かな使い勝⼿を変更できない、痒いところに⼿が届かない API を使ってアプリ∕サービスを作成する ◦ ⾃社の利⽤⽬的‧利⽤場⾯に合わせてカスタマイズできる △ 初期コストがかかる、知識や技術⼒が必要 6
  4. 求められる機能: RAG ⽣成 AI の学習モデル (LLM) は 「ある時点でインターネット等に公開されている情報」 に基づいて学習を⾏なったものです つまり、最新の情報や⾮公開の情報

    (企業の⾃社データなど) を使って 回答を⽣成することはできません 独⾃のデータを使って回答⽣成するための仕組みとして 「RAG」が必要となります 9
  5. ⽣成 AI チャット with RAG ユーザーの悩み: ‧社内情報が分散していて、どこを探せばよいかわからない ‧ドキュメントを探して読むより、誰かに聞いた⽅が早い ‧でも、問い合わせてもなかなか回答が返ってこない 問い合わせ窓⼝部⾨

    (ヘルプデスク、バックオフィス) の悩み: ‧同じような質問に繰り返し対応している ‧回答するための情報を探すのに時間がかかる ‧担当者によって対応の質にばらつきが⽣じる 17
  6. ⽣成 AI チャットを利⽤したい ベンダー純正∕サードパーティ製の⽣成 AI チャット ‧⾃社の利⽤場⾯に応じたカスタマイズが難しい ‧複数の⽣成 AI サービスを使い分けたい場合、

    それぞれのサービスを契約することになりコストが割⾼になる 各サービスで UI や使⽤感が統⼀されない API を使って⾃社開発 ‧⽣成 AI やアプリ開発に関する技術⼒‧知識が必要 ‧開発に期間を要してしまい、タイムリーな⽣成 AI 活⽤ができない 22
  7. クラスメソッドの⽣成 AI 活⽤⽀援 「⽣成 AI 環境構築サービス」 ‧社内で⽣成 AI を活⽤するための環境をクラスメソッドが構築します ‧共有環境

    (SaaS) ではありません! お客さまがご契約のクラウド基盤に⾃社専⽤の環境を構築します ‧クラスメソッドが開発した「⽣成 AI チャットパッケージ」を⽤いて 迅速に導⼊が可能です 23
  8. 2種類のパッケージを提供 24 AI-Starter らくらく RAG 導入パック Web ブラウザから利用できる 多機能な生成 AI

    チャットアプリ 「Slack」「Microsoft Teams」から 利用できる生成 AI チャット
  9. クラスメソッド製パッケージの特徴 複数の LLM の種類に対応 ‧利⽤⽬的に応じて LLM を使い分けたい ‧複数の LLM の出⼒結果を⽐較したい

    ベンダー各社が提供する⽣成 AI サービスを利⽤する場合 ‧それぞれ契約が必要 ‧それぞれ UI や提供機能が違う クラスメソッド製パッケージ「AI-Starter」 ‧統⼀された UI で、複数の LLM を切り替えて利⽤可能 25 AI-Starter
  10. クラスメソッド製パッケージの特徴 社内情報を安全に活⽤する「RAG」を搭載 AWS のエンタープライズ検索サービス「Amazon Kendra」を採⽤ ‧様々なデータソースと連係可能な「コネクタ」を⽤意 例: Amazon S3、Googleドライブ、Microsoft SharePoint、Salesforce、Zendesk、など

    ‧様々なドキュメント形式に対応 例: PDF、Microsoft Excel、Microsoft PowerPoint、 Microsoft Word、 プレーンテキスト、CSV、JSON、XML、HTML、Markdown ‧検索サービスを構成するコンポーネントがオールインワンとなっていて、管理が容易 検索エンジン、インデックス格納 DB、データソースのスキャンエンジン、etc. 27 AI-Starter らくらく RAG
  11. クラスメソッド製パッケージの特徴 ログイン認証 AI-Starter: ‧業界標準「OpenID Connect」対応の ID プロバイダーに対応 例: Microsoft Entra

    ID (Azure AD)、Google Workspace、など らくらく RAG 導⼊パック: ‧チャットツール (Slack、Teams) のユーザー認証による安全な利⽤ 28 AI-Starter らくらく RAG
  12. クラスメソッド製パッケージの特徴 マルチプラットフォーム対応 ‧AI-Starter のパッケージは「コンテナ (Docker) 技術」を採⽤しています コンテナ採⽤によるメリット: ‧多様なクラウドプラットフォームに導⼊可能 これまでの対応実績: AWS

    (App Runner、ECS)、Azure (App Service) など ‧機能追加やセキュリティ更新などアップデートも迅速に対応可能 (定期的にアップデート情報をお知らせします) 30 AI-Starter
  13. そのほかの⽣成 AI 活⽤⽀援 31 支援領域 ご提供内容 生成 AI 環境構築サービス 社内で生成

    AI を活用するための独自環境構築を行います。 様々なクラウド基盤に構築が可能であり、エンタープレイズレベルのセキュリティ 要件にも対応可能です。 技術コンサルティング 生成 AI を活用するうえでの技術面でのお悩みを解決します。 どのような技術を使うべきかの選定や実装を支援します。 システムインテグレーション 生成 AI を活用した Web サービスやアプリケーション、社内ツールなどの構築 を行います。 事業案の壁打ちからシステム開発、運用まで全領域でご支援が可能です。 活用を推進する教育支援 社内で活用を推進するための教育支援を行います。
  14. 34

More Decks by Hideaki Aoyagi

Other Decks in Technology