Share
Embed
Transcript
63 slides
-
⾃⼰紹介 洲崎 義⼈(Suzaki Yoshito) ⽣成AIインテグレーション部/事業開発 • 所属:AWS営業部(2018/9〜)→AWS事業本部コンサルティング部(2021/7〜)→新規事業統括部(2024/11〜) • 拠点:東京→福岡 •
2023 - 2024 Japan AWS Top Engineers、Japan AWS All Certifications Engineers • 最近の運動:キックボクシング、ランニング -
Agenda 1. ⽣成AIの概要 2. ⽣成AI活⽤⽀援サービスのご紹介 3. ⽣成AI活⽤⽀援の事例 4. ⽣成AI導⼊における⼀般的な課題 a.
データ活⽤(RAG)の課題 b. ⽣成AI利⽤を定着させる課題 5. どう始めたら良いか? 6. AI StarterとGenUの説明 7. AI Starterのデモンストレーション 8. まとめ 3 -
⽣成AIは2020年代に誕⽣し、急速に社会へ浸透 利⽤者が1億⼈に到達する までにかかった期間 ChatGPT:2ヶ⽉ TikTok:9ヶ⽉ Instagram:2年4ヶ⽉ ⽣成AIの進化 2020年 〜 2021年
⽣成AIの幕開け OpenAIがGPT-3 (⽂章⽣成AI)を開発。 ⼈間と遜⾊ない⾃然な⽂章を⽣成し、⼤きな衝 撃を与える。 2022年 〜 2023年 実⽤化の加速 対話形式で利⽤できるChat-GPTが誕⽣。 ⾃然な対話能⼒と汎⽤性の⾼さが注⽬を 集め、爆発的にユーザー数を伸ばす。 2024年 〜 社会への浸透 ⽂脈理解や感情認識の能⼒が向上し、より⼈間 らしい対話が可能に。 テキスト、画像、⾳声など、複数のデータを 統合的に処理できるようになった。 -
⽂章⽣成AIの特徴|従来のAIとの違い 従来のAI ⽂章⽣成AI ⽬的 データの予測や識別を得意とし、 特定のタスクを正確にこなすこと ⼈間の⾔語を理解し、⾃然な⽂章を⽣成 すること 柔軟性 決められた範囲での応答が可能
多様な質問や要望に合わせて応答が可能 業務への活⽤ データを基礎とした結果を予測、 具体的な対応策は⼈間が考える ⽂章作成や説明作業の⽀援で⼈間の創造 的活動をサポート ⽤途の例 データ分析、⾳声認識、画像識別 など チャットボットの応答、⽂書の作成など -
私(洲崎)の⽣成AI 活⽤例 1.⽂書作成⽀援 ‧メールの添削 ‧議事録の要約 ‧社内相談⽤の要点の整理 2.アイデア出し⽀援 ‧アイデアの⽣成 ‧アイデアの壁打ち 3.多⾔語コミュニケーション⽀援
‧ビジネス英語への正確な翻訳 ‧OpenAI、Anthropicなどの最新AI技術の活⽤ ‧⽇本語プレゼン資料の英語化 結論: ⽣成AIは業務効率を⼤幅に向上させる必須ツール アウトプットの品質チェックとしても⼤いに有効です! -
⽣成AI導⼊時の課題を総合的にサポート! • 業務課題の分析と 生成AIユースケースの 選定 • 生成AIの評価基準 や効果測定方法の策定 •
RAG構築 • データセキュリティの確 保 • 既存システムとの インテグレーション • サポートを行う 生成AIチームの構築 • 利用ガイドラインや マニュアルの作成 • ユーザートレーニングの 実施 • ユーザーフィード バックの収集と分析 • チューニングによる 回答精度の改善 • 最新情報の調査や 活用のご提案 企画 生成AIが業務にどのように 貢献するか明確化する 開発 データ活用・自動化により生 成AIの効果を最大化する 導⼊ サポート体制をつくり 生成AIの利用を定着させる 運⽤ 業務に合わせて生成AIの 機能を最適化させる -
ニーズに合わせて最適なソリューションを提供 エンタープライズレベルのセキュリティをもつ 生成AI環境構築パッケージ パッケージ 個別支援 コンサルティング 生成AIを活用するうえでの技術面でのお悩みを解 決します。具体的な技術選定から実装、運用の効
率化までトータルで支援します。 アプリ開発 SlackなどのチャットボットやWebUIの開発、各社API と自社データを活用した要件定義から実装・運用ま でを対応します。 教育支援 プロンプトの活用方法や、生成AIアプリの内製化に 向けた教育支援を行います。生成AIの導入から利 用の定着までをサポートします。 -
LLM選定やインフラを1カ⽉で構築|くすりの窓⼝様 ✓ 技術力とスピード感を大事にしたいという考えからパートナーを クラスメソッドに決定 ✓ 約1カ月の開発期間を経てRAGを活用した生成AIチャットボット のPoC検証用の環境を構築 ✓
社内チャットで質問するとそのサービスについて回答が得られ る仕組み https://classmethod.jp/cases/kusurinomadoguchi/ ⽀援前 ⽀援後 • クライアントからの問合せに対する 回答のバラつきに課題 • 回答精度と運⽤コストの改善を検討 • ⽣成AIの活⽤に関⼼があったが開発 リソース確保は困難 解決した課題 • ChatGPT4採⽤の検証⽤チャット ボットSlackアプリを1カ⽉で提供 • ⽣成AIサービスを多⾯的に複数検証 しながら開発 • 同様の仕組みでチャットアプリを 3種類展開 -
⽣成AIチャットボット導⼊で社内ヘルプデスク業務を⽀援| オプテージ様 ✓ クラスメソッドが自社で運用した生成AIチャットボットのナレッジ を基にシステム構築 ✓ セキュリティ要件やプロジェクトの制約事項など後発的に浮上 した課題に対して柔軟に対応し円滑にプロジェクトを進行
✓ 特定の検証方法においては社内ドキュメントをもとにした回答 精度では80%を超えることに成功 https://classmethod.jp/cases/optage/ ⽀援後 • 社内情報に回答可能な⽣成AIを構築 したい • 既存チャットボットのメンテナンス コストに課題 • ⽣成AIの活⽤領域についてノウハウ を得たい ⽀援前 解決した課題 • 社内データを活⽤した⽣成AIを構築 • 社内のセキュリティ基準を満たす環 境で⽣成AIを検証できた • ⽣成AI活⽤の勘所など様々なナレッ ジを社内に蓄積できた -
⽣成AI導⼊時の課題を総合的にサポート! • 業務課題の分析と 生成AIユースケースの 選定 • 生成AIの評価基準 や効果測定方法の策定 •
RAG構築 • データセキュリティの確 保 • 既存システムとの インテグレーション • サポートを行う 生成AIチームの構築 • 利用ガイドラインや マニュアルの作成 • ユーザートレーニングの 実施 • ユーザーフィード バックの収集と分析 • チューニングによる 回答精度の改善 • 最新情報の調査や 活用のご提案 企画 生成AIが業務にどのように 貢献するか明確化する 開発 データ活用・自動化により生 成AIの効果を最大化する 導⼊ サポート体制をつくり 生成AIの利用を定着させる 運⽤ 業務に合わせて生成AIの 機能を最適化させる -
⽂章⽣成AIを業務利⽤するときに発⽣する課題 課題 原因 課題 1 最新の情報を反映できない 過去のデータをもとに学習しており、学習後の 情報は⾃動的に更新されないため 課題 2
業務に必要な特定の知識が 不⾜している 企業や⾏政機関内の⾮公開情報は学習データに 含まれていないため -
RAG構築の⼿法 24 AWSでRAGを実装するにはAmazon Kendraか Amazon Bedrock Knowledge Basesの2種類で考えられる Kendra:エンタープライズ検索エンジンサービス Knowledge
Bases:Bedrockの⼀機能であり、RAGを実現するた めの「検索機能」の位置付け -
RAG構築の⼿法 25 ⻑所 短所 Kendra ‧設定がシンプルで使いやすい ‧多様なデータソース(30種類 以上)に対応 ‧Knowledge Basesと⽐較して⾼コストになり
がち(2025/2/17現在) ‧チャンキングなどの細かい設定に制約がある Knowledge Bases ‧複数のベクトルストア選択肢 によるコスト最適化 ‧ 柔軟なチャンキング等の詳細 設定が可能 ‧対応データソースが限定的(S3のみ、 2025/2/17現在) ‧ベクトルストアの設定に専⾨知識が必要 -
課題例1の原因: 抽出する範囲が合っていない タイトル 回答例 詳細情報・回答根拠・リンク先情報 ログインパスワードを忘れたときの手順を教えて "ログインパスワードが分からなくなった場合は Slackで情シス宛に初期化依頼をしてくだい。 詳細はリンク先を参照してください。 [リンク先](http://sample.classmethod.jp/sample/sample/1)"
"初期化する権限は情シスのみが保有しています。 ユーザのみでは行えないので、ご連絡ください。 " 〇〇が反応しないときの対処手順を教えて "設定画面を開き、〇〇が有効になっているか確認してください。 確認方法や詳細はリンク先を参照してください。 [リンク先](http://sample.classmethod.jp/sample/sample/2)" "〇〇は誤って無効にされてしまうケースが多いです。 設定を改めてご確認ください " 〇〇できないときの対処方法を教えて "ソフトウェアの再起動をしてください。 詳細はリンク先を参照してください。 [リンク先](http://sample.classmethod.jp/sample/sample/3)" "再起動処理が完了するまでに、数分かかります。 再起動後アイコン上はすぐに接続できるように見えますが、 処理中の状態ですので、時間をあけて接続して下さい " ⾏をまたいで、途中が抽出されしまった ヘッダーの情報もない -
プロンプト活⽤ワークショップの実施概要 ⽣成AIの⽂章⽣成ツールを利⽤したことがない初⼼者の⽅から業務活⽤の アイデアが⽣まれることをゴールとしたワークショップを⾏います。 想定参加者 • システム部⾨ではない業務担当者の⽅を想定 • 聞いたことはあるが⽣成AIを使ったことがない • ⾰新的な技術であることは知っているが、そもそもどのような業務で活⽤できるかが
分からない 実施のGoal • 参加者が⽣成AIでなにができるかのイメージがつく • 参加者から⽣成AI活⽤のアイデアが⽣まれる ワークショップの コンテンツ ⽣成AIでなにができるか?(インプット) • ⽣成AIとは? • ⽂章⽣成の概要 • 画像⽣成の概要 ⽣成AIを使ってみよう(ハンズオン形式) • 特定のユースケースにおいてのプロンプト作成と実⾏ 業務での活⽤を考えてみよう(アウトプット) • ⾃⾝の業務で使えるアイデアの検討と参加者への発表 39 -
⾃治体に⽣成AI活⽤を⽀援した事例|新潟県上越市様 ✓ 上越市のDX推進に生成AI活用ワークショップの実施を通じて 貢献 ✓ 講義は1日2回開催され、主に若手職員を対象に、各回対面30 人程度、オンラインで20人程度が参加 ✓ 効果的な回答が得られるプロンプトの書き方をフォーマット化
し、ハンズオン形式で手を動かしながら解説 https://classmethod.jp/cases/joetsu/ ⽀援前 ⽀援後 • チャットボット型⽂書⽣成AIを導⼊ も職員の活⽤ノウハウが不⾜ • 活⽤できる職員を増やし、業務の 効率化を図りたい 解決した課題 • 若⼿職員向けに⽣成AI活⽤ワーク ショップを実施 • 効果的な活⽤に向けたプロンプトの 書き⽅などノウハウの共有が進む • 講義の動画を庁内で共有することで 今後も職員それぞれのタイミングで 学習可能に -
デジタル⼈材育成を伴奏⽀援|コクヨ様 ✓ AI-Starterを用いてセキュリティを担保した生成AI開発 環境をAWS上に構築 ✓ 運用保守に加えAI開発領域の技術支援も提供 ✓
事務局の一員となりユーザーに伴奏して生成AI活用を サポート ✓ ビジネス目線での実現したい未来や解決したい課題に対して どのように生成AIが活用できるかをアドバイス https://classmethod.jp/cases/kokuyo/ ⽀援前 ⽀援後 • 社内研修でのAI実践のために開発 環境が必要 • 企業のChatGPT活⽤に対して セキュリティ⾯が⼼配 • AI領域の運⽤‧技術⾯でも⽀援が 必要 解決した課題 • セキュリティを担保した⽣成AI開発 環境をAWSで構築 • 運⽤保守に加えAI開発領域の技術 ⽀援も提供 • ⽣成AI開発環境を⽤いて今後多数の ビジネスアイデアを形に -
⽣成AIを⾃社に導⼊する時に考えるポイント 46 ⻑所 短所 SaaS ‧初期導⼊コストを抑えられる ‧特定の業界や業務に特化 ‧カスタマイズに制限あり ‧データはSaaS企業側に保存される可能性あり ‧ユーザーが増えるとコストが増加
パッケージ (例:AI Starter) ‧ お客様環境で利⽤可能 ‧データを⾃社で管理可能 ‧安全な認証環境を提供 ‧カスタマイズに⼀部制限あり ‧初期導⼊コストが発⽣ ⾃社開発(例 :GenU) ‧カスタマイズが柔軟 ‧OSSを利⽤すると、早期に低 コストで検証可能 ‧⾃社で⽣成AIのノウハウを貯 めることができる ‧運⽤含めて⾃社で対応が必要 ‧開発‧維持に専⾨知識が必要 -
ニーズに合わせて最適なソリューションを提供 エンタープライズレベルのセキュリティをもつ 生成AI環境構築パッケージ パッケージ 個別支援 コンサルティング 生成AIを活用するうえでの技術面でのお悩みを解 決します。具体的な技術選定から実装、運用の効
率化までトータルで支援します。 アプリ開発 SlackなどのチャットボットやWebUIの開発、各社API と自社データを活用した要件定義から実装・運用ま でを対応します。 教育支援 プロンプトの活用方法や、生成AIアプリの内製化に 向けた教育支援を行います。生成AIの導入から利 用の定着までをサポートします。 -
AI-Starterがもつ5つの特徴 複数の⽣成AI サービスに対応 各社の⽂章⽣成AIから画像 ⽣成AIまで、さまざまな サービスを同⼀画⾯ から切り替え可能 安全な認証環境 シングルサインオンの 統合認証環境を提供し、
⾼度なセキュリティ基準を 満たす社内独⾃の AI環境を実現 カスタマイズ可能な テンプレート 最適化されたプロンプトと ユーザーが登録可能な ライブラリを利⽤すること で、誰でもAIを最⼤限に活 ⽤ ⾯倒な運⽤ 管理もおまかせ 常に最新のアプリ ケーションを利⽤でき ⽣成AIの活⽤に集中する ことが可能 ⾃社データ による回答⽣成 ⽂章やCSV等の ⾃社データを登録して 回答⽣成が可能 -
AI-Starterの主な機能 複数の基盤モデルを 画面上から簡単に切替えが可能 ユーザー自身で登録可能な プロンプトのテンプレート機能 予め自社のデータを登録して
回答させるRAGに対応 テキストだけでなく 画像解析や画像生成にも対応 シングルサインオンの認証環境を 提供し、高度なセキュリティを実現 -
Generative AI Use Cases JP (略称:GenU) の特徴 生成AIの機能を検証するのに最適なALL IN ONE
テンプレート 様々なニーズに 応える機能がある 安心して使える セキュリティ対策 評価のために利用 状況を収集できる -
御社で⽣成AIの導⼊から評価まで⾃⾛できるように サポートします 導入準備 • GenUテンプレートの 基本的説明 • ユースケースの設定
• 準備するデータの アドバイス • GenUテンプレートによ る構築 • データ登録 • ユーザー登録 • 利用方法の説明 • 利用方法のQA対応 • 利用分析 • 課題抽出 • 対策方法の提案 環境構築 導入 評価アドバイス お客様の生成AI検証を総合サポート! クラスメソッドがもつ豊富なナレッジをスキルトランスファーします。 -
GenU ‧迅速な検証: ⽣成AIの機能や可能性を素早く検証したい ‧カスタマイズ性: ⾃社の特定ニーズに合わせて調整したい ‧段階的な開発: ⾃社内でニーズを徐々に発⾒し、発展させたい ‧低コスト導⼊: 初期投資を抑えつつ、⽣成AI技術に着⼿したい AI
Starter ‧セキュリティ重視: 認証周りを含めた安全なシステムを利⽤したい ‧包括的サポート: 運⽤、保守、アップデートを含む総合的なサービスが必要 ‧安定性: 本番環境での利⽤を前提とした信頼性の⾼いソリューションを求める ‧多様なモデル対応: AWSやそれ以外の⽣成AIモデルも検討したい 選択の指針 • GenUは、柔軟性と学習を重視する組織に適しています • AI Starterは、安定性とサポートを重視する組織に適しています GenUとAI Starterのまとめ 58 -
⽣成AIの特徴と効果 • ⾃然な⽂章をAIが⽣成し、活⽤することで業務効率が⼤幅に向上します ⽣成AI導⼊の2つの課題 • データ活⽤(RAG) • ⽣成AI利⽤の定着 ⽣成AIの性能評価 •
Ragasなどのツールで客観的に精度を測定 ⽣成AI導⼊⽅法の選択肢 • SaaS、パッケージ、⾃社開発から選択可能 • クラスメソッドはAI Starter(パッケージ)とGenU(⾃社開発⽀援)を提供 まとめ 62