Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
スキル育成に生かすLlamaIndexの活用 /using-llamaIndex-to-enh...
Search
takipone
April 28, 2023
1
3.4k
スキル育成に生かすLlamaIndexの活用 /using-llamaIndex-to-enhance-ones-skills
2023/04/28 ChatGPTMeetup #0 LT
takipone
April 28, 2023
Tweet
Share
More Decks by takipone
See All by takipone
OJTに夢を見すぎていませんか? ロールプレイ研修の試行錯誤/tryanderror-in-roleplaying-training
takipone
1
180
ロールプレイトレーニングでクラウドエンジニアを短期育成した知見を一挙公開 / roll playing training benefits and cases
takipone
0
650
DNSにちょっとだけ詳しくなりたい人に贈る少し突っ込んだDNSの話 / devioday1_dns
takipone
2
11k
Amazon VPC Latticeに期待する / look-for-vpc-lattice
takipone
0
1.1k
DevelopersIOのアウトプット文化をハックして人材育成に繋げる話 /deviosapporo2022fall_takipone
takipone
0
970
AWSネットワークリソースをサービスでマルチテナントに 提供するときのスケーラビリティ / nwjaws202112-takipone
takipone
1
750
ネットワークがクラウドに載って変わることと変わらないこと /nwjaws201909-takipone
takipone
0
2.1k
AWSネイティブなEC/CRMシステム運用に欠かせないログ基盤構築 / cmdevio2018-aws-log-infra
takipone
7
3.1k
日本🇯🇵でAWS Direct Connect を利用する話/akiba-aws-dx
takipone
1
2.4k
Featured
See All Featured
VelocityConf: Rendering Performance Case Studies
addyosmani
332
24k
What's in a price? How to price your products and services
michaelherold
246
12k
Building Flexible Design Systems
yeseniaperezcruz
328
39k
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
8
850
Measuring & Analyzing Core Web Vitals
bluesmoon
7
530
The Power of CSS Pseudo Elements
geoffreycrofte
77
5.9k
The MySQL Ecosystem @ GitHub 2015
samlambert
251
13k
Music & Morning Musume
bryan
46
6.7k
Side Projects
sachag
455
43k
Visualization
eitanlees
146
16k
Speed Design
sergeychernyshev
32
1k
The Illustrated Children's Guide to Kubernetes
chrisshort
48
50k
Transcript
スキル育成に生かすLlamaIndexの活用 ChatGPTMeetup #0 LT 2023/04/28 DevelopersIO BASECAMPディレクター 大瀧隆太 1
2 誰 • 名前: 大瀧隆太 @takipone • お仕事: 事業開発 @クラスメソッド
• 好きな技術: ◦ Amazon Route 53, CloudFront ◦ SORACOM ◦ Tailscale ◦ Starlink
3 クラスメソッドの技術支援 今日はChatGPTユーザーとしてのお話 https://classmethod.jp/services/openai-chatgpt/
4 5/25(木) ChatGPT Meetup #2の会場提供 これから常連になる方へ #1のWeWorkと同じビルですが、 1階で乗るエレベーターが違うことに注 意! (シャトルエレベーター経由です)
https://chatgpt.connpass.com/event/281310/
5 クラスメソッドの情報発信と情報共有メディア • DevelopersIO • Zenn
6 DevelopersIO BASECAMP DevelopersIO BASECAMP(以下デベキャン)は、 AWSを仕事で使うための体験型プログラムです。
7 DevelopersIO BASECAMPのサポート体制
8 DevelopersIO BASECAMP運営の課題 • ロールプレイはWebミーティングやチャットによる 同期的なやりとり • 平日夜間、土日の受講生の活動時間帯に合わせて 運営メンバーが活動するのに大きな負担 •
次期以降、受け入れ人数を増やしていきたい
9 DevelopersIO BASECAMPのサポート体制
10 DevelopersIO BASECAMP運営の課題 • 発注者(顧客担当者)役は課題となる案件について 受講生から質問を受けたら答えるロール ◦ 案件情報以外を答える必要はない ◦ 完璧な回答を一発で返す必要はない
OpenAI APIを利用したチャットボットがよさそう
11 LlamaIndexとは LlamaIndexはOpenAI APIでユーザー 独自のコンテキストデータを便利に 使うためのPythonライブラリ • インデックス作成 コンテキストデータを関連性を 持たせたインデックスに分割する
• クエリ インデックスから質問文に関連するもの をピックアップしてLLMに質問 https://dev.classmethod.jp/articles/llamaindex-overview/
12 デモ
13 構成とブログ https://dev.classmethod.jp/articles/run-slackapp-with-llamaindex-on-fargate/
https://dev.classmethod.jp/articles/llamaindex-overview/ 14 LlamaIndexとは LlamaIndexはOpenAI APIでユーザー 独自のコンテキストデータを便利に 使うためのPythonライブラリ • インデックス作成 コンテキストデータを関連性を
持たせたインデックスに分割する • クエリ インデックスから質問文に関連するもの をピックアップしてLLMに質問 内部ではOpenAI API に特定のプロンプトで 質問している
15 この辺をチューニング中 https://github.com/jerryjliu/llama_index/blob/main/gpt_index/prompts/default_prompts.py ときおりレスポンスが英語になるので、 プロンプトを日本語に訳したもので上書き
16 まとめ • 課題の参考情報の提供手段としてチャットボット活用 • LlamaIndexでインデックス作成とクエリを簡単に実装 • プロンプトをカスタマイズして日本語の回答を得る 聞きたいこと
• LlamaIndexのチューニングノウハウ • 教育・人材育成用途のChatGPT活用例、サービス開発 情報交換して有効に活用していきましょう!
17