Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
20241121_[TechTalk#2]虎の穴ラボでのLLMについて取り組み紹介
Search
虎の穴ラボ株式会社
November 22, 2024
Technology
0
54
20241121_[TechTalk#2]虎の穴ラボでのLLMについて取り組み紹介
虎の穴ラボ Tech Talk #2 〜LLM活用LT〜での発表資料です
https://yumenosora.connpass.com/event/335158/
虎の穴ラボ株式会社
November 22, 2024
Tweet
Share
More Decks by 虎の穴ラボ株式会社
See All by 虎の穴ラボ株式会社
Tailwind CSSとAtomic Designで実現する効率的な Web 開発の事例
toranoana
1
380
Denoについて、同人誌記事を出しました+update
toranoana
0
82
【虎の穴ラボ Tech Talk #2】プロンプトエンジニアリング
toranoana
0
30
社内チャットへRAG導入した話(Tech Talk #2)
toranoana
0
63
Deno Deploy で Web Cache API を 使えるようになったので試した知見
toranoana
1
330
【虎の穴ラボ Tech Talk】虎の穴ラボTech Talk説明資料
toranoana
0
240
虎の穴ラボ Tech Talk_CDKでFargate環境構築
toranoana
1
270
虎の穴ラボスキルアップ支援制度の利用例
toranoana
0
1.8k
【虎の穴ラボ Tech Talk #1】Ansible Lintの警告への対処
toranoana
1
270
Other Decks in Technology
See All in Technology
デジタルアイデンティティ技術 認可・ID連携・認証 応用 / 20250114-OIDF-J-EduWG-TechSWG
oidfj
2
180
最近のSfM手法まとめ - COLMAP / GLOMAPを中心に -
kwchrk
8
1.7k
非機能品質を作り込むための実践アーキテクチャ
knih
6
1.8k
Zero Data Loss Autonomous Recovery Service サービス概要
oracle4engineer
PRO
1
5k
Agentic RAG with LangGraph
atsushii
0
130
20241125 - AI 繪圖實戰魔法工作坊 @ 實踐大學
dpys
1
440
Storage Browser for Amazon S3を触ってみた + α
miura55
0
100
Opcodeを読んでいたら何故かphp-srcを読んでいた話
murashotaro
0
360
TSKaigi 2024 の登壇から広がったコミュニティ活動について
tsukuha
0
180
OPENLOGI Company Profile
hr01
0
57k
事業貢献を考えるための技術改善の目標設計と改善実績 / Targeted design of technical improvements to consider business contribution and improvement performance
oomatomo
0
630
20240513 - 框裡框外_文學院學生如何在AI世代安身立命 @ 淡江大學
dpys
0
620
Featured
See All Featured
Producing Creativity
orderedlist
PRO
343
39k
GraphQLとの向き合い方2022年版
quramy
44
13k
Rails Girls Zürich Keynote
gr2m
94
13k
YesSQL, Process and Tooling at Scale
rocio
170
14k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
44
9.3k
Navigating Team Friction
lara
183
15k
Cheating the UX When There Is Nothing More to Optimize - PixelPioneers
stephaniewalter
280
13k
Imperfection Machines: The Place of Print at Facebook
scottboms
266
13k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
232
17k
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
132
33k
For a Future-Friendly Web
brad_frost
176
9.5k
XXLCSS - How to scale CSS and keep your sanity
sugarenia
248
1.3M
Transcript
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボでのLLMについて取り組み紹介
虎の穴ラボ株式会社 藤原佳顕 1
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 目次
1. 自己紹介 2. 概要 3. 虎の穴ラボ社内での LLM活用と技術紹介 4. まとめ 2
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 自己紹介ページ
(藤原) 藤原 佳顕(ふじわら よしあき) : yoshiaki fujiwara ‣ Webエンジニア ‣ 新規事業担当(Fantia、Creatia)、アーキテクトチーム (CSIRTも) ‣ 前職:独立系ソフトウェア会社、主に GISとWeb、ライブラリ開発 ‣ TypeScript、Ruby on Rails、C#、C++ ‣ React、Vue、Angular ‣ 入社理由 ‣ 自分がスキルアップできそうな場所に行きたい ‣ オタク系の話ができるところに行きたい 好きなモノ ‣ シューティングゲーム、格闘ゲーム、アトラスのゲーム ‣ SF小説 ‣ プログラミング 3
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 概要
• 虎の穴ラボではLLMの活用について積極的に取り組んでいます • 今回の発表では具体的に現在どのような形でLLMを活用しているか紹介し ます • 主に活用のために構築された社内システム、利用している外部サービス、 どの様に活用を推進しているかなどについて話します • 今回の発表は主に概要になります。より詳細は今後の発表等にご期待くだ さい 4
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 虎の穴ラボで利用中のLLM関連システムについては以下ブログに記事があ ります ◦ 虎の穴ラボに「OpenAI API」と「GitHub Copilot」を正式導入し、 「ChatGPT Plus」を技術支援制度の対象としました ▪ https://toranoana-lab.hatenablog.com/entry/2023/04/14/1 20000 ◦ 虎の穴ラボではGitHub Copilot for Businessを導入しています! ▪ https://toranoana-lab.hatenablog.com/entry/2023/11/08/1 00000 5
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 社内LLM活用のための要素技術 ◦ OpenAI API ▪ 社内専用アプリのAI基盤としてはOpenAIを利用中 ◦ Python+Django ▪ 上記APIを組み合わせてアプリにするために利用 ◦ LangChain ▪ RAGなどの構築等に利用 ◦ React/Next.js ▪ Chat系ツールのUI構築に利用 6
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• LLM活用のための社内制度 ◦ 個人で利用するAI関連の費用補助 ▪ Copilot、OpenAI API、ChatGPT Plus ▪ 既存の福利厚生である書籍補助の延長線上 ◦ GitHub Copilot for Business ▪ 通常のプロダクト開発に利用 ▪ オプションのON/OFFなどを一括管理するために会社で導入 ◦ 先述した技術を利用した社内チャットアプリ ▪ OSSのUIを利用した通常のチャットアプリ ▪ 社内ドキュメントを元に回答を作成できるチャットアプリ ◦ 一部の社員のみChatGPT Teamを利用 ▪ こちらは現状お試し段階で一定レイヤ以上で利用中 7
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 社内チャットアプリ(https://github.com/mckaywrigley/chatbot-ui/ の旧版ベース) 8
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 社内チャットアプリのRAG機能:ファイルアップロードしてそれを元に色々聞ける 9
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 社内QA関連:Wikiなどを読み込ませてそれをもとに回答してくる(LangChain利用) 10
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 利用率等のログ ◦ 問い合わせ内容まで表示すると萎縮につながる可能性があるため文字数だけ分かる形でマ スキング 11
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• GitHub Copilotの活用 12
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• GitHub Copilotの活用 13
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. まとめ
• 虎の穴ラボが取り組んでいるLLM関連の事例について紹介しました • また、どの様に活用しているかや、利用技術についても紹介しまし た • 今後の課題としてはもっと可視化を進める必要がある ◦ システム組み込んでも効果がわからないので • また、具体的なシステム化とかも考える必要がある • 今後の発表で個別の詳しい事例や研究内容が発表されるかと思いま すので乞うご期待 14