Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ログラスのLLM・GPTへの向き合い方 / LOGLAS' approach to LLM ...
Search
r-kagaya
April 04, 2023
Programming
2
890
ログラスのLLM・GPTへの向き合い方 / LOGLAS' approach to LLM and GPT
r-kagaya
April 04, 2023
Tweet
Share
More Decks by r-kagaya
See All by r-kagaya
デザインパターンで理解するLLMエージェントの作り方 / How to develop an LLM agent using agentic design patterns
rkaga
15
5.4k
Automated Promptingを目指すその前に / Before we can aim for Automated Prompting
rkaga
0
190
音声AIエージェントの世界とRetell AI入門 / Introduction to the World of Voice AI Agents and Retell AI
rkaga
5
1.3k
Amazon Bedrockで行うモデル評価入門 / Introduction to Model Evaluation in Amazon Bedrock
rkaga
3
1.7k
時系列基盤モデルの世界
rkaga
6
3.9k
TypeScriptでもLLMアプリケーション開発 / LLM Application In Typescript
rkaga
6
2k
ログラスの継続的なプロンプト改善のためのLLMOpsの今 / LLMOps at loglass now
rkaga
2
1.6k
GPTsをMVPに使うアジャイルな社内LLMツール開発 / Agile in-house LLM tool development using GPTs as MVPs
rkaga
5
2.5k
Copilot体験の実装に役立ちそうなSemantic interpreter論文 / Semantic Interpreter for copilot implementation
rkaga
0
550
Other Decks in Programming
See All in Programming
テストをしないQAエンジニアは何をしているか?
nealle
0
110
GitHub Actions × RAGでコードレビューの検証の結果
sho_000
0
200
動作確認やテストで漏れがちな観点3選
starfish719
6
950
CloudNativePGがCNCF Sandboxプロジェクトになったぞ! 〜CloudNativePGの仕組みの紹介〜
nnaka2992
0
210
AWSマネコンに複数のアカウントで入れるようになりました
yuhta28
2
160
2025.01.17_Sansan × DMM.swift
riofujimon
3
690
社内フレームワークとその依存性解決 / in-house framework and its dependency management
vvakame
1
520
ASP.NET Core の OpenAPIサポート
h455h1
0
170
Amazon Nova Reelの可能性
hideg
0
280
混沌とした例外処理とエラー監視に秩序をもたらす
morihirok
20
3.4k
盆栽転じて家具となる / Bonsai and Furnitures
aereal
0
3.3k
Djangoアプリケーション 運用のリアル 〜問題発生から可視化、最適化への道〜 #pyconshizu
kashewnuts
1
160
Featured
See All Featured
ReactJS: Keep Simple. Everything can be a component!
pedronauck
666
120k
A Modern Web Designer's Workflow
chriscoyier
693
190k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
33
2.8k
Site-Speed That Sticks
csswizardry
3
320
Designing for humans not robots
tammielis
250
25k
Building Your Own Lightsaber
phodgson
104
6.2k
Building Applications with DynamoDB
mza
93
6.2k
Rebuilding a faster, lazier Slack
samanthasiow
79
8.8k
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
132
33k
Reflections from 52 weeks, 52 projects
jeffersonlam
348
20k
Fireside Chat
paigeccino
34
3.2k
RailsConf 2023
tenderlove
29
990
Transcript
1 ©2023 Loglass Inc. ログラスのLLM・GPTへの向き合い方 2023.04.04 @r-kagaya 【第二回】ChatGPT選手権!エンジニアリングに組み込んでみましたLT大会
2 ©2023 Loglass Inc. 自己紹介 ログラス株式会社のソフトウェアエンジニア イネーブルメントチームの一員としてプロダクト組織の横断 課題に取り組む 略歴 新卒で入社したヤフー株式会社で
ID連携システムの開発に携わった後 に、2022年に株式会社ログラスに入社 r-kagaya @r-kagaya
3 ©2023 Loglass Inc. ログラスの最近のLLM・GPTの盛り上がり Noteを色々出してる https://note.com/loglass_fukawa/n/n2b383758abc8 https://note.com/loglass_sakamoto/n/n2aaea5974077
4 ©2023 Loglass Inc. ログラスの最近のLLM・GPTの盛り上がり 本イベントの第一回には弊社EMのいとひろも登壇 https://speakerdeck.com/itohiro73/xu-nisukuramukai-fa-gpt-4toren-j ian-kagong-chuang-suruhurotakutonojin-hua https://note.com/itohiro_loglass/n/n0ff2a4b245b2
5 ©2023 Loglass Inc. 実際社内ではどういう動きがあるのか?
6 ©2023 Loglass Inc. ログラスの最近のLLM・GPTの盛り上がり 大きく分けて2つ ①プロダクト・機能への展開 ②社内活用の話(業務の品質と生産性向上)
7 ©2023 Loglass Inc. プロダクト・機能への展開
8 ©2023 Loglass Inc. プロダクト・機能への展開 • LLMを活用した機能リリースができる体制づくり • プロダクトビジョンを実現する上でのHow(LLM・GenAI)の解像度を上げ る
PoCや実験的なリリースを通じて目指している直近のゴール 独自データやワークフローに入り込んでいるなどのプロダクトの強さに加え て、 LLMを活用した機能リリースが出来る体制が、短期的には差別化要因、競 合優位性を生む土台になる可能性を見据えて今から試行錯誤
9 ©2023 Loglass Inc. プロダクト・機能へのPOC事例① text2report(自然言語でのレポート作成機能) • OpenAI APIを自然言語とシステムを繋ぐインターフェースに活用して、 自然言語でシステムを操作
◦ 要するに文章でシステムの一部操作を行える ◦ 精度上げるためにPromptの工夫や正規表現も駆使してる • チャットUXが全てのユースケースで万能だとは思わない • 新規ユーザーや利用頻度が低いユーザーがカジュアルに操作したい場 合に、自然言語を用いたチャットUXは有用では?との仮説
10 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上)
11 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 雑に言うと日々の仕事でとにかく使いこなしていこうという話 -> 多くの社員の業務やオペレーションの改善のための選択肢になっている 状態
> Gen-AIが使いこなせないと、ハイレベルなエンジニアでもローレベルなエン ジニアのパフォーマンスに落ちるかもしれない 引用: GPT-4時代のエンジニアの生存戦略 https://qiita.com/lazy-kz/items/e4932f1a90c2a7986ef5
12 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) そのためにも.... とにかくChatGPT等を社内で使い倒す仕組み、自由にPoCやら実験していく 文化を作れるか? そのためのきっかけづくりや邪魔な小石を除く
13 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 社内でカジュアルに試すためにもデータポリシーの整備を真っ先に始めた • 取扱ポリシー •
情報区分 • 区分毎に誰がどのような基準で判断するのか
14 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 現状の認識やどのターゲットに向けた施策か?を意識するために作成 参考: The Snowplow
Data Maturity Model https://snowplow.io/blog/the-snowplow-data-maturity-model/
15 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 今のフォーカスは • 全員Capable ◦
ex) ChatGPTは学習されるので公開情報のみ! • 身近な業務を改善して、事例を展開できるAdept(達人)を増やす • ネタ寄りの取り組みも盛り込んでワイワイすること (Adept選抜試験とかパイオニア昇格プレーオフとかネタに振り切った取 り組みをやりたい)
16 ©2023 Loglass Inc. 事例その他 • タグの自動認識・自動生成 • LangChainで独自ロジック/データ利用のサジェスト・検索機能 •
OpenAI APIでデモデータ作りするスクリプト • 社内問い合わせBot • サポートサイトFAQの自動生成 • アイディアソン • OST • etc…
17 ©2023 Loglass Inc. まとめ • スタートアップとしてLLM・GenAIには積極的・柔軟にリソースを張ってる • 機械学習技術へのアクセスが容易になった事のインパクトや Howの増加
◦ 複数のPoC事例も全てWebアプリケーションエンジニアが実施 • いずれLLM・GenAIの活用範囲の広がり、プロダクション導入がさらに進んだ世界 を見越して、「LLMを活用した機能リリースが出来る体制」、 「多くの社員の業務や オペレーションの改善のための選択肢になっている」 状態の実現を意識してる • 純粋にワクワクも危機感も感じる面白い技術なのでエンジニアとしてももっと全力 投球していきたい ◦ 業務改善ハックも細かい便利ツールももっと色々やりたい
18