Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ログラスのLLM・GPTへの向き合い方 / LOGLAS' approach to LLM ...
Search
r-kagaya
April 04, 2023
Programming
2
840
ログラスのLLM・GPTへの向き合い方 / LOGLAS' approach to LLM and GPT
r-kagaya
April 04, 2023
Tweet
Share
More Decks by r-kagaya
See All by r-kagaya
Automated Promptingを目指すその前に / Before we can aim for Automated Prompting
rkaga
0
76
音声AIエージェントの世界とRetell AI入門 / Introduction to the World of Voice AI Agents and Retell AI
rkaga
5
1.1k
Amazon Bedrockで行うモデル評価入門 / Introduction to Model Evaluation in Amazon Bedrock
rkaga
3
1.4k
時系列基盤モデルの世界
rkaga
6
3.2k
TypeScriptでもLLMアプリケーション開発 / LLM Application In Typescript
rkaga
6
1.8k
ログラスの継続的なプロンプト改善のためのLLMOpsの今 / LLMOps at loglass now
rkaga
2
1.4k
GPTsをMVPに使うアジャイルな社内LLMツール開発 / Agile in-house LLM tool development using GPTs as MVPs
rkaga
5
2.3k
Copilot体験の実装に役立ちそうなSemantic interpreter論文 / Semantic Interpreter for copilot implementation
rkaga
0
510
Other Decks in Programming
See All in Programming
Go言語でターミナルフレンドリーなAIコマンド、afaを作った/fukuokago20_afa
monochromegane
2
130
RailsのPull requestsのレビューの時に私が考えていること
yahonda
4
1.5k
約9000個の自動テストの 時間を50分->10分に短縮 Flakyテストを1%以下に抑えた話
hatsu38
21
8k
現場で役立つモデリング 超入門
masuda220
PRO
10
2.2k
のびしろを広げる巻き込まれ力:偶然を活かすキャリアの作り方/oso2024
takahashiikki
1
350
Vue3の一歩踏み込んだパフォーマンスチューニング2024
hal_spidernight
3
2.8k
デプロイを任されたので、教わった通りにデプロイしたら障害になった件 ~俺のやらかしを越えてゆけ~
techouse
48
30k
Scan with Decoupled Look-back and Onesweep Radix Sort
shocker_0x15
0
160
tc39 x jsconf.jp Panel Discussion 2024
yosuke_furukawa
PRO
0
130
qmuntal/stateless のススメ
sgash708
0
100
Vue.js学習の振り返り
hiro_xre
2
130
Kotlinの好きなところ
kobaken0029
0
160
Featured
See All Featured
Designing on Purpose - Digital PM Summit 2013
jponch
114
6.9k
10 Git Anti Patterns You Should be Aware of
lemiorhan
653
59k
Understanding Cognitive Biases in Performance Measurement
bluesmoon
26
1.4k
StorybookのUI Testing Handbookを読んだ
zakiyama
26
5.2k
Done Done
chrislema
181
16k
Agile that works and the tools we love
rasmusluckow
327
21k
Principles of Awesome APIs and How to Build Them.
keavy
126
17k
Speed Design
sergeychernyshev
24
560
How To Stay Up To Date on Web Technology
chriscoyier
788
250k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
9
660
Why Our Code Smells
bkeepers
PRO
334
57k
XXLCSS - How to scale CSS and keep your sanity
sugarenia
246
1.3M
Transcript
1 ©2023 Loglass Inc. ログラスのLLM・GPTへの向き合い方 2023.04.04 @r-kagaya 【第二回】ChatGPT選手権!エンジニアリングに組み込んでみましたLT大会
2 ©2023 Loglass Inc. 自己紹介 ログラス株式会社のソフトウェアエンジニア イネーブルメントチームの一員としてプロダクト組織の横断 課題に取り組む 略歴 新卒で入社したヤフー株式会社で
ID連携システムの開発に携わった後 に、2022年に株式会社ログラスに入社 r-kagaya @r-kagaya
3 ©2023 Loglass Inc. ログラスの最近のLLM・GPTの盛り上がり Noteを色々出してる https://note.com/loglass_fukawa/n/n2b383758abc8 https://note.com/loglass_sakamoto/n/n2aaea5974077
4 ©2023 Loglass Inc. ログラスの最近のLLM・GPTの盛り上がり 本イベントの第一回には弊社EMのいとひろも登壇 https://speakerdeck.com/itohiro73/xu-nisukuramukai-fa-gpt-4toren-j ian-kagong-chuang-suruhurotakutonojin-hua https://note.com/itohiro_loglass/n/n0ff2a4b245b2
5 ©2023 Loglass Inc. 実際社内ではどういう動きがあるのか?
6 ©2023 Loglass Inc. ログラスの最近のLLM・GPTの盛り上がり 大きく分けて2つ ①プロダクト・機能への展開 ②社内活用の話(業務の品質と生産性向上)
7 ©2023 Loglass Inc. プロダクト・機能への展開
8 ©2023 Loglass Inc. プロダクト・機能への展開 • LLMを活用した機能リリースができる体制づくり • プロダクトビジョンを実現する上でのHow(LLM・GenAI)の解像度を上げ る
PoCや実験的なリリースを通じて目指している直近のゴール 独自データやワークフローに入り込んでいるなどのプロダクトの強さに加え て、 LLMを活用した機能リリースが出来る体制が、短期的には差別化要因、競 合優位性を生む土台になる可能性を見据えて今から試行錯誤
9 ©2023 Loglass Inc. プロダクト・機能へのPOC事例① text2report(自然言語でのレポート作成機能) • OpenAI APIを自然言語とシステムを繋ぐインターフェースに活用して、 自然言語でシステムを操作
◦ 要するに文章でシステムの一部操作を行える ◦ 精度上げるためにPromptの工夫や正規表現も駆使してる • チャットUXが全てのユースケースで万能だとは思わない • 新規ユーザーや利用頻度が低いユーザーがカジュアルに操作したい場 合に、自然言語を用いたチャットUXは有用では?との仮説
10 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上)
11 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 雑に言うと日々の仕事でとにかく使いこなしていこうという話 -> 多くの社員の業務やオペレーションの改善のための選択肢になっている 状態
> Gen-AIが使いこなせないと、ハイレベルなエンジニアでもローレベルなエン ジニアのパフォーマンスに落ちるかもしれない 引用: GPT-4時代のエンジニアの生存戦略 https://qiita.com/lazy-kz/items/e4932f1a90c2a7986ef5
12 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) そのためにも.... とにかくChatGPT等を社内で使い倒す仕組み、自由にPoCやら実験していく 文化を作れるか? そのためのきっかけづくりや邪魔な小石を除く
13 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 社内でカジュアルに試すためにもデータポリシーの整備を真っ先に始めた • 取扱ポリシー •
情報区分 • 区分毎に誰がどのような基準で判断するのか
14 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 現状の認識やどのターゲットに向けた施策か?を意識するために作成 参考: The Snowplow
Data Maturity Model https://snowplow.io/blog/the-snowplow-data-maturity-model/
15 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 今のフォーカスは • 全員Capable ◦
ex) ChatGPTは学習されるので公開情報のみ! • 身近な業務を改善して、事例を展開できるAdept(達人)を増やす • ネタ寄りの取り組みも盛り込んでワイワイすること (Adept選抜試験とかパイオニア昇格プレーオフとかネタに振り切った取 り組みをやりたい)
16 ©2023 Loglass Inc. 事例その他 • タグの自動認識・自動生成 • LangChainで独自ロジック/データ利用のサジェスト・検索機能 •
OpenAI APIでデモデータ作りするスクリプト • 社内問い合わせBot • サポートサイトFAQの自動生成 • アイディアソン • OST • etc…
17 ©2023 Loglass Inc. まとめ • スタートアップとしてLLM・GenAIには積極的・柔軟にリソースを張ってる • 機械学習技術へのアクセスが容易になった事のインパクトや Howの増加
◦ 複数のPoC事例も全てWebアプリケーションエンジニアが実施 • いずれLLM・GenAIの活用範囲の広がり、プロダクション導入がさらに進んだ世界 を見越して、「LLMを活用した機能リリースが出来る体制」、 「多くの社員の業務や オペレーションの改善のための選択肢になっている」 状態の実現を意識してる • 純粋にワクワクも危機感も感じる面白い技術なのでエンジニアとしてももっと全力 投球していきたい ◦ 業務改善ハックも細かい便利ツールももっと色々やりたい
18