Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Lambda___Hono_で_OpenAI_の_LINE_Chatbotを作ってみた.pdf
Search
koda
November 11, 2023
Programming
0
110
Lambda___Hono_で_OpenAI_の_LINE_Chatbotを作ってみた.pdf
koda
November 11, 2023
Tweet
Share
More Decks by koda
See All by koda
Cloudflare Workers で OpenAI の LINE Chatbotを作ってみた
koda
0
1.6k
DevFest 2020 Ja - GitLab Review Apps with GKE
koda
2
160
Knowledge作ったよ
koda
0
270
DevFest in Shinshu 2019 - Abount DevOps in GCP
koda
0
500
Kubernetes_Hands-on.pdf
koda
3
830
Docker hands on
koda
1
520
個人でWebサービスを開発する際のWeb技術紹介
koda
1
99
DAP+Dockerで簡単環境構築
koda
0
270
Other Decks in Programming
See All in Programming
The Implementations of Advanced LR Parser Algorithm
junk0612
1
320
設計の本質:コード、システム、そして組織へ / The Essence of Design: To Code, Systems, and Organizations
nrslib
4
590
ミリしらMCP勉強会
watany
4
770
Chrome Extension Techniques from Hell
moznion
1
160
Defying Front-End Inertia: Inertia.js on Rails
skryukov
0
490
AIコーディングの理想と現実
tomohisa
23
31k
一緒に働きたくなるプログラマの思想 #QiitaConference
mu_zaru
30
6.5k
AI時代の開発者評価について
ayumuu
0
150
Building Scalable Mobile Projects: Fast Builds, High Reusability and Clear Ownership
cyrilmottier
2
290
AIコーディングワークフローの試行 〜AIエージェント×ワークフローでの自動化を目指して〜
rkaga
3
3.7k
AI Agents with JavaScript
slobodan
0
250
Exit 8 for SwiftUI
ojun9
0
130
Featured
See All Featured
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
8
670
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
135
33k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
104
19k
Side Projects
sachag
452
42k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
29
9.4k
Code Review Best Practice
trishagee
67
18k
4 Signs Your Business is Dying
shpigford
183
22k
The World Runs on Bad Software
bkeepers
PRO
67
11k
ReactJS: Keep Simple. Everything can be a component!
pedronauck
667
120k
GraphQLとの向き合い方2022年版
quramy
46
14k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
119
51k
StorybookのUI Testing Handbookを読んだ
zakiyama
29
5.6k
Transcript
Lambda + Hono で OpenAI の LINE Chatbotを作ってみた 2023-11-12 Koda
JAWS-UG 長野支部
Hello!! ❏ 「Web」とか「Cloud」が専門のエンジニア ❏ アジャイル大好きなスクラムマスター ❏ プログラミングも大好き ❏ 好きなサービスは AWS
Lambda I’m Koda @koda3t(X)
AIとChat してますか? • 無料だと3時間ごとに25メッセージ まで • Googleアカウントでサインアップし て、支払いしてしまったのでアカウ ント共有もできない •
息子くんに、対話型AIなどに触れて 上手く使えるようにしたい(でも、もう一 個契約するのもな〜)
? OpenAIのAPIを呼び出す インタフェースを作って 提供しよう!
作ってみた • Cloudflare Workers + HonoでOpenAIのAPIに 繋ぐLINE Chatbotを作成 • 10/14
Cloudflare Meetup Nagano でLT LINE ChatbotでAIに質問できる https://speakerdeck.com/koda/cloudflare-workers-de-openai-no-line-chatbotwozuo-tutemita
10/14のLTから • デプロイが一瞬で終わって直ぐに反映されるのは、開発者体験としてはか なり良い! • 環境の用意なども簡単なので、ちょっとしたものをサクッと作るにはとて も良さげ • Honoがすごく良かった ◦
Expressを知っていれば苦労しない ◦ APIGateway+Lambdaな環境など、いろんな所で使えるので、 今後はHonoメインで使っていきたい LTのために昨日 実際に Lambda+Hono やってみた
What's Hono https://hono.dev/ • API Gateway + Lambda な構成でAPIを 作成する事が多くなった
• ExpressでAPIを作る事が簡単と感じて いて App Runnerを使ったり • Honoだと、LambdaでもExpress Likeに コードが書ける!
技術スタック • AWS Lambda + Function URLs ◦ みんな大好きFaaSの元祖サービス ◦
Function URLsができたおかげで単体で簡単にWebに公開できるようになった • Hono ◦ バックエンドを開発しやすくしてくれるExpressに似たフレームワーク • TypeScript ◦ npm create hono@latest {projectname} で雛形を作成すると、初めからTypeScript が使える環境になっている • OpenAI API • Line Messaging API
システム構成
Lambda+Hono HonoはLambdaに対応しているから、CLIから雛形を作成可能
Lambda+Hono • Cloudflare Workers + Honoで作ったコードをコ ピーしてくれば基本的には動く ◦ 起動の書き方とかは少し変わる •
LambdaのFunction URLを使えば超簡単に公開でき るAPIを作成できる • 今回は簡単にHonoがセットアップしてくれたコマ ンドでデプロイした(SAMやCDKは使わない)
作ってみての感想 • 普段はSAMとかCDKとかでデプロイするのだけど、Honoが初めから提供する仕組みで デプロイすると超早くデプロイできたので、簡単なものだとこれで良いかも ◦ もちろんSAMやCDKの組み合わせもできる ◦ esbuildでbuildしてZipにしてAWS CLIでupdate-function-codeを実行 •
環境の用意なども簡単なので、ちょっとしたものをサクッと作るにはとても良き • Honoがやっぱりすごく良かった(コード書きやすい) ◦ Cloudflare Workers用のコードを簡単に移植できた(他のものにも移植しやすい) ◦ 秘匿な値の扱いなどはプラットフォーム依存があるのでラッパーを作っておくと良き • Cloudflare Workersは1リクエストが30秒までという厳しい制限があったが、Lambdaであれ ば問題なし ◦ OpenAIからのレスポンスが30秒で返ってこないことが多い
今後試してみたいこと(今回まにあわなかったこと) • OpenAIのGPT3.5より高性能と言われている Claude 2がBedrockで使えるようになったので、 ChatBotに質問したら両方から回答がくるように する(評価してみたい) • Claude 2を利用する場合、use
case details を入力 する必要があるけど、個人利用の場合何を入れた ら良いのだろう??
Any Questions? Thanks!