Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Lambda___Hono_で_OpenAI_の_LINE_Chatbotを作ってみた.pdf
Search
koda
November 11, 2023
Programming
0
100
Lambda___Hono_で_OpenAI_の_LINE_Chatbotを作ってみた.pdf
koda
November 11, 2023
Tweet
Share
More Decks by koda
See All by koda
Cloudflare Workers で OpenAI の LINE Chatbotを作ってみた
koda
0
1.5k
DevFest 2020 Ja - GitLab Review Apps with GKE
koda
2
160
Knowledge作ったよ
koda
0
270
DevFest in Shinshu 2019 - Abount DevOps in GCP
koda
0
490
Kubernetes_Hands-on.pdf
koda
3
830
Docker hands on
koda
1
520
個人でWebサービスを開発する際のWeb技術紹介
koda
1
98
DAP+Dockerで簡単環境構築
koda
0
260
Other Decks in Programming
See All in Programming
データベースエンジニアの仕事を楽にする。PgAssistantの紹介
nnaka2992
9
4.2k
AI Agents with JavaScript
slobodan
0
110
보일러플레이트 코드가 진짜 나쁜 건가요?
gaeun5744
0
370
エンジニア未経験が最短で戦力になるためのTips
gokana
0
210
OUPC2024 Day 1 解説
kowerkoint
0
400
GDG Super.init(version=6) - From Where to Wear : 모바일 개발자가 워치에서 발견한 인사이트
haeti2
0
560
Windows版PHPのビルド手順とPHP 8.4における変更点
matsuo_atsushi
0
370
私の愛したLaravel 〜レールを超えたその先へ〜
kentaroutakeda
12
3.5k
PHPでお金を扱う時、終わりのない 謎の1円調査の旅にでなくて済む方法
nakka
3
1.3k
いまさら聞けない生成AI入門: 「生成AIを高速キャッチアップ」
soh9834
12
3.8k
RCPと宣言型ポリシーについてのお話し
kokitamura
2
150
小さく段階的リリースすることで深夜メンテを回避する
mkmk884
2
130
Featured
See All Featured
Speed Design
sergeychernyshev
28
860
Chrome DevTools: State of the Union 2024 - Debugging React & Beyond
addyosmani
4
470
jQuery: Nuts, Bolts and Bling
dougneiner
63
7.7k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
34
2.9k
The World Runs on Bad Software
bkeepers
PRO
67
11k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
102
18k
Into the Great Unknown - MozCon
thekraken
36
1.7k
How STYLIGHT went responsive
nonsquared
99
5.4k
Being A Developer After 40
akosma
90
590k
GitHub's CSS Performance
jonrohan
1030
460k
A Philosophy of Restraint
colly
203
16k
The Invisible Side of Design
smashingmag
299
50k
Transcript
Lambda + Hono で OpenAI の LINE Chatbotを作ってみた 2023-11-12 Koda
JAWS-UG 長野支部
Hello!! ❏ 「Web」とか「Cloud」が専門のエンジニア ❏ アジャイル大好きなスクラムマスター ❏ プログラミングも大好き ❏ 好きなサービスは AWS
Lambda I’m Koda @koda3t(X)
AIとChat してますか? • 無料だと3時間ごとに25メッセージ まで • Googleアカウントでサインアップし て、支払いしてしまったのでアカウ ント共有もできない •
息子くんに、対話型AIなどに触れて 上手く使えるようにしたい(でも、もう一 個契約するのもな〜)
? OpenAIのAPIを呼び出す インタフェースを作って 提供しよう!
作ってみた • Cloudflare Workers + HonoでOpenAIのAPIに 繋ぐLINE Chatbotを作成 • 10/14
Cloudflare Meetup Nagano でLT LINE ChatbotでAIに質問できる https://speakerdeck.com/koda/cloudflare-workers-de-openai-no-line-chatbotwozuo-tutemita
10/14のLTから • デプロイが一瞬で終わって直ぐに反映されるのは、開発者体験としてはか なり良い! • 環境の用意なども簡単なので、ちょっとしたものをサクッと作るにはとて も良さげ • Honoがすごく良かった ◦
Expressを知っていれば苦労しない ◦ APIGateway+Lambdaな環境など、いろんな所で使えるので、 今後はHonoメインで使っていきたい LTのために昨日 実際に Lambda+Hono やってみた
What's Hono https://hono.dev/ • API Gateway + Lambda な構成でAPIを 作成する事が多くなった
• ExpressでAPIを作る事が簡単と感じて いて App Runnerを使ったり • Honoだと、LambdaでもExpress Likeに コードが書ける!
技術スタック • AWS Lambda + Function URLs ◦ みんな大好きFaaSの元祖サービス ◦
Function URLsができたおかげで単体で簡単にWebに公開できるようになった • Hono ◦ バックエンドを開発しやすくしてくれるExpressに似たフレームワーク • TypeScript ◦ npm create hono@latest {projectname} で雛形を作成すると、初めからTypeScript が使える環境になっている • OpenAI API • Line Messaging API
システム構成
Lambda+Hono HonoはLambdaに対応しているから、CLIから雛形を作成可能
Lambda+Hono • Cloudflare Workers + Honoで作ったコードをコ ピーしてくれば基本的には動く ◦ 起動の書き方とかは少し変わる •
LambdaのFunction URLを使えば超簡単に公開でき るAPIを作成できる • 今回は簡単にHonoがセットアップしてくれたコマ ンドでデプロイした(SAMやCDKは使わない)
作ってみての感想 • 普段はSAMとかCDKとかでデプロイするのだけど、Honoが初めから提供する仕組みで デプロイすると超早くデプロイできたので、簡単なものだとこれで良いかも ◦ もちろんSAMやCDKの組み合わせもできる ◦ esbuildでbuildしてZipにしてAWS CLIでupdate-function-codeを実行 •
環境の用意なども簡単なので、ちょっとしたものをサクッと作るにはとても良き • Honoがやっぱりすごく良かった(コード書きやすい) ◦ Cloudflare Workers用のコードを簡単に移植できた(他のものにも移植しやすい) ◦ 秘匿な値の扱いなどはプラットフォーム依存があるのでラッパーを作っておくと良き • Cloudflare Workersは1リクエストが30秒までという厳しい制限があったが、Lambdaであれ ば問題なし ◦ OpenAIからのレスポンスが30秒で返ってこないことが多い
今後試してみたいこと(今回まにあわなかったこと) • OpenAIのGPT3.5より高性能と言われている Claude 2がBedrockで使えるようになったので、 ChatBotに質問したら両方から回答がくるように する(評価してみたい) • Claude 2を利用する場合、use
case details を入力 する必要があるけど、個人利用の場合何を入れた ら良いのだろう??
Any Questions? Thanks!