2025年における RubyでLLMを扱う選択肢

2025/12/4に行われたOmotesando.rb #116の発表資料です
一部発表時と内容を変更しています

Transcript

1. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 2025年における RubyでLLMを扱う選択肢 2025.12.4 Omotesando.rb #116
2. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 自己紹介 髙橋直樹(@philosophy_note) ・与信管理SaaSアラームボックス のエンジニア ・１年半ぶりの登壇です ・競馬予想が好きで個人開発しています 　https://www.horecast.net/
3. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 2022年11月末の ChatGPTリリースを皮切りに AI活用の民主化が進んだ
4. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 RubyでLLMを組み込んだ アプリを開発する 本日は経験談と今後について話します
5. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 話は2023年4月に遡る
6. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 OpenAIのChatGPTが凄い APIも提供しているのでチャットボット も開発できる そうなんだ じゃあチャットボット開発して 会社にて
7. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 Rubyでできる？
8. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 Gemがあった
9. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 無事にリリース
10. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 話は2025年11月に遷移する
11. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 法則のないデータ から必要な値を 抽出してDBに保存してほしいけど、 AIでできる？ 可能です （非構造化データ の構造化だからで きるよね） 会社にて
12. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 Structured Outputs • あらかじめ定義した JSON スキーマに必ず一致するように、モ デルの出力を強制する機能 https://openai.com/ja-JP/index/introducing-structured-outp uts-in-the-api/
13. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 記述例(Python)
14. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 Gemで使用できるか
15. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 README並びに コードのどこにも記載なし
16. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 対応を依頼するIssueもあるがOpenのまま
17. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 対応を依頼するIssueもあるがOpenのまま
18. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 Gemのコードを読む 渡したパラメータをFaradayに そのまま送っているだけ
19. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 APIエンドポイント側 ではパラメータで 出力形式を指定してい るので 同じように指定すればで きそう
20. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 JsonSchemaを設定
21. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 フォーマットに指定
22. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 できました
23. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 先ほどのIssueのLast
24. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 先ほどのIssueのLast このGemはパラメータを直接OpenAIのREST APIに渡 します 構造化出力はそのまま使用できます。
25. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 大きく困ってはいないが… • エンドポイントにアクセスするだけなら 必要最低限の機能にしてOpenAIの ドキュメント を常に見た方がよい? • Gemの更新頻度が高くない
26. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 話は2025年7月に遷移する
27. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 Ruby Weeklyをなんとなく眺めていると OpenAIの公式SDK？
28. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 OpenAI 公式 SDK
29. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 書き方の違い ruby-openai 公式 SDK
30. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 レスポンス(ruby-openai)
31. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 レスポンス(公式SDK)
32. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 Structured Output(公式SDK)
33. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 Structured Output(公式SDK)
34. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 今から実装するなら？ • ２択であれば公式SDKか？ ◦ 前述の理由があるのでruby-openaiよりも公式の方が 良さそう ◦ ただし、ruby-openaiはエンドポイント追加や大きなオ プション変更の追随はしている
35. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 視野を広げる • LLMを操作したいだけなら OpenAIに拘る必要はない • 複数種類のLLMを気軽に切り替えられることが 望ましい
36. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 視野を広げる • AWS SDK経由でBedrock使うのも良さそう • この選択をしたRubyメインの企業の人もいた
37. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 視野を広げる • AWSの他のサービス連携の恩恵も得られる • ただし、モデルは Claude や Amazon Nova、それ以 外は基本的にオープンソース系
38. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 RubyLLM • 2025年3月にバージョン1.0リ リース • シンプル なインターフェース • 複数のLLMにアクセス可能 • 画像解析・生成/ドキュメント解析/ ベクトル埋め込み/ストリーミング 対応
39. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 シンプルなインターフェース
40. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 シンプルなインターフェース
41. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 複数のLLMにアクセス可能
42. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 1つのエンドポイントで複数のLLMにアクセス
43. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 ストリーミング対応
44. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 Structured Output
45. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 Structured Output
46. 2025年における RubyでLLMを扱う選択肢 　 Omotesando.rb #116 　 終わりに • LLMならPython or TSが主流だが、 RubyLLMの気軽さは魅力で 情報を追っていきたい • LLMOpsなどLLM周辺の分野の発展はどうか？