さくらのAI Engineから始める クラウドネイティブ意識

Transcript

1. さくらのAI Engineから始める クラウドネイティブ意識 Cloud Native Kaigi 実行委員会　筧 万里 1 さくらの夕べ クラウドネイティブナイト
2. 自己紹介 2 筧 万里（BANRI KAKEHI) クラウドネイティブ推進 & フロントエンド @Melonps_ ◦ 関西のメーカーにいます ◦ 趣味はピアノとハッカソン
3. お世話になってるさくらインターネットのサービス 3 • IoT製品の通信プラットフォーム • トラフィックをk8sで捌かせてたり • 生成AIを使ったアプリケーション向け 推論API • これないとハッカソンしんどい
4. 今日話したいテーマ 4 クラウドネイティブ(CN)を もっと身近なものにしたい さくらのAI EngineからCN意識を始めて行こう！
5. 課題感：CNという言葉は使いにくい 5 ◎どうしても使用ツールに注目しがち ①：クラウドネイティブ会議においでよ！ →「うちはKubernetes使ってないよ」「AWSだけどいいの？」 ②：さくら夕べでCN関連のネタ喋ってよ！ →かくいう自分も「ツール+CN」で沢山ググった S3　クラウドネイティブ さくらのIoT　クラウドネイティブ
6. CNCF参照：クラウドネイティブの原則 6 「クラウドネイティブ」が何を指すかについては強い持論があるが、 それらを実現するためにどの技術を使うかについてはこだわらない "opinionated about what 'cloud native' means, but not about what technologies you use" [2]: Cloud Native Reference Architecture, https://architecture.cncf.io/
7. さくらのAI EngineはCNの入り口にピッタリ 7 ただのAI サービスだから うちはレガシーだから CNCFに 登録されてないから ハッカソンでの体験を例に、CNの価値を共有します
8. さくらのAI Engineの概要 8 ◎生成AIを使ったアプリケーション向け推論API ・2025年9月リリースの新しいサービス ・OpenAI互換のAPIで、コストは無料枠あり、かつ1/10以下 利用料ダッシュボード
9. さくらのAI Engineとの出会い 9 ◎SHARP セマンティックカメラハッカソン ・カメラでとった情報から、意味情報を抽出 ・FPGA上で画像認識とAI Agentを動作させる ざっくりとしたCallの流れ 当日の雰囲気
10. 一時的なプロバイダ変更が可能 10 ◎提出先で動かす時、コード変更なしで共有 client = OpenAI( base_url="https://api.ai.sakura.ad.jp/v1", api_key="さくらのAPIキー" ) client = OpenAI( base_url="https://api.openai.com/v1", api_key="OpenAIのキー" ) さくらのAI Engineを呼び出すとき OpenAIに変えたとき …これでクラウドネイティブを体験したの？ →APIの使い方だけでなく、選び方と考え方
11. CN意識を始めるための三軸 11 ①どんな成果を得たいか？ ②どんな問いを解くか バックキャスト ③どんなツールを使うか ✖ 様々な掛け合わせ
12. どんな成果を得たいか？ 12 プロトタイプを沢山作って 価値の検証をしたい インフラ管理をやめて アプリ開発に集中したい
13. どんな問いをとくか？ 13 • 時間どこに分配するか？ ◦ セマンティックカメラの設定やAgentのロジックに集中したい ◦ ローカルLLMの用意やAPIの選定・検証に時間をかけれない • LLM APIの選択が、後で足枷にならないか？ ◦ 最先端モデルに賭ける vs 安くて十分なモデル ◦ 安いさくらを選んで、あとで「OpenAIが欲しい」となったら？ 問いを解くことも大事だが、 そもそも問わなくて済む選択ができたら？
14. どんなツールを使うか？：今回はさくら 14 • 時間どこに分配するか？ 　　 APIキーを払い出すだけで済むため、インフラ管理の時間が0 • プロバイダーに縛られていいか？ 　　OpenAI互換でいつでも変更可能で、気にする必要なし さくらを使ったことで、問い自体を不要に 集中したいアプリ開発に取り組むことができた
15. 問いを減らしたこと生まれる価値 15 人が判断・介入しなくても済む仕組みを選んだ 人による議論・時間を減らした
16. クラウド「ネイティブ」であること 16 人の介入なしで 自律的に振る舞う こうした考え方、システムそのもの
17. クラウドネイティブ会議のセッションも同じ 17 不要にした問い 誰がSSHして手動でVMを払い出すか？ 新たに挑んだ問い セルフサービス型のプラットフォームをどう作るか？ 不要にした問い 誰がいつパッチを当てるか？ 新たに挑んだ問い デフォルトで安全なイメージをどう作るか？ Day1 11:10 - 11:40 Cloud Native Track B Day2 14:30 - 15:00 初心者向けTrack
18. まとめ 18 • CNの意識を持つために三軸で考えるのがおすすめ ◦ ①どんな成果を得たいか？ ◦ ②どんな問いを解くか ◦ ③どんなツールを使うか • CNは「人の介入」「人による議論」を不要にするアプローチ • 趣味の開発でもAIの推論APIからでも始められる
19. さくらのAI Engineから始める クラウドネイティブ意識 Cloud Native Kaigi実行委員会　筧 万里 19 さくらの夕べ クラウドネイティブナイト