オンデバイスLLMの検証 iOS 26 / FoundationModels を使った実装から得た知見 / Exploring On-Device LLMs: Insights from Implementation with iOS 26 and FoundationModels

『ヤプリ x LINEヤフー モバイルデベロッパーズミートアップ』登壇資料
https://connpass.com/event/380496/

Transcript

1. YAPPLI × LINEヤフー MEETUP / LIGHTNING TALK オンデバイス LLMの検証 iOS 26 / FoundationModels を使った実装から得た知見 SPEAKER 株式会社ヤプリ 古賀 菊丸
2. 何を作ったか — オンデバイス LLMエージェント
3. オンデバイス LLMエージェント 全体の処理フロー ① ユーザーが送信ボタンをタップ ② エージェントにメッセージを渡す ③ Tool Calling実行（既存 API からデータ取得） ④ エージェントから回答を受け取る ⑤ テキストメッセージとコンテンツリンクボタンを表示
4. オンデバイス LLMエージェント 全体の処理フロー ① ユーザーが送信ボタンをタップ ② エージェントにメッセージを渡す ③ Tool Calling実行（既存 API からデータ取得） ④ エージェントから回答を受け取る ⑤ テキストメッセージとコンテンツリンクボタンを表示
5. オンデバイス LLMエージェント | 処理フロー エージェント初期化時に Toolを登録
6. オンデバイス LLMエージェント | 処理フロー ② エージェントにメッセージを渡す（ LanguageModelSessionにメッセージを渡す）
7. オンデバイス LLMエージェント | 処理フロー ③ Tool Calling実行（既存 API からデータ取得）
8. 学び - １つ目 プロンプトに全データを詰め込むのではなく、 Tool Callingで必要なときだけ取りに行かせる方が精度 が上がる Foundation Modelの コンテキストウィンドウは想像以上に小さい ので詰め込みすぎると、モデルは肝心 な部分に集中できなくなる。
9. 学び - ２つ目 @Generable と @Guide を使って入出力を構造化することが重要 LLM → TOOL（入力） @Generable struct Arguments: Codable { @Guide(description: "取得する最大件数。省略時は10件。 最大30件。" ) var limit: Int ? @Guide(description: "検索キーワード。タイトルや本文で フィルタ。" ) var query: String ? } TOOL → LLM（応答） @Generable struct Output { @Guide(description: "取得した件数。見つからなかった場合 は 0。" ) var count: Int @Guide(description: "1件以上見つ かったか。" ) var found: Bool @Guide(description: "各通知のタ イトル配列。" ) var titles: [String ] } Outputを 文字列ではなく @Generable な構造体 で返すと、LLMはフィールド単位で意味を理解できる Swiftの型システムが、そのまま AIの精度向上につながる
10. 学び - ３つ目 文脈に合わせて、操作可能な UI（ボタン、選択ボタンなど）を動的表示させる実装の解像 度が上がった
11. 結論 オンデバイス LLMの回答精度を上げるために、必要なタイミングで データ取得することや、構造化したデータを渡すことが重要
12. Thank you. ご清聴ありがとうございました。 株式会社ヤプリ ／ 古賀菊丸 YAPPLI × LINEヤフー MEETUP · 2026.05.22
13. FOLLOW ME!! Yappli Developers @yappli_dev