Google I/O 2024 報告LT会（Androidのオンデバイス生成AI）

サイボウズ社内で実施したGoogle I/O 2024 報告LT会の発表スライドです。
「Android on-device AI under the hood」の内容をまとめました。
https://www.youtube.com/watch?v=nOinQrCvZkM

1. Androidのオンデバイス⽣成AI Google I/O 2024 報告LT会 2024/06/14 サイボウズ株式会社 ⾅井 篤志
2. 内容 「Android on-device gen AI」より Androidのオンデバイス⽣成AIの • 現在の状況 • 特徴 • アーキテクチャ について整理します https://www.youtube.com/watch?v=nOinQrCvZkM
3. オンデバイス⽣成AIの現在の状況 • SDKはPrivate Preview（⼀般公開されていない） OS Android 14以降 デバイス Google Pixel 8 Pro / Pixel 8 *1 Samsung S24 アプリ Google Message / Recorder / Gboard Adobe Acrobatなどサードパーティアプリも⼀部対応しているらしい 設定 開発者オプションでAICoreを有効化 *1) 6⽉12⽇以降、Pixel 8でも使えるようになった 利⽤環境 開発環境
4. 試してみた 開発者オプションでAICoreを有効にしたが・・・
5. 試してみた Recoderアプリに変化なし （要約機能は使えなかった） 数週間かけて機能展開される とのことなので、待つしかなさそう
6. オンデバイス⽣成AIの特徴 ⻑所 • センシティブなデータを扱える • 通信環境が悪くても使える • 早い • 安い 短所 • ⽣成の解像度が低い 得意 • コンテンツの要約 • コンテンツの分類 • コンテンツに対する提案 苦⼿ • ⾃由な会話 • コード⽣成 オンデバイスAIを活⽤するには、ファインチューニングが重要
7. アーキテクチャ • すべてデバイス内で完結 • アプリはAI Edge SDKを使って AI Coreにアクセス • AI Core • Android OSに統合されているService • モデルはGamini Nano • ファインチューニングはLoRA Android Device Android OS AI Core LoRA Gemini Nano Safety features SoC App AI Edge SDK
8. まとめ • はやく使ってみたい