TensorFlow on Android

DevFest Tokyo 2016 にて発表したスライドです。
http://gdg-tokyo.connpass.com/event/38927/

Transcript

1. TensorFlow on Android 日本Androidの会・東海大学1年 古川新
2. 古川 新 Arata Furukawa http://ornew.net/ 東海大学 理学部１年生 MaruLabo管理者 日本Androidの会 運営委員 日本Androidの会 学生部 © Arata Furukawa
3. DeepLearning
4. AlexNet © TensorFlow Tutorial “Image Recognition” https://www.tensorflow.org/versions/r0.11/tutorials/image_recognition/index.html
5. Google DeepDream © Alexander Mordvintsev https://github.com/tensorflow/tensorflow/blob/master/tensorflow/examples/tutorials/deepdream/deepdream.ipynb
6. Facebook DeepFace © Yaniv TaigmanMing YangMarc'Aurelio RanzatoLior Wolf /「DeepFace: Closing the Gap to Human-Level Performance in Face Verification」
7. Androidアプリで 使いたい！ The Android robot is reproduced or modified from work created and shared by Google and used according to terms described in the Creative Commons 3.0 Attribution License.
8. 学習と利用の非対称性
9. 学習の演算コスト 膨大な回数の反復学習が必要 専用のハードウェアなど かなりの計算資源を使っても 莫大な時間がかかる (上写真) 「AlphaGo の試合に用いられた Googleの ディープラーニング専用サーバ」 Google Cloud Platform Japan Blogより引用 (右写真) 「Facebook’s open-sourcing of AI hardware is the start of the deep-learning revolution」より引用
10. 人工知能は、 筋肉と同じ
11. 筋肉を鍛えるには、たくさんの時間とお金が必要です 何回も何回もトレーニングして、 少しずつ筋肉は強くなります
12. 一方で、筋肉を使って動くのは簡単 時間もお金もかかりません
13. 利用の演算コスト 反復実行も、誤差評価も、逆伝搬もしない →桁違いにコストは少ない
14. 現実的な演算コスト 学習 > 利用
15. 学習済みモデルを利用するだけなら モバイルで動きます
16. TensorFlow
17. データフローグラフ型 汎用数値演算ライブラリ TensorFlow 抽象的でスケーラビリティかつポータビリティな、 非同期並列に実行可能な数値演算の仕組みを 実現するライブラリ。
18. TensorFlow Graph あらゆる演算は、 データフローを向きとした 有向グラフで表現されます。 y = 2x x mul y 2
19. Deep Neural Networks ディープニューラルネットワーク(DNN)は Tensor(スカラ・ベクトル等)に対する 巨大な演算として表現されます。 DNNはTensorFlowグラフとして 表現することができます。 つまり、TensorFlowでDeepLearningができます。
21. TensorFlowを使った リバーシAI Androidアプリ ABC 2016 Autumnで公開予定！
22. Android Firebase プレイデータを自動送信 AIが定期的に自動更新される TensorFlow
23. Firebase Realtime Database Run TensorFlow Data Server C++ Java Protocol Buffers JNI Reversi お寿司リバーシの構成：Androidアプリ側 HTTPS Android App
24. Javaとの連携 TensorFlowはJavaをサポートしていないため Android Native Development Kit (NDK)か Java Native Interface (JNI)を使うことになります。 お寿司では、JNIを使っています。
25. TensorFlowのビルド・実行 Android向けにTensorFlowバイナリをBazelで クロスコンパイルします。 ドキュメントは一切ないので、 Issueで情報を集めて試行錯誤するか、中の人に聞くかです。 作った動的ライブラリをJavaでロードし、 ネイティブコードを実行します。
26. Serialize TensorFlow Graphは Protocol Buffers形式で シリアライズできます。 y = 2x x mul y 2 graph.pb
27. 関数としてのTensorFlow Graph TensoFlow Graphは、演算の集合を、 データフローを向きとするグラフで表現したものですので、入 力と出力があります。 よって、グラフそのものを関数と考えても差し支え ありません。
28. 画像データ ？？？ 文字データ 5041 Function? F(x) -> y TensorFlow Graph
29. Black Box 関数として考えたならば、入力と出力の形状さえ 一致していれば、このグラフの処理がなんであろう と関係ありません。 グラフを差し替えたとしても、形状が一致すれば ユーザコードをアップデートする必要はありませ ん。
30. True Portability! グラフファイルを差し替えるだけで処理をすり替え られるため、お寿司AIの更新はグラフファイルを サーバからダウンロードするだけであり、可搬性が 非常に高いです。
31. 新しいアプリ開発の形？ ニューラルネットワークは処理能力に乏しい モバイルプラットフォームでも利用できます。 Deep Learningは、モデルさえあれば一般的な アプリに組み込むことが可能な段階にあります。
32. 「DeepLearningはお金のある大企業や大学のやること」 今やそんなことはありません。 既にユーザレベルは個人にまで広がっており、 一般のモバイルアプリケーションに組み込むことも 可能なレベルに技術は達しています。
33. DeepLearningを使うことで、 今までにない機能をモバイルアプリケーションに 組み込むことができるかもしれません。 新しいユーザエクスペリエンスが誕生し、 ITの新しい市場となるかもしれません。 その可能性をDeepLearningは十分に秘めていて、 その先駆者となる可能性はまだ私達にもあるのです。
34. DeepLearningを学びたい 学生のための仮想研究室
35. 登録はマルラボ公式サイトから! https://marulabo.net/ マルラボの取り組み DeepLearningを使った研究に 必要なマシンがない！ 勉強したいが、なにを学べば いいかわからない！ 最先端の研究者・技術者と 交流したい！ MaruLaboが 学生に 無償で提供します！
36. DeepLearningに特化した 超火力マシンが2台！ ① NVIDIA Tesla M40 4枚挿し 　ASKさん、NVIDIAさんからの寄贈品です ② GeForce GTX TITAN X 4枚挿し 　さくらインターネットさんからの寄贈品です
37. 孫泰蔵さんからも 寄贈予定！ 近日中に、孫泰蔵さんからも 同等以上の性能のマシンを寄贈して いただけることになっています！ このように、MaruLaboは多くの 企業や個人の方々にご支援いただき 運営しております！
38. 多くのフレームワークが セットアップ済み！ TensorFlow、Caffe、Torch、CNTKなど、 多くのフレームワークをセットアップしてあります。 セットアップのための技術や知識が要らないため、 DeepLearningへの敷居がグッと下がります。 特にTensorFlowはGPU性能を最大限に引き出すために、 私がCUDA 8.0とcuDNN 5.1用にソースコードから カスタムビルドしてあります。
39. 登録はマルラボ公式サイトから! https://marulabo.net/ オンライン勉強会も予定中！ 初心者の学生向けに、MaruLaboメンバ限定でオ ンライン勉強会を開催予定です！
40. マシンの寄贈のお願い どんなに優秀であっても、今の日本の学生には DeepLearningの開発・学習のための環境がありません。 未来を担う学生の育成・研究のため、 ぜひご協力をお願いします。 お問い合わせは、公式サイトからお願いします。 https://marulabo.net/
41. ご清聴ありがとうございました facebookやってます 何かあればこちらまで 古川新 https://www.facebook.com/old.r.new