2023年3月23日 ChatGPT選手権!エンジニアリングに組み込んでみたらこうなりました LT大会 (https://findy.connpass.com/event/276736/) における5分LTの資料です。
機械学習技術を利用する必要があるようなPoCを誰でも・低コストで行えるようになったインパクトが大変大きいと感じています。その事例を簡単にいくつか紹介しました。
LayerXにおけるChatGPTを活用したPoC事例23.Mar.2023 ChatGPT選手権!エンジニアリングに組み込んでみたらこうなりました LT大会Yuya Matsumura (@yu-ya4)
View Slide
Confidential © 2023 LayerX Inc.2画像を入れてね自己紹介松村 優也(Yuya Matsumura)- 株式会社LayerX ML/OCR Team Lead- ウォンテッドリー株式会社 技術顧問- その他、大学の非常勤講師やスタートアップの技術支援等共著 『推薦システム実践入門』趣味 お酒・インターネット地獄巡り・音楽@yu___ya4@yu-ya4
© 2023 LayerX Inc.3MLエンジニア・PdMとしての感想● PoC、あるいはとりあえず動くものを作ってデモをすることの重要性はご存知の通り● 一方で、機械学習技術を利用するようなものは比較的大変なことが多かった○ 最低限の性能を持つモデルを作成する、事前学習モデルを利用するにしても fine-tune するためにもある程度のデータセットを作成する必要があった。○ モデリングやデータの前処理など高い専門性が要求されるため、機械学習エンジニアやデータサイエンティストが行うしかなかった。一方で、そのような専門職のリソースが潤沢にあるケースは...○ ある程度のスペックのマシンリソースを用意する必要があった。機械学習技術を利用する必要があるようなPoCを誰でも・低コストで行えるようになったインパクトが大変大きいと感じています。データやモデルの準備せずともプロンプトエンジニアリングにより実現 + Web UI やAPIの提供により自前の環境は最低限で可
とにもかくにも事例紹介
© 2023 LayerX Inc.5プロダクトPoC事例①請求書内容からの必要項目抽出
© 2023 LayerX Inc.6プロダクトPoC事例②請求書内容からの勘定科目の推定
© 2023 LayerX Inc.7プロダクトPoC事例③勘定科目からカテゴリの推定(Webエンジニアがシュッと開発環境に組み込んで検証!)
© 2023 LayerX Inc.8採用活動PoC事例①候補者の方の事前準備をサポートするための模擬面接bot(streamlitでWebアプリ化)行動指針に沿った質問項目候補の作成*直接的に合否を判定することに使うべきではないことに注意採用活動のサポートツール
© 2023 LayerX Inc.9※ChatGPTやNotion AIという特定のツールの使い方を問いたいわけではなく、当社の行動指針とマッチする方に来ていただきたいという意図新卒採用選考の課題への導入採用活動PoC事例②
ここまでほとんどMLエンジニア以外がやったものです
© 2023 LayerX Inc.11どうやって進めているか● 社内のMLエンジニア含め、数名をLLMの活用・検証プロジェクトにアサインしてリソースの確保● 社内から広くアイデアを集め、優先度を決めてどんどんPoC● 加えて、会社の予算を確保して organization を作成し希望するメンバーを招待。自身でAPI Keyを発行して自由に検証できるように。 → 各チームでハッカソンが開催されたり、勝手にメンバーが遊んでいたり
© 2023 LayerX Inc.12最後に● 改めてですが、機械学習技術を利用する必要があるようなPoCを誰でも・低コストで行えるようになったインパクトが大変大きいと感じています。○ 実際に毎日たくさんのプロダクトPoCや活用事例が社内の専用slackチャンネルで共有されており、ほとんどがMLエンジニア以外によるものです(事業部のMLエンジニアは現在3名)○ コストもAPIコストくらい(クラウドでGPUインスタンス立てて...とか考えると微々たるもの)● もちろん実際にプロダクトに導入する際には、出力の正確性や可用性、コスト面など考えることが様々ありますが、PoCを行う・デモを作成するという点では十分過ぎると思います。● また、技術はすごいスピードで進歩していくため、そこを見越した動きでもあります。○ たとえば画像をVision API にかけた結果をChatGPTに入力する例も紹介しましたが、まもなく画像なども入力として扱えるようになりますし、APIのコストもどんどん下がっていくだろう。● いろいろ話しましたが、単純にめちゃくちゃ面白い技術だと思うのでエンジニアとしてもっともっと遊んでいきたいと考えています!