AIハッカソン 発表資料

以下のイベントの発表資料

https://kobe-engr-lab.connpass.com/event/280327/

Transcript

1. AI Hackathon データ可視化ツール sAIneria 株式会社SceneLive Jou Hattori・Daigo Hiroi
2. 制作背景・ユースケース 2 ▰ 非エンジニア社員が時々SQLでデータ抽出する機会 がありSQLを学習したが挫折したことがある ▰ 営業シーンにおける様々なデータを活用していくた め、データ感度を上げていきたい ▰ 探索的なデータ分析を素早く行う上で、非エンジニア が「プログラミングを覚える」というハードルを下げたい
3. sAIneria 使用技術・機能紹介
4. 技術構成 ▰ Backend: FastAPI(Python) ▰ Frontend: React, MUI, SWR, Recoil… ▰ LLM: OpenAI gpt-3.5-turbo, text-davinci-003 ▰ LLM Library: LangChain 弊社メインスタックはVue.js, Laravel 技術的な挑戦も含めた 4
5. 主要機能 ▰ 自然言語から各プロダクトSQL生成 ▰ 自然言語からデータ可視化グラフの生成 ▰ 生成されたSQLの実行可否判定 ▰ 生成したSQLの編集 ▰ 生成したSQLのコピー ▰ 生成したSQLを各プロダクトへ実行しCSV出 力 5
6. sAIneria AI活用の仕組み ~~~ SQL生成 ~~~
7. Chainとは？ LLMとプロンプトテンプレートを組み合わせ、複数の処理を 行う一つのコンポーネントのようなもの。 LangChain SQL Database Chain (結果→自然言語) ユーザー入力+プロンプトテンプレ→LLM LLMからSQL→データベース実行結果→LLM LLMから結果を自然言語にして返却 自社データの実行結果をLLMへ渡せない！ 各プロダクトのデータ構造に合わせたSQL 生成 7
8. 指示→結果ではなく、指示→SQL生成に特化させる 各プロダクトのデータ構造に合わせたSQL 生成 8 1. 事前に配置したDDLファイルからSQLiteで一時DB作成 2. 入力プロンプトから使用するテーブル選択(LLM) 3. 使用するテーブル情報+プロンプト+テンプレでLLMへ 4. SQLiteを対象とするがプロダクトDBに合わせた方言を指 定する(MySQL, Postgreなど) 5. 生成したSQLでは実行しない、しても空 →実行エラーを渡すことでクエリチェックできる 6. ユーザーへレスポンス
9. sAIneria AI活用の仕組み ~~~ 可視化グラフ生成 ~~~
10. LangChain Agentとは？ プロンプトから手段・実行順番を解決しツールを組み合わ せて結果を導くもの。 LangChain Pandas DataFrame Agent CSV・JSONなどからDF+プロンプト→LLMへ LLMで実行コード生成・実行結果→LLMへ プロンプトと実行結果を比較・検討→LLMへ LLMから最終的な結果を出力 自社データの実行結果をLLMへ渡せない！2回目 CSVから可視化グラフを生成 10
11. 指示→結果ではなく、指示→可視化コード生成に特化させる CSVから可視化グラフを生成 11 DF操作・可視化のコード生成において実データのDFは不要→ ダミーデータフレームを作成 DFのカラム名、各カラムの型情報、値の範囲などで十分可視 化グラフを生成できる プロンプトにdf.head(), df.dtypes, df.describe()の情報を含める と実データはLLMへ流さなくて良い ※カラム名などに重要な情報が含まれる場合は注意！！
12. CSVから可視化グラフを生成 12 1. ツールを用いて生成したコードを実行 2. 実行コードとその結果を合わせてLLMへ 3. 実行エラーがない状態のコードを生成 4. 生成したコードを利用し、実際のDFで実行 →現在はタイムアウトのみ、今後は一時コンテナなどで制 限する 5. 実行した結果グラフをユーザーへレスポンス
13. sAIneria デモ動画
14. おまけ プロンプト 14
15. 15 ご清聴ありがとうございました Presentation template by SlidesCarnival