NL2SQLを活用したExcelの生成AI利用アプローチ

NL2SQLを活用した  Excelの生成AI利用アプローチクラメソおおさか IT 勉強会 Midosuji Tech #6

とすり@tosuri13 自称雑用系エンジニア  AWS基盤の運用とかをやってます

Excelが生成AIにとって不遇な理由

Excelを生成AIで利用したい例えば、以下のような社員名簿が記載されたExcelの構造化データを、生成AIで取り扱うケースを考えます。

テキストに変換してみる生のExcelデータには不要な文字列(XML)が多く含まれているため、以下のようなMarkdownのテーブル形式に変換したテキストで扱うのが一般的です。

トークン数の問題これをそのままプロンプトに含めて出力を生成することも可能ですが、レコード数やカラム数が増加するにつれて、入力トークン数(コスト)も大きく増加するため、あまり好ましくありません。 100,000tokens 1行あたり100トークンと仮定すると例えば社員名簿が1000行あった場合、OpenAI o3なら1リクエストで1$かかってしまう!!

RAGを利用するのはどうか？では、RAG(ベクトル検索)で扱うのはどうでしょうか？しかし、RAGのチャンキング処理の中で、以下のようにテキストが分割される可能性があります。・チャンクA ・チャンクB

コンテキスト欠落の問題このように分割されてしまうと、検索で片方のチャンクしか取得できなかった場合、ヘッダーや列の一部の重要なコンテキスト情報が抜け落ちるため、生成 AIが正しく出力を生成できなくなる問題があります。・チャンクB 例えば「2018-07-01」という日付が何を指しているのか、このチャンクから判断することができない  ↓ 生成AIが欠けている情報を補おうとるため、ハルシーネーションが発生するリスクが高まる

色んな問題が重なり合って...  このままではExcelを生成AIで扱いづらい!!

NL2SQLを活用した解決方法

どのようにして解決するか？ベクトル検索ではなく、構造化データを生かしたSQL検索を利用してコンテキストの取得を行います。ここで利用するユーザの質問(自然言語)をSQLに変換する技術をNL2SQL(Text-to-SQL)と呼びます。自然言語(NL) 山田さんはいつ入社した？自然言語(NL) 山田さんはいつ入社した？ Model SQL
Query SELECT 入社日 FROM employees WHERE 氏名 = '山田太郎'; SQL Query SELECT 入社日 FROM employees WHERE 氏名 = '山田太郎';

SQL検索のメリット SQL検索を利用することで、必要なコンテキストを欠落させることなく取得することができます。また、RAGでは不可能だった集計・フィルタリングなどの分析タスクも処理できるようになります。 SQL Query SELECT 入社日 FROM employees
WHERE 氏名 = '山田太郎'; SQL Query SELECT 入社日 FROM employees WHERE 氏名 = '山田太郎'; employees 必要最低限な量の  コンテキストを取得できる

NL2SQLの具体的な実装アプローチ

データベースにロードする ExcelのデータをSQLiteやDuckDBなどのインメモリで動作可能なSQLデータベースにロードします。例ではDuckDBを使用しています。

スキーマを定義する有効なSQLを生成させるには、生成AIにテーブルのスキーマを提供する必要があります。スキーマには、テーブル名やカラム名、カラムの型、カラムの説明 (取りうる値の制約)などを含めて、プロンプトに組み込みます。

Tool Useでクエリ生成 + 実行を行う Tool Use(Function Calling)で生成AIが要求したクエリを実行します。⁨⁩クエリの実行結果は再度生成AIに提供され、そこから最終的な回答を生成します。

実際の生成内容を確認する

Excelを生成AIで扱えるようになったこの一連の流れを実行することで、Excelデータを生成AIで有効に活用することができるようになりました。ただし、構造化データやスキーマが整備されていない状態では、NL2SQLの効果を最大限発揮することができないため、基本的なドキュメント整備から始めることが重要です。スキーマ取得クエリ生成 + 実行
テキスト生成 Excelだけでなく、構造化データであれば全て対応することができる!!

まとめ

まとめ・前提としてExcelデータをそのまま生成AIで扱うのは難しい　→ 直接読み込むとコストが大きくなってしまう可能性がある  　→ RAG(ベクトル検索)では有効なコンテキストを提供できない可能性がある・有効的に活用するにはNL2SQLなどのアプローチを取るとよい　→ NL2SQLでは、データの分析などを生成AIに処理させることができる　→
事前に構造化データやスキーマを整備することが重要

Thank you for listening!! 定期的にAI・クラウド系の技術発信をしてるので、よかったらTwitterフォローしてください。 @tosuri13

NL2SQLを活用したExcelの生成AI利用アプローチ

NL2SQLを活用したExcelの生成AI利用アプローチ

とすり

More Decks by とすり

Other Decks in Programming

Featured

Transcript