RAG構築のためのAzure OpenAI Serviceリファレンスアーキテクチャ詳解/wakarimiragarchitecture

Noriyuki TAKEI ෢Ҫ ٓߦ Information • サイオステクノロジー株式会社 • Microsoft MVP
for Microsoft Azure Favorites • Azure • パデル • スキー • ライブ配信 • ⽢いもの • ⾛ること blog https://tech-lab.sios.jp/ core skill Azureによるクラウドネイティブなアプリ開発 Twitter @noriyukitakei

技術ブログ「SIOS Tech.Lab」 RAG構築のための Azure OpenAI Serviceリファレンスアーキテクチャ詳解 https://tech-lab.sios.jp/archives/38900

3"(ͱ͸ʁ

Retrieval Augmented Generation (RAG) 既存の情報を検索し、それを活⽤して新たなテキストを⽣成する技術例︓社内規程をもとに回答するチャットボット RAGとは︖

RAGのない世界とRAGのある世界 RAGを使わない場合 RAGを使う場合 Azure OpenAI Service 休暇規程 1.休暇有給については …
外部データベース ② 有給は何⽇取得できる︖ 有給は何⽇取得できる︖ 休暇規程 1.休暇有給については … + 有給規定⽇数休暇規程 1.休暇有給については … 休暇規程 1.休暇有給については … 休暇規程 1.休暇有給については … 有給は20⽇です。有給は20⽇です。 ③ ④ ⑤ ⑥ ⑦ Azure OpenAI Service ② 有給は何⽇取得できる︖ ③ 有給は何⽇取得できる︖ ・有給は10⽇です。・夏季休暇は… … ① モデルのトレーニング ① 外部データベースへの登録有給は20⽇です。 ④ 有給は20⽇です。 ⑤ ユーザーユーザー管理者管理者

RAGのメリット 1 トレーニングコストの削減既存の外部情報源を活⽤することで、モデルをゼロからトレーニングするよりもコストを抑えることができます。 2 知識の継続的な更新外部情報源は常に更新されるため、RAGを使⽤すると、その更新された情報を活⽤して、最新の知識でモデルを維持できます。

"[VSF0QFO"*4FSWJDF ϦϑΝϨϯεΞʔΩςΫνϟ ֓ཁ

このリファレンスアーキテクチャが提供してくれるもの 1 RAGアーキテクチャ RAGを実現するために必要なアーキテクチャを提供してくれます。有給は何⽇取得できる︖ 以下の質問の検索クエリを⽣成して有給は何⽇取得できる︖ 有給取得⽇数規定
モデル就業規則第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を規定します。… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 「有給は何⽇取得できる︖」という質問に、以下の内容をもとに回答して。 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 有給取得⽇数規定 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 年次有給休暇は、最低でも 10⽇与えられます。年次有給休暇は、最低でも10⽇与えられます。モデル就業規則-1.txt モデル就業規則-2.txt インデックス1 インデックス2 ⑤ プロンプト⼊⼒ ⑥ 検索クエリ⽣成依頼 ① ドキュメント読み込み ③ 分割してBlobに登録 ④ チャンク化してインデックス化 ⑦ 検索クエリ返却 ⑧ 検索クエリでインデックス検索 ⑨ ドキュメント取得 ⑩ ドキュメントをもとに回答⽣成依頼 ⑪ Webアプリケーションに回答返却 ⑬ ユーザーに回答返却 … Azure App Service 凡例 … Azure OpenAI Service … Azure AI Search … Azure Blob Storage … Pythonスクリプト ⑫ プロンプトと回答の記録 … Azure Cosmos DB ② テキスト抽出 … Document Intelligence

このリファレンスアーキテクチャが提供してくれるもの 2 ソースコード先程のアーキテクチャを実現するためのソースコードを提供してくれます。

このリファレンスアーキテクチャが提供してくれるもの 3 デモアプリ先程のアーキテクチャをベースに機能し、Infrastructure as Code（IaC）を利⽤してコマンド⼀つでデプロイ可能なインフラとデモアプリケーションを提供します。

Azure OpenAI Serviceリファレンスアーキテクチャのすごいところ 1 ソースコードが公開されているソースコードが公開されているので、内部の動きを詳細に把握することができる。 2 すぐ動く Azure
Developer CLIとBicepによりインフラがコード化されているので、コマンド⼀発ですぐ動く。 3 ⽇本語解説⽇本語対応による解説がついている︕︕

有給は何⽇取得できる︖ 以下の質問の検索クエリを⽣成して有給は何⽇取得できる︖ 有給取得⽇数規定モデル就業規則第1章総則 …総則には、⼀般的に就業規
則の作成の⽬的や適⽤範囲等を規定します。… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 「有給は何⽇取得できる︖」という質問に、以下の内容をもとに回答して。 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 有給取得⽇数規定 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 年次有給休暇は、最低でも 10⽇与えられます。年次有給休暇は、最低でも10⽇与えられます。モデル就業規則-1.txt モデル就業規則-2.txt インデックス1 インデックス2 ⑤ プロンプト⼊⼒ ⑥ 検索クエリ⽣成依頼 ① ドキュメント読み込み ③ 分割してBlobに登録 ④ チャンク化してインデックス化 ⑦ 検索クエリ返却 ⑧ 検索クエリでインデックス検索 ⑨ ドキュメント取得 ⑩ ドキュメントをもとに回答⽣成依頼 ⑪ Webアプリケーションに回答返却 ⑬ ユーザーに回答返却 … Azure App Service 凡例 … Azure OpenAI Service … Azure AI Search … Azure Blob Storage … Pythonスクリプト ⑫ プロンプトと回答の記録 … Azure Cosmos DB ② テキスト抽出 … Document Intelligence みんな⼤好きAzure OpenAI Serivceです。コレがないと始まりません。RAGのシステムにて、以下の⽤途に利⽤します。 • Azure AI Searchに対してドキュメント検索するための検索クエリ⽣成 • Azure AI Searchから取得したドキュメントを元にした回答⽂⽣成 Azure OpenAI Service

則の作成の⽬的や適⽤範囲等を規定します。… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 「有給は何⽇取得できる︖」という質問に、以下の内容をもとに回答して。 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 有給取得⽇数規定 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 年次有給休暇は、最低でも 10⽇与えられます。年次有給休暇は、最低でも10⽇与えられます。モデル就業規則-1.txt モデル就業規則-2.txt インデックス1 インデックス2 ⑤ プロンプト⼊⼒ ⑥ 検索クエリ⽣成依頼 ① ドキュメント読み込み ③ 分割してBlobに登録 ④ チャンク化してインデックス化 ⑦ 検索クエリ返却 ⑧ 検索クエリでインデックス検索 ⑨ ドキュメント取得 ⑩ ドキュメントをもとに回答⽣成依頼 ⑪ Webアプリケーションに回答返却 ⑬ ユーザーに回答返却 … Azure App Service 凡例 … Azure OpenAI Service … Azure AI Search … Azure Blob Storage … Pythonスクリプト ⑫ プロンプトと回答の記録 … Azure Cosmos DB ② テキスト抽出 … Document Intelligence Azureが提供するマネージドな全⽂検索サービスです。RAG に必要な外部の情報源、つまりモデル就業規則をAzure AI Searchに取り込みます。 Azure AI Search

則の作成の⽬的や適⽤範囲等を規定します。… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 「有給は何⽇取得できる︖」という質問に、以下の内容をもとに回答して。 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 有給取得⽇数規定 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 年次有給休暇は、最低でも 10⽇与えられます。年次有給休暇は、最低でも10⽇与えられます。モデル就業規則-1.txt モデル就業規則-2.txt インデックス1 インデックス2 ⑤ プロンプト⼊⼒ ⑥ 検索クエリ⽣成依頼 ① ドキュメント読み込み ③ 分割してBlobに登録 ④ チャンク化してインデックス化 ⑦ 検索クエリ返却 ⑧ 検索クエリでインデックス検索 ⑨ ドキュメント取得 ⑩ ドキュメントをもとに回答⽣成依頼 ⑪ Webアプリケーションに回答返却 ⑬ ユーザーに回答返却 … Azure App Service 凡例 … Azure OpenAI Service … Azure AI Search … Azure Blob Storage … Pythonスクリプト ⑫ プロンプトと回答の記録 … Azure Cosmos DB ② テキスト抽出 … Document Intelligence Azureが提供するマネージドなアプリケーション実⾏基盤です。 RAGのフロントエンド(UI)、バックエンドを動作させるために使います。 Azure App Service

則の作成の⽬的や適⽤範囲等を規定します。… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 「有給は何⽇取得できる︖」という質問に、以下の内容をもとに回答して。 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 有給取得⽇数規定 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 年次有給休暇は、最低でも 10⽇与えられます。年次有給休暇は、最低でも10⽇与えられます。モデル就業規則-1.txt モデル就業規則-2.txt インデックス1 インデックス2 ⑤ プロンプト⼊⼒ ⑥ 検索クエリ⽣成依頼 ① ドキュメント読み込み ③ 分割してBlobに登録 ④ チャンク化してインデックス化 ⑦ 検索クエリ返却 ⑧ 検索クエリでインデックス検索 ⑨ ドキュメント取得 ⑩ ドキュメントをもとに回答⽣成依頼 ⑪ Webアプリケーションに回答返却 ⑬ ユーザーに回答返却 … Azure App Service 凡例 … Azure OpenAI Service … Azure AI Search … Azure Blob Storage … Pythonスクリプト ⑫ プロンプトと回答の記録 … Azure Cosmos DB ② テキスト抽出 … Document Intelligence Azureが提供するマネージドなNoSQLデータベースです。プロンプトと回答を記録します。 Azure Cosmos DB

則の作成の⽬的や適⽤範囲等を規定します。… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 「有給は何⽇取得できる︖」という質問に、以下の内容をもとに回答して。 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 有給取得⽇数規定 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 年次有給休暇は、最低でも 10⽇与えられます。年次有給休暇は、最低でも10⽇与えられます。モデル就業規則-1.txt モデル就業規則-2.txt インデックス1 インデックス2 ⑤ プロンプト⼊⼒ ⑥ 検索クエリ⽣成依頼 ① ドキュメント読み込み ③ 分割してBlobに登録 ④ チャンク化してインデックス化 ⑦ 検索クエリ返却 ⑧ 検索クエリでインデックス検索 ⑨ ドキュメント取得 ⑩ ドキュメントをもとに回答⽣成依頼 ⑪ Webアプリケーションに回答返却 ⑬ ユーザーに回答返却 … Azure App Service 凡例 … Azure OpenAI Service … Azure AI Search … Azure Blob Storage … Pythonスクリプト ⑫ プロンプトと回答の記録 … Azure Cosmos DB ② テキスト抽出 … Document Intelligence Pythonスクリプトです。このスクリプトは、RAGに必要な外部情報源、具体的にはモデル就業規則をAzure AI Searchに登録するために使⽤されます。後ほど説明しますが、PDFからテキストをそのまま抽出して登録するのではなく、テキストを分割して登録する必要があります。このような複雑な処理をこのスクリプトが⾏います。インデクサー

則の作成の⽬的や適⽤範囲等を規定します。… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 「有給は何⽇取得できる︖」という質問に、以下の内容をもとに回答して。 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 有給取得⽇数規定 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 年次有給休暇は、最低でも 10⽇与えられます。年次有給休暇は、最低でも10⽇与えられます。モデル就業規則-1.txt モデル就業規則-2.txt インデックス1 インデックス2 ⑤ プロンプト⼊⼒ ⑥ 検索クエリ⽣成依頼 ① ドキュメント読み込み ③ 分割してBlobに登録 ④ チャンク化してインデックス化 ⑦ 検索クエリ返却 ⑧ 検索クエリでインデックス検索 ⑨ ドキュメント取得 ⑩ ドキュメントをもとに回答⽣成依頼 ⑪ Webアプリケーションに回答返却 ⑬ ユーザーに回答返却 … Azure App Service 凡例 … Azure OpenAI Service … Azure AI Search … Azure Blob Storage … Pythonスクリプト ⑫ プロンプトと回答の記録 … Azure Cosmos DB ② テキスト抽出 … Document Intelligence 機械学習モデルを⽤いてドキュメントの解析を⾏い、テキスト構造を抽出することができます。これを⽤いて、PythonスクリプトがPDFファイルからテキストを抜き出します。 Document Intelligence

則の作成の⽬的や適⽤範囲等を規定します。… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 「有給は何⽇取得できる︖」という質問に、以下の内容をもとに回答して。 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 有給取得⽇数規定 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 年次有給休暇は、最低でも 10⽇与えられます。年次有給休暇は、最低でも10⽇与えられます。モデル就業規則-1.txt モデル就業規則-2.txt インデックス1 インデックス2 ⑤ プロンプト⼊⼒ ⑥ 検索クエリ⽣成依頼 ① ドキュメント読み込み ③ 分割してBlobに登録 ④ チャンク化してインデックス化 ⑦ 検索クエリ返却 ⑧ 検索クエリでインデックス検索 ⑨ ドキュメント取得 ⑩ ドキュメントをもとに回答⽣成依頼 ⑪ Webアプリケーションに回答返却 ⑬ ユーザーに回答返却 … Azure App Service 凡例 … Azure OpenAI Service … Azure AI Search … Azure Blob Storage … Pythonスクリプト ⑫ プロンプトと回答の記録 … Azure Cosmos DB ② テキスト抽出 … Document Intelligence Azureが提供するマネージドなオブジェクトストレージです。 Pythonスクリプトによって分割されたPDFをAzure Blob Storageにアップロードします。 Azure Blob Storage

則の作成の⽬的や適⽤範囲等を規定します。… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 第1章総則 …総則には、⼀般的に就業規則の作成の⽬的や適⽤範囲等を… 第5章休暇等 …所定労働⽇の８割以上出勤した労働者に対しては、10⽇の年次有給休暇を与える… 「有給は何⽇取得できる︖」という質問に、以下の内容をもとに回答して。 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 有給取得⽇数規定 …最低５⽇間は労働者が⾃由に取得できる⽇数として残し、５⽇を超える… 年次有給休暇は、最低でも 10⽇与えられます。年次有給休暇は、最低でも10⽇与えられます。モデル就業規則-1.txt モデル就業規則-2.txt インデックス1 インデックス2 ⑤ プロンプト⼊⼒ ⑥ 検索クエリ⽣成依頼 ① ドキュメント読み込み ③ 分割してBlobに登録 ④ チャンク化してインデックス化 ⑦ 検索クエリ返却 ⑧ 検索クエリでインデックス検索 ⑨ ドキュメント取得 ⑩ ドキュメントをもとに回答⽣成依頼 ⑪ Webアプリケーションに回答返却 ⑬ ユーザーに回答返却 … Azure App Service 凡例 … Azure OpenAI Service … Azure AI Search … Azure Blob Storage … Pythonスクリプト ⑫ プロンプトと回答の記録 … Azure Cosmos DB ② テキスト抽出 … Document Intelligence

チャンク化についてジェダイ時代のアナキンは、愛する者を守りたいという純粋な願望と若さ故の激情から、ジェダイの掟を何度となく破ってしまう。特に、妻パドメ・アミダラが死の運命にあるという予知夢を⾒た後は[注
1]、妻を救う⼒を得たいと願うあまりにシスの暗⿊卿ダース・シディアス（後の銀河帝国皇帝）の… ジェダイ時代のアナキンは、愛する者を守りたいという純粋な願望と若さ故の激情から、ジェダイの掟を何度となく破ってしまう。… ダース・ベイダー-01.txt 危機を察して駆けつけたシディアスにより救出され、サイボーグ化⼿術を施されて⼀命は取り留めたもののシディアスが… ダース・ベイダー-02.txt 以降は帝国軍の指揮官として反乱同盟軍によるレジスタンス活動の制圧に従事することとなり、『反乱者たち』ではその反乱軍として… ダース・ベイダー-03.txt Azure OpenAI Service チャンク化ベクトル化 [0.014032107, -0.0075616054,…] [0.014032107, -0.0075616054,…] [0.014032107, -0.0075616054,…] Azure AI Search テキストをベクトル化するEmbeddings APIは、リクエストのトークン数に限度(text-embedding-ada-002では8191トークン)があるのでテキストを細かく分割する(チャンク化)が必要になります。

ը໘ͷߏ੒

企業向けChatと社内⽂書検索企業向けChat いわゆるChatGPTライクな機能を提供するものです。事前にトレーニングされたモデルの知識を利⽤しています。社内⽂書検索厚⽣労働省が提供するモデル就業規約に基づいて、問い合わせに回答します。いわゆるRAGです。

こちらをクリックすると、企業向けChatの機能が使える会話履歴を消去できる詳細な設定画⾯に遷移するここにプロンプトを⼊⼒する【企業向けChat】プロンプト⼊⼒画⾯

利⽤するモデルを選択システムプロンプト(AIのキャラ)を設定 AIの回答のランダム性を制御するパラメータを設定【企業向けChat】設定画⾯

こちらをクリックすると、社内⽂書検索(RAG)の機能が使えるここにプロンプトを⼊⼒する会話履歴を消去できる詳細な設定画⾯に遷移する【社内⽂書検索】プロンプト⼊⼒画⾯

① ② 【社内⽂書検索】ドキュメント

① ② 【社内⽂書検索】思考プロセス

Searched for: 有給取得⽇数制度 Conversations: { ʻroleʼ: ʻsystemʼ, ʻcontentʼ: “Assistant helps
the customer questions. Be brief in your answers…略 …, e.g. [info1.txt]. Donʻt combine sources, list each source separately, e.g. [info1.txt][info2.pdf].\n” } { ʼroleʻ: ʼuserʻ, ʼcontentʻ: ʼ有給は何⽇取得できる︖\n\nSources:\n001018385-39.pdf: - 40 - １１本条第４項に定める年次有給休暇の計画的付与制度とは、労働者代表との間で労使協定を結んだ場合、最低５⽇間は労働者が⾃由に取得できる…略…\n001018385-30.pdf: 以上の期間に区分する場合は、最初の期間については労働⽇及び労働⽇ごとの所定労働ʼ } ① ② ③ 【社内⽂書検索】思考プロセス Azure AI Searchに投げた検索クエリシステムのロールです。かなり⻑いのですが、要はプロンプトの下に表⽰される情報をもとに回答を⽣成してくださいという指⽰をAIにしています。ユーザーのロールです。「有給は何⽇取得できる︖」はユーザーが⼊⼒したプロンプトです。その下に回答を作成するための情報が列挙されています。これは①のクエリでAzure AI Searchに検索をして返ってきたドキュメントになります。システムのロールであったように、LLMはこれらのドキュメントに基づいてプロンプトに対する回答を⽣成します。

① ② 【社内⽂書検索】補助資料回答を⽣成するための情報の元となったドキュメントを表⽰します。

① ② ③ ④ ⑤ ⑥ 【社内⽂書検索】設定画⾯「企業向けChat」と同様に、利⽤するモデルを選択します。 AIの回答のランダム性を制御するパラ
メータになります。検索クエリで検索した際に取得するドキュメント数を指定します。つまり、ここで10と指定すると、検索クエリで検索して取得した10個のドキュメントをもとに回答を⽣成します。セマンティック検索を使うかどうかを設定します。ここに⼊⼒した値と、Azure AI Search のcategoryというフィールドに⼀致するドキュメントを検索対象から除外します。セマンティック検索の機能であるセマンティックキャプションを使うかどうかを設定します。セマンティックキャプションを使うと、リランクされたそれぞれの検索結果に対して抽出的要約(検索結果から最も関連の⾼いと思われる⽂章の⼀部を抽出)を作り出してくれて、回答の精度が⾼くなります。

世界⼀わかりみの深いクラウドネイティブ on Azure 第28回⽣成AI時代の検索⼿法!!スターウォーズの登場⼈物で紐解くベクトル/セマンティック/ハイブリッド検索 https://www.youtube.com/live/AkXsqimV3J0

ϑϩϯτΤϯυͱ όοΫΤϯυͷ࿈ܞ

バックエンド Python フロントエンド (ブラウザ) Java Script [ …, { “user”:
“有給は何⽇取得できる?”, “response”: “年次有給休暇は…” } ] messages (ステート) 会話履歴 App Service Azure OpenAI Service Azure AI Search Azure Cosmos DB 画⾯ ① プロンプト取得休憩時間はどれくらい︖ 休憩時間に関する… ③ LLM呼び出し ④ LLMからの結果返却 ② API呼び出し ⑤ APIレスポンス返却

バックエンド Python フロントエンド (ブラウザ) Java Script [ …, { “user”:
“有給は何⽇取得できる?”, “response”: “年次有給休暇は…” }, { “user”: “休憩時間はどれくらい︖”, “response”: “休憩時間に関する…” } ] messages (ステート) 会話履歴新しい質問と回答 App Service Azure OpenAI Service Azure AI Search Azure Cosmos DB 画⾯ ⑦ 再レンダリング ⑥ messageのステートに追加

3FBDUͷ ίϯϙʔωϯτߏ੒

Layout DocSearch UserChatMessage AnswerChatMessage QuestionInput

"[VSF"* 4FBSDIͷ ΠϯσοΫε

id レコードを⼀意に識別するIDで、その形式は [ファイル名]-[チャンクに⼀意に割り振られた連番].pdf となる。例えば、contosodoc.pdfの場合、contosodoc-1.pdfとなる。 category ドキュメントをチャンク化するときに、すべてのチャンクに指定できるカテゴリ。デモアプリではnullとなるが、指定も可能。 content チャンク化されたテキスト sourcepage
チャンク化されたテキストが含まれるPDFファイル名。contosodoc-1.pdfや contosodoc-2.pdfとなる。 sourcefile ページごとに分割される前のPDFのファイル名。contosodoc.pdfとなる。 Azure AI Searchのインデックス

υΩϡϝϯτͷऔΓࠐΈ

チャンク1 チャンク2 チャンク3 チャンク4 ドキュメント全体 (contosodoc.pdf) ページごとに分割されたドキュメント contosodoc-1.pdf Azure AI
Searchのレコードにて、どのチャンクがどのドキュメントに含まれるかを関連付ける contosodoc-2.pdf contosodoc-3.pdf contosodoc-4.pdf { “id”: “contosodoc-1.pdf”, “category”: null, “content”: “チャンク1の内容”, “sourcepage”: “contosodoc-1.pdf”, “sourcefile”: “contosodoc.pdf” }, オーバーラップインデックスドキュメント取り込みの概要

① ② 【社内⽂書検索】ドキュメント

…employment regulations must not be contrary to laws and regulations
and collective agreements applicable to the workplace. The director of the labor standards office concerned may order changes to employment regulations that are in violation of laws, regulations, or collective agreements (Article 92 of the Labor Standards Law). \nThe Labor Standards Law applies to all workplaces employing at least one worker. However, in workplaces employing at least 10 workers on a regular basis, the preparation or amendment of employment regulations must be reported to the director of the labor standards office concerned (Article 89 of the Labor Standards Law). (Article 89 of the Labor Standards Law). In addition, employment regulations must be prepared and submitted at the workplace level, not at the company level. For example, if a company has two or more sales offices, stores, etc., the number of workers is not totaled for the entire company, but each sales office, store, etc. is considered as one workplace, and the company is obliged to prepare work rules for workplaces with 10 or more workers employed on a regular basis. For companies with multiple sales offices, stores, etc., it is possible to submit a collective notification via the… ① 1000⽂字を抽出する。 ② ①で取得した1000⽂字の末尾から1⽂字ずつ進み、⼀定の範囲内の⽂字を調査して、以下の⽂字がないかを調べる。 • 単語の区切り⽂字(スペース、セミコロン(;)、改⾏など) • ⽂の終わりを表す⽂字(ピリオド(.)、ハテナ(?)、ビックリマーク(!)) 「⽂の終わりを表す⽂字」が登場したら、そこをチャンクの最後尾とする。もし「⽂の終わりを表す⽂字」が登場しなかたったら、⼀番最後に登場した「単語の区切り⽂字」をチャンクの最後尾とする。 ③ ①で取得した1000⽂字のはじめから1⽂字ずつ戻り、⼀定の範囲内の⽂字を調査して、以下の⽂字がないかを調べる。 • 単語の区切り⽂字(スペース、セミコロン(;)、改⾏など) • ⽂の終わりを表す⽂字(ピリオド(.)、ハテナ(?)、ビックリマーク(!)) 「⽂の終わりを表す⽂字」が登場したら、その前の⽂字をチャンクのスタートの⽂字とする。もし「⽂の終わりを表す⽂字」が登場しなかたったら、⼀番最後に登場した「単語の区切り⽂字」をチャンクのスタートの⽂字とする。

…employment regulations must not be contrary to laws and regulations
and collective agreements applicable to the workplace. The director of the labor standards office concerned may order changes to employment regulations that are in violation of laws, regulations, or collective agreements (Article 92 of the Labor Standards Law). \nThe Labor Standards Law applies to all workplaces employing at least one worker. However, in workplaces employing at least 10 workers on a regular basis, the preparation or amendment of employment regulations must be reported to the director of the labor standards office concerned (Article 89 of the Labor Standards Law). (Article 89 of the Labor Standards Law). In addition, employment regulations must be prepared and submitted at the workplace level, not at the company level. For example, if a company has two or more sales offices, stores, etc., the number of workers is not totaled for the entire company, but each sales office, store, etc. is considered as one workplace, and the company is obliged to prepare work rules for workplaces with 10 or more workers employed on a regular basis. For companies with multiple sales offices, stores, etc., it is possible to submit a collective notification via the… 最終的なチャンクはこの様になる。

前のチャンクの終了位置から 100⽂字戻った位置 …取得した1000⽂字 …obliged to prepare work rules for workplaces
with 10 or more workers employed on a regular basis. For companies with multiple sales offices, stores, etc., it is possible to submit a collective notification via the director of the labor standards office with jurisdiction over the location of the head office, as long as the rules of employment of the sales offices, stores, etc. are the same as those of the head office, both before and after the change. \nWhen preparing or amending the employment regulations, a written opinion signed or stamped by a labor union organized by a majority of the workers (if there is one) or a person representing a majority of the workers (if there is no labor union organized by a majority) must be attached to the notification to the director of the labor standards office having jurisdiction over the location of the head office (the Labor Standards Law). The document must be signed or stamped by a person representing a majority of the workers (written opinion) and must be attached to the application (Article 90 of the Labor Standards Law). \nIn this case, the person representing a majority of the workers must: 1) not be a person in a supervisory or managerial position as stipulated in Article 41, Item 2 of the Labor Standards Law;… 前のチャンクの終了位置チャンク1 チャンク2 チャンク3 チャンク4 ドキュメント全体 (contosodoc.pdf)

"[VSF$PTNPT %#΁ͷ ϓϩϯϓτͷه࿥

approach ChatGPTライクな機能である「企業向けChat」を使ったときには「chat」、いわゆるRAGの機能である「社内⽂書検索」を使った場合には「docsearch」が⼊る user プロンプトを⼊⼒したユーザーのユーザー名が⼊る。デモアプリでは認証の処理が⼊っていないので、固定値で「anonymous」となる。 tokens プロンプトと回答のトークン数が⼊る。
input ユーザーが⼊⼒したプロンプトが⼊る。 response Azure OpenAI Serviceが⽣成した回答が⼊る。 JSONの構成

ϏϧυͱσϓϩΠ

src backend static frontend Reactのプロジェクト assets index-a90aab6e.js Azure Develoer CLI
with Bicep クライントPC リポジトリ Azure backend配下のファイル ② ビルド ③ コピー ① Azureリソース作成 ④ デプロイ ⑤ インデックス作成

ϦϙδτϦͷߏ੒

リポジトリTOP src data 001018385.pdf infra scripts prepdocs.py → RAGの外部情報源であるモデル就業規約のPDF →
モデル就業規約のPDFをAzure AI Searchに取り込むスクリプト backend frontend → Azure Developre CLI関連のファイル → バックエンドのプロジェクト → フロントエンドのReactプロジェクト approaches chatreadretrieveread.py → Azure OpenAI ServiceやAzure AI Searchと連携して回答を⽣成する⼀番⼤事なスクリプト

技術ブログ「SIOS Tech.Lab」 RAG構築のための Azure OpenAI Serviceリファレンスアーキテクチャ詳解 https://tech-lab.sios.jp/archives/38900

SIOS Tech.Lab https://tech-lab.sios.jp/ 世界⼀わかりみの深いクラウドネイティブ on Azure https://youtube.com/playlist?list=PLbTt_DSTMYgGLUtZ0ewuBwhTBSZnNE2-w 様々なメディアで情報発信しています︕︕ 是⾮みてね︕︕
技術ブログ YouTube配信

エンジニア募集（プロフェッショナルサービスチーム）エンジニアファーストの環境で、技術⼒を⾼めませんか︖ 変化や進化を楽しみながら、私たちとともに歩んでくれる仲間を募集しています︕ OSS ＆クラウド技術をコアテクノロジーとしたシステム開発 • 統合認証システム＆クラウド連携 •
OSS＆クラウド基盤導⼊、OSSカスタマイズや開発、OSSサポート • クラウドネイティブシステム、データ分析基盤、アプリ開発 • APIエコノミーコンサルティング＆技術⽀援サービス詳細はこちらのサイトからご覧ください︕ https://tech-lab-engineer.sios.jp/

࠷ޙ·Ͱ͝ਗ਼ௌ௖͖ ͋Γ͕ͱ͏͍͟͝·ͨ͠ʂʂ

RAG構築のためのAzure OpenAI Serviceリファレンスアーキテクチャ詳解/wa...

RAG構築のためのAzure OpenAI Serviceリファレンスアーキテクチャ詳解/wakarimiragarchitecture

More Decks by Noriyuki TAKEI

Other Decks in Technology

Featured

Transcript