OpenShift_AIワークショップ_トレーニングとハンズオン.pdf

Transcript

1. Version number here V00000 1 トレーニングとハンズオン OpenShift AI ワークショップ
2. Version number here V00000 1. Red Hatパートナーアカウント 2. AI関連トレーニング 3. ハンズオン環境構築方法 4. ハンズオンの進め方 (休憩) 5. ハンズオンコンテンツ ･ 各章のハンズオン内容概要をご紹介 目次 2
3. Version number here V00000 3 Red Hat パートナーアカウント
4. Version number here V00000 レッドハットサイト全体イメージ (All Red Hat) redhat.com access.redhat.com developers.redhat.com connect.redhat.com 4
5. Version number here V00000 Red Hat Partner Connect • レッドハットがグローバルで共通に提供しているパー トナー様向けのポータルサイト • テクノロジーパートナー とビジネスパートナー の２つ のサイトを用意（ログインが別） • テクノロジーパートナー向け ◦ 認定のための情報 ◦ 認定プロセス実行 ◦ サポート問合せ • ビジネスパートナー向け ◦ トレーニング ：Partner Training Portal ◦ 共有資料：Content Center ◦ デモ環境 ：Red Hat Demo Platform 5 https://partnercenter.redhat.com/
6. Version number here V00000 Product Demo System Red Hat Partner Connect サイトコンテンツ https://connect.redhat.com/ Red Hat Partner Connect Partner Dashboard ・パートナー向けサイト ・パートナータイプ別ログイン （テクノロジーパートナーは認定、ビ ジネスパートナーは各コンテンツを 利用） ・ダッシュボード - Partner Training Portal - Partner Content Center - Red Hat Product Demo System - Etc.. Content Center Partner Training Portal 6
7. Version number here V00000 7 Red Hat Partner Connect アカウント作成 Partner Connectのコンテンツはパートナー企業に紐付いたレッドハットアカ ウントをご作成頂くことで利用可能です アカウント作成のガイドを下記ページで公開しておりますので、 こちらをご参照の上アカウントを作成ください https://rh-open.github.io/offering/register-partner-connect.html • 作成のプロセス内で、アカウントと企業の紐付けのためご所属企業の パートナータイプ のご指定が要求されます パートナータイプが不明な場合、Red Hatの担当営業までお問い合わせ 下さい
8. Version number here V00000 8 AI関連トレーニング
9. Version number here V00000 Copyright@2023, Red Hat K.K. OpenShift AIトレーニング 
 9
 自分のペースで学習できるオプションまたはカスタム配信として利用(モジュールの目安：3-4 時間) Red Hat OpenShift AI Administration (AI263) 受講者は、インストール、アップグ レード、管理、構成など、 OpenShift AI の管理に関する実践的な経験を 積むことができます。 Introduction to Red Hat OpenShift AI (AI262) Deploying Machine Learning Models with Red Hat OpenShift AI (AI265) 受講者は、 OpenShift AI に機械学 習モデルをデプロイして提供し、デ プロイされたモデルのトラブル シューティングを行います。 Creating Machine Learning Models with Red Hat OpenShift AI (AI264) 受講者は機械学習の基本的な概念 を学び、機械学習モデルを作成して トレーニングします。 Automation using Data Science Pipelines (AI266) 受講者は KubeFlow と Elyra パイプ ラインについて学び、実践的な経験 を積みます。 OpenShift AI Learning Journey 受講者は、 Red Hat OpenShift AIの 一般的なアーキテクチャと主な機能 について学び、いくつかの基本的な プロジェクトを作成します。 OpenShift AI Red Hat OpenShift AI での AI/ML アプリ ケーションの開発とデプロイ 4 day instructor-led virtual training (AI267) 3 hour exam (EX267) 日本語・講師 付きで提供!! (有償) パートナー企業の方は無 償でオンライン自習(講師 の説明動画＋ハンズオン など有り)可能(Partner Training Portal上で提供)
10. Version number here V00000 10 ハンズオン環境構築方法
11. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 11
 1. 以下のURLへアクセスする a. https://partner.demo.redhat.com/ 2. 以下の画面で”Red Hat partner? Log in here”をクリックする 3. 以下の画面でパートナー IDを用いてログインする
12. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 12
 4. 左側のCatalogをクリックし検索に ”Parasol”と入力
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 5. 検索結果の”Parasol Insurance AI Lab”をクリックする
 6. 開いたメニューの左上の ”Order”をクリックする

13. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 13
 7. 次のページで目的に応じてパラメータを設定し画面下部の ”Order”をクリック→環境の構築が完了するまで待つ (構築状況は左のメニューの ”Services”にて確認)
 a. 例１製品について学びたい場合のパラメータ設定　　　　　　　　　　　　　例２ ワークショップの練習の場合のパラメータ設定 

14. Version number here V00000 Copyright@2023, Red Hat K.K. 以降では、ハンズオン環境構築後に実施する、ハンズオンガイド・コンテンツの日本語化の手順を示します。英語で実施したい場合は以降の手順は不要です。 
 1. 左のメニューの“Services”をクリックし”Parasol Insurance AI Lab - <GUID>”へのリンクをクリックする 
 
 
 
 
 
 
 
 
 
 
 2. 開いた内容のタブの中から ”Details”をクリックする
 ハンズオン環境： Red Hat Demo Platform (Beta)
 14

15. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 15
 3. 以下のOpenShiftのGUIへのURL(“OpenShift Console: ”)とアクセス情報(“User admin …”)を確認する OpenShift Console: https://console-openshift-console.apps.cluster-cdxl4.sandbox1308.opentlc.com OpenShift API for command line 'oc' client: https://api.cluster-cdxl4.sandbox1308.opentlc.com:6443 Download oc client from http://mirror.openshift.com/pub/openshift-v4/clients/ocp/4.13.9/openshift-client-linux-4.13.9.tar.gz Authentication via htpasswd is enabled on this cluster. User admin with password Z.....six is cluster admin. 4. 先のステップで確認した URLをブラウザで開き adminでOpenShiftのGUIへログインする 5. GUIの画面表示を”開発者”をクリックして切り替える 6. 以下のウィンドウが開いた場合 ”ツアーをスキップ ”をクリックする
16. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 16
 7. 画面上部の”プロジェクト：すべてのプロジェクト ”から”showroom-<OpenShiftクラスタのGUID>-userX”(userXの部分はuser1やuser2などの具体的なユーザ名 )をクリックす る

17. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 17
 8. 左のメニューから ”トポロジー”をクリックする

18. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 18
 9. OpenShiftのアイコン(青い円のアイコン )をクリックし右に表示された　　　　　　　　　　のリンクをクリックする 

19. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 19
 10. 表示された画面で ”YAML”タブをクリックする 

20. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 20
 11. 以下の箇所(spec->template->spec->containers->envのGIT_REPO_URLとGIT_REPO_REFのvalue: 部分)を編集する
 a. 編集前 
 
 
 
 
 
 b. 編集後 - name: GIT_REPO_URL
 value: ‘ https://github.com/RH-OPEN/parasol-insurance.git’
 - name: GIT_REPO_REF
 value: translation-jp
 
 

21. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 21
 12. 編集後にウィンドウ下部の ”保存”をクリックする
 a. 通常は保存に伴い Podが再起動されるが、もし Podの再起動がかからない場合には ”アクション”のドロップダウンから ”ロールアウトの再開 ”をクリックする。
22. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 22
 13. 左のメニューの“トポロジー”をクリックし青い丸のアイコンの右上の矢印をクリックする 

23. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 23
 14. 以下の日本語化されたガイドが表示されることを確認する 

24. Version number here V00000 24 ハンズオンの進め方
25. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境へのアクセス 
 25
 Email: <皆さんのメールアドレスをIDとして使用> Workshop Password: rhoai-ws
26. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオンの進め方 
 26
 ガイドに説明はありますが、各章で実施する内容について簡単に講師から説明し、その後に皆さん自身で進めて いただきます。 各環境は専用の環境です。まずはみなさんガイドに則って進めていただき、その後試行錯誤などお試しいただけ たらと思います。もし外部接続ディスプレイをお使いでしたら、マルチ画面の方が進めやすいかと思います。
27. Version number here V00000 休憩 13:55-14:05
28. Version number here V00000 28 ハンズオンコンテンツ
29. Version number here V00000 Copyright@2023, Red Hat K.K. 1章
 29
 ハンズオンの背景となる、架空の保険会社の状況が説明されています。この章には作業はありませんが、ハンズ オンで何をどういった目的で実行するかに関してを理解するために必要な説明がありますので、ご一読ください。
30. Version number here V00000 Copyright@2023, Red Hat K.K. 2章
 30
 ハンズオンを実施するOpenShiftクラスタの情報を確認し、ハンズオンを実行するための環境である”データ サイ エンス プロジェクト”(およびそこに含まれるPipeline Server、Workbench)を確認(本日のワークショップでは、事 前に構築されたプロジェクト環境を使用します。)し、その後環境に問題がないかValidationを実行します。
 
 後の章でOpenShiftのログイン情報が必要になったら、2章の1節(2.1 Getting connected)に記載がありますの で、そちらに戻ってご確認ください。
 
 2.3節に、以降で実施する Jupyterの内容を日本語化するための手順を紹介しています。 内容が英語でも問題 ない場合には、飛ばしていただいて問題ありません。なお、LLMやアプリケーションで扱うデータは英語なので、そ の点ご承知おき下さい。
 
 2.4節では、Jupyterの使い方について説明があります。こちらはすでに内容ご存知の方は飛ばしていただいて問 題ありません。
 
 

31. Version number here V00000 Copyright@2023, Red Hat K.K. コンポーネントの構成と対応付 
 31

32. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境の紹介 
 32
 OpenShiftバージョン：4.18.12
 OpenShift AIバージョン： 2.19.2
 https://access.redhat.com/support/policy/updates/rhoai-sm/lifecycle

33. Version number here V00000 Copyright@2023, Red Hat K.K. 3章
 33
 この章では、生成AIを使ってどのように元の文章から情報を要約・抽出するかについて学びます。実施内容は Jupyterノートブックに記載がありますので、その記載内容を読みながらハンズオンを進めてください。
 具体的にはPython を使用して、API を介して直接 LLM に接続(LangChainと言うツールを使用)し、クエリを実行 します。このラボでは、Granite-3.1-8B-Instruct(https://huggingface.co/RedHatAI/granite-3.1-8b-instruct) を使用します。このモデルは既にラボ クラスター(OpenShift上)にデプロイされています。
 1. 基本的なLangChainの設定方法・使用方法について確認します。
 2. 生成AIを用いて文章のサマリーを応答する例を確認します。
 3. 生成AIを用いて文章から必要な情報を抽出する例を確認します。
 4. 異なる生成AIのモデルについて、動作を比較します。
 5. RAGを用いて回答を改善する方法を確認します。
 6. モデルをテストする信頼性確認パイプラインを作成します。
 

34. Version number here V00000 ハンズオン 3章まで 実施中 〜14:55まで 休憩後の次のセクションの説明：15:05〜

35. Version number here V00000 休憩 14:55-15:05
36. Version number here V00000 Copyright@2023, Red Hat K.K. 4章
 36
 この章では、画像認識用のAIモデル(Yolov8)を用いて、画像から車を抽出できるか？と言う点に関して確認を進 めます。3章と同様に、Jupyterノートブックでの作業が中心の手順です。
 
 1. YOLOモデルの使い方について確認します。
 2. (Optional)認識された車が画像中のどこに当たるのか、表示する方法を確認します。
 3. (Optional)目的に合わせたモデルの再トレーニング方法について確認します。(実際のトレーニングは実施し ません)
 4. (Optional)再トレーニングされたモデルを使って事故画像の判定をする方法について確認します。
 5. OpenShift AIのServingの機能を用いてモデルをデプロイし、Jupyterノートブックを使ってそのモデルの機 能を使用する方法を確認します。モデルのデプロイは、負荷状況によっては３から5分ほどかかることがあり ます。

37. Version number here V00000 ハンズオン 4章 実施中 〜15:55まで 次のセクションの説明：16:05〜

38. Version number here V00000 Copyright@2023, Red Hat K.K. 5章
 38
 この章では、AIモデルをどのようにアプリケーションに組み込むかについて確認します。
 
 1. アプリケーションのアーキテクチャを確認し、ワークベンチの設定変更(Jupyter→VSCode)について確認しま す。このVSCodeは後の5のパイプライン実行時に使います。
 2. (無し)
 3. ArgoCDを用いてアプリケーションをデプロイする方法について確認します。
 4. 元のアプリケーションと改善版プロトタイプのアプリケーションを比較します。
 5. 未処理のクレームをパイプラインを実行することにより処理する手順を確認します。このパイプラインの実行 には中間ファイルと結果を格納するための永続的なボリューム(PV)が必要となりますが、事前に作成され、 Data Science Projectに定義されているので確認します。その後にパイプラインを作成し、実行します。

39. Version number here V00000 39 apiVersion: argoproj.io/v1alpha1 kind: Application metadata: name: claim-insurance-app-{user} spec: destination: server: https://kubernetes.default.svc namespace: {user} project: project-{user} source: path: lab-materials/05/app/overlays/main repoURL: https://github.com/rh-aiservices-bu/parasol-insurance.git targetRevision: main syncPolicy: automated: prune: true selfHeal: false syncOptions: [CreateNamespace=false] 05-02 ArgoCDでアプリケーションの展開
40. Version number here V00000 ハンズオン実施中 〜16:35まで Data Science Projectの作成の紹介：16:35〜

41. Version number here V00000 41 ハンズオン環境
42. Version number here V00000 試行錯誤の場。 Jupyterだったり、 VSCodeだったりの コンテナイメージ。 カスタマイズも可 能。 OpenShift AIの概念 42 Data Science Project DS Project DS Project Workbench Clustered Storage Data Connection Model Pipeline Workbenchの状態を 保存するためのスト レージ。 作ったモデルや学習 データを保存しておく ストレージ。
43. Version number here V00000 linkedin.com/company/red-hat youtube.com/user/RedHatVideos facebook.com/redhatinc twitter.com/RedHat 43 Red Hat is the world’s leading provider of enterprise open source software solutions. Award-winning support, training, and consulting services make Red Hat a trusted adviser to the Fortune 500. Thank you