OpenShift_AIワークショップ_トレーニングとハンズオン.pdf

Transcript

1. Version number here V00000 1 トレーニングとハンズオン OpenShift AI ワークショップ
2. Version number here V00000 2 Red Hat パートナーアカウント
3. Version number here V00000 レッドハットサイト全体イメージ (All Red Hat) redhat.com access.redhat.com developers.redhat.com connect.redhat.com 3
4. Version number here V00000 Red Hat Partner Connect • レッドハットがグローバルで共通に提供しているパー トナー様向けのポータルサイト • テクノロジーパートナー とビジネスパートナー の２つ のサイトを用意（ログインが別） • テクノロジーパートナー向け ◦ 認定のための情報 ◦ 認定プロセス実行 ◦ サポート問合せ • ビジネスパートナー向け ◦ トレーニング ：Partner Training Portal ◦ 共有資料：Content Center ◦ デモ環境 ：Red Hat Demo Platform 4 https://partnercenter.redhat.com/
5. Version number here V00000 Product Demo System Red Hat Partner Connect サイトコンテンツ https://connect.redhat.com/ Red Hat Partner Connect Partner Dashboard ・パートナー向けサイト ・パートナータイプ別ログイン （テクノロジーパートナーは認定、ビ ジネスパートナーは各コンテンツを 利用） ・ダッシュボード - Partner Training Portal - Partner Content Center - Red Hat Product Demo System - Etc.. Content Center Partner Training Portal 5
6. Version number here V00000 6 Red Hat Partner Connect アカウント作成 Partner Connectのコンテンツはパートナー企業に紐付いたレッドハットアカ ウントをご作成頂くことで利用可能です アカウント作成のガイドを下記ページで公開しておりますので、 こちらをご参照の上アカウントを作成ください https://rh-open.github.io/offering/register-partner-connect.html • 作成のプロセス内で、アカウントと企業の紐付けのためご所属企業の パートナータイプ のご指定が要求されます パートナータイプが不明な場合、Red Hatの担当営業までお問い合わせ 下さい
7. Version number here V00000 7 AI関連トレーニング
8. Version number here V00000 Copyright@2023, Red Hat K.K. OpenShift AIトレーニング 
 8
 自分のペースで学習できるオプションまたはカスタム配信として利用(モジュールの目安：3-4 時間) Red Hat OpenShift AI Administration (AI263) 受講者は、インストール、アップグ レード、管理、構成など、 OpenShift AI の管理に関する実践的な経験を 積むことができます。 Introduction to Red Hat OpenShift AI (AI262) Deploying Machine Learning Models with Red Hat OpenShift AI (AI265) 受講者は、 OpenShift AI に機械学 習モデルをデプロイして提供し、デ プロイされたモデルのトラブル シューティングを行います。 Creating Machine Learning Models with Red Hat OpenShift AI (AI264) 受講者は機械学習の基本的な概念 を学び、機械学習モデルを作成して トレーニングします。 Automation using Data Science Pipelines (AI266) 受講者は KubeFlow と Elyra パイプ ラインについて学び、実践的な経験 を積みます。 OpenShift AI Learning Journey 受講者は、 Red Hat OpenShift AIの 一般的なアーキテクチャと主な機能 について学び、いくつかの基本的な プロジェクトを作成します。 OpenShift AI Red Hat OpenShift AI での AI/ML アプ リケーションの開発とデプロイ 4 day instructor-led virtual training (AI267) 3 hour exam (EX267) 2024年秋から 日本語・講師 付きで提供!! (有償) パートナー企業の方は無 償でオンライン自習(講師 の説明動画＋ハンズオン など有り)可能(Partner Training Portal上で提供)
9. Version number here V00000 9 ハンズオン環境構築方法
10. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 10
 1. 以下のURLへアクセスする a. https://partner.demo.redhat.com/ 2. 以下の画面で”Red Hat partner? Log in here”をクリックする 3. 以下の画面でパートナー IDを用いてログインする
11. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 11
 4. 左側のCatalogをクリックし検索に ”insurance”と入力
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 5. 検索結果の”OpenShift AI showcasing Insurance Claims”をクリックする
 6. 開いたメニューの左上の ”Order”をクリックする

12. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 12
 7. 次のページで目的に応じてパラメータを設定し画面下部の ”Order”をクリック→環境の構築が完了するまで待つ (構築状況は左のメニューの ”Services”にて確認)
 a. 例１製品について学びたい場合のパラメータ設定　　　　　　　　　　　　　例２ ワークショップの練習の場合のパラメータ設定 

13. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 13
 以降では、ハンズオン環境構築後に実施する、ハンズオンガイド・コンテンツの日本語化の手順を示します。英語で実施したい場合は以降の手順は不要です。 
 1. 左のメニューの“Services”をクリックし”OpenShift AI showcasing Insurance Claims”へのリンクをクリックする 
 
 
 
 
 
 
 
 
 
 
 2. 開いた内容のタブの中から ”Details”をクリックする

14. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 14
 3. 以下のOpenShiftのGUIへのURL(“OpenShift Console: ”)とアクセス情報(“User admin …”)を確認する OpenShift Console: https://console-openshift-console.apps.cluster-cdxl4.sandbox1308.opentlc.com OpenShift API for command line 'oc' client: https://api.cluster-cdxl4.sandbox1308.opentlc.com:6443 Download oc client from http://mirror.openshift.com/pub/openshift-v4/clients/ocp/4.13.9/openshift-client-linux-4.13.9.tar.gz Authentication via htpasswd is enabled on this cluster. User admin with password Z.....six is cluster admin. 4. 先のステップで確認した URLをブラウザで開き adminでOpenShiftのGUIへログインする 5. GUIの画面表示を”開発者”をクリックして切り替える 6. 以下のウィンドウが開いた場合 ”ツアーをスキップ ”をクリックする
15. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 15
 7. 画面上部の”プロジェクト：すべてのプロジェクト ”から”showroom-<OpenShiftクラスタのGUID>-userX”(userXの部分はuser1やuser2などの具体的なユーザ名 )をクリックす る

16. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 16
 8. 左のメニューから ”トポロジー”をクリックする

17. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 17
 9. OpenShiftのアイコン(青い円のアイコン )をクリックし右に表示された　　　　　　　　　　のリンクをクリックする 

18. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 18
 10. 表示された画面で ”YAML”タブをクリックする 

19. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 19
 11. 以下の箇所(spec->template->spec->containers->envのGIT_REPO_URLとGIT_REPO_REFのvalue: 部分)を編集する
 a. 編集前 
 
 
 
 
 
 b. 編集後 - name: GIT_REPO_URL
 value: >-
 https://github.com/RH-OPEN/insurance-claim-processing-partners.git
 - name: GIT_REPO_REF
 value: translation
 
 

20. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 20
 12. 編集後にウィンドウ下部の ”保存”をクリックする
 a. 通常は保存に伴い Podが再起動されるが、もし Podの再起動がかからない場合には ”アクション”のドロップダウンから ”ロールアウトの再開 ”をクリックする。
21. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 21
 13. 左のメニューの“トポロジー”をクリックし青い丸のアイコンの右上の矢印をクリックする 

22. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境： Red Hat Demo Platform (Beta)
 22
 14. 以下の日本語化されたガイドが表示されることを確認する 

23. Version number here V00000 23 ハンズオンの進め方
24. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオンの進め方 
 24
 ガイドに説明はありますが、各章で実施する内容について簡単に講師から説明し、その後に皆さん自身で進めて いただきます。 各環境は専用の環境です。まずはみなさんガイドに則って進めていただき、その後試行錯誤などお試しいただけ たらと思います。もし外部接続ディスプレイをお使いでしたら、マルチ画面の方が進めやすいかと思います。
25. Version number here V00000 休憩 13:50-14:00
26. Version number here V00000 26 ハンズオンコンテンツ
27. Version number here V00000 Copyright@2023, Red Hat K.K. 1章
 27
 ハンズオンの背景となる、架空の保険会社の状況が説明されています。この章には作業はありませんが、ハンズ オンで何をどういった目的で実行するかに関してを理解するために必要な説明がありますので、ご一読ください。
28. Version number here V00000 Copyright@2023, Red Hat K.K. 2章
 28
 ハンズオンを実施するOpenShiftクラスタの情報を確認し、ハンズオンを稼働させるための”データ サイエンス プ ロジェクト”(およびPipeline Server、Workbench)を構築し、その後環境に問題がないかValidationを実行しま す。
 
 後の章でOpenShiftのログイン情報が必要になったら、2章の1節(2.1 Getting connected)に記載がありますの で、そちらに戻ってご確認ください。

29. Version number here V00000 Copyright@2023, Red Hat K.K. コンポーネントの構成と対応付 
 29

30. Version number here V00000 Copyright@2023, Red Hat K.K. Jupyterについて
 30
 本ワークショップでは、ガイドを参照、OpenShift AI GUI操作、Jupyterを使い分けながら進めます。
 []内が数字ではなく’*’表示の時はセルの処理中です。 次のステップで 何を実施する かの説明で す。 実行するコード です。 上記を実行し た結果の出力 です。
31. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン環境の紹介 
 31
 OpenShiftバージョン：4.13.9 (最新は4.16)
 OpenShift AIバージョン： 2.10.0
 
 https://access.redhat.com/support/policy/updates/rhoai-sm/lifecycle
 
 
 

32. Version number here V00000 Copyright@2023, Red Hat K.K. ハンズオン GUI環境について 
 32
 コンテンツ翻訳の都合上、GUI上のボタンなどを和訳した表現があります。適宜読み替えて進めてください。また、 バージョンの違いにより、コンテンツと実際の画面のレイアウトに差があります。

33. Version number here V00000 Copyright@2023, Red Hat K.K. 3章
 33
 この章では、生成AIを使ってどのように元の文章から情報を要約・抽出するかについて学びます。実施内容は Jupyterノートブックに記載がありますので、その記載内容を読みながらハンズオンを進めてください。
 具体的にはPython を使用して、API を介して直接 LLM に接続(LangChainと言うツールを使用)し、クエリを実行 します。このラボでは、OLLAMA Mistral-7B モデルを使用しています。(https://ollama.com/library/mistral)。 このモデルは既にラボ クラスター(OpenShift上)にデプロイされています。モデルをGPU ではなく CPU でホストし ているため、LLM サービスの速度はほどほどです。実行結果の表示に時間がかかる点をご了承ください。各節の 最後のセルを実行した後、完了を待たずに先に進め、後に表示される結果をご確認いただいても良いです。
 
 1. 基本的なLangChainの設定方法・使用方法について確認します。
 2. 生成AIを用いて文章のサマリーを応答する例を確認します。
 3. 生成AIを用いて文章から必要な情報を抽出する例を確認します。
 

34. Version number here V00000 ハンズオン実施中 〜14:50まで 次のセクションの説明：15:00〜

35. Version number here V00000 Copyright@2023, Red Hat K.K. 4章
 35
 この章では、画像認識用のAIモデル(Yolov8)を用いて、画像から車を抽出できるか？と言う点に関して確認を進 めます。3章と同様に、Jupyterノートブックでの作業が中心の手順です。
 
 1. YOLOモデルの使い方について確認します。
 2. 認識された車が画像中のどこに当たるのか、表示する方法を確認します。
 3. 目的に合わせたモデルの再トレーニング方法について確認します。(実際のトレーニングは実施しません)
 4. 再トレーニングされたモデルを使って事故画像の判定をする方法について確認します。
 5. OpenShift AIのServingの機能を用いてモデルをデプロイし、Jupyterノートブックを使ってそのモデルの機 能を使用する方法を確認します。モデルのデプロイは、負荷状況によっては３から5分ほどかかることがあり ます。

36. Version number here V00000 ハンズオン実施中 〜15:55まで 次のセクションの説明：16:05〜

37. Version number here V00000 Copyright@2023, Red Hat K.K. 5章
 37
 この章では、AIモデルをどのようにアプリケーションに組み込むかについて確認します。
 
 1. アプリケーションのアーキテクチャを確認し、ワークベンチの設定変更(Jupyter→VSCode)について確認しま す。このVSCodeは後の5のパイプライン実行時に使います。
 2. OpenShiftのGUIから使用できるTerminalを有効化します。
 3. ArgoCDを用いてアプリケーションをデプロイする方法について確認します。
 4. 元のアプリケーションと改善版プロトタイプのアプリケーションを比較します。
 5. 未処理のクレームをパイプラインを実行することにより処理する手順を確認します。このパイプラインの実行 には中間ファイルと結果を格納するための永続的なボリューム(PV)が必要となるので、まずボリューム要求 (PVC)を作成し、その後にパイプラインを作成します。

38. Version number here V00000 linkedin.com/company/red-hat youtube.com/user/RedHatVideos facebook.com/redhatinc twitter.com/RedHat 38 Red Hat is the world’s leading provider of enterprise open source software solutions. Award-winning support, training, and consulting services make Red Hat a trusted adviser to the Fortune 500. Thank you