Upgrade to Pro — share decks privately, control downloads, hide ads and more …

公平で説明可能なAI / IBM OpenScale

公平で説明可能なAI / IBM OpenScale

Aya Tokura

June 23, 2021
Tweet

More Decks by Aya Tokura

Other Decks in Technology

Transcript

  1. IBM Dojo!"#$%&'()*+,
    !"#$%&'%()*+,-
    ./012'34"5
    6789':/;79<'2='
    >? @
    2021/6/23

    View full-size slide

  2. !" #$%&'()*+,-'.
    !"#$%&'()*+,$-&..+''$#/0/1+,$23,.45(+.(6
    7 !"#$8+9+,/(+9$:+;+<)=+,$39;)./(+
    ABACDEFGA !"#$%&'()*+,-
    2

    View full-size slide

  3. タイムテーブル
    14:00-14:05
    (5min)
    オープニング
    資料ダウンロード、出席登録など
    14:05-15:20
    (75min)
    公平で説明可能なAI セッション
    1520:-15:30
    (10min)
    Q&A
    クロージング
    3

    View full-size slide

  4. 本イベントでは、
    IBM Cloud へのアクセスは上記URLから行ってください
    ibm.biz/BdfvRi
    • IBM Cloud ログイン
    アカウントをすでにお持ちの方は、
    こちらからログインしてください
    • IBM Cloud ライトアカウント作成
    アカウントをお持ちでない方は、
    ご登録をお願いします
    【本⽇のお願い】
    4

    View full-size slide

  5. 学習の⽬的とゴール
    ⽬的
    AIの公平性、説明性の必要性を理解した上で、
    Watson OpenScaleの概要を理解する
    ゴール
    Watson OpenScaleで何ができるかを実際に体験する
    このコースを学ぶ⽅の想定スキル
    機械学習の初⼼者レベルの知識がある⽅
    5

    View full-size slide

  6. ⽬次
    1. AIの課題とIBMの取り組み
    2. IBM Watson OpenScale ご紹介
    3. チュートリアルツアー体験
    4. おすすめ情報
    6

    View full-size slide

  7. 1. AIの課題
    AIの開発がいない
    実⾏環境の確経験がない
    データサイエンティスト保が難しい
    パフォーマンスが出せない
    精度が良いAIの開発が難しい
    AIがブラックボックスでよく分からない
    など
    代表的なAIの開発にまつわる課題
    7

    View full-size slide

  8. AIの判断、企業に説明責任?
    引⽤元: 2018/11/26 ⽇本経済新聞 電⼦版 https://www.nikkei.com/article/DGXMZO38186770W8A121C1MM8000/
    オンライン資料のみ
    8

    View full-size slide

  9. ⽇本政府が策定した「⼈間中⼼のAI社会原則」
    6) 公平性、説明責任及び透明性の原則
    「AI-Readyな社会」においては、AIの利⽤によって、⼈々が、その⼈の持つ背景に
    よって不当な差別を受けたり、⼈間の尊厳に照らして不当な扱いを受けたりすること
    がないように、公平性及び透明性のある意思決定とその結果に対する説明責任(アカ
    ウンタビリティ)が適切に確保されると共に、技術に対する信頼性(Trust)が担保され
    る必要がある。
    ・AIの設計思想の下において、⼈々がその⼈種、性別、国籍、年齢、政治的信念、宗
    教等の多様なバックグラウンドを理由に不当な差別をされることなく、全ての⼈々が
    公平に扱われなければならない。
    ・AIを利⽤しているという事実、AIに利⽤されるデータの取得⽅法や使⽤⽅法、AIの
    動作結果の適切性を担保する仕組みなど、⽤途や状況に応じた適切な説明が得られな
    ければならない。
    引用元:人間中心のAI社会原則
    https://www8.cao.go.jp/cstp/aigensoku.pdf
    今後、AIには公平性や説明性が
    求めらてくることが予想される
    9

    View full-size slide

  10. AIの信頼性につながるAIの説明性・公平性とは?
    10

    View full-size slide

  11. MNOPQRSQTPUV!" W*+XYF!"Z
    wz∆z«»
    … $´»À®Ã
    ÕŒœ–
    —“v”‘’÷/
    qr◊
    ±ÿb∫jL
    vŸ⁄€èD‹›fi/
    ±ÿb)ØL
    v‹flE‡·‹›fi/
    ‚„T‰L ‚„TÂL
    ʵ»<‚„ÁËÈÍ<ÂÑ/m?±ÿb∫jÑK%ÃÎ$¨Ï!<’Ì
    BÓ0ÂL‚„^ÉÔWW563^êÉjk∏π%HL<ÿ 11

    View full-size slide

  12. 説明性 (Explainability)
    想定シナリオ
    顧客に対する与信判断(融資を実施するかどうか)をする機械学習モデルを作ったとします。
    顧客 窓⼝担当者
    融資の申請を認められない
    という話だが、何が原因
    なのか︖︖︖︖
    当社の与信判断モデルは⾮常
    に精度が⾼いのですが、
    あいにくブラックボックスで
    理由はわからないのです…
    説明不可能なAI
    12

    View full-size slide

  13. 説明性(Explainability)
    顧客 窓⼝担当者
    融資の申請を認められない
    という話だが、何が原因
    なのか︖︖︖︖
    お客様の融資が却下された⼀番の
    理由は年収で、寄与度は60%です。
    次の理由は年齢で、寄与度は
    20%になります。
    前ページのようなやりとりが起きた場合、今回説明するWatson OpenScaleがあると
    このように説明が可能になります。
    説明可能なAI
    13

    View full-size slide

  14. AIの公平性
    14

    View full-size slide

  15. 「AIの公平性」の問題
    • 被告の再犯可能性を予測するAIシステム「Compas」
    • ⽶国で実際に本番利⽤されている機械学習モデル
    • 137問の質問への回答を⼊⼒に、再び犯罪を犯す危険性を10段階の点数
    として算出
    • 調査報道サイト「プロパブリカ」により、以下の調査結果が判明し
    ⼤きな社会問題となりました。
    出典: https://kaztaira.wordpress.com/2018/09/22/aiのバイアス問題、求められる「公平」とは何/
    偽陽性
    (再犯の疑いありの判定で
    実際には再犯なし)
    偽陰性
    (再犯の疑いなしの判定で
    実際には再犯あり)
    ⽩⼈ 23.5% 47.7%
    ⿊⼈ 44.9% 28.0%
    15

    View full-size slide

  16. アルゴリズムは公平か︖
    アルゴリズムは公平ではなく、作成者の意図やバイアスが紛れ込む
    l アルゴリズムは過去の⾏為や⾏動パターンを繰りかえし、⾃動的に現状を
    維持するだけ
    l 判定の最適化とは、過去データの特徴からセグメントを抽出した後に、
    判定対象を特定のセグメントに分類すること
    • セグメントの境界を決める重要な特徴データ以外の個々⼈の属性や
    事情は考慮されない
    l バイアスが紛れ込む要因の例
    • 過去のデータ(実績)の偏り
    • データの選択を⾏うのは⼈間
    • 有効かもしれないが存在しないデータ
    • 代理データを無意識に利⽤
    • 成功要因を恣意的に設定
    16

    View full-size slide

  17. IBMの取り組み (1)
    • 2017年 Corporate Responsibility Report
    最初の項⽬にTrust and transparencyがあり、AIに関する責任性に⾔及
    • 2018年9⽉21⽇「AI倫理のためのガイド」
    出典 https://www.ibm.com/blogs/think/jp-ja/everyday-ethics-for-artificial-intelligence/ 17

    View full-size slide

  18. IBMの取り組み (2)
    IBMでは以上の全社的な⽅針を受けて、次の2つの製品・サービスを提供
    Watson OpenScale
    Watson StudioやWatson Machine Learningと同じIBM Cloud上のサービス。
    ただし、他のサービスと異なり、他社AIも管理対象に含む。
    AI Fairness 360 / AI Explainability 360
    Python APIをOSSとして公開。
    ライブラリだけでなく、API Reference、チュートリアル、デモアプリなども
    ⼀般に利⽤可能。ユーザーは⾃分でPythonコーディングを⾏うことが前提。
    AIF360: http://aif360.mybluemix.net/
    AIX360: http://aix360.mybluemix.net/
    18

    View full-size slide

  19. OpenScaleとAIF360
    OpenScaleとAIF360/AIX360の⽬的・役割・対象などを整理すると
    次のようになります。
    Watson OpenScale AIF360/AIX360
    位置付け 商⽤製品/商⽤サービス オープンソース
    想定ユーザー 企業ユーザー
    データサイエンティスト
    研究者、開発者
    提供形態
    ICP, IBM Cloud、
    他社クラウド
    Pythonライブラリーとツールの
    集合
    利⽤フェーズ モデル実⾏/運⽤時 モデル開発時
    提供機能
    説明性 ○ ○ (AIX360)
    公平性 ○ ○ (AIF360)
    正確性(精度) ○ -
    19

    View full-size slide

  20. 2. IBM Watson OpenScale ご紹介
    https://www.ibm.com/jp-ja/cloud/watson-openscale 20

    View full-size slide

  21. Watson OpenScale
    ここで 3.チュートリアルツアー体験の事前準備
    「3.チュートリアルツアー体験」の3番まで準備する
    1. IBM Cloudへのログイン
    2. Watson OpenScaleサービスの作成・起動
    3. ⾃動セットアップの実施
    (10分前後の待ち時間)
    21

    View full-size slide

  22. http://ibm.biz/BdfvRiにアクセスしてログインしてください。
    すでに最初の出席登録でログイン済みの場合は、ログイン不要です。ログイン後の
    ダッシュボードが表⽰されている画⾯を表⽰させておいてください。
    • IBM Cloud ログイン
    アカウントをすでにお持ちの方は、
    こちらからログインしてください
    • IBM Cloud ライトアカウント作成
    アカウントをお持ちでない方は、
    ご登録をお願いします
    本イベント以外では
    https://cloud.ibm.com/login
    からログイン可能です
    1. IBM Cloudへのログイン
    22

    View full-size slide

  23. *"#Watson OpenScale+,-.%/0123
    äõgú ay2wùbZJxIJ]^
    23

    View full-size slide

  24. 2-2. 検索ボックスにWatson OpenScaleを⼊⼒し、
    「Watson OpenScale」を選択する
    24

    View full-size slide

  25. äõhú x1Ø∞6#≠Æa±H9bq≤≥vH6#≠ÆaH4:¥µ≤∂b&
    ≠Æ∑∏π'^∫ÜZ-ª=πaºΩbK26ZJxIJ]^
    25

    View full-size slide

  26. äõæú †°¢£§•¶ß®©•™´°¨©#{|#ø¿&¡¬∑∏àQq√#ƒ≈∆1PQ
    a«»bZJxIJ]^
    26

    View full-size slide

  27. äõ…ú a vxÀ1_∞6#ÃÕbK26ZJxIJ=π
    †°¢£§•¶ß®©•™´°¨©#±I_∆K1ŒZÃÕ]^
    27

    View full-size slide

  28. 4"5367897:%;<
    hõgú aœÕ–I: IvbZJxIJ]^
    1rs)SCtuTVG+W\vwxyRz{4|FG+:
    28

    View full-size slide

  29. hõäú —“”‘áL’÷
    hõhú¶a—“&”‘=á=à◊bÜ¡¬&ÿŸ⁄àQqa€‹á=›fib
    K26ZJxIJ]^
    ììMîïñó:òôd3ö
    29

    View full-size slide

  30. 2. IBM Watson OpenScale ご紹介
    https://www.ibm.com/jp-ja/cloud/watson-openscale 30

    View full-size slide

  31. Watson OpenScaleの特徴
    Watson OpenScaleのハイレベルな特徴として以下のことがあげられます。
    Open (オープン):
    代表的な機械学習・深層学習フレームワーク・他社AIサービス(MS Azureや
    Amazon Sagemaker)を管理対象とすることが可能
    Scale (拡張性):
    パブリック、プライベート、ハイブリッド・クラウド、どの環境でも提供可能
    Explainability (説明性):
    AIモデルの評価結果において、その判断理由を説明
    Fairness (公平性):
    AIモデルの導出した結果の公平性をチェックし、是正する
    31

    View full-size slide

  32. Watson OpenScaleの主要機能
    Payload Logging機能がベースの機能となっています。
    Payload Loggingを使って説明性(Explainability) と公平性(Fairness) を実現してい
    ます。
    それぞれの拡張機能としてContrastive ExplanationとBias mitigationがあります。
    それ以外にモニタリング機能や、ドリフト・モニタリング機能がなどがあります。
    Payload Logging
    説明性
    (Explainability)
    公平性
    (Fairness)
    Contrastive
    Explanation
    Bias mitigation ・Monitoring
    ・Performance
    ・Drift monitoring
    Watson OpenScale 主要機能
    32

    View full-size slide

  33. Watson OpenScale ダッシュボード
    Watson OpenScaleダッシュボードでは、画⾯左のメニュー選択で、
    画⾯を直感的に切り替えることができます。
    公平性 Sex
    を指定
    33

    View full-size slide

  34. Payload Logging
    Payload Loggingとは、管理対象の機械学習モデルに対する呼出し時の⼊⼒データ、
    出⼒結果をタイムスタンプとユニークID(scoring_id)とともにDBに⾃動的に記録
    する機能です。
    OpenScaleの主要機能である説明性と公正性は、Payload Loggingにより記録された
    データの分析を出発点に実現されています。
    34

    View full-size slide

  35. Payload Logging (Watson Machine Learningの場合)
    Watson ML上に登録されたモデルに対してPayload Loggingを⾏う場合は、
    OpenScale側で管理対象の指定をするだけで⾃動的に記録されます。
    この場合、アプリ側の改修は不要です。
    Watson Machine Learning
    deployment
    Application
    API Call
    OpenScale
    Payload 35

    View full-size slide

  36. Payload Logging (他社 Machine Learningの場合)
    MS AzureやAmazon Sagemakerなどの他社APIの場合は、アプリケーションは
    モデルのAPIを呼び出した後で、⼊⼒データとその結果を引数に、OpenScale側で
    ⽤意したPayload Logging APIを呼び出すようにします。
    他社 Machine Learning
    Application
    API Call
    OpenScale
    Payload
    Payload Logging API
    36

    View full-size slide

  37. 説明性 (Explainability)
    想定シナリオ
    顧客に対する与信判断(融資を実施するかどうか)をする機械学習モデルを作ったとします。
    顧客 窓⼝担当者
    融資の申請を認められない
    という話だが、何が原因
    なのか︖︖︖︖
    当社の与信判断モデルは⾮常
    に精度が⾼いのですが、
    あいにくブラックボックスで
    理由はわからないのです…
    説明不可能なAI
    37

    View full-size slide

  38. 説明性(Explainability)
    顧客 窓⼝担当者
    融資の申請を認められない
    という話だが、何が原因
    なのか︖︖︖︖
    お客様の融資が却下された⼀番の
    理由は年収で、寄与度は60%です。
    次の理由は年齢で、寄与度は
    20%になります。
    前ページのようなやりとりが起きた場合、今回説明するWatson OpenScaleがあると
    このように説明が可能になります。
    説明可能なAI
    38

    View full-size slide

  39. 説明性(Explainability)
    顧客 窓⼝担当者
    年収が⾜りないのはわかったが、
    いくらあればよかたのか︖
    お客様の場合、年収があと200万円
    あれば、当⾏でも融資できます。
    説明性の拡張機能 (Contrastive Explanation)
    説明性の拡張機能まで使うと、次のような突っ込んだやりとりにも対応可能です。
    39

    View full-size slide

  40. 説明性(Explainability)
    Explainability(説明性)とは、機械学習モデルが特定のトランサクションに対して
    なぜその結論に達したかの説明を⼊⼒項⽬ごとの寄与率で⽰す機能です。
    Positiveな要因の項⽬別寄与度
    -> OpenScaleの分析結果
    Negativeな要因の項⽬別寄与度
    -> OpenScaleの分析結果
    最終的な機械学習モデルの結論と確信度
    -> モデルからわかる情報
    40

    View full-size slide

  41. 説明性(Explainability)
    説明性(Explainability)機能の実現⽅法
    LIME(Local Interpretable Model-agnostic Explanations)という⽅法をベースにしています。
    ・特定の機械学習の結果を解析したい場合、その近傍の⼊⼒データで出⼒がどうなるかを調べます。
    ・集まったデータを使って、モデルを局所的に近似する簡易モデルを作ります。
    ・簡易モデルは構造が簡単なため、寄与度を求めることが可能です。
    このアプローチであれば、対象が深層学習モデルのような複雑なモデルでも解析可能になります。
    出典: https://arxiv.org/abs/1602.04938
    ⼊⼒変数1の値
    ⼊⼒変数2の値
    ① 調査対象のトランザクション
    ② 調査対象の近傍値での予測結果を調べる
    ③ 境界線(正確にはN-1次元超平⾯)の垂線を求める
    41

    View full-size slide

  42. 説明性の拡張機能 (Contrastive Explanation)
    定型データが⼊⼒のモデルの場合、Explainabilityの画⾯上部にはIBM独⾃の
    拡張機能であるContrastive Explanationによる結果が出⼒されています。
    ⼊⼒値がいくつだったら判
    断結果が変わっていたか。
    判断結果が今と同じになる
    ぎりぎりの値。
    42

    View full-size slide

  43. 公平性 バイアス検知
    OpenScaleを利⽤した公平性バイアス検知の利⽤シナリオは、以下のとおりです。
    この中で特に重要なのは「監視対象項⽬の決定」で、会社のポリシーなどに
    基づき、⼈間が決定します。OpenScaleは、決められたポリシーが守られて
    いるかを監視する役割を持ちます。
    監視対象モデルの決定
    監視対象項⽬の決定
    (例 性別、⼈種、年収etc)
    OpenScaleでの設定
    公正性閾値の決定
    OpenScaleでの
    モニタリング
    アラート通知
    43

    View full-size slide

  44. 公平性 バイアス検知
    ダッシュボードから、時系列でバイアスの変化が確認できます。
    スコアが閾値を下回るとアラートが表⽰されます。
    閾値
    (事前設定する)
    アラート表⽰
    グラフ上をクリック
    すると詳細表⽰画⾯
    44

    View full-size slide

  45. 公平性 バイアス検知の⽅法
    perturbation
    analysis
    ⼊⼒データの
    バリエーションを増やす
    監視対象
    モデル
    Payloadだけではデータが不⾜している場合、OpenScaleは⼊⼒データの
    バリエーションを増やし(perturbation analysis)、それぞれの結果を⾒ることで、
    バイアスの有無を検知します。
    payloadから
    取得した記録
    増やしたデータに関して、
    モデルを呼び出し結果を
    調べる
    結果を統計的に処理
    してバイアスの有無
    を判断
    45

    View full-size slide

  46. 公平性 バイアス検知の⽅法
    摂動データも加えた後に、モデルの判断結果の偏りが事前設定した閾値を超えた
    場合、バイアスがあるとOpenScaleは判断します。
    オリジナルの記録データ(ペイロード) 公平性確認のため⽔増しデータ(摂動)を加えた結果
    「バイアスあり」の
    表⽰
    46

    View full-size slide

  47. 公平性(Fairness) 緩和機能
    OpenScaleはバイアスのチェックを⾏うだけでなく、⾃動的にバイアスを緩和する機能を持って
    います。ラジオボタンを「バイアス緩和済み」に切り替えると、緩和モデルであればどのような
    出⼒になっていたかの状況を表⽰できます。
    47

    View full-size slide

  48. 公平性(Fairness) 設定⼿順
    設定⼿順は、説明性の時同様に簡単で、機械学習モデルに関する知識は不要です。
    ただし、どの項⽬を公平性の対象にするかはユーザーが指定する必要があります。
    ⼊⼒(設定項⽬)
    ・モニタ対象属性 (例 性別)
    ・有利なグループ (例 男性)、不利なグループ (例 ⼥性)
    ・⽬的変数 (例 融資リスク有無)
    ・有利な結果 (例 リスクなし)
    ・不利な結果 (例 リスクあり)
    48

    View full-size slide

  49. 説明性・公平性 サポート対象モデル
    説明性と公平性は、管理対象がどのような種類のモデルかにより、対応の有無が
    異なります。現在のサポート状況を整理すると、下の表のようになります。
    モデル種別 対象データ 説明性 公平性 公平性緩和 精度
    分類 構造データ Yes Yes Yes ※ Yes
    回帰 構造データ Yes Yes No Yes
    分類 テキスト Yes No No No
    分類 イメージ Yes No No No
    ※ モデルが確率値を返すタイプのものである必要があります。
    49

    View full-size slide

  50. 説明性・公平性 サポート対象フレームワーク
    説明性・公平性は、フレームワークによってもサポートの有無が違ってきます。
    最新の状況については、下記リンク先を参照してください。
    Watson Machine Learning
    Azure
    ML Studio
    AWS
    SageMaker
    Custom/Python
    function
    分類 構造データ
    Apache Spark Mllib
    Python function
    XGBoost
    scikit-learn
    Native Native WMLと同じ
    回帰 構造データ
    Python function
    XGBoost
    scikit-learn
    n/a n/a n/a
    分類 テキスト Keras with TensorFlow(※1) n/a n/a n/a
    分類 イメージ Keras with TensorFlow(※1) n/a n/a n/a
    参照: https://cloud.ibm.com/docs/services/ai-openscale?topic=ai-openscale-frmwrks-wml&locale=ja
    50

    View full-size slide

  51. 3. チュートリアルツアー体験
    ⾃動セットアップについて
    ⾃動セットアップはデモ⽤のセットアップ(設定、デモデータのロード等)を
    ⾃動で⾏い、実際にWatson OpenScaleで何ができるのかを体験することが
    できます。
    以下の順序で実施します。
    1. IBM Cloudへのログイン
    2. Watson OpenScaleサービスの作成・起動
    3. ⾃動セットアップの実施(待ち時間約10分)
    4. Watson OpenScaleを体験(モデル・モニターでのインサイト表⽰)
    ※2020年12⽉2⽇現在、画⾯は⽇本語化されています
    51

    View full-size slide

  52. æõgú¶ †°¢£§•¶ß®©•™´°¨©¶±I_∆K1Œ#fl 1&$€∑∏^#L
    ‡·l‚K26ZJxIJ=(&Q„‰ÂÊÁ‹^
    !ÁÎÏÓ&
    ,KL2MNO
    Ôå}Ü%‡~ç%ÒÖåáçMJ;ÚÛ;Ùı;ˆ˜;
    ¯˘«™,˙˚,¸4˝˛:SqrRm
    52

    View full-size slide

  53. æõäú¶ „‰ZÂÊÁ‹a·lbK26ZJxIJ]^
    !ÁÎÏÓ&
    PQRSMTU28
    ÚÛˇW≠!Y«"MJ;G#» ´$y”5ö
    GHI:òôd3rRm
    !ÁÎÏÓ&
    RSMTU28VWG
    %ˇW≠!Y«"M&'(Y»´/)*Rö6
    GHI,G#» ´$/ˆ˜y”GHI/
    ˇW≠!Y«"M&'Q§rRm
    53

    View full-size slide

  54. æõhú¶ „‰ZÂÊÁ‹a·#fl 1bK26&¡¬∑∏àQJxIJ]^
    !ÁÎÏÓ&
    X1-YXZ32
    +G#» ´$®©GHIJ;ˇW≠!Y«"M
    »⁄I6y”òôd3rRmGHI,»⁄I/
    X WXRö6;G#» ´$,-.:/§rRm
    !ÁÎÏÓ&
    X1-[\
    +GHI,»⁄IQ;0¡1;23;_û’
    " 4™,ËÈ,56/òôyrRmy§5≤
    78,Sö56MJ;9:M;:<§rRm
    54

    View full-size slide

  55. æõæú¶36vËLÈÍ∑∏π'^aÎÈx9JÏ0Ë ¥ÌÓ©Ô¢¶Ò£Ú¶Û§Ô©¨∂¶b
    #_ÙxıÜÏ0Ë#ˆ˜#¯˘Z‡·l‚áà˙‡˚©¸¢‚ K26Z
    JxIJ=π-ª]^
    55

    View full-size slide

  56. {∫yx誺ÖΩJOPæø¿Ö7/JªºÖΩ
    "!"#$%&'()*+,-
    ./0123456(789/
    :;<=/>?@%ABCDE
    FG?HIJKLAM N%"
    OP?QR(7/PS?TUB
    #VE6WX$(7/YZ[\
    ]DE^,_/`ab?cdA
    Befb?fghiZLZ#"
    ≠= >/Ω0ye2?n@AreJ?æçB}AY»´/X WX
    56

    View full-size slide

  57. {∫¡x誺ÖΩJOPæø¿Ö7/JªºÖΩ
    “jklDmnl
    op*EqrZJ6st5u
    v"wx?efby89ZJ
    KBz{|z?}~AB/E
    Watson OpenScale y{/
    |EÄÅÇz?ÉÑZJRÖ
    ÜKM "
    CD/Ω0ye2?E1ryF7AreJ?Gç}H‡àÜAY»´/X WX
    57

    View full-size slide

  58. {∫|xè ¬√:9Ö'ƒ≈∆KLM.7ÑJ«» …¢≠y v≠yÀ
    „‰ZÂÊÁ‹a·lbK26ZJxIJ]^
    !ÁÎÏÓ&
    ]^._`
    IJ,KLͬMJ;MN,IJ
    ?2,OZ™µ∂:òôd3rRm
    !ÁÎÏÓ&
    :;56PX≠Æ´MJIJ,µ∂:òôd3rRm0¡1J;
    GHI:$I«QRQSry5µ∂/T39UVWMzR
    ?/ôyrRm
    58

    View full-size slide

  59. {∫xè ÃÕ.7у≈∆ŒÖœÑ.7ÑJ«» …w≠y {≠yÀ
    „‰ZÂÊÁ‹a·lbK26ZJxIJ]^
    !ÁÎÏÓ&
    deabc
    23J;4X«"…WX,H«»6‘ù3ö
    VYI<§OZ™,H«»MZ[5”ºy5
    µ∂/zRGHI,\∆/òyrRm m
    !ÁÎÏÓ&
    8*fcabc
    " 4™Jº]^reJH«»,_†1,`cM
    ˚5”abyrRm
    59

    View full-size slide

  60. {∫~xè KLMJ¬√J«» …y≠yÀ
    „‰ZÂÊÁ‹a·#fl 1bK26ZJxIJ]^
    !ÁÎÏÓ&
    56≤/X WXRö6;µ∂,-.:òôd3rRmnM;
    0¡1G#»«/c”dryF7m
    60

    View full-size slide

  61. {∫¢Äxè KLM–—8ÖéçJ«» …¢≠y v≠yÀ
    „‰ZÂÊÁ‹a·lbK26ZJxIJ]^
    61

    View full-size slide

  62. {∫¢¢xè KLM7“#J«» …w≠yÀ
    „‰ZÂÊÁ‹a·lbK26ZJxIJ]^
    62

    View full-size slide

  63. {∫¢vxè KLM7“#J®©”‘’J«» …{≠yÀ
    „‰ZÂÊÁ‹a·lbK26ZJxIJ]^
    63

    View full-size slide

  64. {∫¢wxè KLM7“#J®©”‘’J«» …y≠yÀ
    „‰ZÂÊÁ‹a·#fl 1bK26ZJxIJ]^
    64

    View full-size slide

  65. {∫¢{xè Ñ÷é◊/ªÿémnoYKLMJ«» …¢≠|Àè
    ˝˛ˇ012!–I:
    65

    View full-size slide

  66. {∫¢yxè Ñ÷é◊/ªÿémnoYKLMJ«» …v≠|Àè
    "#Y9$
    66

    View full-size slide

  67. {∫¢¡xè Ñ÷é◊/ªÿémnoYKLMJ«» …w≠|Àè
    %4w1Œ!012!–I:
    67

    View full-size slide

  68. {∫¢|xè Ñ÷é◊/ªÿémnoYKLMJ«» …{≠|Àè
    &'012!–I:
    68

    View full-size slide

  69. {∫¢xè Ñ÷é◊/ªÿémnoYKLMJ«» …y≠|Àè
    (4 9)*+Ê#012!–I:
    69

    View full-size slide

  70. {∫¢~xè Ñ÷é◊/ªÿémnoYKLMJ«» …¡≠|Àè
    "#Y#,-
    70

    View full-size slide

  71. {∫vÄxè Ñ÷é◊/ªÿémnoYKLMJ«» …|≠|Àè
    :H6.J_∞6#¡¬
    ‡·#fl 1‚ZJxIJ=π·fÁ/
    71

    View full-size slide

  72. {∫v¢xè ¬√Ÿ⁄Ñ÷é◊/ªÿéJ«» …¢≠{Àè
    ˆ˜+Ê:H6.J_∞6#¡¬
    72

    View full-size slide

  73. {∫vvxè ¬√Ÿ⁄Ñ÷é◊/ªÿéJ«» …v≠{Àè
    ùË1v!(4 9
    73

    View full-size slide

  74. {∫vwxè ¬√Ÿ⁄Ñ÷é◊/ªÿéJ«» …w≠{Àè
    01#(4 9
    74

    View full-size slide

  75. {∫v{xè ¬√Ÿ⁄Ñ÷é◊/ªÿéJ«» …{≠{Àè
    :H6.J_∞6#‰Ä
    75

    View full-size slide

  76. {∫vyxè Ñ÷é◊/ªÿéJ€‹«» …¢≠yÀè
    Ï0Ë}~#‰Ä
    76

    View full-size slide

  77. {∫v¡xè Ñ÷é◊/ªÿéJ€‹«» …v≠yÀè
    ç234(567
    77

    View full-size slide

  78. {∫v|xè Ñ÷é◊/ªÿéJ€‹«» …w≠yÀè
    Ï0ËÕº#ûs
    78

    View full-size slide

  79. {∫vxè Ñ÷é◊/ªÿéJ€‹«» …{≠yÀè
    8#}~f(^
    79

    View full-size slide

  80. {∫v~xè Ñ÷é◊/ªÿéJ€‹«» …y≠yÀè
    9#:#_Ùxı#;ü
    ‡·#fl 1‚K26ZJxIJ=π·fÁ/
    80

    View full-size slide

  81. {∫wÄxè ŒÖœÑ%–—8Öéç …¢≠¡À
    Œx?:!Ï≈21
    81

    View full-size slide

  82. {∫w¢xè ŒÖœÑ%–—8Öéç …v≠¡À
    <„=#>|
    82

    View full-size slide

  83. {∫w¢xè ŒÖœÑ%–—8Öéç …w≠¡À
    <„=#?@AÿB
    83

    View full-size slide

  84. {∫w¢xè ŒÖœÑ%–—8Öéç …{≠¡À
    3C1:DE
    84

    View full-size slide

  85. {∫wvxè ŒÖœÑ%–—8Öéç …y≠¡À
    012FGY#>|
    85

    View full-size slide

  86. {∫wwxè ŒÖœÑ%–—8Öéç …¡≠¡À
    ¯˘Z¡¬
    ‡·#fl 1‚K26ZJxIJ=π·fÁ/
    86

    View full-size slide

  87. {∫w{xè ŒÖœÑ …¢≠vÀ
    :H6.J_∞6HG
    87

    View full-size slide

  88. {∫wyxè ŒÖœÑ …v≠vÀ
    IJÜ(⁄π'^567
    ‡·#fl 1‚K26ZJxIJ=π·fÁ/
    88

    View full-size slide

  89. {∫w¡xè Ñ÷é◊/ªÿé …¢≠vÀ
    :H6.J_∞6!x9:
    89

    View full-size slide

  90. {∫w|xè Ñ÷é◊/ªÿé …v≠vÀ
    ›fiSfl‡
    ·‚„‰Â8éY‚„[\Ê
    90

    View full-size slide

  91. 実際にモデルを登録してWatson OpenScaleを使うには
    実際にモデルを登録してWatson OpenScaleを使うには、pythonでSDKを使って
    コードを書き、実⾏して設定を⾏うことが通常必要です。
    • Watson Machine Learningのモデルを使う場合は、モデル登録にpythonでの
    登録が必要です。
    • AutoMLなど他社のモデルを使う場合は、ペイロードロギング等に通常は
    何かしらのコードの実⾏が必要です。
    • もちろん⼀部はGUIで実施可能です。
    91

    View full-size slide

  92. Watson OpenScale Python SDK チュートリアル (上級)
    下記のタスクを実⾏する⽅法を学習できるコンテンツです。
    • Python ノートブックを実⾏して機械学習モデルを作成、トレーニング、
    およびデプロイする
    • データマートを作成し、パフォーマンス、正確度、公平性のモニターを
    構成し、モニター対象のデータを作成する
    • Watson OpenScale の「インサイト」タブで結果を表⽰する
    https://cloud.ibm.com/docs/ai-openscale?topic=ai-openscale-crt-ov
    92

    View full-size slide

  93. Microsoft Azure ML × Watson OpenScale 学習資料
    Watson OpenScale を利⽤して Azure での機械学習を
    モニタリングする (Code Patterns)
    Microsoft Azure で機械学習モデルを作成し、Watson OpenScale を利⽤して
    ペイロードのロギングとモデルの公正さをモニタリングする⽅法について紹介
    https://developer.ibm.com/jp/patterns/monitor-azure-machine-learning-studio-models-with-ai-openscale/
    https://developer.ibm.com/jp/patterns/monitor-azure-machine-learning-studio-models-with-ai-openscale/
    GitHub IBM/monitor-azure-ml-with-watson-openscale
    93

    View full-size slide

  94. AWS SageMaker × Watson OpenScale 学習資料
    Watson OpenScale を利⽤して SageMaker での機械学習を
    モニタリングする (Code Patterns)
    AWS SageMakerで機械学習モデルを作成し、Watson OpenScale を利⽤して
    ペイロードのロギングとモデルの公正さをモニタリングする⽅法について紹介
    https://developer.ibm.com/jp/patterns/monitor-amazon-sagemaker-machine-learning-models-with-ai-openscale/
    https://github.com/IBM/monitor-sagemaker-ml-with-watson-openscale
    GitHub IBM/monitor-sagemaker-ml-with-watson-openscale
    94

    View full-size slide

  95. "“'7YôöVWÖÛ'7SÙı[\sˆ
    wÈ ÍÎÏgÄmeÌÓÔ∞#ΩPÒ)Ú®´ß+,
    îÈ Û%ÙP≠R|vıRÛ+ˆt»…ı4˜¯+,
    ˘È ÛkjÅÉÇljıRŸ˙˚4±%∞±Ft¸˝4˛ˇ+,
    !È B"fi√DîÿR–P#≠$R%&R'(4±%∞±FÛ)*ı4˜¯+,
    +–P#≠$©,()uT,D-\5.R/04123¥åfiªH
    ! abcdefghijfklbmjgÖÖÖ
    ! 45m6ÖÖÖ
    95

    View full-size slide

  96. I≤˜èÚòDF≥c¯[\œ˘'Œ˙û/˚¸˝Jƒ˛∏
    ÍÎÏgÄmeÌÓÔ∞#ΩPÒ77Û8ÑÑ9Î:Ä;ıΩ¶ß4±%∞±FtªDå¥oEÜ
    1<=\>?|@4ÃAPÒ™∞±FtªDå¥oEWpqÜ+H
    96

    View full-size slide

  97. まとめ
    • AIの実⽤化には、「公平性」や「説明性」が
    重要な課題となってきている
    • 「IBM Watson OpenScale」は、AIの公平性の分析、
    不公平なバイアスの軽減、説明性の実現が可能である
    97

    View full-size slide

  98. #é-'Ñ
    ./01
    ¨ßBP“RCDª
    ÄÌdce5jÅgkÌlljddgÏbfbEjÅgFGH
    IccidJÂÂÇK5ÈKÇLÂld5Mbibf
    IccidJÂÂ444ÈdmÇÈÓeÂ
    NÓeMexOî˘i5
    98

    View full-size slide

  99. 免責事項
    IBM Developer Dojoは開発者の⽅を対象に、IBM Cloudを主とした技術情報をお伝えする⽬的で開催しています。
    講師や運営スタッフにより、開催毎に最適と判断した内容でお届けしています。
    現在、ハンズオンを伴う講義はお客様の費⽤負担がない環境と⼿順でご案内しています。講義終了後、不要に
    なりました制作物はお客様ご⾃⾝で削除をお願いいたします。クレジットカードの登録が伴わない場合、費⽤は
    ⼀切発⽣致しませんが、ご登録いただいたお客様はご注意ください。
    講師陣はみなさまの利⽤状況を個別に確認することはできません。
    ご理解とご協⼒をお願いいたします。
    利⽤したサービスの削除⽅法については講義の中でご案内します。
    ご不明な点がございましたら、当⽇確認をお願いいたします。
    講義終了後、 IBM Developer Dojoに関するお問い合わせは「Slack」にお願いします。それ以外のIBM Cloud
    のお問い合わせにつきましては、弊社サポートセンターまで、次のいづれかの⽅法でお問い合わせください。
    IBM Cloudダッシュボードの「サポート」メニューから「Case」を作成し、英語でご記⼊ください
    IBM Cloudサポートセンター「相談する」ボタンからチャットまたは電話でご連絡ください
    https://www.ibm.com/jp-ja/cloud/support
    ご参加ありがとうございました。
    99

    View full-size slide