公平性を保証したAI/機械学習 アルゴリズムの最新理論

ެฏੑʹ഑ֶྀͨ͠शͱͦͷ  ཧ࿦త՝୊ *#*4 اըηογϣϯֶशཧ࿦ ෱஍ɹҰే ཧݚ"*1 LB[VUPGVLVDIJ!SJLFOKQ 1

֓ཁ ػցֶशʹ͓͚Δެฏੑ 'BJSOFTT w ެฏੑ͕஫໨͞Ε͍ͯΔ !2 '"5.- ެฏੑͷϫʔΫγϣοϓ JO/*14
*$.- ,%% "$.'"5 ެ ฏ ੑ ͷ ࠃ ࡍ ձ ٞ *OWJUFEUBMLT w*$.- -4XFFOFZ w/*14 ,$SBXGPSE w,%% $%XPSL w,%% +.8JOH

֓ཁ w ຊߨԋͷ಺༰ w ެฏੑʹ·ͭΘΔٙ໰ w ໰୊ ެฏੑͱ͸ʁ w ՝୊
Կ͕Ͱ͖Δͱخ͍͠ͷ͔ʁ w ಛʹཧ࿦తղੳʹ͓͚Δ՝୊Λத৺ʹ঺հ !3

໨࣍ w ެฏੑͱ͸ w ެฏੑͷݪҼͱެฏੑఆٛ w ूஂެฏੑ w ूஂެฏੑͷཧ࿦త՝୊
w ݸਓެฏੑ w ݸਓެฏੑͷཧ࿦త՝୊ w ࠷ۙͷల։ͱͦͷཧ࿦త՝୊ !4

ެฏੑ 'BJSOFTT w ػցֶश͕ҙࢥܾఆʹ༻͍ΒΕ͍ͯΔ w ҙࢥܾఆ͕ࠩผΛੜΉՄೳੑ͕͋Δ !5 ࠾༻ ৴༻είΞ ೖࢼ
อݥྉ཰ ݸਓ உੑ ঁੑ

ࠩผత޿ࠂ<4XFFOZ> w lHPPHMFDPNͱSFVUFSTDPNͰਓ໊ͷݕࡧͰදࣔ͞ΕΔ޿ࠂΛूܭ w ظؒ೥݄೔݄೔ w ݸͷ޿ࠂΛऩू ΞϑϦΧܥͷ໊લ Ϥʔϩούܥͷ໊લ ωΨςΟϒͳ޿ࠂ
தཱతͳ޿ࠂ "SSFTUFE -PDBUFE !6

ࠩผత޿ࠂ<4XFFOZ> w ͷ޿ࠂ͕lJOTUBOUDIFDLNBUFz ൜ࡑྺݕࡧαΠτ w JOTUBOUDIFDLNBUFͷ޿ࠂͷ಺༰ͱਓछͷಠཱੑΛݕఆ ਓछʹґଘͯ͠޿ࠂ಺༰͕ωΨςΟϒʹͳΔ͔ܾ·Δ TJHOJpDBODF Ͱ༏Ґʹैଐ
TJHOJpDBODF  Ͱ༏Ґʹैଐ !7

.BDIJOF#JBT<"OHXJO > w $0.1"4ΞϧΰϦζϜ w नਓͷྦྷ൜ʹର͢ΔείΞΛ༩͑ͯ͘ΕΔ w είΞ͕ߴ͍΄Ͳྦྷ൜ϦεΫ͕ߴ͍ !8 ϦεΫ͸௿͍͕
ճͷྦྷ൜ ϦεΫ͸ߴ͍͕ ྦྷ൜͍ͯ͠ͳ͍

.BDIJOF#JBT<"OHXJO > !9 είΞͷਖ਼֬ੑͱਓछͷؔ܎ੑ w ޡͬͯࠇਓͷείΞΛߴ͘ਪఆ w ޡͬͯനਓͷείΞΛ௿͘ਪఆ നਓ͕༏۰͞ΕͨείΞ෇͕͞Ε͍ͯΔ ޡͬͯϦεΫ͕௿͍ͱਪఆ
ޡͬͯϦεΫ͕ߴ͍ͱਪఆ

ػց຋༁ʹ͓͚Δࠩผ w (PPHMF຋༁ w ਓশͷੑࠩͷͳ͍τϧίޠ͔Βӳޠ΁ͷ຋༁ w l൴൴ঁ͸<৬ۀ>Ͱ͋Δɽzͱ͍͏จΛ<৬ۀ>Λม͑ͯ຋༁ !10 (PPHMF຋༁IUUQTUSBOTMBUFHPPHMFDPN &㵽BSCBL`TGBDFCPPLQPTU 
IUUQTXXXGBDFCPPLDPNQIPUPQIQ GCJETFUB UZQFUIFBUFS

ެฏੑͷࣾձతཁٻ w ػցֶशͷެฏੑ͸ࣾձ͔Βͷཁٻ΋ڧ͍ w #JH%BUBʹؔ͢Δ8IJUF)PVTF3FQPSU w 8IJUF)PVTF3FQPSU<1PEFTUB >  lΞϧΰϦζϜʹΑΔજࡏతͳࠩผΛ؂ࢹ͠ͳ͚Ε ͹ͳΒͳ͍z
w ಉ༷ͳ಺༰͕8IJUF)PVTF3FQPSU<.VOP[ > !11

ެฏੑͷ๏తཁٻ w 5JUMF7** w ਓछɼഽͷ৭ɼफڭɼੑผɼग़਎ࠃʹΑΔޏ༻ࠩผͷېࢭ w உঁޏ༻ػձۉ౳๏ w ৬৔ʹ͓͚Δஉঁࠩผͷېࢭ w
(%13 w "SUJDMFݸਓσʔλॲཧʹؔ͢Δنఆ w lద๏ɺެฏ͔ͭಁ໌ੑͷ͋ΔखஈͰॲཧ͠ͳ͚Ε͹ͳΒͳ͍z !12 ޏ༻ʹػցֶशΛ࢖͏৔߹͸ରॲ͕ඞཁෆՄܽ (%13͸ͲΜͳλεΫͰ΋ެฏੑ͕ཁٻ͞ΕΔՄೳੑ͕͋Δ

ෆެฏͷݪҼ ͳͥػցֶश͕ෆެฏͳग़ྗΛ͢Δͷ͔ w σʔλऩू͔Βֶशͷաఔʹ͓͍ͯόΠΞε͕৐Δ͜ͱ͕ݪҼ w ༷ʑͳόΠΞε͕ͷΔݪҼ͕ٞ࿦͞Ε͍ͯΔ<#BSPDBT > w େ͖ͭ͘ʹΘ͚Δ
!13 ෆެฏ σʔλऩूʹ͓͚Δ  όΠΞε w ࠩผతϥϕϧ෇͚ w αϯϓϦϯάόΠΞε ֶशʹ͓͚Δ  όΠΞε w ֶशϞσϧͷઃܭ w গ਺άϧʔϓͷແࢹ σʔλ ֶश

σʔλऩूʹ͓͚ΔόΠΞε w ֶशऀ͕ಘΒΕΔαϯϓϧ͕ෆެฏ !14 ࠩผతͳϥϕϧ wϥϕϧ͸ਓͷखʹΑͬͯ෇͚ΒΕΔ wྫ ޏ༻ͷ࠾൱͸աڈਓ͕൑அͨ͠ wϥϕϧ෇͚ʹࠩผతͳࢥ͍ࠐΈΛ൓ө͢ΔՄೳੑ͋Γ wҙࣝతແҙࣝతʹؔΘΒͣ

σʔλऩूʹ͓͚ΔόΠΞε w ֶशऀ͕ಘΒΕΔαϯϓϧ͕ෆެฏ !15 αϯϓϦϯάόΠΞε wภͬͨαϯϓϧ͔͠ಘΒΕͳ͍͕࣌͋Δ wྫ ͓ۚͷି෇Λͨ͠ਓ͕࠴຿ෆཤߦʹؕΔ͔Ͳ͏͔Θ͔Βͳ͍ wաڈ͓ۚΛି෇ͨ͠ਓΛࠩผతʹબ୒͍ͯ͠ΔՄೳੑ͋Γ

"EVMUEBUB<$BMEFST > w 64ͷશ݅ௐࠪσʔλ w ݸਓͷऩೖ͕LҎ্͔ҎԼ͔༧ଌ͢Δ໰୊ !16 .BMF 'FNBMF )JHIJODPNF
-PXJODPNF ͕ ߴऩೖ ͕ ߴऩೖ σʔλʹஉঁؒͷόΠΞε͕͋Δ

ֶशʹ͓͚ΔόΠΞε w ֶशʹΑͬͯෆެฏͳ෼ྨث͕ಘΒΕΔ !17 গ਺άϧʔϓͷແࢹ wσʔλͷஉঁ͕ͻͲ͘ภ͍ͬͯΔͱ͢Δ wྫ ΄ͱΜͲͷσʔλ͕உੑͷ΋ͷͰঁੑͷσʔλ͕΄ͱΜͲͳ͍ w༧ଌੑೳΛ্͛ΔͨΊগ਺೿ΛϊΠζͱΈͳ͢Մೳੑ͕͋Δ

"EVMUEBUB<$BMEFST > w /BJWF#BZFTͰֶश͠෼ྨ͢Δ !18 .BMF 'FNBMF )JHIJODPNF
-PXJODPNF ͕ ߴऩೖ ͕ ߴऩೖ ΑΓࠩผతͳ༧ଌ݁ՌʹͳΔ

ֶशʹ͓͚ΔόΠΞε w ֶशʹΑͬͯෆެฏͳ෼ྨث͕ಘΒΕΔ !19 ֶशͷ༧ଌϞσϧͷઃܭʹΑΔࠩผ wػցֶशͰ͸ϞσϧઃܭΛͦ͠ͷޙϞσϧͷύϥϝʔλΛσʔλ͔ΒಘΔ wϞσϧઃܭͷ࢓ํʹΑͬͯ͸ࠩผΛট͘ wྫ உঁͷ஋Λ࢖ͬͯ༧ଌΛߦ͏ϞσϧΛઃܭ w௚઀ࠩผ
EJTQBSBUFUSFBUNFOU CMJOEOFTT Ϟσϧઃܭ ͳΜͷಛ௃ྔΛ࢖͏͔ ༧ଌؔ਺͸ ઢܗɼଟ߲ࣜɼ3),4ɼ%FFQ//

3FEMJOJOHF⒎FDU<$BMEFST > w௚઀உঁͷ஋Λ࢖Θͳͯ͘΋ࠩผ͕ى͜Δ w உঁ΍ਓछͳͲͱڧ͘ґଘͨ͠σʔλ Λ࢖͏͜ͱͰؒ઀తʹࠩผ͕ൃੜ w ྫ ֶྺΛ࢖ͬͯ࠾൱ΛܾΊΔͱ  ੑ͕ࠩੜ·ΕΔՄೳੑ͋Γ
w ྫ ॅॴΛ࢖ͬͯ࠾൱ΛܾΊΔͱ  ਓछͷ͕ࠩੜ·ΕΔՄೳੑ͋Γ !20 'SPNXJLJQFEJB

"EVMUEBUB<$BMEFST > w ੑผΛऔΓআ͍ͯ࠶౓/BJWF#BZFTͰֶश͠෼ྨ͢Δ !21 .BMF 'FNBMF )JHIJODPNF
-PXJODPNF ͕ ߴऩೖ ͕ ߴऩೖ ΑΓࠩผతͳ༧ଌ݁ՌʹͳΔ

ෆެฏͷݪҼ w ̎ͭͷঢ়گઃఆ σʔλ ֶशͰόΠΞε͕ͷΔՄೳੑ͕͋Δ ֶशͰόΠΞε͕ͷΔՄೳੑ͕͋Δ !22 ෆެฏ
σʔλऩूʹ͓͚Δ  όΠΞε w ࠩผతϥϕϧ෇͚ w αϯϓϦϯάόΠΞε ֶशʹ͓͚Δ  όΠΞε w ֶशϞσϧͷઃܭ w গ਺άϧʔϓͷແࢹ σʔλ ֶश

ެฏੑఆٛ ूஂެฏੑ (SPVQGBJSOFTT w ηϯγςΟϒଐੑʹΑΔάϧʔϓؒͰ ͷࠩҟ !23 ݸਓެฏੑ *OEJWJEVBMGBJSOFTT
w ݸਓؒͰͷࠩҟ ࠾༻ ඇ࠾༻ ࠾༻ ඇ࠾༻ உੑ ঁੑ ࠾༻ ඇ࠾༻ ࠾༻ ඇ࠾༻ ≈ ≈ ⟹ =

ूஂݸਓ σʔλֶश !24 όΠΞε  JOσʔλ ֶश όΠΞεJOֶश ूஂެฏੑ
ݸਓެฏੑ

ݸਓެฏੑ

ઃఆ w ؆୯ͷͨΊʹڭࢣ͋Γ෼ྨ໰୊ͷΈΛߟ͑Δ w ɹɹɹɹɹɹɹɹɹɹֶྺɼ৬ྺɼࢿ֨ͳͲ w ɹɹɹɹɹɹɹɹɹɹੑผɼਓछɼफڭɼ੓࣏ࢤ޲ɼ೥ྸͳͲ w ɹɹɹɹɹɹɹɹɹɹ༧ଌ͍ͨ͠΋ͷ FH
࠾൱ w ɹɹɹɹɹɹɹɹɹɹΞϧΰϦζϜʹΑͬͯ༧ଌ͞Εͨϥϕϧ ೖྗ X ϥϕϧ Y ༧ଌϥϕϧ ̂ Y !26 ผͷೖྗ X S = உੑ S = ঁੑ ೖྗ X ϥϕϧ Y ηϯγςΟϒଐੑ S ༧ଌϥϕϧ ̂ Y ֶश

ݸਓެฏੑ

%FNPHSBQIJDQBSJUZ w ηϯγςΟϒଐੑͰ৚͚݅ͮΒΕͨ༧ଌϥϕϧͷ෼෍͕Ұக w ෼෍Ͱ͸ͳ͘༧ଌਫ਼౓ِཅੑِӄੑͷҰகΛ໨ࢦ͢΋ͷ΋͋Γ !28 %FNPHSBQIJDQBSJUZ ℙ{ ̂ Y
∈ 𝒜|S = s} = ℙ{ ̂ Y ∈ 𝒜|S = s′} ೚ҙͷ𝒜, s, s′ʹ͍ͭͯ ࠾༻ ඇ࠾༻ ࠾༻ ඇ࠾༻ உੑ ঁੑ = ̂ Y|S = உੑ ̂ Y|S = ঁੑ

%FNPHSBQIJDQBSJUZ w σʔλʹόΠΞε͕ͷ͍ͬͯΔՄೳੑ͕͋ΔͨΊ  ϥϕϧɹͱ༧ଌϥϕϧɹ͸ҟͳΔ΂͖ w ϥϕϧͱҧ͏༧ଌΛ༩͑Δͱ༧ଌੑೳ͕Լ͕Δ ༧ଌੑೳͱެฏੑͷτϨʔυΦϑͷޮ཰Խ͕໨త !29 %FNPHSBQIJDQBSJUZ ℙ{
̂ Y ∈ 𝒜|S = s} = ℙ{ ̂ Y ∈ 𝒜|S = s′} ೚ҙͷ𝒜, s, s′ʹ͍ͭͯ Y ̂ Y

ݸਓެฏੑ

&RVBMJ[FEPEET<)BSEU > w ϥϕϧɹʹΑΔ༧ଌϥϕϧมԽ͸ࠩผΛੜ͡ͳ͍ ͱ৴͍ͯ͡Δ w ແཧ΍Γ%1Λอো͠Α͏ͱ͢Δͱٯࠩผ !31 &RVBMJ[FEPEET
ℙ{ ̂ Y ∈ 𝒜|Y = y, S = s} = ℙ{ ̂ Y ∈ 𝒜|Y = y, S = s′} ೚ҙͷ𝒜, y, s, s′ʹ͍ͭͯ Y உੑ உੑ ঁੑ ঁੑ σʔλ ༧ଌ  ϥϕϧ %1ͷอূͷͨΊஉੑΛඇ࠾༻ʹ͢Δ ࠾༻͢ΔΑ͏ʹͨ͠ঁੑΑΓ  ඇ࠾༻ʹͨ͠உੑͷํ͕ೳྗ͕ߴ͍

&RVBMJ[FEPEET<)BSEU > w ɹͱɹΛҰகͤ͞ΔΑ͏ʹֶशͰ͖Δ w %FNPHSBQIJDQBSJUZͰ͸Ͱ͖ͳ͍ w ཧ૝తʹ͸τϨʔυΦϑ͸ͳ͍ গ਺άϧʔϓແࢹͷ๷ࢭ͕໨తɹ !32
&RVBMJ[FEPEET ℙ{ ̂ Y ∈ 𝒜|Y = y, S = s} = ℙ{ ̂ Y ∈ 𝒜|Y = y, S = s′} ೚ҙͷ𝒜, y, s, s′ʹ͍ͭͯ Y ̂ Y

%1WT&0 %1 w 1SPTόΠΞε͕ͷͬͨσʔλʹ΋ରԠ͍ͯ͠Δ w $POTٯࠩผͷ໰୊͋Γ &0 w 1SPT %1ʹൺ΂ͯ
༧ଌੑೳ͕Α͍ɼٯࠩผ͸ى͖ͳ͍ w $POTෆެฏͳόΠΞε͕৐ͬͨσʔλʹ͸࢖͑ͳ͍ ͲͪΒ΋ಉ࣌ʹୡ੒͢Δ͜ͱ͸ෆՄೳ !33

ूஂެฏੑͷཧ࿦త՝୊ ൚Խతͳެฏੑͷอূ w ֶश࣌ʹςετ࣌ͷެฏੑͷอূ w طଘ݁Ռ w ૬ؔΛجʹͨ͠%1ͷެฏੑࢦඪͷҰ༷ऩଋ<'VLVDIJ > w
Ϋϥεͷେ͖͞ʹґଘ͠ͳ͍&0ͷެฏੑࢦඪͷऩଋ<8PPEXPSUI > w ޙॲཧܕͷΞϧΰϦζϜʹ͓͚Δ%1·ͨ͸&0ͷ൚Խެฏੑࢦඪό΢ϯυ <"HBSXBM > w Ϋϥεͷେ͖͞ʹґଘ͠ͳ͍%1ͷެฏੑࢦඪͷऩଋ<$PUUFS > !34 ֶशσʔλͷ༧ଌ݁Ռ ςετσʔλͷ༧ଌ݁Ռ ެฏʹͳΔ Α͏ʹֶश ͢Δ ެฏ

ूஂެฏੑͷཧ࿦త՝୊ w ී௨ͷ൚Խό΢ϯυ༧ଌϞσϧͷෳࡶ͞Λ༻͍Δ w ެฏੑͷ൚Խό΢ϯυ͸༧ଌϞσϧͷෳࡶ͞ʹґଘ͠ͳ͘Ͱ͖Δ <8PPEXPSUI $PUUFS > w
୅ΘΓʹϥϕϧͷछྨ਺ºηϯγςΟϒଐੑͷ஋ͷछྨ਺ʹґଘ !35 ཧ૝తʹ͸࠷దੑΛ΋ֶͬͨशํ๏ͷൃݟ w ूஂެฏੑʹ͓͚Δ࠷దੑͷղੳ͸·ͩͳ͍

ूஂެฏੑͷཧ࿦త՝୊ ֶशΞϧΰϦζϜͰ͋Δ࠷దԽ໰୊ͷ࠷దԽΞϧΰϦζϜ w ެฏੑͷ੍໿Λݴ͑ΕΔͱඇತͳ࠷దԽ໰୊͕ݱΕΔ w ۙࣅ ࠷దղΛಘΒΕΔ͜ͱΛอূ͢Δඞཁ͋Γ w طଘݚڀ w
ճؼ ࿈ଓηϯγςΟϒଐੑʹద༻Մೳͳඇತ࠷దԽʹΑͬͯఆࣜԽ͞ΕΔ  ΞϧΰϦζϜͷ࠷దอূͷ͍ͭͨ࠷దԽΞϧΰϦζϜ<,PNJZBNB > w ͋ΔछͷΦϥΫϧͷଘࡏͷԾఆͷ΋ͱۙࣅ࠷దղΛଟ߲ࣜ࣌ؒͰٻΊΒΕΔ  ࠷దԽΞϧΰϦζϜ<"MBCJ > !36

ݸਓެฏੑ

*OEJWJEVBMGBJSOFTT<%XPSL> w ੑผҎ֎શ͘ಉ͡ਓ͕͍Ε͹࠾൱΋ಉ͡ʹ͢Δ΂͖ w ࣅͨΑ͏ͳਓ͸ࣅͨ݁ՌΛड͚औΔ΂͖ w ֬཰త༧ଌؔ਺ w !38 -JQTDIJU[QSPQFSUZ
೚ҙͷx, x′ʹ͍ͭͯ D( f(x), f(x′)) ≤ d(x, x′) ≈ ⟹ f : 𝒳 → Δ(𝒴) ݁Ռͷ෼෍ؒͷ ڑ཭

ݸਓެฏੑͷཧ࿦త՝୊ ൚Խతͳެฏੑͷอূ w ݸਓެฏੑʹؔͯ͠΋൚Խతͳੑೳͷղੳ͕ඞཁ w طଘ݁Ռ w σʔλ ֶशʹ͓͚ΔόΠΞεΛআڈ͍ͨ͠ઃఆͷ΋ͱ  1"$MFBSOJOHͷ࿮૊ΈͰ1"ͳެฏੑͷ੍໿Լʹ͓͚Δαϯϓϧෳࡶ౓ͷղੳ
<3PUICMVN > !39 ࠷దੑΛ΋ֶͬͨशํ๏ͷൃݟ͸େ͖ͳ՝୊

'BJSCBOEJU<+PTFQI > ࠷దੑͷূ໌͕Ͱ͖͍ͯΔ໰୊΋͋Δ w όϯσΟοτ໰୊ʹ͓͍ͯΞʔϜͷબ୒෼෍ʹެฏੑͷ੍໿ w σʔλʹ͸όΠΞε͕ೖ͍ͬͯͳ͍ w ֶशʹ͓͚ΔόΠΞεͷআڈ͕໨త w
ఢରతόϯσΟοτͷઃఆͰ࠷దͳΞϧΰϦζϜΛఏҊ w จ຺෇͖όϯσΟοτʹ͓͚Δ݁Ռ΋͋Δ͕࠷దੑ͸ͳ͠ !40

࠷ۙͷల։ w طଘͷެฏੑͷఆٛʹٙ໰ w ཧ࿦తʹެฏੑఆٛͷਖ਼౰ԽΛ͍ͨ͠ w طଘͷఆٛͷ໰୊఺ w %FNPHSBQIJDQBSJUZٯࠩผ w
&RVBMJ[FEPEETσʔλʹؚ·ΕΔόΠΞεΛऔΓআ͚ͳ͍ w *OEJWJEVBMGBJSOFTTڑ཭വ਺ͷఆٛ !41

%FMBZFE&⒎FDU<-JV > w ֶशͱςετͷؒʹ࣌ؒతִͨΓ͕͋Δ w ͦͷؒʹαϯϓϧͷ෼෍͕มԽ͢Δ w %FNPHSBQIJDQBSJUZͷਖ਼౰ੑ ೖࢼ
w ශࠔ૚ͷֶੜΛऔΒͳ͍͜ͱͰকདྷශࠔ͕֦େ͢Δ͜ͱͷ๷ࢭ w %1 &0ͷ੍໿Λ͚ͭͨ࣌༧ଌ࣌ͷੑೳ͸Ͳ͏ͳΔ͔ !42 ࣌ࠁ σʔλऩू ֶश ༧ଌ αϯϓϧͷ෼෍͕มԽ

·ͱΊ w ެฏੑʹ͓͚Δཧ࿦త՝୊ w ൚Խੑೳͷղੳ͸΍ΒΕ࢝Ί͍ͯΔ w ࠷దੑͷূ໌͕େ͖ͳ՝୊ͱͯ͠࢒͍ͬͯΔ w ཧ࿦తͳެฏੑఆٛͷਖ਼౰Խ͸Ұ൪େ͖ͳ՝୊ !43

公平性を保証したAI/機械学習 アルゴリズムの最新理論

公平性を保証したAI/機械学習 アルゴリズムの最新理論

More Decks by Kazuto Fukuchi

Other Decks in Research

Featured

Transcript

公平性を保証したAI/機械学習 アルゴリズムの最新理論

公平性を保証したAI/機械学習 アルゴリズムの最新理論