Share
Embed
データ品質をコード化! LINEヤフーのMLOpsを最適化する "ACP Data Quality" の紹介
第7回Data-Centric AIの登壇資料です。
発表者: 古川新
発表内容:
エンタープライズのMLOps成長戦略において、開発効率が成熟してくるとモデルの運用の信頼性が課題になってきます。LINEヤフーのAIプラットフォームでは、データ品質管理を適切に管理することで運用の信頼性を向上するACP Data Qualityというマネージドサービスを提供しています。このセッションでは、一貫性のあるデータ品質管理を実現するための中核的機能の1つであるDQML(データ品質モデル言語)によるデータ品質のコード化の取り組みについて紹介します。
LINEヤフーTech (LY Corporation Tech) PRO
March 28, 2024
Transcript
35 slides
-
-:$PSQPSBUJPO σʔλ࣭ΛίʔυԽʂ -*/&Ϡϑʔͷ.-0QTΛ࠷దԽ͢Δ "$1%BUB2VBMJUZͷհ -*/&Ϡϑʔגࣜձࣾ"*ϓϥοτϑΥʔϜ෦ .-0QTΤϯδχΞ ݹ৽ &.BJM BGVSVLBX!MZDPSQDPKQ ݸਓ9
!@PSOFX ݸਓ'BDFCPPL !PMESOFX ୈճ%BUB$FOUSJD"*ษڧձ -
-:$PSQPSBUJPO ӡ༻ͷ৴པੑ .- 0QT .-0QTશମͱͯ͠ ։ൃͷੜ࢈ੑΑΓӡ༻ͷ৴པੑ͕ εέʔϧͷϘτϧωοΫʹͳ͖ͬͯͨ ࣄނͷ૿Ճ 55%ɾ55.ͷظԽ
˞55%ɿ5JNFUP%FUFDUʢࣄނݕग़࣌ؒʣ ˞55.ɿ5JNFUP.JUJHBUFʢࣄނܰݮ࣌ؒʣ -
-:$PSQPSBUJPO σʔλ࣭ ʮࢦఆ͞Εͨঢ়گͰ༻͢Δͱ͖ɺ ໌ࣔ͞Εͨχʔζ͓Αͼ҉ͷχʔζΛσʔλͷಛੑ͕ຬ͢Δ߹͍ɻʯ ʢࢀߟจݙʮ+*49ɿʢ*40*&$ɿʣιϑτΣΞͷ࣭ཁٻ͓ΑͼධՁʢ42VB3&ʣʵσʔλ࣭ϞσϧʯΑΓҾ༻ʣ త σʔλ త σʔλ
👍ಛੑ͕తʹ߹͍ͬͯΔ 👎ಛੑ͕తʹ߹͍ͬͯͳ͍ σʔλ࣭ɿߴ σʔλ࣭ɿ ˞σʔλͷಛੑΛ৭ͱܗͰදݱ͍ͯ͠·͢ɻ σʔλ࣭Λଌఆ͢Εਖ਼ৗͳͷ͔Λஅ͢Δ͜ͱ͕Ͱ͖Δ ͷݪҼΛஅ͢Δ͜ͱ͕Ͱ͖Δ ૣظʹΛൃݟ͢Δ͜ͱ͕Ͱ͖Δ -
-:$PSQPSBUJPO .-Ϟσϧͷσʔλ࣭ཁ݅ͷఆٛ త σʔλ σʔλ࣭ʮతʯʹର͢Δద߹Ͱ͋Γ ʮతʯΛཧղ͍ͯ͠Δऀ͔͠ཁٻΛѲͰ͖ͳ͍ .-ϞσϧͰ͋Εɺ։ൃͨ͠αΠΤϯςΟετΛओମʹཁ݅ఆ͖ٛ͢ αΠΤϯςΟετͷॿ͚ͳ͠ʹ ӡ༻ऀ͕.-Ϟσϧͷཁٻ͢Δσʔλ࣭Λஅ͢Δͷ΄΅ෆՄೳ
ʢͦΕ͕ՄೳͳΒɺͦͷӡ༻ऀαΠΤϯςΟετͰ࠾༻͢Δ͖ʣ ͱ͜Ζ͕αΠΤϯςΟετ͕ੵۃతʹཁ݅ఆٛ͢Δಈػ͕ͳ͍ 🧑🔬 -
-:$PSQPSBUJPO ·ͱΊɿӡ༻ͷ৴པੑͷߏత՝ .- 0QT ӡ༻ͷ৴པੑΛԼ͍ͤͯ͞Δσʔλࣄނͷ55%ɾ55.͕ظԽ͢Δͷ ։ൃऀӡ༻ऀͷೳྗ͕ݪҼͰͳ͘ ։ൃऀͱӡ༻ऀͰσʔλ࣭͕͏·͘ڞ༗Ͱ͖͍ͯͳ͍͜ͱ͕ݪҼ σʔλ࣭͕Θ͔Βͳ͍ 55%ɾ55.͕
ѱԽ͍͢͠ σʔλ࣭ͷཁ݅ఆ͕ٛ ෆेͳ··ϦϦʔε ͞Ε͍͢ σʔλ࣭վળͷ ίϛϡχέʔγϣϯϩε͕ ى͖͍͢ อकతͳ࣭ཧʹ େ͖ͳΛׂ͚ͳ͍ -
-:$PSQPSBUJPO "$1%BUB2VBMJUZ "$1%BUB2VBMJUZ*40ʹجͮ͘σʔλ࣭ཧϓϩηεߏஙΛࢧԉ͢ΔαʔϏε ։ൃऀͱӡ༻ऀ͕ίϥϘϨʔγϣϯͯ͠αεςφϒϧͳσʔλ࣭ཧΛߏஙͰ͖Δ σʔλ࣭ܭը %BUB2VBMJUZ1MBOOJOH σʔλ੍࣭ޚ %BUB2VBMJUZ$POUSPM σʔλ࣭อূ
%BUB2VBMJUZ"TTVSBODF σʔλ࣭վળ %BUB2VBMJUZ*NQSPWFNFOU σʔλ࣭ཧϓϩηε Ϧιʔεنఆ σʔλؔ࿈αϙʔτ ˞"$1ɿ͚ࣾʹఏڙ͍ͯ͠Δ"*ಛԽͷ,VCFSOFUFTڥɻ -
-:$PSQPSBUJPO %2.-ͷར༻ྫ %2.-Ͱσʔλ࣭ཁ݅Λఆٛ͢Δྫᶃ ࣭ ཁ ٻ ର σʔλ9
త Ϟσϧ.ͷֶश༻σʔλ ཁٻ ͋ΔϞσϧ.ͷֶशʹ͏σʔλ9ɺ༗ޮͳֶश݁ՌΛಘΔͨΊʹ ݅Ҏ্ͷσʔλ͕ͳ͚ΕͳΒͳ͍ ࣭ ཁ ݅ ଌఆؔ " ଌఆྔཁૉ" σʔλ9ͷ݅ ଌఆج४ ݅ΑΓଟ͘ͳ͚ΕͳΒͳ͍ $PVOU NVTUCF -
-:$PSQPSBUJPO %2.-ͷར༻ྫ %2.-Ͱσʔλ࣭ཁ݅Λఆٛ͢Δྫᶄ ࣭ ཁ ݅ ଌఆؔ "#
ଌఆྔཁૉ" ຊग़ͷ͏ͪࡀҎ্ࡀະຬͷσʔλ݅ ଌఆྔཁૉ# ຊग़ͷσʔλ݅ ଌఆج४ Ҏ্Ͱͳ͚ΕͳΒͳ͍ 1SPQPSUJPO PGBHFJT XIFSFGSPNJT+BQBONVTUCF -
-:$PSQPSBUJPO %2.-ͷར༻ྫ %2.-Ͱσʔλ࣭ཁ݅Λఆٛ͢Δྫᶅ ࣭ ཁ ݅ ଌఆؔ "
# ଌఆྔཁૉ" "ΧςΰϦʔͷTDPSFͷฏۉ ଌఆྔཁૉ# #ΧςΰϦʔͷTDPSFͷฏۉ ଌఆج४ Ҏ্Ͱͳ͚ΕͳΒͳ͍ MFU".FBO PGTDPSFXIFSFDBUFHPSZJT" MFU#.FBO PGTDPSFXIFSFDBUFHPSZJT# " #NVTUCF -
-:$PSQPSBUJPO %2.-ͷར༻ྫ %2.-Ͱσʔλ࣭ཁ݅Λఆٛ͢Δྫᶆ ࣭ ཁ ݅ ଌఆؔ #
" " ଌఆྔཁૉ" લͷ߹ܭΫϦοΫ ଌఆྔཁૉ# ͷ߹ܭΫϦοΫ ଌఆج४ ະຬͰͳ͚ΕͳΒͳ͍ MFU"4VN PGDMJDLXIFSFEBUFJTZFTUFSEBZ MFU#4VN PGDMJDLXIFSFEBUFJTUPEBZ # " "NVTUCF Ϟσϧʹύϥϝʔλͷ໊લͱܕΛఆ͓ٛͯ͘͠ͱ ධՁ࣌ʹύϥϝʔλͷΛࢦఆ͢Δ͜ͱ͕Ͱ͖Δ աڈͷ࣌ͷධՁಛఆͷ࣮ݧͷධՁΛ࣮ߦ͢Δͱ͍ͬͨ͜ͱ͕Մೳ -
-:$PSQPSBUJPO %2.-ͷར༻ྫ ,VCFSOFUFTΧελϜϦιʔεͰσʔλ࣭ϞσϧΛఆٛ σʔλ࣭ϞσϧΛ(JU)VCͰίʔυཧ BQJ7FSTJPOEBUBRVBMJUZZBIPPDPKQWBMQIB LJOE %BUB2VBMJUZ.PEFM NFUBEBUB
OBNFFYBNQMF TQFD EBUB4QFD USJOP UBCMF USBJO@EBUB@Y SFRVJSFNFOUT DPEF$PVOUNVTUCF "$1ʹ$*$%ͰσϓϩΠ ˞"$1ɿ͚ࣾʹఏڙ͍ͯ͠Δ"*ಛԽͷ,VCFSOFUFTڥɻ -
-:$PSQPSBUJPO %2.-ͷར༻ྫ ,VCFSOFUFTΧελϜϦιʔεͰධՁΛ࣮ߦ ϫʔΫϑϩʔͰఆظతʹධՁΛ࡞ BQJ7FSTJPOEBUBRVBMJUZZBIPPDPKQWBMQIB LJOE %BUB2VBMJUZ&WBMVBUJPO TQFD
NPEFM3FG OBNFFYBNQMF ࣗಈͰ࣭ଌఆɾධՁ݁Ռ͕ه͞Εɺෆద߹࣌ʹ4MBDLʹΞϥʔτ͕௨͞ΕΔ '"*-&%$PVOUNVTUCFHPU ˞௨༰ྫͰ͢ɻ ࣮ࡍ8FCϨϙʔτͷϦϯΫՃใͳͲؚ͕·Ε·͢ɻ -
-:$PSQPSBUJPO %2.-ͷར༻ྫ ൃੜ࣌ఆظతʹσʔλ࣭ཁ݅ͷϨϏϡʔͱվળΛ࣮ࢪ ཁ݅ͷՃɾআɾݟ͠ͳͲΛܧଓతʹߦ͏ (JU)VCͰ13Λ௨ͯ͠αΠΤϯςΟετͱӡ༻ऀͰϨϏϡʔΛߦ͏ BQJ7FSTJPOEBUBRVBMJUZZBIPPDPKQWBMQIB LJOE %BUB2VBMJUZ.PEFM NFUBEBUB
OBNFFYBNQMF TQFD SFRVJSFNFOUT DPEF$PVOUNVTUCF DPEF.JOPGBHFNVTUCF -
-:$PSQPSBUJPO %2.-ͷར༻ํ๏ .- 0QT ੍ޚ อূ ܭը վળ ίʔυʹΑΔఆٛ
ίʔυϨϏϡʔ ίʔυ͔ΒࣗಈධՁ ίʔυʹΑΔҰ؏ੑ -
-:$PSQPSBUJPO %2.-ͷޮՌ • ίʔυԽʹΑ࣭ͬͯͷಁ໌ੑ্͕ɺҰ؏ੑΛอূ • ࣭ཧͷաෆվળͷ༨ͳͲɺෆಁ໌ͳՕॴ͕ѲͰ͖ΔΑ͏ʹͳΔ • ։ൃ͔Βӡ༻·Ͱ࣭ͷҰ؏ੑΛอূ •
ίʔυϕʔεͰඇಉظͷίϛϡχέʔγϣϯ͕Մೳʹ • αΠΤϯςΟετΛ߆ଋͤͣʹ࣭ܭըɾվળΛߦ͑Δ • ੍࣭ޚɾอূͷϓϩηε͕͞Εɺք͕໌֬ʹ • αΠΤϯςΟετ͕࡞ۀྔΛݟੵΔ͜ͱ͕Ͱ͖ΔΑ͏ʹͳΓɺΛׂ͖͘͢ͳΔ • ։ൃऀͷΛඞཁ࠷খݶʹͰ͖Δ • ίʔυʹΑΔࣗಈԽͰಋೖɾ੍ޚɾอূͷίετΛݮ • ੍ޚͷͨΊͷΫΤϦΞϓϦέʔγϣϯΛ։ൃɾอक͢Δඞཁ͕ͳ͘ɺܧଓతͳγεςϜΛଈಋೖͰ͖Δ • υϝΠϯಛԽʹΑΓఆٛͷอकίετΛݮ͠ɺඪ४ੑͱҠ২ੑΛ্ • ΫΤϦϓϥϯΞϓϦέʔγϣϯͷ࠷దԽʹΛׂ͘ඞཁ͕ͳ͘ɺຊ࣭తͳ࣭Ϟσϧͷվળ͚ͩʹूதͰ͖Δ • ҟͳΔٕज़ελοΫͷνʔϜؒͰཧղ͢Δ͜ͱ͕Ͱ͖Δ -
-:$PSQPSBUJPO %2.-ͷޮՌ .- 0QT σʔλ࣭ͷఆ͔ٛΒ ࣗಈͰ੍ޚ 55%ɾ55.ͷվળ σʔλ࣭ͷཁ݅Λ ίʔυͰఆٛ͢Δ͚ͩͰ
Ռͷ࣭Λ্ ίʔυϕʔεͰ ࣭ͷཧͱվળΛ ܧଓతʹ࣮ࢪ ίʔυϕʔεͰ ࣭ཁ݅ͷվળ͚ͩʹूத ඞཁ࠷খݶͷͰӡ༻ʹߩݙ %BUB$FOUSJDͳϓϩηεʹΑͬͯ.-0QTΛՃ -
-:$PSQPSBUJPO ࣾࣄྫ • ᶃ͋ΔαʔϏεͰϩά͕ܽଛ • ෆ۩߹ϩάఏڙଆʹΑͬͯमਖ਼͞Ε͕ͨɺҰ෦ʹܽଛ͕ൃੜ • ᶄϩάͷར༻ऀͰσʔλͷมԽΛࢹ͍ͯͨ͠ͱ͜ΖΞϥʔτൃੜ •
%BUB2VBMJUZͰσʔλͷมԽͷཁ݅Λఆ͍ٛͯͨ͠ • ܽଛʹΑΔҟৗͳมԽΛΞϥʔτͰൃݟ • ΞϥʔτΛ͖͔͚ͬʹϩάܽଛ͕͋ͬͨ͜ͱΛѲ • ৄࡉΛௐࠪ͠ɺνʔϜͰڞ༗ͨ͠ • ᶅϩάͷܽଛΛ͖͔͚ͬʹཁ݅Λݟͨ͠ • ཁ݅ΛՃ͠ɺ࣭Λվળͨ͠ -
-:$PSQPSBUJPO ࣾࣄྫͷϙΠϯτ • ᶃ͋ΔαʔϏεͰϩά͕ܽଛ • ੍ޚ֎ͷ্ྲྀσʔλͷෆ۩߹ɺσʔλࣄނͷݪҼͰඇৗʹଟ͍ • σʔλͷ࣭ఏڙऀ͕อূ͍ͯ͠Δͱ͍͏ա৴ɾޡට͕ى͖͍͢ •
ຊʹ4-"͕͋ΔͷͰͳ͚Εɺফඅऀʹ࣭Λ֬ೝ͢Δ͕͋Δ • σʔλ࣭తద߹Ͱ͋Γɺσʔλফඅऀ͕࣭ΛܾΊΔ • ͜ͷݪଇ͔ΒɺσʔλఏڙऀͰ࣭ΛશʹอূͰ͖ͳ͍͜ͱ͕ଟ͍ • ଟ͘ͷέʔεͰɺফඅऀʹΑΔ੍࣭ޚ͕ඞਢʹͳΔ -
-:$PSQPSBUJPO ࣾࣄྫͷϙΠϯτ • ᶄϩάͷར༻ऀͰσʔλͷมԽΛࢹ͍ͯͨ͠ͱ͜ΖΞϥʔτൃੜ • ফඅऀʹΑΔओମతͳ੍࣭ޚͷޭྫ • σʔλఏڙଆͰى͖ͨΛফඅऀଆ͕Ѳ͢Δ·Ͱʹ௨ৗɺ͕͔͔࣌ؒΔ͕ɺૣظ ൃݟ͢Δ͜ͱ͕Ͱ͖ͨ
• σʔλͷมԽ͕ཁ݅ͱͯ͠ఆٛ͞Ε͍ͯͨ͜ͱͰɺΞϥʔτൃੜ࣌ʹͲ͜Ͱ͕ى ͖͍ͯΔͷ͔ɺͲ͏͍͏Өڹ͕ߟ͑ΒΕΔͷ͔Λ͙͢ʹஅͰ͖ͨ • ͜͠ͷܽଛ͕ࣄނʹܨ͕͍ͬͯͨ߹ɺ %BUB2VBMJUZͰཁ݅Λఆ͍ٛͯ͠ͳ͚Ε 55%ɾ55.େ෯ʹΕ͍ͯͨՄೳੑ͕͋Δ -
-:$PSQPSBUJPO ࣾࣄྫͷϙΠϯτ • ᶅϩάͷܽଛΛ͖͔͚ͬʹཁ݅Λݟͨ͠ • ࠓճࣄނʹܨ͕Βͳ͔͕ͬͨɺಉ༷ͷ͕ൃੜͨ͠߹ͷϦεΫΛ࠶ධՁ͢Δ ͖͔͚ͬʹͳͬͨ • ϦεΫΛಛఆɾධՁͯ͠ऴΘΓͰͳ͘ɺσʔλ࣭ཁ݅Λݟ͠ɾվળ͢Δ͜ͱͰɺϦ
εΫΛ੍ޚͨ͠ • %2.-ͷఆٛΛमਖ਼͢Δ͚ͩͰΑ͍ͨΊɺΫΤϦΞϓϦέʔγϣϯͷΑ͏ͳ໋ྩతͳ ϓϩάϥϜΛमਖ਼͢Δ͜ͱͳ͘ɺ͙͢ʹ࣭ཁ݅Λվળ੍͠ޚΛ࣮ࢪ͢Δ͜ͱ͕Ͱ͖ͨ • ͘͢ରԠͰ͖Δ͜ͱͰɺ࣭ͷอূʹ͔͔Δίετ͕ݮ͞Εͨ • ͜ͷΑ͏ʹɺܦݧΛແବʹͤͣɺܧଓతʹվળΛߦ͍ίʔυʹੵ͢Δ͜ͱʹΑͬͯ σʔλ࣭Λຏ͖ɺదԠతʹϦεΫͱσʔλ࣭Λ࠷దԽ͢Δ͜ͱ͕Ͱ͖Δ -
-:$PSQPSBUJPO ϓϩηεͷධՁ $*0ϙʔλϧͰެ։͞Ε͍ͯΔ ʮσʔλ࣭ཧΨΠυϒοΫ݄ʢЌ൛ʣʯ͓Αͼ ʮσʔλ࣭ධՁπʔϧʢЌ൛ʣʯͷ ʮ*40ʹΑΔσʔλཧϓϩηεͷධՁʯ ΛෳͷϢʔβͰಋೖલޙʹ࣮ࢪ͠มԽΛௐࠪ ϓϩηεख़ͷશମతͳ্Λ֬ೝ ಛʹσʔλ࣭ܭըͱ੍࣭ޚͰେ͖ͳվળ͕ݟΒΕͨ
ࢀߟจݙ • ʮσʔλ࣭ཧΨΠυϒοΫ݄ʢЌ൛ʣʯʢ$*0ϙʔλϧʣ IUUQTDJPHPKQTJUFTEFGBVMUGJMFTVQMPBETEPDVNFOUTEBUB@IJOTIJUV@HVJEF@CFUB@QEG • ʮσʔλ࣭ධՁπʔϧʢЌ൛ʣʯʢ$*0ϙʔλϧʣ IUUQTDJPHPKQTJUFTEFGBVMUGJMFTVQMPBETEPDVNFOUTEBUB@RVBSJUZ@FWBMVBUJPO@UPPM@CFUBYMTY • ʮσʔλ࣭ཧΨΠυϒοΫʢྩʣ݄ʯʢσδλϧிʣ IUUQTXXXEJHJUBMHPKQBTTFUTDPOUFOUTOPEFCBTJD@QBHFGJFME@SFG@SFTPVSDFT<>EBUB@TUSBUFHZ@HJG@@HVJEFCPPL@EBUBRVBMJUZEPDY ˞༰$*0ϙʔλϧͷЌ൛ͱ΄΅ಉͷਖ਼ࣜ൛͕ͩɺΨΠυϒοΫͷਖ਼ࣜͳެ։ϖʔδ͕ݟ͔ͭΒͳ͍ͨΊݱࡏЌ൛Λར༻͍ͯ͠Δɻ -
-:$PSQPSBUJPO ·ͱΊ • %2.-Ͱσʔλ࣭ΛίʔυԽͨ͠ • αΠΤϯςΟετͷΛແବʹͤͣʹσʔλ࣭ΛཧͰ͖ͨ • ։ൃऀͱӡ༻ऀ͕ίϛϡχέʔγϣϯΛऔΓ͘͢ͳͬͨ •
σʔλ੍࣭ޚͷࣗಈԽཁ݅ͷ໌֬ԽͰ55%ɾ55.͕ॖͨ͠ • ࣭อূʹ͔͔Δίετ͕ݮ͞Εͨ • ظతʹ࣭վળΛܧଓͰ͖ΔΑ͏ʹͳͬͨ • σʔλ࣭ཧͷ࣭Λ্͛Δ͜ͱͰӡ༻ͷ৴པੑΛ্ͨ͠ • %BUB$FOUSJDͳ.-0QTΛ࣮ݱ