Kaggle参加報告: Quora Insincere Questions Classification

社内勉強会での発表資料です。

Transcript

1. K Q CA I :
2. ) • • A 3 ) ( • 3 3 • 3 3 3
3. ) • • A 3 ) ( • 3 3 • 3 3 3
4. o s • - c B2 Q r • u - 1- B w B • 5 • 0 ? • e u2 u a BF : • 5 • 0 • g a BF : • 5 0 • 0 0 • : d o • 5 • f -
5. ia dil p • 41 21 2 21 • g m D yr G 41 • 1 s LN to De ei N • i nw • D m m Kc • bh e D m K 24 1 K
6. p a lp Pi pc • L cPemp B bnP • P bn P 5 P bn p p n • c • r • t . Pu :v P • w ognP :d pP • 7 . P 57 .55. • 37 . 6 56 5 6 3 . 6 6 56 5 6 L s b B : B 37 . 5 3 . 6 .995 -- 6: 7 /3 /3 7 6: 9/ 3 / / 9/ 3 / : / 3
7. ) • • A 3 ) ( • 3 3 • 3 3 3
8. Z T U 2 H H H E 8 E C L & 2 H H & H 1 H C P B E P * C M H H C L 2 H H & C E C L H H H & * 4 0 R * 36 ( H 0 2 ) E 3 M N W S E ( • C H M M E E • E C H M M E E • E C H L G C E • E C H N G C E 2H E * E
9. i R & , ) ( H K ( • • P 1 0 0 • b N a 1 • cZ g 1 # • eTh R 1 . 2 . • ( cZ 1 • ( • ,
10. dw Z ) 3 0 3 3 & 3 ) ( 3 , 3 3 B 3 3 & 3 ) 3 3 B 3 y sg 3 03 m a o v & 3 ) r WP l ckNf u l t biGH xhWP l ckNf T RQ n l e & 3 ) ) 3 3 3 e vu
11. c Z 1N G H 8G G N B & 18G8 G8C & 6 G H 0 GC8B 4 * B L G 8 G H B 18G8 G8C & B8HH 8 C B 8 G8 6 G 8 G H & * 34 R * 2 ( 8N G 1 ) 8 28L M H W 8 ( • H B8N G L H C L 8 • B8N G L H C L 8 • B8N G 8 B • B8N G C8M B 1G 8 e aS T6 G 8 G HWbdUP B8HH 8 C BW a
12. nu Rde 2 H H H E 8 E C L & 2 H H & H 1 H C P B E P * C M H H C L 2 H H & C E C L H H H & * 4 0 U * 36 ( H 0 2 ) E 3 M N gh E ( • C H M M E E • E C H M M E E • E C H L G C E • E C H N G C E 2H E * E v * E H H E H G mpi dbcfRars ko S ZW H H ltT
13. V : 5 : 2: 2 4 -52 4 ) 1 ( CF HP CF F FZ H 1 2 3 1 1 2 3 1 1 2 3 1 1 2 3 1 1 2 3 1 1 2 12 12 12 12 12 ∈ ℝ
14. H (: 1 : 5 )1 5 3 3 3 3 3 4 3 4 3 4 3 4 3 4 3 ∈ ℝ ∈ {0, 1} 43 12 P 25525
15. ) • • A 3 ) ( • 3 3 • 3 3 3
16. - / .-/ - - - - -
17. :A96 • W P W • : A: Za H B 8 6 : 7H .:A 5 :A • 1H B BA • H B 8 6 : g 0- L ( K • B 9 : 7:99 A A: A A 0- ( L ( )K • b ib Me dfc 0- ( ) L ( )K • B 9 : 7:99 A 6 A 0- ( ) L ( K • T Mh • 3B B BA
18. :A96 • W P W • : A: Za H B 8 6 : 7H .:A 5 :A • 1H B BA • H B 8 6 : g 0- L ( K • B 9 : 7:99 A A: A A 0- ( L ( )K • b ib Me dfc 0- ( ) L ( )K • B 9 : 7:99 A 6 A 0- ( ) L ( K • T Mh • 3B B BA
19. 6 L B L L S3 . * U )T 2E N 6 5 ECR 9 GCR MCE LM 2E N 6 0E C C LC G E N LM C3894 U C27: & * 3 436 ( G L 7 L PL W G L ( & * • L E C BL M CLB LL GLC G • &G E C BL M CLB LL GLC G • &G E N ECG • &G E P ECG 6 C LC G 01 3 G L
20. 7RM K C LM KM K y U4 . * W ) 2 7 K BK G K L 6 KG S : E S N P K MNK L 2 7 K BK G 0 LL M G K B K MNK L 49:5 W 28 & * 4 R K 547 ( M 8 P M ML c M ( & * • LM R K P BCM LNG P MC MM M • & R K P BCM LNG P MC MM M • & R K B B • & R K G B 7K M 01 4 LL M rl o • aTa T y • # • 1 # • fwu T aTa T km xt • # 0 1 0 1 • 1 # 0 1 0 1 • ph vizh rg T sd • # 1 1 • 1 # 1 1 • 3 K L : E S K M KLl ne • # 1 1 • 1 # 1 1
21. 8SN L MN LN L c U50 +.& W * 4G P ( 8 L CL ( L M 7 L GET F ET 0 EG L B N L M 4G P 8 L CL ( P L C 9 N RNM 1G MMEBE NE G 2RNL 3 N L M + 5 S L 658 EN 07 ) 8L E NE & 012 5 MM G S L R GE C & L B N L M ( 5 S L 0E5: 6 & d a 0E5: 6 0E49 + W 5 S L 0E5: 6 & ) 8 GE C W 6 R GE C W 5 S L 658 EN 07
22. 1LG 9 G7 G Vvin , ( Q ) P . & : 17 7 7B & : 6 : 0 B7 C , : : 7G . 17 7 7B & : 7 7 37 G G 6 : B :: C Verz Wyd fwu twu . 17 7 7BV xa ch Wk c gmR l ch Wk 7 N sV cV bwu . 17 7 7B 1 G 7 C : 9G TV b fwu twu . 17 7 7BV xa . 17 7 7BV xa c gmR l 5 omP
23. 7 L B L L W S40/ .& *T 3E N ( 7 ( 6 ECR : GCR 0MCE LM 3E N 7 ( N 8 L PL 1E C C LC G E 4 547 06 ) 7 C LC G & 012 4 G E P ECG & LM ( 4 0C49:5 &
24. :A96 • W P W • : A: Za H B 8 6 : 7H .:A 5 :A • 1H B BA • H B 8 6 : g 0- L ( K • B 9 : 7:99 A A: A A 0- ( L ( )K • b ib Me dfc 0- ( ) L ( )K • B 9 : 7:99 A 6 A 0- ( ) L ( K • T Mh • 3B B BA
25. G • • 5 4 4 ) • ( 45 • , 5 4 • 2 ( ( 2 • ( 2 ,)45 5 • 2 5 52 • , 5 *2 5 ( 4 • , ) 5 • ॡ 0 G 0 * * , *) *( 0
26. GQ P • • 5 4 4 ) • ( 45 • , 5 0( 4 • 2 ( ( 2 • ( 2 ,)45 5 • 2 5 52 • , 5 2 (5 ( 4 • , ) 5 • ॡ ( GQ P ( (, ( ( 0 * ) ( 0 * ) V
27. G Q • • 5 4 4 ) • ( 45 • , 5 4 • 2 ( ( 2 • ( 2 ,)45 5 • 2 5 52 • , 5 *2 5 ( 4 • , ) 5 • ॡ 0 G Q P 0 * * , *) *( 0 0 G
28. 2 L F F ,2 ?+2 ? 2 2 2 L M F F ,2 ?+2 ? 2 L M F ☓ ,2 ?+2 ? 2 2 TN M ☓ F ) 2 () M TN M ☓D 2 E FD ? 2 E F ☓ 2 22 2
29. 2 L F F ,2 ?+2 ? 2 2 2 L M F F ,2 ?+2 ? 2 L M F ☓ ,2 ?+2 ? 2 2 TN M ☓ F ) 2 () M TN M ☓D 2 E FD ? 2 E F ☓ 2 22 2 E
30. W W F 2 L F F ,2 ?+2 ? 2 2 2 L M F F ,2 ?+2 ? 2 L M F ☓ ,2 ?+2 ? 2 2 TN M ☓ F ) 2 () M TN M ☓D 2 E FD ? 2 E F ☓ 2 22 2 W T
31. 2 - O W C T T B 2 L F F ,2 ?+2 ? 2 2 2 L M F F ,2 ?+2 ? 2 L M F ☓ ,2 ?+2 ? 2 2 TN M ☓ F ) 2 () M TN M ☓D 2 E FD ? 2 E F ☓ 2 22 2 B CN 2 - V
32. yp 2 3 0322 :5 :3 : :5 • bc Vlv Bd a CWt O o FSOGTS i t Ve S • 3 : • hGT n f 3 V • 2 -31 1 1 • n f Vm W V 3 1 f S • 2 -31 :3 : :5 • n f 3 Vrgu V 3 1 f S
33. Q & ,9: 83 2 8 8 83 • 9:- S 9 • 9 & :- & 8 8 & 9 - - & 9 & 9 :- 8 8 G W FD
34. fc - 1 9 116: 36: :6: • db ea • ☓ ,0 0 D 6: : D 0 6: & : SQ G ,0 0 6: : W F
35. gc W 5 0 • ea • - -2 ☓ & 5 & - 5 :: : & - -2 S D b D Fd & Q fG
36. ie 8 0 : • 8 cfd gb • ☓ -8 :-2 ☓ & : ☓ : & 8 & QS a D F W Fh G
37. : B8 :: G N , ) ( P ) . : 7 7 7B : :F 0 B7 L L , : : 7G F . 7 7 7B : 7 7 37 G GF . 7 7 7B : - G : : :&5 G 7 7 . 7 7 7B G - G : : : B8 :: elstVrd f o n o w . 7 7 7B a W . 7 7 7B a W v kcuTg QR xi W W 2 7 m kc hb o . 7 7 7B G 7 : 5 G F hbwv f o n o w W V a • . 7 7 7B a W • :&5 - G W V a • . 7 7 7B a W • :&5 - G v W V a • kcuTg QR xi W • :&5 - G W
38. :A96 • W P W • : A: Za H B 8 6 : 7H .:A 5 :A • 1H B BA • H B 8 6 : g 0- L ( K • B 9 : 7:99 A A: A A 0- ( L ( )K • b ib Me dfc 0- ( ) L ( )K • B 9 : 7:99 A 6 A 0- ( ) L ( K • T Mh • 3B B BA
39. ] wm 80/ - . - ._ N W * G DSD SD * G SGT : S DNL[ M PL[ 0VLNG SG I D VS T N W DSD SD * G DW SD D T 1NDTTLILFD L P G N 3 SD 4 D VS T ,G ) 8D S 8 & 0: . G S GLF L P (G 013 8 TT F PFD )PG ND S D R NLP ) ().G SG I D VS T * )G ) 8D S 0L8 ) ().G N W DSD SD * G 4LP VP G * G SG) F ILP VPLP DW SD N W DSD SD L K 4LP VP G * G 3 SD 4 D VS T ,G 3 SD 4 D VS T LTCVPM 624B )G ] wm z • vxm f ] m trsul fg • / N W c c 624 • / m7 SP N epibg • 8 FDN n k dahgomm VENLF 80 n ydkchg
40. :A96 • W P W • : A: Za H B 8 6 : 7H .:A 5 :A • 1H B BA • H B 8 6 : g 0- L ( K • B 9 : 7:99 A A: A A 0- ( L ( )K • b ib Me dfc 0- ( ) L ( )K • B 9 : 7:99 A 6 A 0- ( ) L ( K • T Mh • 3B B BA
41. PRF 2NDGFF I SCNQM I 6 . & ,&- & , &] 4MPVG )&&F CRCIRCN )&&F PRFS 8PRNCM G PLG G MF WPRF GCT RGS 4MPVG CRCIRCN )&&F CVGRCIG CW TG TS 0MCSS ECT P NPFGM 2 TRC 3GCT RGS F 6C GR 76 *-&F RGF ET P F 02 6PSS EP ECT ( F MC GR NC QPPM I ( (-F PRF GCT RGS )&(F ( 6C GR 6 7 ( (-F 4MPVG CRCIRCN )&&F 3 GT GF )&&F PRF( GE G T I EP ECT 4MPVG CRCIRCN W T 3 GT GF &&F 2 TRC 3GCT RGS F 2 TRC 3GCT RGS SB L 13 (F 4MPVG CRCIRCN W T 3 GT GF *&&F SCNQM I QGR 0 PRF GNDGFF Im u • 3 G T I m w n feb i _h • l: PRC RGTRC GF GETPR m • 3 G T I m w mo gt sp[ fh w u fh b l _ yvu f _h • 3 G T I m PRF 2NDGFF Iu fh && m w ar *&& u0 lz xf l • && u mn l faih • m u c v z m u gtdkb _
42. :A96 • W P W • : A: Za H B 8 6 : 7H .:A 5 :A • 1H B BA • H B 8 6 : g 0- L ( K • B 9 : 7:99 A A: A A 0- ( L ( )K • b ib Me dfc 0- ( ) L ( )K • B 9 : 7:99 A 6 A 0- ( ) L ( K • T Mh • 3B B BA
43. u oa • c V P B p B • l E c V e ni d E B • V b g BC m E L B s p C B
44. C i • (1 1 4 H d V e • C e T a C )2 0 l ) 34 4 : )2 0 l ) 34 4 : )2 0 l ) 34 4 : )2 0 l ) 34 4 : )2 0 & l ) 34 & 4 : 0 1 32
45. ) • • A 3 ) ( • 3 3 • 3 3 3
46. MN 8 B NF EB • 6 AB • 2 BAAF D ) F 6 (- 1077 +* 6 8 (- • 2 BAAF DM • , 4 PB ) 8 L DL Si 0 ZkoT • aebecdRr ko • C A 0 G .PBL DB • 3 A r mf 3 gl h Vhn r ko -88 ::: / 0 5 6 . . 6 5 8. 0 . . 8. . .
47. B 6 ? C 8L PGL P? ?MP • 3LBC • CBBG E )) [ -G1 : [ 326 )( • CBBG EO • 1 LRC G G4CSO 0?OP CTP O N?P F )( mg0C?P NC ( ] L ?P )) • mg0C?P NC ? MMCN F?NO, GNOP F?N MMCN, L U GNOP F?N MMCN, , • 8P?PG ? 0C?P NCO • mgiVdb mgiVohiVkohiV-?E L F?N? PCNO • fafceWpn l • ) L B . 2L ? . pn 0GT ) -88 7 ::: / 31 3 . 7. 78.3 7 77. . 8.3 .7 77.3
48. ( 5E EML G 2M G CM M • 4 E • 0F GB + U . 26 *+ U . 26 , U 3 G +) • 0F GB • 4 E 2E ( 1 L8 L ( G L • 4 E 2E ( 5 B F ( G L • : L pW L FF GB E FF L P GB EE L Go n • e ebdRrli • cad G C L G F E * ( C (* )LC C • : E L G L h V • rl 3 E :XgmS (*T