【Go言語】浮動小数点

Go言語の浮動小数点について、解説しています。

【Qiita】
【Go言語】浮動小数点

Transcript

1. Tomoki Ota ʲGoݴޠʳුಈখ਺఺
2. f loat32 f loat64 Goͷුಈখ਺఺ܕ 2
3. Goͷුಈখ਺఺ܕ 3
4. Goͷුಈখ਺఺ܕ 1.0001 * 1.0001 = 1.00020001 ؙΊޡࠩͰग़ྗ݁Ռ͸1.0002ʹͳΔ 4
5. খ਺ : ແݶݸଘࡏ͢Δ f loat64 : ༗ݶɻ64bit Goͷුಈখ਺఺ܕ 5
6. ූ߸s, Ծ਺F, ࢦ਺eͷͱ͖ͷ10ਐ਺Ћ Goͷුಈখ਺఺ܕ α = (−1)s × F × 2e 6
7. Goͷුಈখ਺఺ܕ 1.0001 = 1 × 1.000100016593933 × 20 ූ߸s, Ծ਺F, ࢦ਺eͷͱ͖ͷ10ਐ਺Ћ 7
8. ୯ਫ਼౓ුಈখ਺఺( f loat32) : ࢦ਺8ϏοτɺԾ਺23Ϗοτ ഒਫ਼౓ුಈখ਺఺ܕ( f loat64) : ࢦ਺11ϏοτɺԾ਺52Ϗοτ Goͷුಈখ਺఺ܕ 8
9. Goͷුಈখ਺఺ܕ ූ߸ ࢦ਺(8bit) Ծ਺(23bit) 0 1111111 00000000000001101000111 9
10. ൺֱ ϓϩηοαʹґଘ͢Δ ಛघͳුಈখ਺఺ ޡࠩͷ஝ੵ ۙࣅ஋Λ࢖͏͜ͱʹΑΔฐ֐ 10
11. ۙࣅ஋Λ࢖͏ͱɺ==Λ࢖༻ͨ͠ൺֱ͕ෆਖ਼֬ʹͳΔ৔߹ ͕͋Δɻ goͷςετϥΠϒϥϦtestify ʹ͸ൺֱ͍ͯ͠Δ஋͕Ўͷ ൣғ಺Ͱ͋Δ͜ͱΛݕࠪ͢ΔͨΊͷInDelta͕ଘࡏ͢Δɻ ൺֱ 11
12. ϓϩηοαʹ͸ɺුಈখ਺఺ԋࢉΛॲཧ͢Δුಈখ਺఺ԋࢉ Ϣχοτ(Floating Point Unit, FPU)͕͋Δɻ ॲཧ݁Ռ͸FPUʹґଘ͢ΔͷͰɺFPU͕ҟͳΔผͷϚγϯͰ ಉ݁͡ՌʹͳΔอূ͸ͳ͍ɻ ͪ͜Β΋ 𝛿 Λߟ͑Δ͜ͱͰղܾ͢Δɻ ϓϩηοαʹґଘ͢Δ 12
13. ϓϩηοαʹ͸ɺුಈখ਺఺ԋࢉΛॲཧ͢Δුಈখ਺఺ԋࢉ Ϣχοτ(Floating Point Unit, FPU)͕͋Δɻ ॲཧ݁Ռ͸FPUʹґଘ͢ΔͷͰɺFPU͕ҟͳΔผͷϚγϯͰ ಉ݁͡ՌʹͳΔอূ͸ͳ͍ɻ ͪ͜Β΋ 𝛿 Λߟ͑Δ͜ͱͰղܾ͢Δɻ ಛघͳුಈখ਺఺਺ 13
14. • ਖ਼ͷແݶେ • ෛͷແݶେ •NaN(Not-a-Number) ಛघͳුಈখ਺఺਺ 14
15. NaN͸f != fΛຬͨ͢།Ұͷුಈখ਺఺਺ ಛघͳුಈখ਺఺਺ 15
16. ಛघͳුಈখ਺఺਺ 16
17. ಛघͳුಈখ਺఺਺ ͜ΕΒ3ͭͷුಈখ਺఺਺ʹ͍ͭͯͷൺֱ͸ɺ math.IsInf(ແݶ)Ͱɺmath.IsNan(NaN)ͰൺֱͰ͖ Δɻ 17
18. ޡࠩͷ஝ੵ(Ճࢉɾݮࢉ) 10000ʹ1.0001ΛnճՃࢉ͢ΔϓϩάϥϜ 18
19. ޡࠩͷ஝ੵ(Ճࢉɾݮࢉ) 1.0001ΛnճՃࢉͯ͠ɺ࠷ޙʹ10000ΛՃࢉ͢ΔϓϩάϥϜ 19
20. ޡࠩͷ஝ੵ(Ճࢉɾݮࢉ) n ਖ਼֬ͳ஋ f1 f2 10 10010.001 10010.001 10010.001 1K 11000.1 11000.0999999993 11000.1 1M 1.0101E+06 1.01009999997614E+06 1.01009999997668E+06 Ճࢉ΍ݮࢉΛ࿈ଓͯ͠ߦ͏৔߹͸ɺେ͖͞ͷ͍ۙ஋Λ·ͱΊͯܭࢉ͔ͯ͠Β େ͖ͳ஋ΛՃࢉɾݮࢉ͢Δͱɺޡ͕ࠩখ͘͞ͳΔɻ 20
21. ޡࠩͷ஝ੵ(৐ࢉɾআࢉ) a × (b + c) a × b + a × c v.s. 21
22. ޡࠩͷ஝ੵ(৐ࢉɾআࢉ) a × (b + c) a × b + a × c v.s. 22
23. ޡࠩͷ஝ੵ(৐ࢉɾআࢉ) a × b + a × c ͷํ͕ޡ͕ࠩগͳ͍ ՃࢉɾݮࢉΑΓ৐ࢉɾՃࢉΛઌʹߦ͏ͱ ޡࠩΛখ͘͢͞Δ͜ͱ͕Ͱ͖Δ 23
24. Goͷ f loat32, f loat64͸ۙࣅ஋ΛͱΔͷͰɺޡ͕ࠩൃੜ͢Δ Ճࢉɾݮࢉ͸ಉܻ͡਺ͷԋࢉΛ·ͱΊͯߦ͏͜ͱͰɺਫ਼౓্͕͕Δ ࢛ଇԋࢉ͕ࠞ߹͢Δ৔߹ɺ৐ࢉͱআࢉΛઌʹߦ͏͜ͱͰɺਫ਼౓্͕͕Δ ·ͱΊ 24