Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
なぜfloatで丸め誤差が生じるのか ~decimalとの違いを理解しよう~
Search
Haruki Yoshida
September 08, 2023
Technology
3
1.5k
なぜfloatで丸め誤差が生じるのか ~decimalとの違いを理解しよう~
float型で誤差が生じる理由を2進数と小数の観点から解説しています。
Haruki Yoshida
September 08, 2023
Tweet
Share
More Decks by Haruki Yoshida
See All by Haruki Yoshida
Docker再入門 ~コンテナ・イメージ編~
yoshiyoshiharu
32
13k
トランザクションに歩み寄る ~はじめの第1歩編~
yoshiyoshiharu
6
2.8k
曳光弾型開発のススメ
yoshiyoshiharu
2
1k
Other Decks in Technology
See All in Technology
ソフトウェア開発におけるインターフェイスという考え方 / PHPerKaigi 2025
k1low
9
3.9k
20250328_OpenAI製DeepResearchは既に一種のAGIだと思う話
doradora09
PRO
0
150
移行できそうでやりきれなかった 10年超えのシステムを葬るための戦略 / phper-kaigi-2025-ryu
carta_engineering
0
680
問題解決に役立つ数理工学
recruitengineers
PRO
7
1.8k
職種に名前が付く、ということ/The fact that a job title has a name
bitkey
1
240
Dapr For Java Developers SouJava 25
salaboy
1
130
[CATS]Amazon Bedrock GenUハンズオン座学資料 #2 GenU環境でRAGを体験してみよう
tsukuboshi
0
140
一人QA時代が終わり、 QAチームが立ち上がった話
ma_cho29
0
290
LINE API Deep Dive Q1 2025: Unlocking New Possibilities
linedevth
1
160
DevinはクラウドエンジニアAIになれるのか!? 実践的なガードレール設計/devin-can-become-a-cloud-engineer-ai-practical-guardrail-design
tomoki10
3
1.3k
LINEギフトのLINEミニアプリアクセシビリティ改善事例
lycorptech_jp
PRO
0
240
アプリケーション固有の「ロジックの脆弱性」を防ぐ開発者のためのセキュリティ観点
flatt_security
17
6.8k
Featured
See All Featured
What's in a price? How to price your products and services
michaelherold
245
12k
Building Applications with DynamoDB
mza
94
6.3k
The Invisible Side of Design
smashingmag
299
50k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
102
18k
Gamification - CAS2011
davidbonilla
81
5.2k
Imperfection Machines: The Place of Print at Facebook
scottboms
267
13k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
44
7.1k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
118
51k
Typedesign – Prime Four
hannesfritz
41
2.6k
Cheating the UX When There Is Nothing More to Optimize - PixelPioneers
stephaniewalter
280
13k
Statistics for Hackers
jakevdp
798
220k
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
4
490
Transcript
なぜfloat で丸め誤差が生じるのか decimalとの違いを理解しよう
Agenda 2進数と小数 Float型の仕組み 丸め誤差 Decimal型の仕組み まとめ
2 進数と小数
2 進数と小数 コンピュータは2進数でデータを持つ 10 進数を2 進数で表すときは、 の足し合わせで表現 10進数に変換 2n ex)
2 進数と小数 10進数は の足し合わせで表現する 2n すべての整数は2進数で正確に表現できる
2 進数と小数 10進数は の足し合わせで表現する 2n すべての整数は2進数で正確に表現できる じゃあ小数はどうなの?
2 進数と小数 これらを足し合わせて小数点以下を表現 改めて、2 進数で10 進数を表すには の足し合わせで表現する 小数部分は、n = -1,
-2, -3... で表現 2n
2 進数と小数 2 進数で小数は正確に表現できたり、できなかったりする 正確に表現できるとき 正確に表現できないとき 無限に続く
指数表記 非常に大きい or 小さい数を表現する際に、メモリを節約できる 2進数の場合 2 進数と小数
2 進数と小数 ここまでのまとめ 10進数は の足し合わせで表現する 2n 整数は2進数で正確に表現できる 小数は2進数で正確に表現できたり、できなかったりする
float 型の仕組み
の値 符号部 指数部 仮数部 float 型の仕組み float 型(32 ビット) 符号部(1
ビット) 指数部(8 ビット) 仮数部(23 ビット)
の値 符号部 指数部 仮数部 float 型の仕組み double 型(64 ビット) 実はRuby
のFloat クラスはこっち 符号部(1 ビット) 指数部(11 ビット) 仮数部(52 ビット)
丸め誤差
丸め誤差 小数は2 進数で正確に表せないときがある 小数は有限の桁数で近似する( 丸める)
丸め誤差 double 型での例 52 ビット 四捨五入 指数表記
丸め誤差 Ruby で試す 浮動小数点数は近似されている( 丸められている) ことがわかる
丸め誤差 誤差による計算のずれ ex) 切り捨てや切り上げ 260.7100 を小数4 桁目を切り捨て ↓ 260.710 になるべきだが、260.709
になる
decimal 型の仕組み
の値 符号部 指数部 仮数部 decimal 型の仕組み 符号部(1 ビット) 指数部(7 ビット)
仮数部(96 ビット) decimal 型(128 ビット)
の値 符号部 指数部 仮数部 3 decimal 型の仕組み 整数 整数では誤差が生じないため、 decimal
型では丸め誤差は生じない 0 0 0 0 0 0 1 1 1 1 1 1 1 1 0 ※ 空白部は0 123 ex)
decimal 型の仕組み decimal 型のデメリット メモリ使用量が大きい 計算のパフォーマンスが遅い
まとめ 小数を2 進数で正確に表せないことが多い float やdouble で2 進数のまま表すと、丸め誤差が生じる decimal 型は10 進数で表現するので、丸め誤差が生じない
参考文献 https://www.cc.kyoto- su.ac.jp/~yamada/programming/float.html https://learn.microsoft.com/ja-jp/dotnet/visual- basic/language-reference/data-types/decimal-data-type