0.1 + 0.1 + 0.1 == 0.3 ? - 百日半狂乱

パーフェクトPythonを写経中に0.1 + 0.1 + 0.1について書いてあったのでメモ．

Pythonのfloat(浮動小数点数型)は、大抵の場合はCのdouble型を使って実装されており、近代的なコンピュータの場合53ビットの精度らしい．

$ python
Python 2.7.3 (default, Feb 27 2014, 19:58:35) 
[GCC 4.6.3] on linux2
Type "help", "copyright", "credits" or "license" for more information.
>>> 0.1 + 0.1 + 0.1 == 0.3
False
>>> 0.1 + 0.1 + 0.1
0.30000000000000004

例が2系だけど3系でもFalseになる*1．

Pythonで0.1 + 0.1 + 0.1を0.3として扱いたい場合はdecimalモジュールをimportしてこれを用いれば良い．

Ruby

$ irb
irb(main):001:0> 0.1 + 0.1 + 0.1 == 0.3
=> false

Rubyもfalse．

パーフェクトPythonでは、もう１つJavaを例として、0.1 + 0.1 + 0.1 == 0.3がfalseになる様子が挙げられていたので、Cでも見てみた．

0.1 + 0.1 + 0.1 == 0.3 ?

$ gcc -Wall test_double_dig.c
$ ./a.out                   
False:0.3000000000000000444089209850062616169452667236328125000000000000000000000000000000000000000000000000

詳しいことはWikipedia参照:コンピュータの数値表現