読者です 読者をやめる 読者になる 読者になる

百日半狂乱

Shut the fuck up and write some code!!

0.1 + 0.1 + 0.1 == 0.3 ?

Python Ruby C float

パーフェクトPythonを写経中に0.1 + 0.1 + 0.1について書いてあったのでメモ.

Pythonのfloat(浮動小数点数型)は、大抵の場合はCのdouble型を使って実装されており、近代的なコンピュータの場合53ビットの精度らしい.

Python

$ python
Python 2.7.3 (default, Feb 27 2014, 19:58:35) 
[GCC 4.6.3] on linux2
Type "help", "copyright", "credits" or "license" for more information.
>>> 0.1 + 0.1 + 0.1 == 0.3
False
>>> 0.1 + 0.1 + 0.1
0.30000000000000004

例が2系だけど3系でもFalseになる*1

Python0.1 + 0.1 + 0.10.3として扱いたい場合はdecimalモジュールをimportしてこれを用いれば良い.

Ruby

$ irb
irb(main):001:0> 0.1 + 0.1 + 0.1 == 0.3
=> false

Rubyもfalse.

パーフェクトPythonでは、もう1つJavaを例として、0.1 + 0.1 + 0.1 == 0.3がfalseになる様子が挙げられていたので、Cでも見てみた.

C

0.1 + 0.1 + 0.1 == 0.3 ?

$ gcc -Wall test_double_dig.c
$ ./a.out                   
False:0.3000000000000000444089209850062616169452667236328125000000000000000000000000000000000000000000000000

詳しいことはWikipedia参照:コンピュータの数値表現

パーフェクトPython (PERFECT SERIES 5)

パーフェクトPython (PERFECT SERIES 5)

*1:ちなみに、パーフェクトPythonはPython3.3対応の書籍です.念の為.