[python-nl] grote getallen met grote precisie

Rob Hooft rob at hooft.net
Mon May 4 16:55:38 CEST 2009


> Overigens heeft numpy nog een float128 type, maar ook daar zul je vinden dat
>>>> a = numpy.float128(1e22+1)
>>>> b = numpy.float128(1e22)
>>>> a == b
> True

Niet valsspelen, je moet de optelling natuurlijk wel in float128 doen
en niet in Python float (64). 64 bit floats met 53 bit mantissa zijn
voldoende voor 17 cijfers. 128 bits moet dus zeker meer dan 30 cijfers
zijn.

Rob

-- 
Rob W. W. Hooft || rob at hooft.net || http://hooft.net/rob


More information about the Python-nl mailing list