Найти - Пользователи
Полная версия: нужна точность
Начало » Python для новичков » нужна точность
1
eiyawii
как по умолчанию установить используемый типа данных float96 вместо float64?

почему-то между float64 и float96 нет никакой разницы в результатах.
то есть изначально число Decimal, потом я перевожу его в float32 - в результате 8 знаков после запятой, потом Decimal пробую перевести в float64 - в результате 14 знаков после запятой, и если переводить в float96, то тоже 14 знаков после запятой, а мне нужно около 20. что делать и чем объясняется одинаковый результат float64 - float96?

почему если питоновский float64 есть аналог double в сишнике у меня получается 14 знаков после запятой, а не 16?

и еще такой вопрос: не могу импортировать из numpy тип данных float128, пишет что ImportError: cannot import name float128 , в чем проблема? возможно в том, что проц 32бит?
eiyawii
ff=[0.002045339109779802655419094436,
0.01803351237154522224714624823,
0.07103329235907759422121470914,
0.1640569450468545331339393205,
0.2448309111127428477422806277,
0.2448309111127428477422806277,
0.1640569450468545331339393205,
0.07103329235907759422121470914,
0.01803351237154522224714624823,
0.002045339109779802655419094436]
for i in range(0,N):
ff=numpy.float64(ff)

вот, к примеру, код. после преобразования в флоат64, после запятой остаётся 14 десятичных разрядов. хотя если в питон шелле написать numpy.float64(0.002045339109779802655419094436), то после преобразования будет 16 десятичных разрядов после запятой. в чем дело?
Lexander
numpy.set_printoptions
This is a "lo-fi" version of our main content. To view the full version with more information, formatting and images, please click here.
Powered by DjangoBB