Форум сайта python.su
0
Доброго времени суток!
Имеется массив NumPy (float64) заполненный вещественными числами с точностью до 7го знака после запятой.
Если этот массив вывести на печать, то часть чисел выведется полностью (все семь разрядов после запятой), а часть в сокращённой форме. Также будет если передавать значение во вне, преобразуя в строку.
Пример:
9.09e-05__________9.31e-05Подскажите, как сделать чтобы сокращённая форма вообще не использовалась?
9.32e-05__________9.54e-05
9.55e-05__________9.77e-05
9.78e-05__________0.0001
0.0001001__________0.0001023
0.0001024__________0.0001046
Офлайн
253
Zlibfloat64 всегда задает примерно 15 значащих цифр. Ожидать меньшее число знаков после вычислений не приходится. Фактически никаких разрядов там нет см. https://en.wikipedia.org/wiki/IEEE_754
то часть чисел выведется полностью (все семь
Отредактировано doza_and (Янв. 21, 2020 07:21:14)
Офлайн
0
doza_and
Все числа в массиве после округления round(x,7) . Я заметил что если число больше 0.0001000 , то выводит в несокращённом формате, если меньше то с “е”.
Офлайн