Ctrl →

balu · Авг. 17, 2007 09:41:55

Такая проблема : из базы данных (использую kinterbasdb) вытягивается вещественное число. Реальное число - 5.3, однако в программе оно отображается как 5.299999. В моем случае эта погрешность имеет смысл. Есть ли какой способ заставить возвращать именно 5.3 или, хотя бы, выставить округление?

slivlen · Авг. 17, 2007 10:05:29

Используй decimal вместо float.

poltergeist · Авг. 22, 2007 15:05:41

5.299999 - это что-то похоже на бок интерпретатора, возможно это бред, но проверь на всяк случай:)
Вот что умеет показывать интерпретатор:

>>> 0.1
0.10000000000000001
>>> 5.3
5.2999999999999998

Если в этом бок, то вот ещё почитать: http://docs.python.org/tut/node16.html#SECTION0016100000000000000000

Отредактировано (Авг. 22, 2007 15:08:45)

Jenyay · Авг. 22, 2007 20:38:10

Можно округлить при выводе строки, например как “%.3f” % (5.3)

balu · Авг. 23, 2007 11:06:56

poltergeist
Если в этом бок, то вот ещё почитать: http://docs.python.org/tut/node16.html# … 0000000000

Не совсем. Поле у меня numeric(15, 5). Kinterbasdb отдает строку “2.03999” вместо “2.04”. Хотя корень в том, что вы описали. Вот и пришлось округлять.

Jenyay
Можно округлить при выводе строки, например как “%.3f” % (5.3)

Это наилучшее решение. Decimal работает, но часто выдает результат в экспоненциальной форме и не понравился он мне.

Конечный код:

def formatFloat(number, scale=2):
if number == “”: return number
n = number.split(“.”)
if len(n) == 1 : return n
if number == ‘9’ and len(n) >= scale: number = number +'9'
a = “%.”+str(scale)+'f'
a = a % (float(number))
return a.rstrip('0')

Отредактировано (Авг. 23, 2007 11:12:26)

Viper · Авг. 23, 2007 11:28:37

str вполне нормально округляет число, в отличии от repr.
Например:

>>> str(0.23)
'0.23'
>>> repr(0.23)
'0.23000000000000001'

balu · Авг. 23, 2007 11:39:28

Viper
str вполне нормально округляет число, в отличии от repr.

А у меня str. Это kinterbasdb страдает…

Андрей Светлов · Авг. 23, 2007 13:31:53

Есть еще fpformat.fix. Хоть он и ограниченный несколько

poltergeist · Авг. 23, 2007 14:33:03

balu
Я так понял, что вы получаете данные в строковом виде и выводить тоже должны также, но красиво.

Как-то всё громоздко у вас, может так:

def formatFloat(number, scale=2):
return str(round(float(number), scale))

Вот пример:

>>> formatFloat(“234.2359999999998”, 5)
'234.236'

balu · Авг. 23, 2007 16:06:26

poltergeist
Как-то всё громоздко у вас, может так

Спасибо. за round я как-то запямятовал :(
Этот код
a = “%.”+str(scale)+'f'
a = a % (float(number))
return a.rstrip('0')
теперь заменил на вашу конструкцию.

Отредактировано (Авг. 23, 2007 16:17:38)

Python-сообщество

Уведомления

#1 Авг. 17, 2007 09:41:55

Форматирование вещественых чисел.

#2 Авг. 17, 2007 10:05:29

Форматирование вещественых чисел.

#3 Авг. 22, 2007 15:05:41

Форматирование вещественых чисел.

#4 Авг. 22, 2007 20:38:10

Форматирование вещественых чисел.

#5 Авг. 23, 2007 11:06:56

Форматирование вещественых чисел.

#6 Авг. 23, 2007 11:28:37

Форматирование вещественых чисел.

#7 Авг. 23, 2007 11:39:28

Форматирование вещественых чисел.

#8 Авг. 23, 2007 13:31:53

Форматирование вещественых чисел.

#9 Авг. 23, 2007 14:33:03

Форматирование вещественых чисел.

#10 Авг. 23, 2007 16:06:26

Форматирование вещественых чисел.

Board footer