Уведомления

Группа в Telegram: @pythonsu

#1 Май 27, 2010 00:43:23

CryptSpirit
От:
Зарегистрирован: 2010-05-05
Сообщения: 88
Репутация: +  0  -
Профиль   Отправить e-mail  

Точность вычислений

Подскажите куда копать насчет типов данных и высокой точности вычислений. Есть дифференциальное уравнение и я использую метод Рунге-Кутта. И все бы хорошо но предварительно это вычисление было реализовано в маткаде и у результатов работы программы на питоне есть разбежность с данными полученными в маткаде. Я грешу на типы данных и на точность. Что скажете вы?



Офлайн

#2 Май 27, 2010 04:35:13

Андрей Светлов
От:
Зарегистрирован: 2007-05-15
Сообщения: 3137
Репутация: +  14  -
Профиль   Адрес электронной почты  

Точность вычислений

Хороший вопрос.

В питоне float - это double в C, считается на сопроцессоре. Потерь точности по сравнению с маткадом не может быть - он так же работает.

Но есть одна тонкость. В питоне 2.х (а у вас наверняка он)
>>> 1/2
0
но
>>> 1./2
0.5
Посмотрите, не пропустили ли вы где-нибудь целочисленное деление?



Офлайн

#3 Май 28, 2010 05:51:15

CryptSpirit
От:
Зарегистрирован: 2010-05-05
Сообщения: 88
Репутация: +  0  -
Профиль   Отправить e-mail  

Точность вычислений

Все прошло удачно и в точности совпало с маткадовскими расчетами спасибо.



Офлайн

Board footer

Модераторировать

Powered by DjangoBB

Lo-Fi Version