CryptSpirit
Май 27, 2010 00:43:23
Подскажите куда копать насчет типов данных и высокой точности вычислений. Есть дифференциальное уравнение и я использую метод Рунге-Кутта. И все бы хорошо но предварительно это вычисление было реализовано в маткаде и у результатов работы программы на питоне есть разбежность с данными полученными в маткаде. Я грешу на типы данных и на точность. Что скажете вы?
Андрей Светлов
Май 27, 2010 04:35:13
Хороший вопрос.
В питоне float - это double в C, считается на сопроцессоре. Потерь точности по сравнению с маткадом не может быть - он так же работает.
Но есть одна тонкость. В питоне 2.х (а у вас наверняка он)
>>> 1/2
0
но
>>> 1./2
0.5
Посмотрите, не пропустили ли вы где-нибудь целочисленное деление?
CryptSpirit
Май 28, 2010 05:51:15
Все прошло удачно и в точности совпало с маткадовскими расчетами спасибо.