Форум сайта python.su
Подскажите куда копать насчет типов данных и высокой точности вычислений. Есть дифференциальное уравнение и я использую метод Рунге-Кутта. И все бы хорошо но предварительно это вычисление было реализовано в маткаде и у результатов работы программы на питоне есть разбежность с данными полученными в маткаде. Я грешу на типы данных и на точность. Что скажете вы?
Офлайн
Хороший вопрос.
В питоне float - это double в C, считается на сопроцессоре. Потерь точности по сравнению с маткадом не может быть - он так же работает.
Но есть одна тонкость. В питоне 2.х (а у вас наверняка он)
>>> 1/2
0
но
>>> 1./2
0.5
Посмотрите, не пропустили ли вы где-нибудь целочисленное деление?
Офлайн
Все прошло удачно и в точности совпало с маткадовскими расчетами спасибо.
Офлайн