Найти - Пользователи
Полная версия: Точность вычислений
Начало » Python для новичков » Точность вычислений
1
CryptSpirit
Подскажите куда копать насчет типов данных и высокой точности вычислений. Есть дифференциальное уравнение и я использую метод Рунге-Кутта. И все бы хорошо но предварительно это вычисление было реализовано в маткаде и у результатов работы программы на питоне есть разбежность с данными полученными в маткаде. Я грешу на типы данных и на точность. Что скажете вы?
Андрей Светлов
Хороший вопрос.

В питоне float - это double в C, считается на сопроцессоре. Потерь точности по сравнению с маткадом не может быть - он так же работает.

Но есть одна тонкость. В питоне 2.х (а у вас наверняка он)
>>> 1/2
0
но
>>> 1./2
0.5
Посмотрите, не пропустили ли вы где-нибудь целочисленное деление?
CryptSpirit
Все прошло удачно и в точности совпало с маткадовскими расчетами спасибо.
This is a "lo-fi" version of our main content. To view the full version with more information, formatting and images, please click here.
Powered by DjangoBB