Ну тут константы особо не мешают. Все-таки основная проблема в том, что частота умножается на скорость света. К счастью, те частоты, где подходит предел точности, не интересуют, но интересующие частоты уже к ним подбираются. Но первое, что попробую сделать, разобраться в каком виде хранит данные numpy. В принципе, если там точность выше, то меня это полностью устроит.

Как запасной вариант посчитать сколько в скорости света укладывается 2*pi, потому что такое страшное произведение используется только в фазе.

Проблема похоже отпала сама собой. Нашел скорее всего ошибку, и теперь на скорость света надо не умножать, а делить :)

м-да, с длиной волны вы все никак не подружитесь.

Ну не совсем. Мне эту формулу по телефону диктовали, не удивительно, что ошибся.

Эх.. ну проявил бы смекалку - скорость света - единица, частота - в каких-нибудь обратных сантиметрах.. :)

Ну вот как раз из-за того, что здесь я впервые увидел, чтобы частоту на скорость света умножали, то как только дошли руки, и стал проверять формулу. Хотя это уже оффтопик.