спасибо за помощь, уже не надо) все сделано классом, потому что используется оболочка Qt, где кроме этого алгоритма еще море всего. поэтому эдакое отделение блока кода. хотя, конечно, правильно было бы вынести это в отдельный модуль.

54 именно для этого случая. В общем случае n должно быть больше максимального числа которое мы собираемся кодировать, это связано с делением по модулю.
Например если мы попробуем закодировать 3 и 7 с n=4, то получим
и при декодировании оба окажутся равными 3.

большое спасибо!