Буду очень благодарен, если поможете ещё и с этим алгоритмом, т.к. большинство форматов основываются именно на RLE.
Вообще, здесь пишут, что для этих целей можно воспользоваться OpenCV: также можно посмотреть в сторону библиотеки scikit-image, может быть там io модуль позволяет декодировать RLE быстро.