хочу прикрутить авторизацию в проект с использованием пользователей и их паролей которые хранятся в trac'e,
в файле pass лежат логины и хеши, как определить метод шифрования?

попробовал md5,md4,sha1 - неподходят, возможно пароль конвертится перед тем как шифронуться

http://trac.edgewall.org/wiki/TracStandalone читал? Там формат для авторизации через вебсервер htpasswd

трак авторизуется внешней авторизацией, обычно на уровне апача.
Поэтому читай в сторону http://httpd.apache.org/docs/2.0/programs/htpasswd.html

перешел по ссылкам нашел скрипт добавления пользователей ( http://trac.edgewall.org/browser/tags/trac-0.11b2/contrib/htpasswd.py )
ключевая ф-ия:
тут для получения хеша берется пароль и случайные символы salt(),

как мне тогда проверить хешь если есть только пароль, перебирать случайные символы? это почти 4000 комбинаций. не много но все же…

Надо внимательнее читать документацию.

Returns the hashed password as a string, which will be composed of characters from the same alphabet as the salt (the first two characters represent the salt itself).