Вот тут инструкции по установке
https://github.com/pybrain/pybrain/wiki/InstallationНо лучше забить на этот модуль. Он не просто не поддерживается уже пять лет, он и сделан через одно место. Автор не удосужился даже процедуру установки сделать правильно и даже просто объяснить свою кривую процедуру установки. Также большие вопросы вызывает вообще возможность его запуска в третьем питоне. Автор писал этот модуль в 2008-м году, когда третий питон ещё не вышел. Очень большие сомнения у меня на счёт того, переписал ли он потом этот модуль под третий питон (судя по тому, что он даже установку не смог причесать за все эти годы).
Это вот как раз случай, когда паренёк написал какое-то дерьмо, но повсюду в коде понавставлял своё имя первой строчкой. Типа “смотрите! это вот я написал! позовите меня к себе! дайте денег! я ещё писать буду!”. То есть тут возникает вопрос: а для чего он эту программу писал? Видимо, для того, чтобы чисто себя прорекламировать, а не для того, чтобы делать дело и проблемы решать.