Найти - Пользователи
Полная версия: Нужен скоростной парсер
Начало » Флейм » Нужен скоростной парсер
1
fuel1986
Нужно создать парсер сначала для двух сайтов, если получится буду добавлять ещё, скорость парсинга нужна по максимум 100-150 страниц в 1-2 секунды на каждый сайт, далее идет несложная обработка полученных данных, бюджет на каждый сайт 150-200$, тоесть стартовый бюджет для двух сайтов 300-400$
Если кто готов взятся за работу пишите свои ICQ или skype
Спасибо
Lexander
Что-то я сомневаюсь в технической возможности достичь такой скорости.
Удаленный сайт хоть позволяет получить за полсекунды 150 страницы?
И как долго он будет это терпеть, пока не забанит IP?
plusplus
Плюс еще урлы этих 150 страниц должны быть заранее известны. Если же нет, и нужно делать паука, то это математически невозможно, т.к. одна страница будет грузиться в лучшем случае 0.1 секунд, следовательно за секунду получится спарсить только 10 страниц. А вообще я парсеры пописываю довольно часто, если задание будет не такое скоростное, то тс пиши на мыло в моем профиле)
lorien
skype: lorien.name
terabayt
сделаю дешевле, так как уже имеется подобный проект!
python36@yandex.ru
This is a "lo-fi" version of our main content. To view the full version with more information, formatting and images, please click here.
Powered by DjangoBB