Форум сайта python.su
Всем привет!
У меня такая задача, для творчества. Нужно сделать собиралку-проверялку прокси серверов. Застрял на этапе проверки прокси на работоспособность. Может кто че подскажет. Я если честно не могу врубится как вообще проверить работает прокси сервер или нет. Пробовал через urlopen
import urllib
import socket
timeout=15
socket.setdefaulttimeout(timeout)
i=0
while i<len(list_proxy):
try:
proxies = {'http': 'http://'+list_proxy}
testProxy=urllib.urlopen("http://google.com", proxies=proxies)
print testProxy.read(5)
to_page=testProxy.read(5)
site_name_proxy=list_proxy+“.html”
save_to_page(“site proxy Denver”,site_name_proxy,to_page)
except IOError:
print “Error”, i
list_proxy.remove(list_proxy)
i+=1
Но сколько не проверяет все “Error”, i
list_proxy - список прокси, типа IP-адрес:порт
Это что касается проверки через питон. Но! Подскажите как проверить прокси сервер вообще, ping- не всчет.
Я информацию о проксеях читал здесь http://www.freeproxy.ru. Может че не дочитал или этого мало? Подскажите.
Итого:
Нужно проверить работает прокси или нет, и каким должен быть результат при его работоспособности?
Офлайн
lorien
Пасибо. За ответ.
Офлайн
lorienЯ бы, все-таки проверял на гарантированно статической странице - сначала получить страницу напрямую, потом через прокси, и сравнить результат.
ну раз ты засосал через проксю гуглю, то можно считать проксю рабочей.
Офлайн
Офлайн
slav0nic
Это адрес немножко исправленый и там статью я нашол. Пасибо. Почитаю обьязательно.
http://forum.web-hack.ru/index.php?showtopic=17028
Офлайн
добавлю 5коп:
- часто периодически прокси на нестандартных портах режут контент, выдают по пару Кб и закрывают соединение, поэтому желательно регекспом проверять не начало страницы, а конец.
- насколько помнится в tcp таймаут 90сек, поэтому когда попадешь на дохлую прокси скрипт затормозится, лучше распаралеливать.
Офлайн
bio
Напиши что ты имел ввиду под “регекспом”.
“желательно регекспом проверять не начало страницы, а конец”
только пожалуйста нормальным языком, без сленгов.;)
Офлайн
Всем привет.
Как проверить уровень анонимности прокси и его скорость, средствами питон. Хотябы намекните, где искать?
Офлайн
philosofДля проверки анонимности можно написать простенький веб-сервер и запустить его на своей машине или использовать любой другой веб-сервер(н-р lighthttpd). Затем обращаться к нему(точнее к скрипту на этом сервере, который будет осуществлять проверку) через проверяемый прокси и искать HTTP_X_FORWARDED_FOR и HTTP_VIA в полученном http заголовке.
Как проверить уровень анонимности прокси и его скорость, средствами питон. Хотябы намекните, где искать?
Офлайн
philosofВ этой статье, вроде, всё подробно описано.
Это адрес немножко исправленый и там статью я нашол. Пасибо. Почитаю обьязательно.
Офлайн