Уведомления

Группа в Telegram: @pythonsu

#1 Март 15, 2018 03:24:25

roggerg
Зарегистрирован: 2015-03-12
Сообщения: 61
Репутация: +  0  -
Профиль   Отправить e-mail  

Парсинг закрытого сайта

Хотел попробовать парсить сайт, доступ к которому происходит после соединения по vpn, т.е включаю vpn открываю любой браузер, страница отображается а когда пытаюсь парсить то происходит ошибка доступа.. Куда копать?

Офлайн

#2 Март 15, 2018 08:47:41

JOHN_16
От: Россия, Петропавловск-Камчатск
Зарегистрирован: 2010-03-22
Сообщения: 3292
Репутация: +  221  -
Профиль   Отправить e-mail  

Парсинг закрытого сайта

Что за ошибка доступа? Не ясно.



_________________________________________________________________________________
полезный блог о python john16blog.blogspot.com

Офлайн

#3 Март 15, 2018 20:15:37

KasFun
Зарегистрирован: 2018-03-10
Сообщения: 14
Репутация: +  0  -
Профиль   Отправить e-mail  

Парсинг закрытого сайта

как вариант, подключаетесь по VPN а затем загружаете к себе на компьютер сайт целиком
и делаете с ним, все, что хотите

Офлайн

#4 Март 15, 2018 22:42:40

JOHN_16
От: Россия, Петропавловск-Камчатск
Зарегистрирован: 2010-03-22
Сообщения: 3292
Репутация: +  221  -
Профиль   Отправить e-mail  

Парсинг закрытого сайта

KasFun
что за советы вы даете. А по урлам как ходить? Понимаете зачем вообще парсят сайты?



_________________________________________________________________________________
полезный блог о python john16blog.blogspot.com

Офлайн

#5 Март 16, 2018 02:49:47

py.user.next
От:
Зарегистрирован: 2010-04-29
Сообщения: 9727
Репутация: +  843  -
Профиль   Отправить e-mail  

Парсинг закрытого сайта

roggerg
доступ к которому происходит после соединения по vpn
Соединение через VPN бывает разным, на разных сетевых уровнях. Оно может быть программным, а может быть аппаратным.

roggerg
т.е включаю vpn открываю любой браузер, страница отображается
Вот ты выясни, в браузерах что-нибудь прописывается для такого подключения или же делается специальное соединение, а браузеры даже не знают, что оно защищённое и просто им пользуются.



Отредактировано py.user.next (Март 16, 2018 02:53:32)

Офлайн

#6 Март 16, 2018 04:09:17

roggerg
Зарегистрирован: 2015-03-12
Сообщения: 61
Репутация: +  0  -
Профиль   Отправить e-mail  

Парсинг закрытого сайта

py.user.next
В браузере ничего не прописываю, ни логинов ни паролей. Это просто корпоративный сайт, за vpn.
Не очень понял про vpn. Что значит аппаратный или программный? Я просто запускаю утилиту, деловская вроде.

Офлайн

#7 Март 16, 2018 04:23:31

roggerg
Зарегистрирован: 2015-03-12
Сообщения: 61
Репутация: +  0  -
Профиль   Отправить e-mail  

Парсинг закрытого сайта

JOHN_16
Что за ошибка доступа? Не ясно.
А вот ошибка
HTTP Error 401.2 - Unauthorized: Access is denied due to server configuration

Офлайн

#8 Март 16, 2018 05:38:06

py.user.next
От:
Зарегистрирован: 2010-04-29
Сообщения: 9727
Репутация: +  843  -
Профиль   Отправить e-mail  

Парсинг закрытого сайта

roggerg
В браузере ничего не прописываю, ни логинов ни паролей.
В браузерах может прописаться софт, через который ты подключаешься. Прямо при установке этого софта может быть настройка браузеров. Может и этот софт при включении перехватывать браузеры и пускать через определённое соединение.

roggerg
Не очень понял про vpn. Что значит аппаратный или программный?
VPN бывают по-разному устроены. Когда ты говоришь “я подключаюсь через VPN”, это не значит ничего определённого. VPN может быть сделан на уровне Ethernet-трафика - это под IP. VPN - это понятие растяжимое, а ты говоришь так, будто это значит только одно.



Отредактировано py.user.next (Март 16, 2018 05:48:00)

Офлайн

#9 Март 16, 2018 14:49:25

papuas
Зарегистрирован: 2015-06-19
Сообщения: 159
Репутация: +  6  -
Профиль   Отправить e-mail  

Парсинг закрытого сайта

roggerg
А вот ошибка
HTTP Error 401.2 - Unauthorized: Access is denied due to server configuration
Так не пойдет.
Входной инфы слишком мало.
Решение этой ошибки не может быть конкретным.
Она может происходить по всяким причинам.
А мы не из тех людей кто любит жить догадками.

Офлайн

#10 Март 16, 2018 18:44:43

roggerg
Зарегистрирован: 2015-03-12
Сообщения: 61
Репутация: +  0  -
Профиль   Отправить e-mail  

Парсинг закрытого сайта

py.user.next
в браузере никокого дополнительного софта не прописывается. Например я беру любой другой браузер, то сайт открывается.

Офлайн

Board footer

Модераторировать

Powered by DjangoBB

Lo-Fi Version