Уведомления

Группа в Telegram: присоединиться

#1 Фев. 4, 2019 20:01:09

Pablic
Зарегистрирован: 2019-02-04
Сообщения: 2
Репутация: +  0  -
Профиль   Отправить e-mail  

Парсинг книжного сайта

Всем здравствуйте, прошу помочь с одним делом.
Ситуация такая: есть книжный сайт, который по специальной подписке даёт доступ к книге через собственный viewer. Доступ именно ко всем страницам книги можно получить только если ты авторизован на сайте с подпиской, но в если в браузере вставить url по типу "http/***/page/4" и открыть, то скачается svg файл с текстом страницы.
Исходя из этого я решил написать скрипт, который бы скачивал все страницы и сшивал бы их в книгу, но когда я использую такой запрос:

 import requests
s = requests.Session()
page = s.get('url страницы по которой идёт скачивание')
with open('./page.svg', 'w') as output_file:
  output_file.write(page.text)

Файл svg, после выполнения данных команд сохраняет страницу с надписью “Просмотр недоступен” как это было бы если я попытался посмотреть эту страницу в viewer'е без авторизации. На тот момент я был авторизован в аккаунте с подпиской.

Подскажите пожалуйста чего не хватает в запросе или как узнать какую ещё информацию от меня хочет сервер. Заранее спасибо

Отредактировано Pablic (Фев. 4, 2019 20:17:38)

Офлайн

#2 Фев. 4, 2019 22:52:38

vic57
Зарегистрирован: 2015-07-07
Сообщения: 847
Репутация: +  120  -
Профиль   Отправить e-mail  

Парсинг книжного сайта

возможно станица динамическая, с JS. тут реквестом не обойдешься
посмотри код страницы в браузере

Офлайн

#3 Фев. 4, 2019 23:01:12

Pablic
Зарегистрирован: 2019-02-04
Сообщения: 2
Репутация: +  0  -
Профиль   Отправить e-mail  

Парсинг книжного сайта

vic57
возможно станица динамическая, с JS. тут реквестом не обойдешься посмотри код страницы в браузере
Если Вы имеете ввиду URL по которому файл спокойно скачиватся, то я не знаю как посмотреть его код в браузере. Я могу сказать точно, что после перехода по нему происходит GET запрос, который возвращает мне SVG файл со страницей. Что мешает мне со скрипта, грубо говоря, также обратиться к URL и получить файл?

Отредактировано Pablic (Фев. 4, 2019 23:01:38)

Офлайн

#4 Фев. 4, 2019 23:14:39

vic57
Зарегистрирован: 2015-07-07
Сообщения: 847
Репутация: +  120  -
Профиль   Отправить e-mail  

Парсинг книжного сайта

смотрите на веб-инспекторе в браузере, вариантов что вам мешает много

Офлайн

#5 Фев. 4, 2019 23:42:49

Romissevd
От: Счастье
Зарегистрирован: 2015-03-01
Сообщения: 365
Репутация: +  56  -
Профиль   Отправить e-mail  

Парсинг книжного сайта

Вероятно, что Pablic авторизован на сайте через какой-то из браузеров у себя. А авторизацию через requests не выполняет. Конечно могу и ошибаться, но исходя из представленного кода так и есть.

Онлайн

Board footer

Модераторировать

Powered by DjangoBB

Lo-Fi Version