Уведомления

Группа в Telegram: @pythonsu

#1 Авг. 5, 2011 12:35:53

merkator
От:
Зарегистрирован: 2011-08-05
Сообщения: 5
Репутация: +  0  -
Профиль   Отправить e-mail  

JS из Python

В общем стоит задача распарсить весь список друзей во всем известной соц. сети vkontakte.
Подключение и парсинг проходят успешно, но, вот незадача, друзья (на странице vk.com/friends) отдаются через связку Js+Ajax и программа видит только 15 первых из них.
Есть ли какие-нибудь способы вызвать метод Friends.showMore на этой странице из питоновского скрипта или каким-нибудь другим образом получить список друзей?

Нужно брать друзей именно оттуда и именно в том порядке, что исключает использование официального контактовского api.
Кому интересен код: http://pastebin.com/CBUbUz6H
Python 2.7.1 Xubuntu 11.04
Для запуска нужна библиотека lxml



Офлайн

#2 Авг. 5, 2011 13:45:46

Enchantner
От:
Зарегистрирован: 2009-02-11
Сообщения: 442
Репутация: +  0  -
Профиль   Отправить e-mail  

JS из Python

merkator
а как насчет прологировать аяксовые запросы к серверу и сэмулировать их в питоне?



Офлайн

#3 Авг. 5, 2011 13:58:35

merkator
От:
Зарегистрирован: 2011-08-05
Сообщения: 5
Репутация: +  0  -
Профиль   Отправить e-mail  

JS из Python

Enchantner
merkator
а как насчет прологировать аяксовые запросы к серверу и сэмулировать их в питоне?
Блиц-поиск по гуглу не дал ничего хорошего про логгер аякс запросов. Может Вы знаете какой-нибудь способ?



Офлайн

#4 Авг. 5, 2011 14:10:37

Enchantner
От:
Зарегистрирован: 2009-02-11
Сообщения: 442
Репутация: +  0  -
Профиль   Отправить e-mail  

JS из Python

merkator
Товарищ, у вас под рукой Firebug и Chrome Dev Tools.



Офлайн

#5 Авг. 5, 2011 14:16:40

merkator
От:
Зарегистрирован: 2011-08-05
Сообщения: 5
Репутация: +  0  -
Профиль   Отправить e-mail  

JS из Python

Прошу прощения за “затуп” :)



Офлайн

#6 Авг. 6, 2011 08:24:30

d1ffuz0r
От: Moscow
Зарегистрирован: 2011-03-25
Сообщения: 127
Репутация: +  5  -
Профиль   Отправить e-mail  

JS из Python

как на счёт того чтобы использовать api? http://vkontakte.ru/developers.php?o=-1&p=friends.get

Офлайн

#7 Авг. 6, 2011 09:45:51

merkator
От:
Зарегистрирован: 2011-08-05
Сообщения: 5
Репутация: +  0  -
Профиль   Отправить e-mail  

JS из Python

d1ffuz0r
как на счёт того чтобы использовать api? http://vkontakte.ru/developers.php?o=-1&p=friends.get
Я в первом сообщении написал, почему это не возможно



Офлайн

#8 Авг. 8, 2011 20:06:34

merkator
От:
Зарегистрирован: 2011-08-05
Сообщения: 5
Репутация: +  0  -
Профиль   Отправить e-mail  

JS из Python

К сожалению я не сумел раздобыть аякс запросы. Видимо сказалось отсутствие опыта работы с web.
Может есть какой-нибудь иной способ?
Или можете объяснить как достать ajax запросы?



Офлайн

#9 Авг. 9, 2011 11:12:24

bw
От:
Зарегистрирован: 2007-09-26
Сообщения: 938
Репутация: +  20  -
Профиль   Адрес электронной почты  

JS из Python

Силой мысли. Читать исходники, подсматривать реальные запросы/ответы. Создавать первые на Python.

..bw



Офлайн

#10 Авг. 10, 2011 13:54:22

ZAN
От:
Зарегистрирован: 2007-06-10
Сообщения: 403
Репутация: +  10  -
Профиль   Отправить e-mail  

JS из Python

merkator
Или можете объяснить как достать ajax запросы?
вариант 1. Ставишь плагин firebug на firefox, открываешь страницу на vkontaktе, открываешь в firebug консоль, смотришь запросы/ответы.
вариант 2. Ставишь wireshark, запускаешь вконтакте (в любом браузере),делаешь дамп всего трафика, фильтруешь HTTP запросы, смотришь какие именно тебе нужны.



Офлайн

Board footer

Модераторировать

Powered by DjangoBB

Lo-Fi Version