Уведомления

Группа в Telegram: @pythonsu

#1 Март 23, 2015 09:09:30

mitrokov
Зарегистрирован: 2014-12-22
Сообщения: 3
Репутация: +  0  -
Профиль   Отправить e-mail  

исключение дублей из двух файлов

Добрый день уважаемые эксперты!
Подскажите а скорее покажите, мне необходимо решить такую задачу, есть два файла из базы данных с пользователями.

файл №1 содержит 30 000 строк
файл №2 содержить 1500 строк

Необходимо сравнить файл 1 и 2 и исключить все строки (пользователей) из файла №2 по списку из файла №1

С питоном только знакомлюсь, собственно вообще ничего не знаю так будет правильнее. Надеюсь на вашу помощь в реализации.

Офлайн

#2 Март 23, 2015 09:17:27

FishHook
От:
Зарегистрирован: 2011-01-08
Сообщения: 8312
Репутация: +  568  -
Профиль   Отправить e-mail  

исключение дублей из двух файлов

файл №1 содержит 30 000 строк
Что там за строки то? Можно ли их выгрузить в память? Важна ли первоначальная сортировка?



Офлайн

#3 Март 23, 2015 09:20:44

mitrokov
Зарегистрирован: 2014-12-22
Сообщения: 3
Репутация: +  0  -
Профиль   Отправить e-mail  

исключение дублей из двух файлов

нет сортировка не важна фалы в .txt содержать имя пользователя и e-mail но сейчас дали без имени пользователя остались только e-mail

Офлайн

#4 Март 23, 2015 09:34:33

FishHook
От:
Зарегистрирован: 2011-01-08
Сообщения: 8312
Репутация: +  568  -
Профиль   Отправить e-mail  

исключение дублей из двух файлов

Ок, пусть один email 50 знаков, значит всего 50 * 30000 = 1,5 Mb данных. В принципе немного.
Выгружайте данные из файлов в память в два множества и ищите пересечение множеств.



Офлайн

#5 Март 23, 2015 09:55:16

py.user.next
От:
Зарегистрирован: 2010-04-29
Сообщения: 9890
Репутация: +  854  -
Профиль   Отправить e-mail  

исключение дублей из двух файлов

#!/usr/bin/env python3
 
fin1 = open('file1.txt', encoding='utf-8')
fin2 = open('file2.txt', encoding='utf-8')
fout = open('file3.txt', 'w', encoding='utf-8')
 
with fin1, fin2, fout:
    fout.writelines(set(fin2).difference(fin1))



Офлайн

#6 Март 23, 2015 19:04:46

mitrokov
Зарегистрирован: 2014-12-22
Сообщения: 3
Репутация: +  0  -
Профиль   Отправить e-mail  

исключение дублей из двух файлов

Это то что нужно спасибо

Офлайн

Board footer

Модераторировать

Powered by DjangoBB

Lo-Fi Version