Уведомления

Группа в Telegram: @pythonsu

#1 Дек. 7, 2013 20:24:00

Danich
Зарегистрирован: 2013-12-07
Сообщения: 4
Репутация: +  0  -
Профиль   Отправить e-mail  

Увеличение памяти

Здравствуйте!
Вопрос:
Можно ли увеличить количество выделяемой оперативной памяти Питону. По умолчанию это значение достигает 4 Гб.
В данном случае ОС - Ubuntu 12.04 lts
Заранее спасибо

Офлайн

#2 Дек. 7, 2013 20:56:47

Budulianin
От:
Зарегистрирован: 2011-10-18
Сообщения: 1218
Репутация: +  33  -
Профиль   Отправить e-mail  

Увеличение памяти

Danich
Можно ли увеличить количество выделяемой оперативной памяти Питону. По умолчанию это значение достигает 4 Гб.

Cgroups тебе в помощь

На что так памяти много?



Офлайн

#3 Дек. 8, 2013 01:41:18

Danich
Зарегистрирован: 2013-12-07
Сообщения: 4
Репутация: +  0  -
Профиль   Отправить e-mail  

Увеличение памяти

Спасибо
Поиск регулярных выражений в файле размером 1 - 1.2 Гб

Офлайн

#4 Дек. 8, 2013 04:45:28

bw
От:
Зарегистрирован: 2007-09-26
Сообщения: 938
Репутация: +  20  -
Профиль   Адрес электронной почты  

Увеличение памяти

Ну может не стоит сразу весь грузить, а обрабатывать по частям?
Можете объяснить задачу подробнее?

..bw



Офлайн

#5 Дек. 8, 2013 15:10:32

Budulianin
От:
Зарегистрирован: 2011-10-18
Сообщения: 1218
Репутация: +  33  -
Профиль   Отправить e-mail  

Увеличение памяти

Danich
Спасибо
Поиск регулярных выражений в файле размером 1 - 1.2 Гб

Скорее всего, ты неправильно решаешь задачу. Для чтения файла(любого размера) построчно, процесс Python будет тратить небольше 8 МБ



Офлайн

#6 Дек. 9, 2013 06:20:43

Danich
Зарегистрирован: 2013-12-07
Сообщения: 4
Репутация: +  0  -
Профиль   Отправить e-mail  

Увеличение памяти

Я уже написал программу, работает корректно, памяти жрет столько, потому что выгружаю весь файл в память. Я разделил уже по частям и распараллелил. В итоге получается примерно 10**10 символов, с которыми работает программа, разделенные на 4 процесса. Попробую сегодня еще поделить. 10**7 - работает шикарно, примерно секунд 10, а больше - умирает из-за недостатка выделяемой памяти.
Задачу чуть позже напишу.
p.s. re не использовал.

Офлайн

#7 Дек. 13, 2013 14:50:46

Danich
Зарегистрирован: 2013-12-07
Сообщения: 4
Репутация: +  0  -
Профиль   Отправить e-mail  

Увеличение памяти

Переписал прогу через re. Производительность увеличилась на несколько порядков, а расходуемая ОЗУ с 4 Гб до 2 Гб )))

Офлайн

Board footer

Модераторировать

Powered by DjangoBB

Lo-Fi Version