|
0 / 0 / 0
Регистрация: 24.02.2013
Сообщений: 73
|
||||||
DBSCAN MemoryError15.04.2018, 20:06. Показов 2419. Ответов 13
Метки нет (Все метки)
Задача пропарсить лог запросов поисковика объемом в 500 метров и выделить запросы, связанные с просмотром телевидения.
Решать решил в Jupyter с помощью лемматизации -> tfifd критерия -> DBSCAN кластеризации. На моменте использования DBSCAN от матрицы векторов все время появляется ошибка в разных ее вариациях MemoryError. Посерфил по инету и нашел решения, в частности ипользовать алгоритм 'Ball Tree', использовать меньше зону эпсилон, использовать другие метрики, но ничего из этого не дало результата. Причем матрицу беру даже очень маленькую, всего в 3000 строк, и уже ошибка, при матрице в 1000 строк - нет ошибки. Кто-нибудь сталкивался? код под спойлером. Лог по ссылке, Код Python
URL Log
0
|
||||||
| 15.04.2018, 20:06 | |
|
Ответы с готовыми решениями:
13
MemoryError
|
|
1741 / 913 / 480
Регистрация: 05.12.2013
Сообщений: 3,074
|
|||||||||||||
| 15.04.2018, 21:47 | |||||||||||||
0
|
|||||||||||||
|
0 / 0 / 0
Регистрация: 24.02.2013
Сообщений: 73
|
|
| 15.04.2018, 22:22 [ТС] | |
|
Забавно, но на MacOS запускается без проблем, а вот на винде не работает.
Я так и писал через нижнее подчеркивание, на форуме просто в ручную исправлял, опечатался. У вас мак или винда? и какая версия? я даже попробовал на компе и на ноуте. на обоих вин 10.1, и не работает этот скрипт
0
|
|
|
1741 / 913 / 480
Регистрация: 05.12.2013
Сообщений: 3,074
|
|
| 15.04.2018, 22:28 | |
|
win10 x64
0
|
|
|
|
||
| 15.04.2018, 22:56 | ||
|
У вас какой объем памяти на компе? И сколько ядер? Скрипт запускает обработку модели в multiprocessing - 1 процесс на одно ядро. Данные, загруженные в память занимают ~600 mb (на x64 больше) + каждый процесс жрет по 400-600 mb (на x64 больше). Итог: eсли у вас мало памяти и много ядер - MemoryError. На windows запуск нового процесса достаточно ресурсоемкая операция. Попробуйте уменьшить n_jobs до 1. Будет работать медленее, но, зато, возможно, хватит памяти. P.S. C n_jobs=1 у меня вполне быстро отработалось с 5000 сэмплов. И памяти чуть меньше гига ушло. А вот с 10 тыс. тоже не получается - мало ОЗУшки, да и на 32-битной винде один процесс может использовать только 2 гига памяти и все. :-) Добавлено через 1 минуту P.P.S. Алгоритм я выставил "auto".
2
|
||
|
0 / 0 / 0
Регистрация: 24.02.2013
Сообщений: 73
|
|
| 15.04.2018, 23:42 [ТС] | |
|
Это я понял. у меня i7, 8gb ram. Но на обычном макбуке запускается на 100000 строку без проблем!
0
|
|
|
|
||
| 15.04.2018, 23:52 | ||
|
Если ядро только одно, то я уже сказал - памяти для одного процесса хватает. Добавлено через 3 минуты P.S. Вы попробуйте на гаданием заняться, а профилированием кода по памяти. Многие вопросы сразу отпадут.
0
|
||
| 16.04.2018, 00:00 | |
|
Не по теме: а что значит на обычном макбуке?) и бывают ли необычные?)
0
|
|
|
|
||
| 16.04.2018, 00:24 | ||
|
Суть в реализации алгоритма в sklearn: DBSCAN needs O(n*k) memory, where k is the number of neighbors within epsilon. Поэтому при некоторых критических размерностях имеющихся данных вы с ним вообще не сможете работать даже на суперобычном макбуке.
1
|
||
|
0 / 0 / 0
Регистрация: 24.02.2013
Сообщений: 73
|
|||||||||||
| 16.04.2018, 03:03 [ТС] | |||||||||||
|
Про макбук узнаю.
Т.е. надо просто поиграться с параметрами дбскан и подобрать рабочие? меньше потоков взять? Я отпишусь как попробую! спасибо! Добавлено через 28 минут Поставил 1 поток, - заработало для 10000 строк. Однако для 50000 уже не работает, а нужно обработать более 1млн. строк... Попробовал с Ball_tree, вы ошибке посоветовал мне юпитер использовать Brute. Ошибки у них одинаковые: Код+ошибка
Ошибка
Я пытался уменьшить eps = 0.0001 , но это не помогло(( Добавлено через 1 час 37 минут Я понял. У меня был установлен Python 32 bit... Сейчас переустановил и все равно не смог взять 50000 строк. Но думал компьютер уже гораздо дольше.
0
|
|||||||||||
|
|
||
| 16.04.2018, 14:03 | ||
|
По поводу данных больших размерностей я уже сказал вам (и это легко подвердит гугл), что реализация этого алгоритма в sklearn неоптимальна и стоит поискать его имплементацию в другой библиотеке.
1
|
||
|
0 / 0 / 0
Регистрация: 24.02.2013
Сообщений: 73
|
|
| 16.04.2018, 18:30 [ТС] | |
|
Garry Galler, ты же понимаешь заказы? может договоримся о помощи с решением этой задачи?
0
|
|
|
0 / 0 / 0
Регистрация: 24.02.2013
Сообщений: 73
|
|
| 17.04.2018, 17:49 [ТС] | |
|
Если кому интересно, то решением данной проблемы я нашел следующие действия:
Визуализировав массив данных через TSNE, я выбрал другой алгоритм, который бы подходил для данной задачи. Видно, что для данные разрознены по Гауссовым скоплениям, и для данной картинки подойдёт идеально метод кластеризации sklearn.mixture.GaussianMixture Буду пробовать дальше.
0
|
|
|
0 / 0 / 0
Регистрация: 24.02.2013
Сообщений: 73
|
|
| 17.04.2018, 21:09 [ТС] | |
|
Заработало с Гауссовой смесью!
0
|
|
| 17.04.2018, 21:09 | |
|
Помогаю со студенческими работами здесь
14
Рекурсия: MemoryError: Stack overflow
Реализация алгоритма DBSCAN Ширина поиска в алгоритме dbscan Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |
|
Новые блоги и статьи
|
|||
|
сукцессия микоризы: основная теория в виде двух уравнений.
anaschu 11.01.2026
https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/
|
WordPad для Windows 11
Jel 10.01.2026
WordPad для Windows 11
— это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .
|
Classic Notepad for Windows 11
Jel 10.01.2026
Old Classic Notepad for Windows 11
Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .
|
Почему дизайн решает?
Neotwalker 09.01.2026
В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .
|
|
Модель микоризы: классовый агентный подход 3
anaschu 06.01.2026
aa0a7f55b50dd51c5ec569d2d10c54f6/
O1rJuneU_ls
https:/ / vkvideo. ru/ video-115721503_456239114
|
Owen Logic: О недопустимости использования связки «аналоговый ПИД» + RegKZR
ФедосеевПавел 06.01.2026
Owen Logic: О недопустимости использования связки «аналоговый ПИД» + RegKZR
ВВЕДЕНИЕ
Введу сокращения:
аналоговый ПИД — ПИД регулятор с управляющим выходом в виде числа в диапазоне от 0% до. . .
|
Модель микоризы: классовый агентный подход 2
anaschu 06.01.2026
репозиторий https:/ / github. com/ shumilovas/ fungi
ветка по-частям.
коммит Create переделка под биомассу. txt
вход sc, но sm считается внутри мицелия. кстати, обьем тоже должен там считаться. . . .
|
Расчёт токов в цепи постоянного тока
igorrr37 05.01.2026
/ *
Дана цепь постоянного тока с сопротивлениями и источниками (напряжения, ЭДС и тока). Найти токи и напряжения во
всех элементах. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа и. . .
|