Работа с большим объемом данных

@MrSergey86 · Регистрация: 24.06.2018

Студворк — интернет-сервис помощи студентам

Коллеги, подскажите по такому вопросу.

Есть выборка, несколько миллионов записей. Каким образом с ней правильно работать в Python? Во-первых, если объем большой (допустим считать в датафрейм с использованием pandas), то не все возможно расположить в памяти и есть ограничения. Как вообще в машинном обучении правильно работать с большими данными и в Python вообще? Спасибо!

@VTsaregorodtsev · 02.10.2018, 12:22

Кольцевой буфер.

@MrSergey86 · 02.10.2018, 22:21 **[ТС]**

А могли бы более подробно об это рассказать и какие функции или методы есть в Python? Это опция batch в pandas в read_csv?

@Garry Galler · 03.10.2018, 01:02

Сообщение от MrSergey86

несколько миллионов записей.

Это немного. В 4gb ОЗУ вполне влезает до 10-20 млн. строк, если, конечно, у вас не "Война и мир" в каждой записи.

Сообщение от MrSergey86

Как вообще в машинном обучении правильно работать с большими данными и в Python вообще?

Читать документацию по используемым библиотекам. Считывание данных всегда можно делать итеративно - порциями.

read_csv

chunksize : int, default None

Return TextFileReader object for iteration. See the IO Tools docs for more information on iterator and chunksize.

memory_map : boolean, default False

If a filepath is provided for filepath_or_buffer, map the file object directly onto memory and access the data directly from there. Using this option can improve performance because there is no longer any I/O overhead.

Обучение модели также можно делать итеративно, если в интерфейсе алгоритма есть метод partial_fit.
Более подробно ответить вам невозможно, так как единственное, что ясно из вашего поста, это то, что вы работаете с какими-то сферическими конями в вакууме.

@dondublon · 03.10.2018, 13:02

MrSergey86, несколько миллионов - это объёмы для обычной "настольной" СУБД, наверняка даже SQLite справится, который в питоне "искапорки".
Если же нет - ну, можно что-то помощнее, типа MySQL или Postgres.

Добавлено через 47 секунд

Сообщение от MrSergey86

Как вообще в машинном обучении правильно работать с большими данными и в Python вообще?

А "вообще" это вопрос довольно сложный. Нельзя так сразу взять и - - - (нутыпонел).

@IRIP · 05.10.2018, 11:21

Сообщение от MrSergey86

Есть выборка, несколько миллионов записей. Каким образом с ней правильно работать в Python?

Думаю, стоит обратить внимание на асинхронный python3 статья, например, эта https://habr.com/post/421625/

@dondublon · 05.10.2018, 12:10

IRIP, это уже про обработку конкретных случаев. Тут пока с хранением не разобрались.

Новые блоги и статьи Все статьи Все блоги /
http://iceja.net/ математические сервисы iceja 20.01.2026 Обновила свой сайт http:/ / iceja. net/ , приделала Fast Fourier Transform экстраполяцию сигналов. Однако предсказывает далеко не каждый сигнал (см ограничения http:/ / iceja. net/ fourier/ docs ). Также. . .	http://iceja.net/ сервер решения полиномов iceja 18.01.2026 Выкатила http:/ / iceja. net/ сервер решения полиномов (находит действительные корни полиномов методом Штурма). На сайте документация по API, но скажу прямо VPS слабенький и 200 000 полиномов. . .	Расчёт переходных процессов в цепи постоянного тока igorrr37 16.01.2026 / * Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа, решает её и находит переходные токи и напряжения на элементах схемы. . . .	Восстановить юзерскрипты Greasemonkey из бэкапа браузера damix 15.01.2026 Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым. Но восстановить их можно так. Для этого понадобится консольная утилита. . .
Сукцессия микоризы: основная теория в виде двух уравнений. anaschu 11.01.2026 https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/	WordPad для Windows 11 Jel 10.01.2026 WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .	Classic Notepad for Windows 11 Jel 10.01.2026 Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .	Почему дизайн решает? Neotwalker 09.01.2026 В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .

@MrSergey86 0 / 0 / 0 Регистрация: 24.06.2018 Сообщений: 23

	Работа с большим объемом данных 01.10.2018, 22:06. Показов 3325. Ответов 6 Метки нет (Все метки) Коллеги, подскажите по такому вопросу. Есть выборка, несколько миллионов записей. Каким образом с ней правильно работать в Python? Во-первых, если объем большой (допустим считать в датафрейм с использованием pandas), то не все возможно расположить в памяти и есть ограничения. Как вообще в машинном обучении правильно работать с большими данными и в Python вообще? Спасибо! 0

@VTsaregorodtsev 2628 / 1640 / 266 Регистрация: 19.02.2010 Сообщений: 4,352
	02.10.2018, 12:22
	Кольцевой буфер. 0

@MrSergey86 0 / 0 / 0 Регистрация: 24.06.2018 Сообщений: 23
	02.10.2018, 22:21 [ТС]
	А могли бы более подробно об это рассказать и какие функции или методы есть в Python? Это опция batch в pandas в read_csv? 0

@dondublon 4652 / 2072 / 366 Регистрация: 17.03.2012 Сообщений: 10,182 Записей в блоге: 6
	05.10.2018, 12:10
	IRIP, это уже про обработку конкретных случаев. Тут пока с хранением не разобрались. 0