Работа с большим объемом данных

@MrSergey86 · Регистрация: 24.06.2018

Студворк — интернет-сервис помощи студентам

Коллеги, подскажите по такому вопросу.

Есть выборка, несколько миллионов записей. Каким образом с ней правильно работать в Python? Во-первых, если объем большой (допустим считать в датафрейм с использованием pandas), то не все возможно расположить в памяти и есть ограничения. Как вообще в машинном обучении правильно работать с большими данными и в Python вообще? Спасибо!

@VTsaregorodtsev · 02.10.2018, 12:22

Кольцевой буфер.

@MrSergey86 · 02.10.2018, 22:21 **[ТС]**

А могли бы более подробно об это рассказать и какие функции или методы есть в Python? Это опция batch в pandas в read_csv?

@Garry Galler · 03.10.2018, 01:02

Сообщение от MrSergey86

несколько миллионов записей.

Это немного. В 4gb ОЗУ вполне влезает до 10-20 млн. строк, если, конечно, у вас не "Война и мир" в каждой записи.

Сообщение от MrSergey86

Как вообще в машинном обучении правильно работать с большими данными и в Python вообще?

Читать документацию по используемым библиотекам. Считывание данных всегда можно делать итеративно - порциями.

read_csv

chunksize : int, default None

Return TextFileReader object for iteration. See the IO Tools docs for more information on iterator and chunksize.

memory_map : boolean, default False

If a filepath is provided for filepath_or_buffer, map the file object directly onto memory and access the data directly from there. Using this option can improve performance because there is no longer any I/O overhead.

Обучение модели также можно делать итеративно, если в интерфейсе алгоритма есть метод partial_fit.
Более подробно ответить вам невозможно, так как единственное, что ясно из вашего поста, это то, что вы работаете с какими-то сферическими конями в вакууме.

@dondublon · 03.10.2018, 13:02

MrSergey86, несколько миллионов - это объёмы для обычной "настольной" СУБД, наверняка даже SQLite справится, который в питоне "искапорки".
Если же нет - ну, можно что-то помощнее, типа MySQL или Postgres.

Добавлено через 47 секунд

Сообщение от MrSergey86

Как вообще в машинном обучении правильно работать с большими данными и в Python вообще?

А "вообще" это вопрос довольно сложный. Нельзя так сразу взять и - - - (нутыпонел).

@IRIP · 05.10.2018, 11:21

Сообщение от MrSergey86

Есть выборка, несколько миллионов записей. Каким образом с ней правильно работать в Python?

Думаю, стоит обратить внимание на асинхронный python3 статья, например, эта https://habr.com/post/421625/

@dondublon · 05.10.2018, 12:10

IRIP, это уже про обработку конкретных случаев. Тут пока с хранением не разобрались.

Новые блоги и статьи Все статьи Все блоги /
SDL3 для Web (WebAssembly): Реализация движения на Box2D v3 - трение и коллизии с повёрнутыми стенами 8Observer8 20.02.2026 Содержание блога Box2D позволяет легко создать главного героя, который не проходит сквозь стены и перемещается с заданным трением о препятствия, которые можно располагать под углом, как верхнее. . .	Конвертировать закладки radiotray-ng в m3u-плейлист damix 19.02.2026 Это можно сделать скриптом для PowerShell. Использование . \СonvertRadiotrayToM3U. ps1 <path_to_bookmarks. json> Рядом с файлом bookmarks. json появится файл bookmarks. m3u с результатом. # Check if. . .	Семь CDC на одном интерфейсе: 5 U[S]ARTов, 1 CAN и 1 SSI Eddy_Em 18.02.2026 Постепенно допиливаю свою "многоинтерфейсную плату". Выглядит вот так: https:/ / www. cyberforum. ru/ blog_attachment. php?attachmentid=11617&stc=1&d=1771445347 Основана на STM32F303RBT6. На борту пять. . .	Камера Toupcam IUA500KMA Eddy_Em 12.02.2026 Т. к. у всяких "хикроботов" слишком уж мелкий пиксель, для подсмотра в ESPriF они вообще плохо годятся: уже 14 величину можно рассмотреть еле-еле лишь на экспозициях под 3 секунды (а то и больше),. . .
И ясному Солнцу zbw 12.02.2026 И ясному Солнцу, и светлой Луне. В мире покоя нет и люди не могут жить в тишине. А жить им немного лет.	«Знание-Сила» zbw 12.02.2026 «Знание-Сила» «Время-Деньги» «Деньги -Пуля»	SDL3 для Web (WebAssembly): Подключение Box2D v3, физика и отрисовка коллайдеров 8Observer8 12.02.2026 Содержание блога Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами и вызывать обработчики событий столкновения. . . .	SDL3 для Web (WebAssembly): Загрузка PNG с прозрачным фоном с помощью SDL_LoadPNG (без SDL3_image) 8Observer8 11.02.2026 Содержание блога Библиотека SDL3 содержит встроенные инструменты для базовой работы с изображениями - без использования библиотеки SDL3_image. Пошагово создадим проект для загрузки изображения. . .

@MrSergey86 0 / 0 / 0 Регистрация: 24.06.2018 Сообщений: 23

	Работа с большим объемом данных 01.10.2018, 22:06. Показов 3341. Ответов 6 Метки нет (Все метки) Коллеги, подскажите по такому вопросу. Есть выборка, несколько миллионов записей. Каким образом с ней правильно работать в Python? Во-первых, если объем большой (допустим считать в датафрейм с использованием pandas), то не все возможно расположить в памяти и есть ограничения. Как вообще в машинном обучении правильно работать с большими данными и в Python вообще? Спасибо! 0

@VTsaregorodtsev 2642 / 1653 / 267 Регистрация: 19.02.2010 Сообщений: 4,381
	02.10.2018, 12:22
	Кольцевой буфер. 0

@MrSergey86 0 / 0 / 0 Регистрация: 24.06.2018 Сообщений: 23
	02.10.2018, 22:21 [ТС]
	А могли бы более подробно об это рассказать и какие функции или методы есть в Python? Это опция batch в pandas в read_csv? 0

@dondublon 4652 / 2072 / 366 Регистрация: 17.03.2012 Сообщений: 10,182 Записей в блоге: 6
	05.10.2018, 12:10
	IRIP, это уже про обработку конкретных случаев. Тут пока с хранением не разобрались. 0

Опции темы