|
1497 / 1238 / 245
Регистрация: 04.04.2011
Сообщений: 4,363
|
|
Очень большой файл xlsx11.11.2023, 15:45. Показов 701. Ответов 6
Здравствуйте, форумчане !
Есть очень большой файл xlsx, получаемый от корпоративного сервера. Нужно данные из него загрузить в таблицу SQL (MS SQL Server). Сервис SSMS делает это, предоставляя информацию в символьном формате (varchar), что приводит к тому, что писать запросы к этой таблице крайне не эффективно, а иногда и просто невозможно (результаты не прогнозируемы) Написал программу с использованием библиотеки ClosedXML, с помощью которой можно самому задать тип данных для каждой колонки, задать алгоритм валидации, получить строки с ошибками и т.д. Все прекрасно работает, но ! На больших xlsx - файлах приложение вылетает по недостатку памяти при попытке открытия файла. И это понятно, ведь я работаю по технологии DOM, когда при открытии файла грузится весь объем исходных данных. Однако есть еще техника SAX, предусматривающая загрузку файла потоком, не требующая загрузки всех данных разом. Пробовал смотреть в сторону OpenXML (SAX), но получил код (с сайта MS), возвращающий какие-то символы вместо содержимого ячеек. В ClosedXML есть один из конструкторов Open, при котором данные читаются не оптом (DOM), а последовательно в потоке (SAX), но найти работающий код в инете с обработкой именно ячеек не смог, как ни старался. Смотрел также FastExcel, но там все тот же DOM и все та же нехватка памяти. Буду очень признателен за любую помощь, советы, ссылки. Спасибо за внимание
0
|
|
| 11.11.2023, 15:45 | |
|
Ответы с готовыми решениями:
6
Как максимально быстро считать очень большой текст из файла Создать файл xlsx, разметить два столбца, сохранить
|
|
14145 / 9374 / 1350
Регистрация: 21.01.2016
Сообщений: 35,285
|
|
| 12.11.2023, 07:07 | |
|
MsGuns, а почему нельзя напрямую с документом работать? Это же XML в ZIP-архиве. Распакуй и напрямую читай XmlReader'ом. Вот тебе и SAX бесплатный.
0
|
|
|
1497 / 1238 / 245
Регистрация: 04.04.2011
Сообщений: 4,363
|
|||
| 12.11.2023, 15:34 [ТС] | |||
|
0
|
|||
|
14145 / 9374 / 1350
Регистрация: 21.01.2016
Сообщений: 35,285
|
||
| 13.11.2023, 06:08 | ||
|
0
|
||
| 13.11.2023, 06:08 | |
|
Помогаю со студенческими работами здесь
7
Загрузить ну ОЧЕНЬ большой файл и таймауты. Очень большой Bitmap,прорисовка. Очень большой string[] buf Как сделать очень большой TimeOut? Какие есть средства в C# для работы с числами с очень большой точностью? Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |
|
Новые блоги и статьи
|
|||
|
Камера Toupcam IUA500KMA
Eddy_Em 12.02.2026
Т. к. у всяких "хикроботов" слишком уж мелкий пиксель, для подсмотра в ESPriF они вообще плохо годятся: уже 14 величину можно рассмотреть еле-еле лишь на экспозициях под 3 секунды (а то и больше),. . .
|
И ясному Солнцу
zbw 12.02.2026
И ясному Солнцу,
и светлой Луне.
В мире
покоя нет
и люди
не могут жить в тишине.
А жить им немного лет.
|
«Знание-Сила»
zbw 12.02.2026
«Знание-Сила»
«Время-Деньги»
«Деньги -Пуля»
|
SDL3 для Web (WebAssembly): Подключение Box2D v3, физика и отрисовка коллайдеров
8Observer8 12.02.2026
Содержание блога
Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами и вызывать обработчики событий столкновения. . . .
|
|
SDL3 для Web (WebAssembly): Загрузка PNG с прозрачным фоном с помощью SDL_LoadPNG (без SDL3_image)
8Observer8 11.02.2026
Содержание блога
Библиотека SDL3 содержит встроенные инструменты для базовой работы с изображениями - без использования библиотеки SDL3_image. Пошагово создадим проект для загрузки изображения. . .
|
SDL3 для Web (WebAssembly): Загрузка PNG с прозрачным фоном с помощью SDL3_image
8Observer8 10.02.2026
Содержание блога
Библиотека SDL3_image содержит инструменты для расширенной работы с изображениями. Пошагово создадим проект для загрузки изображения формата PNG с альфа-каналом (с прозрачным. . .
|
Установка Qt-версии Lazarus IDE в Debian Trixie Xfce
volvo 10.02.2026
В общем, достали меня глюки IDE Лазаруса, собранной с использованием набора виджетов Gtk2 (конкретно: если набирать текст в редакторе и вызвать подсказку через Ctrl+Space, то после закрытия окошка. . .
|
SDL3 для Web (WebAssembly): Работа со звуком через SDL3_mixer
8Observer8 08.02.2026
Содержание блога
Пошагово создадим проект для загрузки звукового файла и воспроизведения звука с помощью библиотеки SDL3_mixer. Звук будет воспроизводиться по клику мышки по холсту на Desktop и по. . .
|