Форум программистов, компьютерный форум, киберфорум
C# Windows Forms
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.67/3: Рейтинг темы: голосов - 3, средняя оценка - 4.67
1497 / 1238 / 245
Регистрация: 04.04.2011
Сообщений: 4,363

Очень большой файл xlsx

11.11.2023, 15:45. Показов 701. Ответов 6

Студворк — интернет-сервис помощи студентам
Здравствуйте, форумчане !
Есть очень большой файл xlsx, получаемый от корпоративного сервера. Нужно данные из него загрузить в таблицу SQL (MS SQL Server). Сервис SSMS делает это, предоставляя информацию в символьном формате (varchar), что приводит к тому, что писать запросы к этой таблице крайне не эффективно, а иногда и просто невозможно (результаты не прогнозируемы)
Написал программу с использованием библиотеки ClosedXML, с помощью которой можно самому задать тип данных для каждой колонки, задать алгоритм валидации, получить строки с ошибками и т.д. Все прекрасно работает, но ! На больших xlsx - файлах приложение вылетает по недостатку памяти при попытке открытия файла. И это понятно, ведь я работаю по технологии DOM, когда при открытии файла грузится весь объем исходных данных. Однако есть еще техника SAX, предусматривающая загрузку файла потоком, не требующая загрузки всех данных разом.
Пробовал смотреть в сторону OpenXML (SAX), но получил код (с сайта MS), возвращающий какие-то символы вместо содержимого ячеек. В ClosedXML есть один из конструкторов Open, при котором данные читаются не оптом (DOM), а последовательно в потоке (SAX), но найти работающий код в инете с обработкой именно ячеек не смог, как ни старался.
Смотрел также FastExcel, но там все тот же DOM и все та же нехватка памяти.

Буду очень признателен за любую помощь, советы, ссылки.
Спасибо за внимание
0
IT_Exp
Эксперт
34794 / 4073 / 2104
Регистрация: 17.06.2006
Сообщений: 32,602
Блог
11.11.2023, 15:45
Ответы с готовыми решениями:

Как максимально быстро считать очень большой текст из файла
как максимально быстро считать ооочень большой текст из файла и поеместить в richTextBox1?

Создать файл xlsx, разметить два столбца, сохранить
Нужно создать файл xlsx в папке, которую выберет пользователь, либо на рабочем столе (по умолчанию) В файле изначально нужно разметить 2...

Как разорвать связь вставленного в xlsx файл рисунка (jpg)?
Написал макрос который печатает в изображение в jpg файл, затем вставляет его в файл xlsx. Но вот бида при удалении вставленного файла в...

6
 Аватар для XIST
1960 / 1070 / 148
Регистрация: 01.10.2009
Сообщений: 3,591
Записей в блоге: 1
11.11.2023, 17:32
MsGuns, если я верно понял, то подойдет DBForge, там при импорте такое можно (во всяком случаи для Mysql, но думаю функционал не отличается от базы )
0
Эксперт .NET
 Аватар для Usaga
14145 / 9374 / 1350
Регистрация: 21.01.2016
Сообщений: 35,285
12.11.2023, 07:07
MsGuns, а почему нельзя напрямую с документом работать? Это же XML в ZIP-архиве. Распакуй и напрямую читай XmlReader'ом. Вот тебе и SAX бесплатный.
0
1497 / 1238 / 245
Регистрация: 04.04.2011
Сообщений: 4,363
12.11.2023, 15:34  [ТС]
Цитата Сообщение от XIST Посмотреть сообщение
MsGuns, если я верно понял, то подойдет DBForge, там при импорте такое можно (во всяком случаи для Mysql, но думаю функционал не отличается от базы )
Про SSMS я писал уже. Мускул не годится, надо именно мс скл

Цитата Сообщение от Usaga Посмотреть сообщение
MsGuns, а почему нельзя напрямую с документом работать? Это же XML в ZIP-архиве. Распакуй и напрямую читай XmlReader'ом. Вот тебе и SAX бесплатный.
Не совсем понятно. Т.е. можно открыть xlsx как XML ?
0
Эксперт JavaЭксперт по электроникеЭксперт .NET
 Аватар для wizard41
3403 / 2725 / 574
Регистрация: 04.09.2018
Сообщений: 8,561
Записей в блоге: 3
12.11.2023, 15:52
Цитата Сообщение от MsGuns Посмотреть сообщение
Т.е. можно открыть xlsx как XML ?
)) Все файлы офиса (практически) - это "закамуфлированный" XML..
0
 Аватар для XIST
1960 / 1070 / 148
Регистрация: 01.10.2009
Сообщений: 3,591
Записей в блоге: 1
12.11.2023, 16:31
Цитата Сообщение от MsGuns Посмотреть сообщение
Про SSMS я писал уже. Мускул не годится, надо именно мс скл
я всё видел, но я еще раз говорю что в системах управления от DВForge есть такое при импорте
0
Эксперт .NET
 Аватар для Usaga
14145 / 9374 / 1350
Регистрация: 21.01.2016
Сообщений: 35,285
13.11.2023, 06:08
Цитата Сообщение от MsGuns Посмотреть сообщение
Не совсем понятно. Т.е. можно открыть xlsx как XML ?
XLSX - это zip-архив с кучкой XML'ек. Если есть потрбеность, как в твоём случае, то с этими XML'ьками можно напрямую работать. Будет не так удобно, но если надо, то вот оно вот.
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
BasicMan
Эксперт
29316 / 5623 / 2384
Регистрация: 17.02.2009
Сообщений: 30,364
Блог
13.11.2023, 06:08
Помогаю со студенческими работами здесь

Загрузить ну ОЧЕНЬ большой файл и таймауты.
Привет всем. Есть файловый сервер. Существующая технология предусматривает полный доступ клиентов к ресурсам машины. Такое...

Очень большой Bitmap,прорисовка.
Клепаю прогу которая открывает файл, считывает побитно его и, если 1 - выводит квадратик, 0 - точку. И так по порядку, рядами по 80 байт....

Очень большой string[] buf
Суть. Есть софт, который кушает текстовые данные из лог-файла. Значения отделяются друг от друга меткой. Размер файла варьируется от 2 Мб...

Как сделать очень большой TimeOut?
Народ! Запускаю процедуру расчета(IIS сервак 2000). Вся эта канитель считается около 5 часов. Через некоторое время Explorer пишет...

Какие есть средства в C# для работы с числами с очень большой точностью?
Пишу архиватор, построенный на принципе арифметического кодирования, и требуется очень большая точность, порядка 1000 знаков после запятой....


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
7
Ответ Создать тему
Новые блоги и статьи
Камера Toupcam IUA500KMA
Eddy_Em 12.02.2026
Т. к. у всяких "хикроботов" слишком уж мелкий пиксель, для подсмотра в ESPriF они вообще плохо годятся: уже 14 величину можно рассмотреть еле-еле лишь на экспозициях под 3 секунды (а то и больше),. . .
И ясному Солнцу
zbw 12.02.2026
И ясному Солнцу, и светлой Луне. В мире покоя нет и люди не могут жить в тишине. А жить им немного лет.
«Знание-Сила»
zbw 12.02.2026
«Знание-Сила» «Время-Деньги» «Деньги -Пуля»
SDL3 для Web (WebAssembly): Подключение Box2D v3, физика и отрисовка коллайдеров
8Observer8 12.02.2026
Содержание блога Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами и вызывать обработчики событий столкновения. . . .
SDL3 для Web (WebAssembly): Загрузка PNG с прозрачным фоном с помощью SDL_LoadPNG (без SDL3_image)
8Observer8 11.02.2026
Содержание блога Библиотека SDL3 содержит встроенные инструменты для базовой работы с изображениями - без использования библиотеки SDL3_image. Пошагово создадим проект для загрузки изображения. . .
SDL3 для Web (WebAssembly): Загрузка PNG с прозрачным фоном с помощью SDL3_image
8Observer8 10.02.2026
Содержание блога Библиотека SDL3_image содержит инструменты для расширенной работы с изображениями. Пошагово создадим проект для загрузки изображения формата PNG с альфа-каналом (с прозрачным. . .
Установка Qt-версии Lazarus IDE в Debian Trixie Xfce
volvo 10.02.2026
В общем, достали меня глюки IDE Лазаруса, собранной с использованием набора виджетов Gtk2 (конкретно: если набирать текст в редакторе и вызвать подсказку через Ctrl+Space, то после закрытия окошка. . .
SDL3 для Web (WebAssembly): Работа со звуком через SDL3_mixer
8Observer8 08.02.2026
Содержание блога Пошагово создадим проект для загрузки звукового файла и воспроизведения звука с помощью библиотеки SDL3_mixer. Звук будет воспроизводиться по клику мышки по холсту на Desktop и по. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru