Форум программистов, компьютерный форум, киберфорум
PHP для начинающих
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.67/3: Рейтинг темы: голосов - 3, средняя оценка - 4.67
0 / 0 / 0
Регистрация: 15.10.2017
Сообщений: 2

Взять уникальную строку с файла (большой файл)

15.10.2017, 21:27. Показов 707. Ответов 4
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Посоветуйте как лучше решить проблему.

Есть тхт-файл больше 10 млн. строк
При каждом вызове скрипта нужно брать уникальную строчку

Первое что пришло в голову это разбить файл на более мелкие (можно даже по папкам разложить)
И рандомно брать строки с удалением.
Но это не сильно подходит Из-за рандомности строки в каких-то файлах могут закончиться быстрее чем в других, а обращения будут продолжаться к этим файлам.

Что можно еще сделать с большим файлом? Чтоб все работало быстро (производительность важна!)
0
Programming
Эксперт
39485 / 9562 / 3019
Регистрация: 12.04.2006
Сообщений: 41,671
Блог
15.10.2017, 21:27
Ответы с готовыми решениями:

Удалить уникальную строку в таблице
Не удаляется уникальная строка из таблицы при нажатии на кнопку. Уникальность - это id каждой уникальной учетной записи. echo '<td...

Как реализовать Уникальную строку?
Всем привет, подскажите, пожалуйста, Как реализовать Уникальную строку? Например: Таблица: При попытке добавить - ничего не...

Как получить уникальную строку из множество записей?
Мир все и привет как получить уникальную строку из множество записей? Например в таком запросе query.sql.add ( 'Where...

4
Эксперт PHP
4925 / 3920 / 1620
Регистрация: 24.04.2014
Сообщений: 11,441
15.10.2017, 21:37
Цитата Сообщение от AlexUA83 Посмотреть сообщение
Что можно еще сделать с большим файлом? Чтоб все работало быстро (производительность важна!)
Один раз построчно прочитать и записать в бд. Дальше брать из бд рандомную строку
0
0 / 0 / 0
Регистрация: 15.10.2017
Сообщений: 2
15.10.2017, 21:43  [ТС]
Цитата Сообщение от Jewbacabra Посмотреть сообщение
Один раз построчно прочитать и записать в бд. Дальше брать из бд рандомную строку
вы предлагаете импортировать эти строки в mysql или какую-ту другую БД?

брать рандомно строки не совсем то, что нужно
хотелось бы брать уникальные строки (по порядку или может с удалением строк)
0
Эксперт PHP
4925 / 3920 / 1620
Регистрация: 24.04.2014
Сообщений: 11,441
15.10.2017, 21:52
Цитата Сообщение от AlexUA83 Посмотреть сообщение
вы предлагаете импортировать эти строки в mysql или какую-ту другую БД?
В любую бд
Цитата Сообщение от AlexUA83 Посмотреть сообщение
брать уникальные строки (по порядку или может с удалением строк)
принципиально ничего не меняется. Можно читать строки подряд, удаляя уже прочитанные
0
 Аватар для TrustNo1
78 / 78 / 35
Регистрация: 08.09.2013
Сообщений: 397
16.10.2017, 10:33
Цитата Сообщение от AlexUA83 Посмотреть сообщение
брать рандомно строки не совсем то, что нужно
Можно разделить 1 раз файл на 42 части по первому символу (32 буквы и 10 цифр).
Сначала берем рандомно первый символ, потом рандомно строку из конкретного файла, получатся в 42 раза быстрее
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
inter-admin
Эксперт
29715 / 6470 / 2152
Регистрация: 06.03.2009
Сообщений: 28,500
Блог
16.10.2017, 10:33
Помогаю со студенческими работами здесь

Скопировать большой файл, например, фильм, в другой файл. После копирования размер файла должны совпадать
Добрый день, есть задача на потоки ввода-вывода : Скопировать большой файл, например, фильм, в другой файл. После копирования размер...

Используя число и unix время получить уникальную 7-ми знаковую строку
Добрый день. Подскажите, пожалуйста, как используя число и unix время получить уникальную 7-ми знаковую строку?

Взять строку из файла
Добрый день, подскажите пожалуйста, целый день уже мучаюсь... Есть код в котором используются данные например "Q11111" и...

Как взять строку из файла
Нужно в веб форму вставлять поочередно емайлы из файла. Как это сделать. Как я понимаю сначало так: $emails =...

Взять последнюю строку из файла
Я новичок! (не яд). Короче, у меня есть текстовый файл очень большого объема (36,6 Мб) и мне нужно взять из него только последнюю строку....


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
5
Ответ Создать тему
Новые блоги и статьи
Очистка реквизитов документа при копировании
Maks 09.04.2026
Алгоритм из решения ниже применим как для типовых, так и для нетиповых документов на самых различных конфигурациях. Задача: при копировании документа очищать определенные реквизиты и табличную. . .
модель ЗдравоСохранения 8. Подготовка к разному выполнению заданий
anaschu 08.04.2026
https:/ / github. com/ shumilovas/ med2. git main ветка * содержимое блока дэлэй из старой модели теперь внутри зайца новой модели 8ATzM_2aurI
Блокировка документа от изменений, если он открыт у другого пользователя
Maks 08.04.2026
Алгоритм из решения ниже реализован на примере нетипового документа, разработанного в конфигурации КА2. Задача: запретить редактирование документа, если он открыт у другого пользователя. / / . . .
Система безопасности+живучести для сервера-слоя интернета (сети). Двойная привязка.
Hrethgir 08.04.2026
Далее были размышления о системе безопасности. Сообщения с наклонным текстом - мои. А как нам будет можно проверить, что ссылка наша, а не подделана хулиганами, которая выбросит на другую ветку и. . .
Модель ЗдрввоСохранения 7: больше работников, больше ресурсов.
anaschu 08.04.2026
работников и заданий может быть сколько угодно, но настроено всё так, что используется пока что только 20% kYBz3eJf3jQ
Дальние перспективы сервера - слоя сети с космологическим дизайном интефейса карты и логики.
Hrethgir 07.04.2026
Дальнейшее ближайшее планирование вывело к размышлениям над дальними перспективами. И вот тут может быть даже будут нужны оценки специалистов, так как в дальних перспективах всё может очень сильно. . .
Горе от ума
kumehtar 07.04.2026
Эта мне ментальная установка, что вот прямо сейчас, мол, мне для полного счастья не хватает (нужное вписать), и когда я этого достигну - тогда и полный кайф. Одна из самых сильных ловушек на пути. . . .
Использование значений реквизитов справочника в документе, с определенными условиями и правами
Maks 07.04.2026
1. Контроль срока действия договора Алгоритм из решения ниже реализован на примере нетипового документа "ЗаявкаНаРаботу", разработанного в конфигурации КА2. Задача: уведомлять пользователя, если. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru