Реальная задача для реального проекта для желающих покодить

@Kastaneda · Регистрация: 12.12.2009

Студворк — интернет-сервис помощи студентам

Привет

Попросили сделать парсер сайта по-дружески, но у меня реально времени на него нет. Если кому-то интересно, могу двигать в нужном направлении и может, при желании, могу пинать за плохой код.
Что нужно сделать - парсер с HTTP клиентом. Пример клиента на boost::asio скину, покажу как парсить HTML регулярками (да, есть библиотеки, но думаю руками будет интересней). Могу архитектуру накидать еще.

Есть сайт, там есть форма, в форму вводятся данные, данные для следующих листбоксов тянутся аджаксом, после заполнения всех форм аджаксом тянутся другие данные. Нужно стянуть данные для всех возможных комбинаций всех листбоксов, при этом нужно сохранить сами листбоксы.

Тему не помещаю во фриланс, т.к. денег не предвидится, но вообще, могу уточнить, может там какая-то чисто символическая сумма будет.

Да, знаю С++ тут не лучший выбор, но тут большая активность желающих обучаться людей.

@casper007 · 21.07.2016, 22:11

Можно мне попробовать? Очень хочу научиться работать в данном направлении.

@ProgRoman · 22.07.2016, 10:46

Добрый день! Тоже хотел бы научиться работать в этом направлении!

@Kastaneda · 22.07.2016, 13:43 **[ТС]**

casper007, ProgRoman, привет, я подумаю как можно разделить задачи, пока по работе большой загруз, не могу отвлечься.

@SatanaXIII · 26.07.2016, 11:48

Сообщение от Kastaneda

я подумаю как можно разделить задачи

Ну выдать тз на маленькие конкретные функции. Типа: принимает такую-то строку, выдает такой-то объект.

@Avazart · 26.07.2016, 16:51

Сообщение от Kastaneda

Пример клиента на boost::asio скину, покажу как парсить HTML регулярками

Я бы так так не делал, это затратно по времени и морока.
boost::asio - все же плохо подходит для HTTP, да и парсинг регулярками не всегда подходит.
Обычно я использую C++Builder для этого или Qt, там все таки гуи и потоки есть и библиотеки для http.
Ну и если уж без фреймворков то все таки есть другие либы типа curl или Poco.

Сообщение от Kastaneda

Есть сайт, там есть форма, в форму вводятся данные, данные для следующих листбоксов тянутся аджаксом, после заполнения всех форм аджаксом тянутся другие данные. Нужно стянуть данные для всех возможных комбинаций всех листбоксов, при этом нужно сохранить сами листбоксы.

Больше походит не на "научится" а на "рутину" которую самому лень делать

@Kastaneda · 26.07.2016, 16:52 **[ТС]**

Не по теме:

Avazart, согласен, просто это мой повседневный инструментарий, да и не настолько это и затратно по времени, для того, тобы получить тело HTTP ответа достаточно скопипастить готовый пример с бустовских примеров.

2all, блин, совсем нет времени, выходные ~~пробухал~~ был занят, в будни даже 10 минут выделить не могу. Вот если бы кто-то захотел себя попробовать в роли раздающего задачи, я б суть за пару минут в личку объяснил...

Добавлено через 1 минуту

Сообщение от Avazart

Больше походит не на "научится" а на "рутину" которую самому лень делать

да не, тут просто попросили как "тыжпрограммиста". У человека реальный проект, но он такие вещи не кодит. И да, какие-то деньги все таки будут, сумму пока не знаю.

@Avazart · 26.07.2016, 16:54

Сообщение от Kastaneda

не настолько это и затратно по времени, для того, тобы получить тело HTTP ответа достаточно скопипастить готовый пример с бустовских примеров.

Это совсем не так. Задача будет сводится к написанию класса клиента для реализации HTTP протокола на основе буст-сокетов(долгое и нудное чтение RFC), а потом только сама задача ... а на кой оно надо?

@Kastaneda · 26.07.2016, 16:56 **[ТС]**

Сообщение от Avazart

Задача будет сводится к написанию класса клиента для реализации HTTP протокола (долгое нужное чтение RFC), а потом только сама задача

Не, на столько крутой клиент тут не нужен. Тут просто игнорируешь все HTTP заголовки и читаешь контент в строку. Заранее известно, что код ответа будет 200, поэтому даже редиректы и пр. обрабатывать не надо.

@Avazart · 26.07.2016, 17:01

Сообщение от Kastaneda

Не, на столько крутой клиент тут не нужен. Тут просто игнорируешь все HTTP заголовки и читаешь контент в строку. Заранее известно, что код ответа будет 200, поэтому даже редиректы и пр. обрабатывать не надо.

Редерикты самая малая проблема. Банальная проблема с которой сталкиваешься каков размер пришедших данных? Т.е конец ответа....Или отправить POST или отправить POST multipart, SSL, энкодирование итп...

Можно делать влоб "без крутости" но это нифига не модифицируемо а учитывая что сайты меняют html- код страниц в лучшем случае каждый год-полгода - не дальновидно, потом фиг разберешься.

@Kastaneda · 26.07.2016, 17:10 **[ТС]**

Сообщение от Avazart

Редерикты самая малая проблема. Банальная проблема с которой сталкиваешься каков размер пришедших данных? Т.е конец ответа....Или отправить POST или отправить POST multipart, SSL, энкодирование итп...

не, там все гораздо проще - простой GET, в header добавляешь Connection:close и конец данных определяется тупо по EOF.

Сообщение от Avazart

Можно делать влоб "без крутости" но это нифига не модифицируемо а учитывая что сайты меняют html- код страниц в лучшем случае каждый год-полгода - не дальновидно, потом фиг разберешься.

Тут просто регулярки нужно будет поправить и все. Т.е. всё будет заточено под один конкретный сайт, делать мега универсальный скрапер необходимости пока точно нет.

@Avazart · 26.07.2016, 21:42

Сообщение от Kastaneda

не, там все гораздо проще - простой GET, в header добавляешь Connection:close и конец данных определяется тупо по EOF.

Который сайт может смело проигнорировать, некоторые сайты вообще только с сжатом состоянии контент высылают.
Да и как бы это все костыли, и изначально это то "как не надо делать".

Добавлено через 8 минут

Сообщение от Kastaneda

У человека реальный проект, но он такие вещи не кодит.

Так что странно тянуть такое в реальный проект.

Сообщение от Kastaneda

могу пинать за плохой код.

Так что кого тут пинать...

@Kastaneda · 26.07.2016, 22:26 **[ТС]**

Сообщение от Avazart

Так что странно тянуть такое в реальный проект.

А что странного? Когда будет сайт возвращать, допустим, gzip, тогда и надо клиента расширять, сейчас есть сайт, который возвращает заранее известный ответ (чистый HTML с кодом 200), вот с этим ответом и надо работать. Писать расширяемый скрапер никто не просил.
Тут тот самый случай, когда нужно исходить из реальной задачи, а не проектировать расширяемую систему.

@Avazart · 26.07.2016, 22:31

Сообщение от Kastaneda

А что странного? Когда будет сайт возвращать, допустим, gzip, тогда и надо клиента расширять, сейчас есть сайт, который возвращает заранее известный ответ (чистый HTML с кодом 200), вот с этим ответом и надо работать. Писать расширяемый скрапер никто не просил.
Тут тот самый случай, когда нужно исходить из реальной задачи, а не проектировать расширяемую систему.

В том то и дело что проектировать ничего не нужно, нужно просто использовать предназначенную для этого библиотеку, что с экономит время сейчас и в будущем.

@Kastaneda · 26.07.2016, 22:41 **[ТС]**

Сообщение от Avazart

нужно просто использовать предназначенную для этого библиотеку, что с экономит время сейчас и в будущем.

Я понимаю о чем ты говоришь, но реально нет необходимости. Встроить бустовкий HTTP клиент - это ctrl+C, ctrl+V. Буст уже прикручен, никаких доп. телодвижений не надо.

Добавлено через 1 минуту

Не по теме:

хотя у меня в проекте (как раз, где нужна готовая либа) все HTTP дела на boost::asio, но тут прихоть заказчика, не нужно ему ничего другого. Я к boost::asio уже привык, кучу своих велосипедов для HTTP уже написал :)

@Avazart · 26.07.2016, 22:52

Сообщение от Kastaneda

Я понимаю о чем ты говоришь, но реально нет необходимости.

Нет необходимости делать правильно?

Ну ваш изврат и изврат заказчика это ваши проблемы, я к тому что тема вроде создавалась что бы "учиться".
Тут как бы сразу вопрос если учится то если не на готовых либах которые специально предназначены, то почему на таком монстре как boost, а не на основах... на WinSocks к примеру (у меня на нем тоже есть пару велосипедов, правда не для реальных проектов а для студенческих)

Croessmah · 26.07.2016, 22:54

Сообщение от Avazart

я к тому что тема вроде создавалась что бы "учиться".

А в заголовке написано

для желающих покодить

@Kastaneda · 26.07.2016, 22:57 **[ТС]**

Сообщение от Avazart

то почему на таком монстре как boost, а не на основах... на WinSocks к примеру.

Если бы я обещал научить сетевому программированию, то да, нужно было бы начать с основ. А так бустовский клиент - это быстрый и простой способ получить рабочий HTTP клиент без усилий. Как бы сетевого программирования тут не будет, задача сводится к другому.

@Avazart · 26.07.2016, 23:00

Сообщение от Croessmah

А в заголовке написано

Тогда расшифруйте что это значит?
Ибо я понимаю только две мотивации деньги и/или (положительный)опыт.

Сообщение от Kastaneda

это просто быстрый и просто способ получить рабочий HTTP клиент без усилий.

Нет самый простой использовать либу для HTTP, а не уровень сокетов.

@Kastaneda · 26.07.2016, 23:00 **[ТС]**

Не по теме:

Сообщение от Avazart

Нет необходимости делать правильно?

правильно это делать на питоне :D

Новые блоги и статьи Все статьи Все блоги /
SDL3 для Web (WebAssembly): Синхронизация спрайтов SDL3 и тел Box2D 8Observer8 04.03.2026 Содержание блога Финальная демка в браузере. Итоговый код: finish-sync-physics-sprites-sdl3-c. zip На первой гифке отладочные линии отключены, а на второй включены:. . .	SDL3 для Web (WebAssembly): Идентификация объектов на Box2D v3 - использование userData и событий коллизий 8Observer8 02.03.2026 Содержание блога Финальная демка в браузере. Итоговый код: finish-collision-events-sdl3-c. zip https:/ / www. cyberforum. ru/ blog_attachment. php?attachmentid=11680&d=1772460536 Одним из. . .	Реалии Hrethgir 01.03.2026 Нет, я не закончил до сих пор симулятор. Эта задача сложнее. Не получилось уйти в плавсостав, но оно и к лучшему, возможно. Точнее получалось - но сварщиком в палубную команду, а это значит, в моём. . .	Ритм жизни kumehtar 27.02.2026 Иногда приходится жить в ритме, где дел становится всё больше, а вовлечения в происходящее — всё меньше. Плотный график не даёт вниманию закрепиться ни на одном событии. Утро начинается с быстрых,. . .
SDL3 для Web (WebAssembly): Сборка библиотек: SDL3, Box2D, FreeType, SDL3_ttf, SDL3_mixer и SDL3_image из исходников с помощью CMake и Emscripten 8Observer8 27.02.2026 Недавно вышла версия 3. 4. 2 библиотеки SDL3. На странице официальной релиза доступны исходники, готовые DLL (для x86, x64, arm64), а также библиотеки для разработки под Android, MinGW и Visual Studio. . . .	SDL3 для Web (WebAssembly): Реализация движения на Box2D v3 - трение и коллизии с повёрнутыми стенами 8Observer8 20.02.2026 Содержание блога Box2D позволяет легко создать главного героя, который не проходит сквозь стены и перемещается с заданным трением о препятствия, которые можно располагать под углом, как верхнее. . .	Конвертировать закладки radiotray-ng в m3u-плейлист damix 19.02.2026 Это можно сделать скриптом для PowerShell. Использование . \СonvertRadiotrayToM3U. ps1 <path_to_bookmarks. json> Рядом с файлом bookmarks. json появится файл bookmarks. m3u с результатом. # Check if. . .	Семь CDC на одном интерфейсе: 5 U[S]ARTов, 1 CAN и 1 SSI Eddy_Em 18.02.2026 Постепенно допиливаю свою "многоинтерфейсную плату". Выглядит вот так: https:/ / www. cyberforum. ru/ blog_attachment. php?attachmentid=11617&stc=1&d=1771445347 Основана на STM32F303RBT6. На борту пять. . .

@Kastaneda 5232 / 3205 / 362 Регистрация: 12.12.2009 Сообщений: 8,143 Записей в блоге: 2

	Реальная задача для реального проекта для желающих покодить 19.07.2016, 19:54. Показов 2563. Ответов 24 Метки нет (Все метки) Привет Попросили сделать парсер сайта по-дружески, но у меня реально времени на него нет. Если кому-то интересно, могу двигать в нужном направлении и может, при желании, могу пинать за плохой код. Что нужно сделать - парсер с HTTP клиентом. Пример клиента на boost::asio скину, покажу как парсить HTML регулярками (да, есть библиотеки, но думаю руками будет интересней). Могу архитектуру накидать еще. Есть сайт, там есть форма, в форму вводятся данные, данные для следующих листбоксов тянутся аджаксом, после заполнения всех форм аджаксом тянутся другие данные. Нужно стянуть данные для всех возможных комбинаций всех листбоксов, при этом нужно сохранить сами листбоксы. Тему не помещаю во фриланс, т.к. денег не предвидится, но вообще, могу уточнить, может там какая-то чисто символическая сумма будет. Да, знаю С++ тут не лучший выбор, но тут большая активность желающих обучаться людей. 3

@casper007 71 / 71 / 58 Регистрация: 12.12.2013 Сообщений: 420
	21.07.2016, 22:11
	Можно мне попробовать? Очень хочу научиться работать в данном направлении. 0

@ProgRoman 1 / 1 / 1 Регистрация: 04.12.2010 Сообщений: 67
	22.07.2016, 10:46
	Добрый день! Тоже хотел бы научиться работать в этом направлении! 0

@Kastaneda 5232 / 3205 / 362 Регистрация: 12.12.2009 Сообщений: 8,143 Записей в блоге: 2
	22.07.2016, 13:43 [ТС]
	casper007, ProgRoman, привет, я подумаю как можно разделить задачи, пока по работе большой загруз, не могу отвлечься. 0