Форум программистов, компьютерный форум, киберфорум
C# .NET
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
18 / 18 / 15
Регистрация: 27.11.2013
Сообщений: 470

Получить содержимое страниц сайта с CefSharp в цикле

18.11.2020, 15:09. Показов 2773. Ответов 0
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Здравствуйте. Есть набор страниц сайта. Нужно с них получить весь html. С помощью простых http-запросов не получается, т.к. там стоит защита от парсинга, а найти способ обойти эту защиту не получилось. Поэтому использую cefsharp Offscreen. До недавнего времени все работало. А сейчас наблюдается проблема, что если, допустим, загрузить три страницы, то данные можно будет получить в лучшем случае с двух, обычно вообще с одной - самой первой. Если парсить по странице, то все окей, только это очень долго, т.к. обычно надо перебрать страниц 50.

Использую следующий код, частично взятый из репозитория cefsharp на Гитхабе.

C#
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
public static Task LoadPageAsync(IWebBrowser browser)
        {
            var tcs = new TaskCompletionSource<bool>(TaskCreationOptions.RunContinuationsAsynchronously);
 
            EventHandler<LoadingStateChangedEventArgs> handler = null;
            handler = (sender, args) =>
            {
                if (!args.IsLoading)
                {
                    browser.LoadingStateChanged -= handler;
                    tcs.TrySetResult(true);
                }
            };
 
            browser.LoadingStateChanged += handler;
 
            return tcs.Task;
        }
 
public static string chapterText(string html)
        {
            HtmlDocument HD = new HtmlDocument();
 
            HD.LoadHtml(html);
           
            var titleChapter = HD.DocumentNode.SelectSingleNode("//div[@id='text-container']");
            
            string textFormattedImage = titleChapter.InnerHtml;
            return textFormattedImage;
        }
 
private async static void MainAsync(string[] testUrl)
        {
            var browserSettings = new BrowserSettings();
            browserSettings.WindowlessFrameRate = 1;
            string title = titleBook(HtmlDom);
 
            string titleValidate = Regex.Replace(title, @"[\/?:*""><|]+", "", RegexOptions.Compiled);
 
            foreach (var url in testUrl)
            {
                using (var browser = new ChromiumWebBrowser(url, browserSettings))
                {
                    await LoadPageAsync(browser);
                    var source = await browser.GetSourceAsync();
                    using (StreamWriter sw = new StreamWriter(@"D:\" + titleValidate.Trim() + ".html", true, Encoding.UTF8))
                    {
                        sw.WriteLine(chapterText(source), Encoding.UTF8);
                    }
 
                    Console.WriteLine("Глава " + url + " получена");
                }
            }
 
 
            Console.WriteLine();
            Console.WriteLine();
            Console.WriteLine();
            Console.WriteLine("Книга получена!");
        }
Возникает такое ощущение, будто бы методы просто не успевают отработать, из-за чего и не всегда удается получить данные. Но в работе с потоками и тому подобным практически не разбираюсь, поэтому нужна помощь)
0
Programming
Эксперт
39485 / 9562 / 3019
Регистрация: 12.04.2006
Сообщений: 41,671
Блог
18.11.2020, 15:09
Ответы с готовыми решениями:

Ошибка в цикле обработки страниц в парсере сайта
Доброго времени суток, уважаемые форумчане, при написании парсера (код ниже) застрял на ошибке - цикл обработки страниц обрабатывает только...

Вместо страниц сайта выводится содержимое файла engine.php
Вместо страниц сайта выводится содержимое файла engine.php engine.php: &lt;?php $ext=&quot;.html&quot;; $hr = 'http://test.ai'; $tg =...

Получить содержимое сайта
Здравствуйте, скажите, пожалуйста, как можно получить содержимое сайта (php файла) Я делаю так TextView title; ...

0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
inter-admin
Эксперт
29715 / 6470 / 2152
Регистрация: 06.03.2009
Сообщений: 28,500
Блог
18.11.2020, 15:09
Помогаю со студенческими работами здесь

Как получить содержимое сайта?
Как получить с сайта содержимое допустим страницы &quot;http://test.ru/auth.php ?

Получить содержимое страницы стороннего сайта
Доброго времени суток. Есть необходимость получить содержимое страницы стороннего сайта. Нашел множество способов (httpWebRequest,...

Как получить содержимое DIV с сайта
При помощи JAVA

Получить содержимое файла из директории выше сайта
Есть путь: /var/www/.../.../.../.../www/test.php Установлен астериск который производит запись по пути /etc/asterisk/records/... Как...

Возможно ли спарсить значение mathjax с сайта? CefSharp
Сразу попрошу не писать не про то, что это надо делать совсем не так и в подобном духе. Прошу помочь с моей, пускай и придурковатой,...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
1
Ответ Создать тему
Новые блоги и статьи
PhpStorm 2025.3: WSL Terminal всегда стартует в ~
and_y87 14.12.2025
PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .
Как объединить две одинаковые БД Access с разными данными
VikBal 11.12.2025
Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.
Новый ноутбук
volvo 07.12.2025
Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro
Музыка, написанная Искусственным Интеллектом
volvo 04.12.2025
Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .
От async/await к виртуальным потокам в Python
IndentationError 23.11.2025
Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
Поиск "дружественных имён" СОМ портов
Argus19 22.11.2025
Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .
Сколько Государство потратило денег на меня, обеспечивая инсулином.
Programma_Boinc 20.11.2025
Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .
Ломающие изменения в C#.NStar Alpha
Etyuhibosecyu 20.11.2025
Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .
Мысли в слух
kumehtar 18.11.2025
Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .
Создание Single Page Application на фреймах
krapotkin 16.11.2025
Статья исключительно для начинающих. Подходы оригинальностью не блещут. В век Веб все очень привыкли к дизайну Single-Page-Application . Быстренько разберем подход "на фреймах". Мы делаем одну. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2025, CyberForum.ru