Удалить теги из текста (парсинг html)

@дно21 · Регистрация: 15.08.2017

Студворк — интернет-сервис помощи студентам

И снова доброго времени суток дорогие программисты!
Опишу суть вопроса:
через функцию:

Code
1
Memo2->Lines->Add(IdHTTP1->Get("http://pravmir.com.ua"));

Спарсил страницу в Memo1
Хочу удалить все теги и оставить только текст
пытался сделать поиск-заменой, но каждый тег может содержать стили и подключение скриптов
может кто подскажет, как очистить текст от тегов

Спасибо большое на перед!

@gunslinger · 06.11.2017, 01:33

Думаю, такое вряд ли можно сделать простым способом.

@lifeforce · 06.11.2017, 09:20

дно21,
Я сейчас точно этим и занимаюсь для моей программы вывода таблицы уровней сигнала.
Для твоей задачи можно пойти напрямую.
сканирование всего текста по символу и сравнивать с адресом от допустимых знаков до Я , и заменять все не входящие знаки - пустым местом (или пробелом потом еще надо заменить все пробелы на один ).
в итоге получится только текст слитый в одну строку . т.к. используешь компонент Мемо то он сам распределит текст по строкам.
Функцию для символов можешь взять из прошлой темы, Переделка с консоли в форму - C++ Builder от volvo

Ааааа..... volvo удалил свое решение?

@дно21 · 06.11.2017, 20:14 **[ТС]**

Привет)
В тексте могут быть важные символы и цифры, которые может задеть фильтр)
Лучше всего убирать теги по принципу: все что "<и между данными знаками>"

нашел такой исходник от zitxbit:

C++
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
#include <iostream>
#include <fstream>
 
#include <string>
 
using namespace std;
 
int main()
{
    const char* filename = "index.html";
    ifstream ifs(filename, ifstream::in);
 
    string text = "";
    char ch = '\0'; bool b = false;
    while (ifs.peek() >= 0 && (ch = ifs.get()))
    {
        if (ch == '>') b = true;
        if (b != false)
        {
            if (ch != '<' && ch != '>')
                text+=ch;
        }
        if (ch == '<') b = false;
    }
 
    cout << text << endl;
 
    return 0;
}

Добавлено через 43 минуты
Вот, работает, переписал вывод:

C++
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
 const char* filename = "indi.html";
    ifstream ifs(filename, ifstream::in);
 
    string text = "";
    char ch = '\0'; bool b = false;
    while (ifs.peek() >= 0 && (ch = ifs.get()))
    {
        if (ch == '>') b = true;
        if (b != false)
        {
            if (ch != '<' && ch != '>')
                text+=ch;
        }
        if (ch == '<') b = false;
    }
 
    //cout << text << endl;
     Form1->Memo1->Lines->Add(String(text.c_str()));
     //Form1->Memo1->Text=Utf8ToAnsi(Memo1->Text);
    return ;

Весь текст из Memo2 пишу в файл, потом переганяю через данную функцию и вывожу в Memo1

Наверное жесткий костыль, но все же он работает)
Осталось придумать как текст скриптов удалить)

@volvo · 06.11.2017, 20:17

Можно на пример файла посмотреть, насколько он сложный? Есть подозрение, что для не слишком сложных файлов можно воспользоваться регуляркой, что будет гораздо эффективнее, чем в цикле сверять каждый символ.

Добавлено через 37 секунд

Сообщение от lifeforce

volvo удалил свое решение?

Я в той теме свое решение и не выкладывал...

@дно21 · 06.11.2017, 20:21 **[ТС]**

Держи: ссылка на файл

@gunslinger · 06.11.2017, 20:34

Ссылка на страницу есть в первом посте.

@volvo · 06.11.2017, 22:04

C++
1
2
3
4
5
6
7
8
9
10
11
12
    String s = IdHTTP1->Get("http://pravmir.com.ua/");
 
    std::auto_ptr<TRegExpr>re(new TRegExpr); // #include <memory>
    re->Expression = "<(style|script)[^<]*</\\1>";
    s = re->Replace(s, "", false);
 
    re->Expression = "<[^>]*>";
    s = re->Replace(s, "", false);
 
    re->Expression = "\\s\\s+";
    s = re->Replace(s, "\r\n", false);
    Memo1->Text = s;

прекрасно удаляет все теги, оставляет только чистый текст. Если опять будет

Сообщение от viramir

auto_ptr is not member of std

- то создай по старинке:

C++
1
2
3
TRegExpr *re = new TRegExpr();
// тут работа с re
delete re;

, хотя, насколько я помню, в BCB6 вполне себе использовалось auto_ptr, если подключить нужный файл...

@дно21 · 06.11.2017, 22:47 **[ТС]**

[bcc32 Error] Unit1.cpp(1313): E2451 Undefined symbol 'TRegExpr'
Full parser context
Unit1.cpp(1308): parsing: void _fastcall TForm1::Button20Click(TObject *)

[bcc32 Error] Unit1.cpp(1313): E2299 Cannot generate template specialization from 'auto_ptr<_Ty>'
Full parser context
Unit1.cpp(1308): parsing: void _fastcall TForm1::Button20Click(TObject *)

две ошибки, сейчас пишу в C++Builder 10.2

volvo извини за мою тупость(

@volvo · 06.11.2017, 22:57

Я использую сторонний компонент. Просто скачай архив, положи pas-файл в папку с проектом, добавь его к проекту в Project Manager-е, добавь строку

C++
1
#include "RegExpr.hpp"

и пересобери проект.

@дно21 · 06.11.2017, 23:24 **[ТС]**

volvo ты гений!
спасибо огромное тебе что помогаешь!

Новые блоги и статьи Все статьи Все блоги /
Уведомление о неверно выбранном значении справочника Maks 06.04.2026 Алгоритм из решения ниже реализован на примере нетипового документа "НарядПутевка", разработанного в конфигурации КА2. Задача: уведомлять пользователя, если в документе выбран неверный склад. . .	Установка Qt Creator для C и C++: ставим среду, CMake и MinGW без фреймворка Qt 8Observer8 05.04.2026 Среду разработки Qt Creator можно установить без фреймворка Qt. Есть отдельный репозиторий для этой среды: https:/ / github. com/ qt-creator/ qt-creator, где можно скачать установщик, на вкладке Releases:. . .	AkelPad-скрипты, структуры, и немного лирики.. testuser2 05.04.2026 Такая программа, как AkelPad существует уже давно, и также давно существуют скрипты под нее. Тем не менее, прога живет, периодически что-то не спеша дополняется, улучшается. Что меня в первую очередь. . .	Отображение реквизитов в документе по условию и контроль их заполнения Maks 04.04.2026 Алгоритм из решения ниже реализован на примере нетипового документа "ПланированиеСпецтехники", разработанного в конфигурации КА2. Данный документ берёт данные из другого нетипового документа. . .
Фото всей Земли с борта корабля Orion миссии Artemis II kumehtar 04.04.2026 Это первое подобное фото сделанное человеком за 50 лет. Снимок называют новым вариантом легендарной фотографии «The Blue Marble» 1972 года, сделанной с борта корабля «Аполлон-17». Новое фото. . .	Вывод диалогового окна перед закрытием, если документ не проведён Maks 04.04.2026 Алгоритм из решения ниже реализован на примере нетипового документа "СписаниеМатериалов", разработанного в конфигурации КА2. Задача: реализовать программный контроль на предмет проведения документа. . .	Программный контроль заполнения реквизитов табличной части документа Maks 02.04.2026 Алгоритм из решения ниже реализован на примере нетипового документа "СписаниеМатериалов", разработанного в конфигурации КА2. Задача: 1. Реализовать контроль заполнения реквизита. . .	wmic не является внутренней или внешней командой Maks 02.04.2026 Решение: DISM / Online / Add-Capability / CapabilityName:WMIC~~~~ Отсюда: https:/ / winitpro. ru/ index. php/ 2025/ 02/ 14/ komanda-wmic-ne-naydena/

@gunslinger place status here 3190 / 2227 / 640 Регистрация: 20.07.2013 Сообщений: 6,023
	06.11.2017, 01:33
	Думаю, такое вряд ли можно сделать простым способом. 0

@lifeforce 266 / 211 / 89 Регистрация: 27.09.2010 Сообщений: 1,234
	06.11.2017, 09:20
	дно21, Я сейчас точно этим и занимаюсь для моей программы вывода таблицы уровней сигнала. Для твоей задачи можно пойти напрямую. сканирование всего текста по символу и сравнивать с адресом от допустимых знаков до Я , и заменять все не входящие знаки - пустым местом (или пробелом потом еще надо заменить все пробелы на один ). в итоге получится только текст слитый в одну строку . т.к. используешь компонент Мемо то он сам распределит текст по строкам. Функцию для символов можешь взять из прошлой темы, Переделка с консоли в форму - C++ Builder от volvo Ааааа..... volvo удалил свое решение? 0

@дно21 1 / 1 / 2 Регистрация: 15.08.2017 Сообщений: 81
	06.11.2017, 20:21 [ТС]
	Держи: ссылка на файл 0

@gunslinger place status here 3190 / 2227 / 640 Регистрация: 20.07.2013 Сообщений: 6,023
	06.11.2017, 20:34
	Ссылка на страницу есть в первом посте. 0

@дно21 1 / 1 / 2 Регистрация: 15.08.2017 Сообщений: 81
	06.11.2017, 22:47 [ТС]
	[bcc32 Error] Unit1.cpp(1313): E2451 Undefined symbol 'TRegExpr' Full parser context Unit1.cpp(1308): parsing: void _fastcall TForm1::Button20Click(TObject ) [bcc32 Error] Unit1.cpp(1313): E2299 Cannot generate template specialization from 'auto_ptr<_Ty>' Full parser context Unit1.cpp(1308): parsing: void _fastcall TForm1::Button20Click(TObject ) две ошибки, сейчас пишу в C++Builder 10.2 volvo извини за мою тупость( 0

@дно21 1 / 1 / 2 Регистрация: 15.08.2017 Сообщений: 81
	06.11.2017, 23:24 [ТС]
	volvo ты гений! спасибо огромное тебе что помогаешь! 0

Удалить теги из текста (парсинг html)

Решение

Решение