Работа с кодировками

@ASCII · Регистрация: 15.12.2013

Студворк — интернет-сервис помощи студентам

Всем привет.
Есть следующая проблема: есть программа, которая загружает html код страницы с сайта. Затем из этого html кода необходимо выдернуть все ссылки. Проблема заключается в том, что html документ может быть сохранен в любой кодировке. Поэтому, т.к. для себя я выбрал использовать utf-8, мне необходимо эти символы преобразовывать в utf-8.

1) Какие есть стандартные средства для перекодировки символов?
2) Какую литературу можно почитать из области Quick Start? (Кроме Страуструпа, в специальном издании все слишком запутанно)

@Programmist5 · 16.07.2016, 08:15

Может загрузить в специальный блокнот(Notepad++), там поменять кодировку и сохранить. Так пойдет?

@nmcf · 16.07.2016, 08:20

Использовать utf-8 для обработки текста - плохое решение. Надо wchar_t брать. Перекодировка функциями типа MultiByteToWideChar().

@SerVal · 16.07.2016, 08:26

По-моему, в этом случае проще и удобнее использовать C#. В нём изменение кодировок встроено.
(ссылки выдираются regex-ом).

@hoggy · 16.07.2016, 09:11

Сообщение от ASCII

в любой кодировке

Сообщение от ASCII

преобразовывать в utf-8

нет проблемы перегнать в утф-8.
проблема - узнать в какой кодировке исходный текст.
стандартных средств для этого не существует.

Сообщение от nmcf

Перекодировка функциями типа MultiByteToWideChar().

исходный текст может быть в какой угодно кодировке.
как MultiByteToWideChar вам поможет?

IGPIGP · 16.07.2016, 09:43

Сообщение от hoggy

проблема - узнать в какой кодировке исходный текст.

над заголовком - тег <meta charset="...">. Можно пробовать меняя кодировки прочесть этот тег и потом спарсить кодировку для использования. Если указана отсутствующая кодировка или есть ошибки кодировки, то по любому это не проблема программы.

@hoggy · 16.07.2016, 09:48

Сообщение от IGPIGP

над заголовком - тег <meta charset="...">

ну вот если только парсить заголовок,
а потом похоже, придется сделать свитч-кейс

@nmcf · 16.07.2016, 10:04

Сообщение от hoggy

исходный текст может быть в какой угодно кодировке.

Из его вопроса не ясно в чём проблема - в определении кодировки или в преобразовании. Я подумал про второе, потому что там про средства преобразования символов упоминается.

@hoggy · 16.07.2016, 10:05

Сообщение от nmcf

Из его вопроса не ясно в чём проблема - в определении кодировки или в преобразовании

и то, и другое очевидно жеж.

Убежденный · 16.07.2016, 10:07

Сообщение от ASCII

есть программа, которая загружает html код страницы с сайта. Затем из этого html кода необходимо выдернуть все ссылки. Проблема заключается в том, что html документ может быть сохранен в любой кодировке.

По стандарту HTTP, веб-сервер должен указывать кодировку содержимого в заголовке Content-Type.
Например:

Code
1
Content-Type: text/html; charset=utf-8

Кодировка по умолчанию (т.е. если не указана) - iso-8859-1.

К сожалению, некоторые веб-серверы в Content-Type пишут одно, а в HTML
передают совсем другое.

@nmcf · 16.07.2016, 10:09

Не по теме:

Сообщение от hoggy

и то, и другое очевидно жеж.

Мне нет.

zer0mail · 16.07.2016, 10:11

Сообщение от hoggy

исходный текст может быть в какой угодно кодировке.
как MultiByteToWideChar вам поможет?

В чем проблема? MultiByteToWideChar умеет преобразовывать и UTF8 и CP866 и CP1251 и KOI и море других кодировок

@hoggy · 16.07.2016, 10:20

Сообщение от zer0mail

В чем проблема?

преобразуйте мне текст в любой кодировке в утф-8 пожалуйста.
приведите пример кода, как вы это сделаете.

Убежденный · 16.07.2016, 10:23

Не по теме:

Напомнило:
Если у вас есть строка, но вы не знаете, в какой она кодировке - у вас нет этой строки. (c)

zer0mail · 16.07.2016, 12:32

Сообщение от hoggy

преобразуйте мне текст в любой кодировке в утф-8 пожалуйста.

Давайте спросим у ASCII, что он понимал под "любой кодировкой":
а) набор из 4-5 кириллических кодировок, как полагаю я.
б) любую кодировку на Земле (не будем распространять на Вселенную), как, наверное, полагает hoggy.

IGPIGP · 16.07.2016, 12:46

Сообщение от zer0mail

набор из 4-5 кириллических кодировок, как полагаю я.

Виртуальный шовинизмъ (имхо). Пусть будут и не кириллические. Можно выполнить расширяемую прогу (наследованием например). Тут есть строчка:

Сообщение от ASCII

html код страницы с сайта

Если страница оформлена правильно, то можно поискать тег с кодировкой, если нет, (и нет набора слов, некоторые из которых обязательно присутствуют в тексте), то нет надёжного решения.
На правах свободной придури:
Прога с искусственным ~~глюкованием~~ интеллектом:
Можно парсить десяток-два слов и отправлять запрос в поисковик, в разных кодировках. По одному слову за раз. Где ответов не равных "по вашему запросу не найдено ни одной ссылки" больше, там и правильная кодировка. Можно и свой расширяемый словарь завести.
Это медленно и ненадёжно. То есть по-человечески.

@hoggy · 16.07.2016, 12:50

Сообщение от zer0mail

Давайте спросим у ASCII, что он понимал под "любой кодировкой":

в этом нет необходимости.
"любая кодировка" обозначает "любую кодировку".
внезапно.

@zss · 16.07.2016, 12:51

Сообщение от IGPIGP

и отправлять запрос в поисковик, в разных кодировках

Поисковики сами исправляют кодировку, так что это не поможет.

IGPIGP · 16.07.2016, 12:57

Сообщение от zss

Поисковики сами исправляют кодировку, так что это не поможет.

Как я понимаю, поисковик приводит кодировку к кодировке полученной от браузера. То есть, слово (строка) после обработки изменится. Если Вы (прога) угадали кодировку, то она будет соответствовать браузеру и поисковик не должен её менять. Тут много "если". Что и говорить. Потому и написал что с ~~глюкованием~~. Статистически что-то полезное может выдавать.

@Renji · 16.07.2016, 13:45

Сообщение от ASCII

Есть следующая проблема: есть программа, которая загружает html код страницы с сайта. Затем из этого html кода необходимо выдернуть все ссылки. Проблема заключается в том, что html документ может быть сохранен в любой кодировке.

В такой постановке задачи никакой проблемы нет. Первые 128 символов у всех (популярных) восьмибитовых кодировок идентичны, а больше ничего для выдирания <a href=... и не требуется.

Новые блоги и статьи Все статьи Все блоги /
Расчёт переходных процессов в цепи постоянного тока igorrr37 16.01.2026 / * Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа, решает её и находит токи на L и напряжения на C в установ. режимах до и. . .	Восстановить юзерскрипты Greasemonkey из бэкапа браузера damix 15.01.2026 Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым. Но восстановить их можно так. Для этого понадобится консольная утилита. . .	Изучаю kubernetes lagorue 13.01.2026 А пригодятся-ли мне знания kubernetes в России?	Сукцессия микоризы: основная теория в виде двух уравнений. anaschu 11.01.2026 https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/
WordPad для Windows 11 Jel 10.01.2026 WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .	Classic Notepad for Windows 11 Jel 10.01.2026 Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .	Почему дизайн решает? Neotwalker 09.01.2026 В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .	Модель микоризы: классовый агентный подход 3 anaschu 06.01.2026 aa0a7f55b50dd51c5ec569d2d10c54f6/ O1rJuneU_ls https:/ / vkvideo. ru/ video-115721503_456239114

@ASCII 99 / 70 / 13 Регистрация: 15.12.2013 Сообщений: 463

	Работа с кодировками 16.07.2016, 03:36. Показов 4435. Ответов 43 Метки нет (Все метки) Всем привет. Есть следующая проблема: есть программа, которая загружает html код страницы с сайта. Затем из этого html кода необходимо выдернуть все ссылки. Проблема заключается в том, что html документ может быть сохранен в любой кодировке. Поэтому, т.к. для себя я выбрал использовать utf-8, мне необходимо эти символы преобразовывать в utf-8. 1) Какие есть стандартные средства для перекодировки символов? 2) Какую литературу можно почитать из области Quick Start? (Кроме Страуструпа, в специальном издании все слишком запутанно) 0

@Programmist5 Заблокирован
	16.07.2016, 08:15
	Может загрузить в специальный блокнот(Notepad++), там поменять кодировку и сохранить. Так пойдет? 0

@nmcf 7804 / 6568 / 2988 Регистрация: 14.04.2014 Сообщений: 28,705
	16.07.2016, 08:20
	Использовать utf-8 для обработки текста - плохое решение. Надо wchar_t брать. Перекодировка функциями типа MultiByteToWideChar(). 0

@SerVal 37 / 36 / 9 Регистрация: 16.04.2015 Сообщений: 283
	16.07.2016, 08:26
	По-моему, в этом случае проще и удобнее использовать C#. В нём изменение кодировок встроено. (ссылки выдираются regex-ом). 0

Убежденный
	16.07.2016, 10:23
	Не по теме: Напомнило: Если у вас есть строка, но вы не знаете, в какой она кодировке - у вас нет этой строки. (c) 0