Форум программистов, компьютерный форум, киберфорум
PowerShell
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 5.00/7: Рейтинг темы: голосов - 7, средняя оценка - 5.00
14 / 12 / 2
Регистрация: 27.03.2017
Сообщений: 105

Invoke-WebRequest скачивает страницу без контента

14.12.2019, 12:39. Показов 1575. Ответов 3
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Добрый день всем!
Прошу помощи в решении такого вопроса:
Писал парсер для одного сайта. Для вытаскивания нужного содержимого используется переход по нескольким ссылкам.
Поначалу всё было нормально, но дальше пошли ошибки, так как Invoke-WebRequest начал скачивать пустую страницу, без контента.
Хотя в бразуре при переходе по ссылке с исходного кода, открывается страница с нужным контентом.
PowerShell
1
2
3
4
$l = ((Invoke-WebRequest -URI 'какой-то сайт' -TimeoutSec 10 -SessionVariable session).Content | Select-String -Pattern '.*<iframe.*"(https?[^"]+)".*' -AllMatches).Matches| 
ForEach-Object {"$($_.Groups[2].Value)`n$($_.Groups[1].Value)"}
 
(Invoke-WebRequest -UseBasicParsing -URI $l -WebSession $session).Content | Out-File .\cont.txt
В чём здесь может быть проблема, подскажите, пожалуйста, хотя бы в общих чертах. Понимаю, что для нормального совета нужна ссылка на сайт, но не хотелось бы светить её в паблике.
0
cpp_developer
Эксперт
20123 / 5690 / 1417
Регистрация: 09.04.2010
Сообщений: 22,546
Блог
14.12.2019, 12:39
Ответы с готовыми решениями:

Invoke-WebRequest fields
Для доступа к определенным разделам требуется авторизация. Как я почитал, первым делом мне нужно попасть в формы. И сразу же наткнулся...

Элементарный парсинг Invoke-WebRequest
Доброе утро! Вновь обращаюсь к знатокам. В прошлый раз помогли успешно решить автоматизацию рабочего процесса работы с SSH. Теперь...

Invoke-WebRequest через прокси
Как выполнить запрос Invoke-WebRequest через прокси?

3
505 / 158 / 49
Регистрация: 27.02.2016
Сообщений: 818
14.12.2019, 17:51
Sesssion Cookies ? https://qna.habr.com/q/348685
0
14 / 12 / 2
Регистрация: 27.03.2017
Сообщений: 105
14.12.2019, 18:21  [ТС]
Цитата Сообщение от skouzmine Посмотреть сообщение
Sesssion Cookies
skouzmine, а как их можно передать в запросе посредством Invoke-WebRequest ?
Хотя подозреваю, что на том сайте другая проблема. Нужный контент на странице формируется каким-то скриптом с предыдущей страницы. Так как даже в браузере страница бывает открывается пустой..
0
505 / 158 / 49
Регистрация: 27.02.2016
Сообщений: 818
14.12.2019, 20:07
добыче куки подробно описана много где
https://gallery.technet.micros... g-3c373c7e
по моему
powershell это слабый инструмент для работы с вебом переходите на селениум или cdp
- все у чего есть C# клиент можно вообще говоря создать PS версию и часто уже есть
1
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
raxper
Эксперт
30234 / 6612 / 1498
Регистрация: 28.12.2010
Сообщений: 21,154
Блог
14.12.2019, 20:07
Помогаю со студенческими работами здесь

Парсинг сайта с использованием Invoke-WebRequest
Ребят помогите спарсить инфу с сайта и записать в файл файл в формате: $innlist=2721060592 $web=Invoke-WebRequest...

Авторизация на форуме посредством Invoke-WebRequest
Добрый день всем! Никак не получается авторизоваться на форму через командлет Invoke-WebRequest. В скрипте прописываю: $rs =...

Invoke-webrequest и заполнение форм на сайте
Добрый день. Задался я целью написать скрипт, который будет по серийнику ноутбука НР выдавать мне срок его гарантии, взятый с...

Проверка состояния скачивания командлетом Invoke-WebRequest
Доброго времени суток всем! Написал небольшой скрипт для получения инфы о онлайн видеопотоках: Add-Type -AssemblyName...

Парсинг фото с сайта или использование invoke-webrequest
Добрый день. Интересует возможность,как можно скачать фото дня с яндекс коллекции. Пробовал делать загрузку в файл, но выгружается не...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
4
Ответ Создать тему
Новые блоги и статьи
PhpStorm 2025.3: WSL Terminal всегда стартует в ~
and_y87 14.12.2025
PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .
Access
VikBal 11.12.2025
Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.
Новый ноутбук
volvo 07.12.2025
Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro
Музыка, написанная Искусственным Интеллектом
volvo 04.12.2025
Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .
От async/await к виртуальным потокам в Python
IndentationError 23.11.2025
Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
Поиск "дружественных имён" СОМ портов
Argus19 22.11.2025
Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .
Сколько Государство потратило денег на меня, обеспечивая инсулином.
Programma_Boinc 20.11.2025
Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .
Ломающие изменения в C#.NStar Alpha
Etyuhibosecyu 20.11.2025
Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .
Мысли в слух
kumehtar 18.11.2025
Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .
Создание Single Page Application на фреймах
krapotkin 16.11.2025
Статья исключительно для начинающих. Подходы оригинальностью не блещут. В век Веб все очень привыкли к дизайну Single-Page-Application . Быстренько разберем подход "на фреймах". Мы делаем одну. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2025, CyberForum.ru