Форум программистов, компьютерный форум, киберфорум
Python: Web
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 5.00/3: Рейтинг темы: голосов - 3, средняя оценка - 5.00
7 / 5 / 2
Регистрация: 12.03.2022
Сообщений: 44

Проблема тегами при парсинге сайта

10.02.2023, 14:21. Показов 689. Ответов 3

Студворк — интернет-сервис помощи студентам
у меня есть сайт matol.kz и я создаю бота который будет уведомлять при появлении новых олимпиад

в чем заключается проблема?

я хочу вытащить текст "18 февраля 2023 года состоится 1 тур Международной Олимпиады IMAS по математике" но возникает проблема с тегами

мой вариант:

Python
1
2
3
4
5
6
7
8
9
10
import requests
from bs4 import BeautifulSoup
 
page = requests.get("http://matol.kz/")
soup = BeautifulSoup(page.content, 'html.parser')
new = soup.find_all("div", class_="truncate")
for announcement in new:
    title = announcement.find("a").get("b").text
    link = announcement.find("a").get("href")
    print(f"{title}\nhttp://matol.kz/{link}")
ошибка:

title = announcement.find("a").get("b").text
AttributeError: 'NoneType' object has no attribute 'get'

Заранее благодарю!
Миниатюры
Проблема тегами при парсинге сайта  
0
IT_Exp
Эксперт
34794 / 4073 / 2104
Регистрация: 17.06.2006
Сообщений: 32,602
Блог
10.02.2023, 14:21
Ответы с готовыми решениями:

Проблема при парсинге
Всем привет! Помогите, пожалуйста, новичку решить проблему. Пишу парсер магазина. Скрипт постранично вытаскивает ссылки лотов и далее...

Проблема с кириллицей при парсинге
Microsoft Windows (c) Корпорация Майкрософт (Microsoft Corporation). Все права защищены. C:\Users\admin>chcp Текущая кодовая...

Ошибка при парсинге таблицы с сайта
Здравствуйте! Пытаюсь парсить таблицу с сайта: https://coinmarketcap.com/ Для начала хотел получить имена криптовалют из таблицы с...

3
Автоматизируй это!
Эксперт Python
 Аватар для Welemir1
7390 / 4817 / 1246
Регистрация: 30.03.2015
Сообщений: 13,664
Записей в блоге: 29
10.02.2023, 14:38
Цитата Сообщение от programmer30001 Посмотреть сообщение
'NoneType' object has no attribute 'get'
что стоило перевести ошибку?

lxml

Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
>>> import requests
>>> from lxml import html
>>> page = requests.get("http://matol.kz/")
>>> parsed = html.fromstring(page.text)
>>> announces = parsed.xpath('//div[@id="announce-content"]/div')
>>> mapper = lambda x: (x.xpath('./div/a')[0].attrib['href'], x.xpath('./div/a/b')[0].text)
>>> result = dict(map(mapper, announces))
>>> for k,v in result.items():
...     print(f'{k}={v}')
... 
/announce/196=18 февраля 2023 года состоится 1 тур Международной Олимпиады IMAS по математике
/announce/195=19 февраля состоится I отборочный этап республиканской олимпиады им. Ш.Смагулова для 6-7 классов
/announce/194=13-14 февраля 2023 года состоится региональный этап олимпиады Эйлера
/announce/193=31 января 2023 года в г. Алматы состоится конкурс Смарт Кенгуру
/announce/188=(от 4 ноября) Продолжается набор на регулярную школу центра «Аль-Фараби» по математике и физике
/announce/161=(обновлено 4 октября) Календарь соревнований школьников на 2022-2023 учебный год в Казахстане
/announce/158=Книжные новинки 2020-2021 по математике и не только
/announce/155=В свет вышли книги «Задачи областной олимпиады по математике 1999-2021» и «Задачи МЖО 2005-2021 по математике» 
/announce/119=100 лучших олимпийских школ Казахстана по итогам 2018-2019 учебного года
/announce/60=Книжные новинки 2017 и новые поступления
1
7 / 5 / 2
Регистрация: 12.03.2022
Сообщений: 44
10.02.2023, 14:51  [ТС]
спасибо, оформил в телеграм бота, но возник новый вопрос, при новой олимпиаде, бот будет высылать полный список олимпиад или только одну - новую, если полный список то как сделать чтобы высылал только одну новую?
0
Автоматизируй это!
Эксперт Python
 Аватар для Welemir1
7390 / 4817 / 1246
Регистрация: 30.03.2015
Сообщений: 13,664
Записей в блоге: 29
10.02.2023, 20:14
programmer30001, брать самую первую? ну ты же программист -придумай алгоритм. Например сохранять этот список и если при очередном запросе он изменится то разницу отправляй куда нужно.
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
BasicMan
Эксперт
29316 / 5623 / 2384
Регистрация: 17.02.2009
Сообщений: 30,364
Блог
10.02.2023, 20:14
Помогаю со студенческими работами здесь

Не создается файл с данными при парсинге сайта
#!/usr/bin/env python3.6 # _*_ coding:utf-8 _*_ import requests from bs4 import BeautifulSoup import csv def get_html(url): ...

Проблема с кодировкой при парсинге
Обучаюсь парсингу и начал писать свой собственный код. Хронология действий: - Скопировал главную страницу в html файл на свой...

Проблема с кодировкой при парсинге
Уважаемые программисты. Изучаю python. Есть Html: <!DOCTYPE html> <head><title>Заголовок веб-сайта</title></head> ...

Как удалить тег при парсинге сайта
при парсинге сайта funpay, то что спарсилось пишется в ткст файл и мне нужно что бы парсилось без "<div...

При парсинге сайта получается вывести только один абзац
Есть такой код: import requests from bs4 import BeautifulSoup HEADER = { 'user-agent': 'он есть', 'accept': '*/*'} ...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
4
Ответ Создать тему
Новые блоги и статьи
PhpStorm 2025.3: WSL Terminal всегда стартует в ~
and_y87 14.12.2025
PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .
Access
VikBal 11.12.2025
Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.
Новый ноутбук
volvo 07.12.2025
Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro
Музыка, написанная Искусственным Интеллектом
volvo 04.12.2025
Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .
От async/await к виртуальным потокам в Python
IndentationError 23.11.2025
Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
Поиск "дружественных имён" СОМ портов
Argus19 22.11.2025
Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .
Сколько Государство потратило денег на меня, обеспечивая инсулином.
Programma_Boinc 20.11.2025
Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .
Ломающие изменения в C#.NStar Alpha
Etyuhibosecyu 20.11.2025
Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .
Мысли в слух
kumehtar 18.11.2025
Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .
Создание Single Page Application на фреймах
krapotkin 16.11.2025
Статья исключительно для начинающих. Подходы оригинальностью не блещут. В век Веб все очень привыкли к дизайну Single-Page-Application . Быстренько разберем подход "на фреймах". Мы делаем одну. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2025, CyberForum.ru