Проблема с выдачей баллов

@Marayd · Регистрация: 21.05.2022

Студворк — интернет-сервис помощи студентам

Здраствуйте, у меня есть код на питоне который по идеи должен работать как гугл, т.е давать ссылки и для каждой ссылки проверять есть ли там теги ключевые слова и т.д, но у меня проблема в том что походу оно даже не определаяет ключевые слова и т.д, я уже 4 часа сижу и ничего не могу понять почему не работает

Буду рад за любую помощь!

Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
from bottle import Bottle, run, template, request, redirect, post
import requests
import re
import html
from bs4 import BeautifulSoup
import sqlite3
 
app = Bottle()
 
class Database:
    def __init__(self, db_name):
        self.conn = sqlite3.connect(db_name)
        self.cursor = self.conn.cursor()
        self.create_table()
 
    def create_table(self):
        self.cursor.execute('''CREATE TABLE IF NOT EXISTS websites (
                                id INTEGER PRIMARY KEY AUTOINCREMENT,
                                url TEXT)''')
        self.conn.commit()
 
    def add_website(self, url):
        self.cursor.execute("INSERT INTO websites (url) VALUES (?)", (url,))
        self.conn.commit()
 
    def clear_database(self):
        self.cursor.execute("DELETE FROM websites")
        self.conn.commit()
    
    def get_all_websites(self):
        self.cursor.execute("SELECT * FROM websites")
        return self.cursor.fetchall()
    
    def get_websites(self):
        self.cursor.execute("SELECT * FROM websites")
        return self.cursor.fetchall()
 
class WebsiteParser:
    def __init__(self):
        pass
 
    def search_keywords(self, url, keywords):
        response = requests.get(url)
        if response.status_code == 200:
            soup = BeautifulSoup(response.text, 'html.parser')
            text = soup.get_text().lower()
            counts = {keyword: text.count(keyword.lower()) for keyword in keywords}
            return counts
        return {keyword: 0 for keyword in keywords}
 
class GoogleSearch:
    def __init__(self):
        pass
 
    def search(self, query):
        url = f"https://www.google.com/search?q={query}"
        headers = {
            "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36"
        }
        
        response = requests.get(url, headers=headers)
 
        if response.status_code == 200:
            urls = re.findall('https?://(?:[-\w.]|(?:%[\da-fA-F]{2}))+', response.text)
            extracted_urls = []
            for url in urls:
                decoded_url = html.unescape(url)
                url_parts = decoded_url.split("\\")
                cleaned_url = url_parts[0]
                cleaned_url = cleaned_url.replace('"', '')
                if not cleaned_url.startswith(('http://www.w3.org', 'https://www.google.com', "https://policies.google.com", "https://accounts.google.com", "https://support.google.com")):
                    extracted_urls.append(cleaned_url)
 
            return extracted_urls
 
        return []
 
    def calculate_score(self, url, keywords):
        geted = requests.get(url).text
        soup = BeautifulSoup(geted, 'html.parser')
        html_tag = soup.find('html')
        head = soup.find('head')
        body_tag = soup.find('body')
        score = 0
        if url.startswith('https://'):
            score += 10
        elif url.startswith('http://'):
            score -= 10
        if html_tag:
            score += 10
        else:
            score -= 10
        if head:
            score += 10
        else:
            score -= 10
        if body_tag:
            score += 10
        else:
            score -= 10
        if not keywords:
            score -= 15
        else:
            score += len(keywords) * 5 
        print(keywords)
 
        return score
 
 
@app.route('/')
def index():
    return template('index')
 
@app.route('/add_website', method='POST')
def add_website():
    url = request.forms.get('url')
    if url:
        if url not in unique_websites:
            unique_websites.add(url)
            database.add_website(url)
        return redirect('/')
    else:
        return "Введите URL сайта."
 
@app.route('/clear_database', method='POST')
def clear_database():
    database.clear_database()
    unique_websites.clear()
    return redirect('/')
 
@app.route('/view_websites')
def view_websites():
    websites = database.get_all_websites()
    if not websites:
        return '<!DOCTYPE html><html><head></head><body><script>alert("База данных пуста!"); location.href = "/"</script></body></html>'
    else:
        return template('view_websites', websites=websites)
 
@app.route('/search', method='POST')
def search():
    global unique_websites 
    keywords_str = request.forms.get('keywords')
    keywords = [keyword.strip() for keyword in keywords_str.split(',')]
    if keywords:
        websites = database.get_websites()
        if not websites:
            return "База данных пуста. Добавьте сайты для поиска."
        results = []
 
        urls = []
        scores = []
 
        for website in websites:
            url = website[1]
            google_results = google_search.search(url)
 
            if google_results:
                for result_url in google_results:
                    if result_url not in unique_websites:
                        unique_websites.add(result_url)
                        score = google_search.calculate_score(result_url, keywords)
                        urls.append(result_url)
                        scores.append(score)
 
        results = list(zip(urls, scores))
 
        results.sort(key=lambda x: x[1], reverse=True)
        
        return template('search_results', results=results)
    else:
        return "Введите ключевые слова для поиска (через запятую)."
 
 
if __name__ == '__main__':
    database = Database("websites.db")
    website_parser = WebsiteParser()
    google_search = GoogleSearch()
    unique_websites = set()
    run(app, host='localhost', port=8080)

Новые блоги и статьи Все статьи Все блоги /
Отправка уведомления на почту при изменении наименования справочника Maks 24.03.2026 Программная отправка письма электронной почты на примере изменения наименования справочника "Склады" в конфигурации БП3. Перед реализацией необходимо выполнить настройку системной учетной записи. . .	модель ЗдравоСохранения 5. Меньше увольнений- больше дохода! anaschu 24.03.2026 Теперь система здравосохранения уменьшает количество увольнений. 9TO2GP2bpX4 a42b81fb172ffc12ca589c7898261ccb/ https:/ / rutube. ru/ video/ a42b81fb172ffc12ca589c7898261ccb/ Слева синяя линия -. . .	Midnight Chicago Blues kumehtar 24.03.2026 Такой Midnight Chicago Blues, знаешь?. . Когда вечерние улицы становятся ночными, а ты не можешь уснуть. Ты идёшь в любимый старый бар, и бармен наливает тебе виски. Ты смотришь на пролетающие. . .	Контроль уникальности заводского номера - вариант №2 Maks 24.03.2026 В отличие от предыдущего варианта добавлено прерывание циклов, также добавлены новые переменные для сохранения контекста ошибки перед прерыванием цикла: Процедура ПередЗаписью(Отказ, РежимЗаписи,. . .
SDL3 для Desktop (MinGW): Вывод текста со шрифтом TTF с помощью библиотеки SDL3_ttf на Си и C++ 8Observer8 24.03.2026 Содержание блога Финальные проекты на Си и на C++: finish-text-sdl3-c. zip finish-text-sdl3-cpp. zip	Жизнь в неопределённости kumehtar 23.03.2026 Жизнь — это постоянное существование в неопределённости. Например, даже если у тебя есть список дел, невозможно дойти до точки, где всё окончательно завершено и больше ничего не осталось. В принципе,. . .	Модель здравоСохранения: работники работают быстрее после её введения. anaschu 23.03.2026 geJalZw1fLo Корпорация до введения программа здравоохранения имела много невыполненных работниками заданий, после введения программы количество заданий выросло. Но на выплатах по больничным это. . .	Контроль уникальности заводского номера - вариант №1 Maks 23.03.2026 Алгоритм контроля уникальности заводского (или серийного) номера на примере документа выдачи шин для спецтехники с табличной частью в конфигурации КА2. Данные берутся из регистра сведений, по. . .