Алгоритм шинглов - сравнить тексты по методу шинглов

14.04.2012, 00:08. Показов 3727. Ответов 0

Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам

Нужно сравнить тексты по методу шинглов. Теория по этому методу тут: http://www.codeisart.ru/python-shingles-algorithm/

Мне пока удалось сделать канонизацию текста. Дальше нужно разбить текст на шинглы, найти контрольные суммы и найти одинаковые подпоследовательности. Вот наработки (мало, но что имею)

C++
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
#include <iostream>
 
#include <string>
using namespace std;
 
int main()
{
 
    string stopwords[5];
    string stopsymbols[5];
    string s = "Or me, or you- and; me:";
    int len = s.length();
 
 
 
 
 
    stopwords[0] = "and";
    stopwords[1] = "or";
    stopwords[2] = "no";
    stopwords[3] = "not";
    stopwords[4] = "if";
 
    stopsymbols[0] = ".";
    stopsymbols[1] = ",";
    stopsymbols[2] = "-";
    stopsymbols[3] = ";";
    stopsymbols[4] = ":";
 
 
 
for(int i = 0; i < 5; i++)
    {
        int pos = 0;
        while((pos = s.find(stopwords[i], pos)) != s.npos)
        {
            s.erase(pos, stopwords[i].size());
        }
    }
 
        for(int i = 0; i < 5; i++)
    {
        int pos = 0;
        while((pos = s.find(stopsymbols[i], pos)) != s.npos)
        {
            s.erase(pos, stopsymbols[i].size());
        }
    }
        cout << "canonize string " << s << endl;
    return 0;
}

Programming

Эксперт

39485 / 9562 / 3019

Регистрация: 12.04.2006

Сообщений: 41,671

Блог

14.04.2012, 00:08

Ответы с готовыми решениями:

Как ускорить алгоритм шинглов?
Итак есть алгоритм шинглов для сравнения двух текстов на похожесть. Реализация была найдена в инете и спасибо ее автору. Вот ее код: <? ...

Метод шинглов
Привет всем! Кто-нибудь может хоть вкратце рассказать как работает в сравнении текстов на уникальность метод шинглов? P.S.Понимаю-вопрос...

Перевести код алгоритма шинглов из PHP в Delphi
Добрый день! Прошу помочь перевести код из PHP в Delphi. Кому не сложно, очень прошу! Это не для лабы, для диплома. Просто нужен код на...

Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.

inter-admin

Эксперт

29715 / 6470 / 2152

Регистрация: 06.03.2009

Сообщений: 28,500

Блог

14.04.2012, 00:08

Помогаю со студенческими работами здесь

Программа поиска дубликатов новостей на rss-каналах алгоритмом шинглов
Нужно создать программу, которая ищет дубликаты новостей. Новости получают с RSS-каналов, url которых задаются в xml файле. Использовать...

Подскажите пожалуйста, как правильно записать алгоритм для решения по методу Рунге-Кутта 4 порядка точности
Ввожу NDSolve ==2*u +u -1-2*x, u (0)==3, u'(0)==-2}, x, {x,0,1}, Method->"ExplicitRungeKutta", StartingStepSize->0.05] Выдает...

Дан алгоритм нахождения обратной матрицы. По нему хочу написать код. Но непонятно по какому методу он работает.
Сам алгоритм: (Вложенный файл) Помогите пожалуйста разобраться по какому алгебраическому методу он работает. Не могу понять где...

Найти данные по методу половинного деления, интерполяции и методу Симпсона
Помогите найти данные по методу половинного деления, интерполяции и методу Симпсона.

Дифференциальное уравнение по методу Бернулли или методу Лагранжа
(2x-y^2)y'=2y Вообще не могу решить, получаются трехэтажные дроби( Подскажите кто-нибудь, как решать?

Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:

Новые блоги и статьи Все статьи Все блоги /
SDL3 для Web (WebAssembly): Идентификация объектов на Box2D v3 - использование userData и событий коллизий 8Observer8 02.03.2026 Содержание блога Финальная демка в браузере. Итоговый код: finish-collision-events-sdl3-c. zip https:/ / www. cyberforum. ru/ blog_attachment. php?attachmentid=11680&d=1772460536 Одним из. . .	Реалии Hrethgir 01.03.2026 Нет, я не закончил до сих пор симулятор. Эта задача сложнее. Не получилось уйти в плавсостав, но оно и к лучшему, возможно. Точнее получалось - но сварщиком в палубную команду, а это значит, в моём. . .	Ритм жизни kumehtar 27.02.2026 Иногда приходится жить в ритме, где дел становится всё больше, а вовлечения в происходящее — всё меньше. Плотный график не даёт вниманию закрепиться ни на одном событии. Утро начинается с быстрых,. . .	SDL3 для Web (WebAssembly): Сборка библиотек: SDL3, Box2D, FreeType, SDL3_ttf, SDL3_mixer и SDL3_image из исходников с помощью CMake и Emscripten 8Observer8 27.02.2026 Недавно вышла версия 3. 4. 2 библиотеки SDL3. На странице официальной релиза доступны исходники, готовые DLL (для x86, x64, arm64), а также библиотеки для разработки под Android, MinGW и Visual Studio. . . .
SDL3 для Web (WebAssembly): Реализация движения на Box2D v3 - трение и коллизии с повёрнутыми стенами 8Observer8 20.02.2026 Содержание блога Box2D позволяет легко создать главного героя, который не проходит сквозь стены и перемещается с заданным трением о препятствия, которые можно располагать под углом, как верхнее. . .	Конвертировать закладки radiotray-ng в m3u-плейлист damix 19.02.2026 Это можно сделать скриптом для PowerShell. Использование . \СonvertRadiotrayToM3U. ps1 <path_to_bookmarks. json> Рядом с файлом bookmarks. json появится файл bookmarks. m3u с результатом. # Check if. . .	Семь CDC на одном интерфейсе: 5 U[S]ARTов, 1 CAN и 1 SSI Eddy_Em 18.02.2026 Постепенно допиливаю свою "многоинтерфейсную плату". Выглядит вот так: https:/ / www. cyberforum. ru/ blog_attachment. php?attachmentid=11617&stc=1&d=1771445347 Основана на STM32F303RBT6. На борту пять. . .	Камера Toupcam IUA500KMA Eddy_Em 12.02.2026 Т. к. у всяких "хикроботов" слишком уж мелкий пиксель, для подсмотра в ESPriF они вообще плохо годятся: уже 14 величину можно рассмотреть еле-еле лишь на экспозициях под 3 секунды (а то и больше),. . .

Наверх