Разбиение строки на шинглы

@FaNaT_96 · Регистрация: 27.11.2013

Студворк — интернет-сервис помощи студентам

Здравствуйте. Пытаюсь реализовать алгоритм Шинглов, но возникла трудность: я не знаю как разбить текст на шинглы. Точнее, принцип разбиения знаю, но вот с реализацией косяк.

Пример:
Есть текст "Разум дан человеку для того, чтобы он разумно жил, а не для того только, чтобы он понимал, что он неразумно живет".

Предположим, что размер одного шингла равен 10.
После канонизации мы получим текст следующего вида: "разум дан человеку того чтобы разумно жил того только чтобы понимал неразумно живет".

А шинглы будут такими:
Sh1 = разум дан человеку того чтобы разумно жил того только чтобы
Sh2 = дан человеку того чтобы разумно жил того только чтобы понимал
Sh3 = человеку того чтобы разумно жил того только чтобы понимал неразумно
Sh4 = того чтобы разумно жил того только чтобы понимал неразумно живет

И теперь, собственно, вопрос: как можно прийти к такому виду?

Нагуглил реализацию этого на Python...

Python
1
2
3
4
5
6
7
def genshingle(source):
  shingleLen = 10 #длина шингла
  out = [] 
  for i in range(len(source)-(shingleLen-1)):
    out.append (' '.join( [x for x in source[i:i+shingleLen]] ).encode('utf-8'))
 
  return out

@Storm23 · 14.02.2016, 01:36

Сообщение от FaNaT_96

алгоритм Шинглов

C#
1
2
3
4
5
6
7
8
9
10
11
12
13
        var list = GetShingles(s, 10);
 
        foreach (var sh in list)
            Console.WriteLine(sh);
...
 
        private IEnumerable<string> GetShingles(string s, int shingleLength)
        {
            var words = s.Split(' ');
 
            for (int i = 0; i < words.Length - shingleLength + 1; i++)
                yield return string.Join(" ", words, i, shingleLength);
        }

Новые блоги и статьи Все статьи Все блоги /
Жизнь в неопределённости kumehtar 23.03.2026 Жизнь — это постоянное существование в неопределённости. Например, даже если у тебя есть список дел, невозможно дойти до точки, где всё окончательно завершено и больше ничего не осталось. В принципе,. . .	Модель здравоСохранения: работники работают быстрее после её введения. anaschu 23.03.2026 geJalZw1fLo Корпорация до введения программа здравоохранения имела много невыполненных работниками заданий, после введения программы количество заданий выросло. Но на выплатах по больничным это. . .	1С: Контроль уникальности заводского номера Maks 23.03.2026 Алгоритм контроля уникальности заводского (или серийного) номера на примере документа выдачи шин для спецтехники с табличной частью. Данные берутся из регистра сведений, по которому настроено. . .	Хочу заставить корпорации вкладываться в здоровье сотрудников: делаю мат модель здравосохранения anaschu 22.03.2026 e7EYtONaj8Y Z4Tv2zpXVVo https:/ / github. com/ shumilovas/ med2. git
1С: Программный отбор элементов справочника по группе Maks 22.03.2026 Установка программного отбора элементов справочника "Номенклатура" из модуля формы документа. В качестве фильтра для отбора справочника служит группа номенклатуры. Отбор по наименованию группы. . .	Как я обхитрил таблицу Word Alexander-7 21.03.2026 Когда мигает курсор у внешнего края таблицы, и нам надо перейти на новую строку, а при нажатии Enter создается новый ряд таблицы с ячейками, то мы вместо нервных нажатий Энтеров мы пишем любые буквы. . .	Krabik - рыболовный бот для WoW 3.3.5a AmbA 21.03.2026 без регистрации и смс. Это не торговля, приложение не содержит рекламы. Выполняет свою непосредственную задачу - автоматизацию рыбалки в WoW - и ничего более. Однако если админы будут против -. . .	1С: Программный отбор элементов справочника по значению перечисления Maks 21.03.2026 Установка программного отбора элементов справочника "Сотрудники" из модуля формы документа. В качестве фильтра для отбора служит значение перечислений. / / Событие "НачалоВыбора" реквизита на форме. . .

Разбиение строки на шинглы

Решение