Parse и lex

@GulgDev · Регистрация: 09.07.2019

Студворк — интернет-сервис помощи студентам

Чем отличается parse от lex? Я перевёл в гугле, и увидел, что parse переводится как лексический разбор. Разве не lex делает лексический разбор? Объясните пожалуйста, что есть parse, а что lex.

@Garry Galler · 16.05.2020, 13:24

А какое отношение словесные тонкости перевода имеют к программированию?

Сообщение от Hyppoprogramm

Я перевёл в гугле, и увидел, что parse переводится как лексический разбор.

Какой-то у вас гугл неправильный... китайский что-ли...

parse

Code
1
2
3
4
5
6
7
8
синтаксический анализ
 
имя существительное:
    разбор (parsing, analysis, parse, examination, dissection, investigation)
    структурный анализ (parse)
 
глагол:
    делать грамматический разбор (parse)

Сообщение от Hyppoprogramm

lex

lex это вообще закон с английского.

https://ru.стековерфлоу.com/qu... кий-анализ
Заменить стековерфлоу на английский вариант.

@GulgDev · 16.05.2020, 14:47 **[ТС]**

Garry Galler, так значит lex разбивает на токены, а parse обрабатывает эти токены, и выдает результат?

Рыжий Лис · 16.05.2020, 19:12

Сообщение от Hyppoprogramm

так значит lex разбивает на токены, а parse обрабатывает эти токены, и выдает результат?

Да, с оговорками:

лексический анализ («токенизация», от англ. tokenizing) — процесс аналитического разбора входной последовательности символов на распознанные группы — лексемы — с целью получения на выходе идентифицированных последовательностей, называемых «токенами»

Синтакси́ческий ана́лиз (или разбор, жарг. па́рсинг ← англ. parsing) в лингвистике и информатике — процесс сопоставления линейной последовательности лексем (слов, токенов) естественного или формального языка с его формальной грамматикой. Результатом обычно является дерево разбора (синтаксическое дерево).

То есть это разные модули. Токенайзер в поточном режиме читает исходный код и выдаёт токены. А "парсер" проверяет последовательность токенов на валидность синтаксическим диаграммам.

В этой теме: Класс FunctionType

Токенайзер:

Python
1
2
class Tokenizer:
    def __next__(self) -> Token:

Конкретная синтаксическая диаграмма вызова функции:

Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
        if token.toknum == Token.Id:
            name = token.tokval
 
            # [id]()
            token = next(t)
            if token.toknum != Token.LeftParen:
                t.raise_error('ожидался (, найдено "{}"'.format(token.tokval))
 
            token = next(t)
            if token.toknum != Token.RightParen:
                t.raise_error('ожидался ), найдено "{}"'.format(token.tokval))
 
            if name not in globals_var:
                t.raise_error('id "{}" не найден'.format(name))
            var = globals_var[name]
            if var.num != Var.Func:
                t.raise_error('"{}" не функция'.format(name))
            call_func(t, var.val)
            continue

Добавлено через 6 минут
Давно бы качал где-нибуть университетский курс "теория формальных языков и компиляторов"...

Добавлено через 6 минут
И вообще, разработка компиляторов - это уровень магистратуры: https://www.altstu.ru/omkofile... I_2019.PDF

@GulgDev · 16.05.2020, 19:50 **[ТС]**

Спасибо, огромное!!!

Новые блоги и статьи Все статьи Все блоги /
SDL3 для Web (WebAssembly): Обработчик клика мыши в браузере ПК и касания экрана в браузере на мобильном устройстве 8Observer8 02.02.2026 Содержание блога Для начала пошагово создадим рабочий пример для подготовки к экспериментам в браузере ПК и в браузере мобильного устройства. Потом напишем обработчик клика мыши и обработчик. . .	Философия технологии iceja 01.02.2026 На мой взгляд у человека в технических проектах остается роль генерального директора. Все остальное нейронки делают уже лучше человека. Они не могут нести предпринимательские риски, не могут. . .	SDL3 для Web (WebAssembly): Вывод текста со шрифтом TTF с помощью SDL3_ttf 8Observer8 01.02.2026 Содержание блога В этой пошаговой инструкции создадим с нуля веб-приложение, которое выводит текст в окне браузера. Запустим на Android на локальном сервере. Загрузим Release на бесплатный. . .	SDL3 для Web (WebAssembly): Сборка C/C++ проекта из консоли 8Observer8 30.01.2026 Содержание блога Если вы откроете примеры для начинающих на официальном репозитории SDL3 в папке: examples, то вы увидите, что все примеры используют следующие четыре обязательные функции, а. . .
SDL3 для Web (WebAssembly): Установка Emscripten SDK (emsdk) и CMake для сборки C и C++ приложений в Wasm 8Observer8 30.01.2026 Содержание блога Для того чтобы скачать Emscripten SDK (emsdk) необходимо сначало скачать и уставить Git: Install for Windows. Следуйте стандартной процедуре установки Git через установщик. . . .	SDL3 для Android: Подключение Box2D v3, физика и отрисовка коллайдеров 8Observer8 29.01.2026 Содержание блога Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами. Версия v3 была полностью переписана на Си, в. . .	Инструменты COM: Сохранение данный из VARIANT в файл и загрузка из файла в VARIANT bedvit 28.01.2026 Сохранение базовых типов COM и массивов (одномерных или двухмерных) любой вложенности (деревья) в файл, с возможностью выбора алгоритмов сжатия и шифрования. Часть библиотеки BedvitCOM Использованы. . .	SDL3 для Android: Загрузка PNG с альфа-каналом с помощью SDL_LoadPNG (без SDL3_image) 8Observer8 28.01.2026 Содержание блога SDL3 имеет собственные средства для загрузки и отображения PNG-файлов с альфа-каналом и базовой работы с ними. В этой инструкции используется функция SDL_LoadPNG(), которая. . .

@GulgDev 132 / 118 / 29 Регистрация: 09.07.2019 Сообщений: 1,071

	Parse и lex 16.05.2020, 09:41. Показов 1369. Ответов 4 Метки нет (Все метки) Чем отличается parse от lex? Я перевёл в гугле, и увидел, что parse переводится как лексический разбор. Разве не lex делает лексический разбор? Объясните пожалуйста, что есть parse, а что lex. 0

@GulgDev 132 / 118 / 29 Регистрация: 09.07.2019 Сообщений: 1,071
	16.05.2020, 14:47 [ТС]
	Garry Galler, так значит lex разбивает на токены, а parse обрабатывает эти токены, и выдает результат? 0

@GulgDev 132 / 118 / 29 Регистрация: 09.07.2019 Сообщений: 1,071
	16.05.2020, 19:50 [ТС]
	Спасибо, огромное!!! 0

Parse и lex

Решение