сравнение числовых значений

01.12.2005, 11:46. **Показов** 11681. **Ответов** 3

Студворк — интернет-сервис помощи студентам

Кто нибудь сталкивался:

есть некоторый контейнер, точность массы до тысячных.
Из него постепенно идет отгрузка.
Почему то иногда, чаще когда было несколько мелких отгрузок, например:
0.001
0.011 и тп.
При последней отгрузке (вроде отгружают количество, которое содержится в контейнере) при сравнении двух чисел (в дебагере отображаются как одинаковые), выдает, что одно число больше другого.
Если ставлю Round(pole,3) - тогда остаток отображается как "-0.000".

На что следует обратить внимание?

@Mydyvys · 01.12.2005, 11:58

Для: _OLSA_
Это связано с невозможностью точно представить некоторые десятичные числа в двоичной форме. :D
Все дробные числа сравнивать надо с заданной точностью.
Т.е. вместо
if f1 = f2 then ...
писать.
if abs(f2 - f1) < eps then ..., где eps - нужная точность.

01.12.2005, 14:13

Т.е. eps - любое число?

@Mydyvys · 01.12.2005, 15:30

Для: _OLSA_
Да. Точность. Например, 0.00001.

Новые блоги и статьи Все статьи Все блоги /
Валидация и контроль данных табличной части документа перед записью Maks 22.04.2026 Алгоритм из решения ниже реализован на примере нетипового документа, разработанного в КА2. Задача: контроль и валидация данных табличной части документа перед записью с учетом регламента компании. . .	Отчёт о затраченных материалах за определенный период с макетом печатной формы Maks 21.04.2026 Отчёт из решения ниже размещён в конфигурации КА2. Задача: разработка отчёта по затраченным материалам за определённый период, с возможностью вывода печатной формы отчёта с шапкой и подвалом. В. . .	Отчёт о спецтехнике находящейся в ремонте Maks 20.04.2026 Отчёт из решения ниже размещен в конфигурации КА2. Задача: отобразить спецтехнику, которая на данный момент находится в ремонте. Есть нетиповой документ "Заявка на ремонт спецтехники" который. . .	Памятка для бота и "визитка" для читателей "Semantic Universe Layer (Слой семантической вселенной)" Hrethgir 19.04.2026 Сгенерировано для краткого описания по случаю сборки и компиляции скелета серверного приложения. И пусть после этого скажут, что статьи сгенерированные AI - туфта и не интересно. И это не реклама -. . .
Запрет удаления строк ТЧ документа при определённом условии Maks 19.04.2026 Алгоритм из решения ниже реализован на примере нетипового документа "Аккумуляторы", разработанного в конфигурации КА2. У данного документа есть ТЧ, в которой в зависимости от прав доступа. . .	Модель заражения группы наркоманов alhaos 17.04.2026 Условия задачи сформулированы тут Суть: - Группа наркоманов из 10 человек. - Только один инфицирован ВИЧ. - Колются одной иглой. - Колются раз в день. - Колются последовательно через. . .	Мысли в слух. Про "навсегда". kumehtar 16.04.2026 Подумалось тут, что наверное очень глупо использовать во всяких своих установках понятие "навсегда". Это очень сильное понятие, и я только начинаю понимать край его смысла, не смотря на то что давно. . .	My Business CRM MaGz GoLd 16.04.2026 Всем привет, недавно возникла потребность создать CRM, для личных нужд. Собственно программа предоставляет из себя базу данных клиентов, в которой можно фиксировать звонки, стадии сделки, а также. . .

_OtSo_

	сравнение числовых значений 01.12.2005, 11:46. Показов 11681. Ответов 3 Метки нет (Все метки) Кто нибудь сталкивался: есть некоторый контейнер, точность массы до тысячных. Из него постепенно идет отгрузка. Почему то иногда, чаще когда было несколько мелких отгрузок, например: 0.001 0.011 и тп. При последней отгрузке (вроде отгружают количество, которое содержится в контейнере) при сравнении двух чисел (в дебагере отображаются как одинаковые), выдает, что одно число больше другого. Если ставлю Round(pole,3) - тогда остаток отображается как "-0.000". На что следует обратить внимание?

@Mydyvys 0 / 0 / 0 Регистрация: 04.12.2004 Сообщений: 3,329
	01.12.2005, 11:58
	Для: _OLSA_ Это связано с невозможностью точно представить некоторые десятичные числа в двоичной форме. :D Все дробные числа сравнивать надо с заданной точностью. Т.е. вместо if f1 = f2 then ... писать. if abs(f2 - f1) < eps then ..., где eps - нужная точность. 0

@Mydyvys 0 / 0 / 0 Регистрация: 04.12.2004 Сообщений: 3,329
	01.12.2005, 15:30
	Для: _OLSA_ Да. Точность. Например, 0.00001. 0

Опции темы