Форум программистов, компьютерный форум, киберфорум
HCL Notes: Программирование
Войти
Регистрация
Восстановить пароль
 
Рейтинг 4.52/62: Рейтинг темы: голосов - 62, средняя оценка - 4.52
_OtSo_
1

сравнение числовых значений

01.12.2005, 11:46. Показов 11303. Ответов 3
Метки нет (Все метки)

Кто нибудь сталкивался:

есть некоторый контейнер, точность массы до тысячных.
Из него постепенно идет отгрузка.
Почему то иногда, чаще когда было несколько мелких отгрузок, например:
0.001
0.011 и тп.
При последней отгрузке (вроде отгружают количество, которое содержится в контейнере) при сравнении двух чисел (в дебагере отображаются как одинаковые), выдает, что одно число больше другого.
Если ставлю Round(pole,3) - тогда остаток отображается как "-0.000".

На что следует обратить внимание?
__________________
Помощь в написании контрольных, курсовых и дипломных работ здесь
Programming
Эксперт
94731 / 64177 / 26122
Регистрация: 12.04.2006
Сообщений: 116,782
01.12.2005, 11:46
Ответы с готовыми решениями:

Сравнение числовых значений двух столбцов по строкам с третьим столбцом нормативных
Здравствуйте, как же сообразить это. Пробовал Условным форматированием, но это тогда для каждой...

Структура: подсчет максимальных и минимальных значений, сумм и средних значений для числовых полей
Структура должна включать не менее 10 столбцов, в том числе – строковые, числовые и дата, всего в...

Сравнение числовых массивов
Есть два числовых массива в одном 4 элемента в другом 5 (то есть разное количество) Как с помощью...

Сравнение двух числовых массивов
Подскажите пожалуйста .каким образом можно сравнить два числовые массива и подсчитать количество...

3
0 / 0 / 0
Регистрация: 04.12.2004
Сообщений: 3,329
01.12.2005, 11:58 2
Для: _OLSA_
Это связано с невозможностью точно представить некоторые десятичные числа в двоичной форме. :D
Все дробные числа сравнивать надо с заданной точностью.
Т.е. вместо
if f1 = f2 then ...
писать.
if abs(f2 - f1) < eps then ..., где eps - нужная точность.
0
_OtSo_
01.12.2005, 14:13 3
Т.е. eps - любое число?
0 / 0 / 0
Регистрация: 04.12.2004
Сообщений: 3,329
01.12.2005, 15:30 4
Для: _OLSA_
Да. Точность. Например, 0.00001.
0
IT_Exp
Эксперт
87844 / 49110 / 22898
Регистрация: 17.06.2006
Сообщений: 92,604
01.12.2005, 15:30

Сравнение 2х числовых массивов и генерация 3го
Собственно задание таково: создать два числовых массива, сравнить их и элементы массива m2, которые...

Фильтр числовых значений
Добрый вечер не могу написать фильтр для фильтраций числовых значений например чтоб при написания в...

Округление числовых значений
А такой вопрос, почему итоги как-то странно считаются, числа вводятся вручную, а дроби в итоге...

Сортировка числовых значений
Возможно сделать сортировку по полю с типом данных varchar, если данные только числа? То бишь так:...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
4
Ответ Создать тему
Опции темы

КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin® Version 3.8.9
Copyright ©2000 - 2021, vBulletin Solutions, Inc.