Точность чисел с плавающей точкой/запятой

@power_factor · Регистрация: 27.04.2022

Студворк — интернет-сервис помощи студентам

Добрый день!

Имеется массив чисел типа double от 1.000 до 10.000. Каждое число задано с точность до 10^-3. Также есть метод, который принимает число и возвращает ближайшее большее к нему число из этого массива. Всё работает хорошо, кроме одного числа - 1.6, которое всегда возвращается, собственно, не как 1.6, а как 1.6000000000000003. Я понимаю, что с числами с плавающей точкой/запятой не всё так просто, как может показаться на первый взгляд, но всё-таки:
- почему это так работает? Причём только с этим числом. Все остальные возвращаются такими, какими они заданы в массиве;
- возможно ли от этого избавиться без применения округлений, обрезаний и прочих инструментов?

@Andrey-MSK · 12.05.2025, 11:39

Сообщение от wizard41

Погрешность настолько мала, что ей можно пренебречь..

С double никогда вот такое условие не выполнится, ну может быть и выполнится, но с вероятностью 0,00001%

C#
1
2
3
4
5
double v1;
double v2;
// ...
if((v2 - v1) == 0)
{ ... }

так что для расчётов, где нужна математическая точность, только decimal...

@wizard41 · 12.05.2025, 11:43

Сообщение от Andrey-MSK

С double никогда вот такое условие не выполнится

А при чем здесь это?
Я еще ранее ТСу говорил, что сравнивать даблы нужно с некоторой точностью..

@Andrey-MSK · 12.05.2025, 11:49

Сообщение от wizard41

А при чем здесь это?

Ну фиг его знает как они тут считают...

Сообщение от wizard41

Поэтому, например, в небесной механике или в астрономических расчетах (траекторий полетов, орбит) принимают всего 5-6 знаков числа ПИ - этого достаточно вполне. Погрешность настолько мала, что ей можно пренебречь..

@golosalex · 12.05.2025, 11:51

Сообщение от wizard41

Поэтому, например, в небесной механике или в астрономических расчетах (траекторий полетов, орбит) принимают всего 5-6 знаков числа ПИ - этого достаточно вполне. Погрешность настолько мала, что ей можно пренебречь..

это видимо, если вручную считают, потому что иначе зачем им отказываться от зашитой в машину константы?

уточню ваше утверждение:
невозможность обеспечить высокую точность измерений и промежуточных вычислений делает бесполезным брать число пи с высокой точностью (поэтому считаем достаточной точностью). так если вы циркулем измерите диаметр круга, то нет смысла при вычислении в столбик брать пи с точностью 10 знаков после запятой, так как уже при измерениях заложена ошибка.

или, альтернативно, можно предположить, что изначально стоит задача посчитать до стольких знаков после запятой.

@wizard41 · 12.05.2025, 11:58

Сообщение от Andrey-MSK

как они тут считают

Через double все прекрасно считается и достигается приемлемая точность.

Добавлено через 6 минут
golosalex, этот пример не сравнения дробных чисел, а показатель степени влияния каждого последующего знака на конечный результат. Причем здесь только 6 и 10 знаков, а ТСа волнует аж 16-й!
Смысл же всего этого таков: не нужно ничего отбрасывать и округлять. Числа должны оставаться такими, какими есть и участвовать в расчетах в неизменном виде. А уже выводить пользователю их значения можно с какой-л. точностью..

@Элд Хасп · 13.05.2025, 23:43

Сообщение от power_factor

- возможно ли от этого избавиться без применения округлений, обрезаний и прочих инструментов?

Для "человеческих" чисел нужно использовать тип decimal, а не double.
double - это тип для научных вычислений.
decimal - для финансово-бухгалтерских.

@SmallEvil · 14.05.2025, 01:03

Сообщение от Элд Хасп

decimal - для финансово-бухгалтерских

А в чем разница? Просто шире, больше точность?
Но всё та же жоППа, только вид сбоку.

Сообщение от Элд Хасп

для финансово-бухгалтерских

Только спец. типы.

@Элд Хасп · 14.05.2025, 01:55

Сообщение от SmallEvil

А в чем разница? Просто шире, больше точность?

В том что точность представления не двоичная, а десятичная. Что имеет большое значение при работе с "точными" дробными числами. Например, если копейки представлены долями рубля, то в double невозможно точно записать 0.2 рубля (то есть 20 копеек). И если таких дробных чисел много (что естественно для финнасово-бухгалтерских операций), то конечный результат будет непредсказуем. Хотя точность для таких операций должна быть "абсолютной", до одной копейки и, если нужно, долей копеек.

@SmallEvil · 14.05.2025, 02:33

Сообщение от Элд Хасп

В том что точность представления не двоичная, а десятичная. Что имеет большое значение при работе с "точными" дробными числами.

Понятно. Спасибо.

@golosalex · 14.05.2025, 08:07

Сообщение от Элд Хасп

В том что точность представления не двоичная, а десятичная. Что имеет большое значение при работе с "точными" дробными числами. Например, если копейки представлены долями рубля, то в double невозможно точно записать 0.2 рубля (то есть 20 копеек). И если таких дробных чисел много (что естественно для финнасово-бухгалтерских операций), то конечный результат будет непредсказуем. Хотя точность для таких операций должна быть "абсолютной", до одной копейки и, если нужно, долей копеек.

чет я не силен в бух учете, но никогда не сталкивался с переводами долей копеек, а значит полагаю, что их скорее всего округляют. а если все в копейках считается, то не проще ли как-то все в интах делать? ну или в даблах если на то пошло с округлением в конце. как - то можете обосновать, что погрешность может накопиться достаточной, чтобы обратить на себя внимание. вот в мат расчетах такие проблемы бывают и то вполне обходятся даблами. а тут то нафиг оно? и все равно с децимал подозреваю будет не всегда все гладко и какая-то потеря точности да случается. там же тоже мантиса степень и знак как в дабле?

но вполне допускаю что заблуждаюсь, могу изменить мнение под общественным давлением))))

@Andrey-MSK · 14.05.2025, 09:23

SmallEvil, golosalex, Тип decimal хранится в памяти как целое число с индексом разряда. Все операции с ним производятся как с целым числом, потому и нет ошибок, которые присущи типам double и float так как невозможно в памяти ПК воспроизвести точно число с плавающей точкой.

@Элд Хасп · 14.05.2025, 11:30

Сообщение от golosalex

чет я не силен в бух учете, но никогда не сталкивался с переводами долей копеек, а значит полагаю, что их скорее всего округляют.

Доли копеек в основном возникают при расчёте каких-то калькуляций.
Да потом они по итогу округляются. Но проведение вычислений в научной системе, потом округление в ней и приведение к десятичному виду часто может дать не тот результата, если всё это делать сразу в десятичном формате.
А одно из главных требований к финансово-бухгалтерским операциям - это возможно их точного повторения различными методами. Это нужно для проведение сверок и контролей.
double может дать разный результат даже при простом суммировании массива значений в зависимости от порядка их добавления в сумму.

Добавлено через 2 минуты
Простейшее правило арифметики A+B+С=C+B+A в реальности для double значений будет не всегда выполняться.

Добавлено через 1 минуту
P.S. Добро пожаловать в вычислительную математику!

Она не всегда совпадает со "школьной" математикой.

@golosalex · 14.05.2025, 12:20

попробую уточнить свою позицию:

Сообщение от Andrey-MSK

Тип decimal хранится в памяти как целое число с индексом разряда. Все операции с ним производятся как с целым числом, потому и нет ошибок, которые присущи типам double и float так как невозможно в памяти ПК воспроизвести точно число с плавающей точкой.

так очень похоже на то же что и float. в обоих случаях есть мантиса (целое число) степень (насколько сдвинуть десятичный разделитель) и один бит на знак.

если вы уверены что есть принципиальная разница в вычислениях, то вот пример ниже

C#
1
2
3
4
        decimal a = 1;
        decimal b = a / 3;
        decimal c = b * 7;
        decimal d = c * 3;

почему тогда d не будет в итоге точно равно семи?

Сообщение от Элд Хасп

А одно из главных требований к финансово-бухгалтерским операциям - это возможно их точного повторения различными методами. Это нужно для проведения сверок и контролей.

вообще если есть такие требования от бухгалтерии, то очевидно так и надо делать. но все равно это выглядит как следование правилу "так заведено".

Сообщение от Элд Хасп

Простейшее правило арифметики A+B+С=C+B+A в реальности для double значений будет не всегда выполняться.

так и для decimal тоже, вот пример выше.

единственное оправдание что я могу придумать - это то что какой-то годовой ввп мира с точностью до цента может не влезть, потому что точность будет примерно 15 знаков. но есть же какой-то условный long...

вот потому и подозреваю, что такая явно избыточная точность выглядит странной. (ну или просто у меня мало денег чтобы из в decimal хранить...)

@Andrey-MSK · 14.05.2025, 12:25

Сообщение от golosalex

так очень похоже на то же что и float. в обоих случаях есть мантиса (целое число) степень (насколько сдвинуть десятичный разделитель) и один бит на знак.

Вот почитайте - Decimal floating point in .NET.

Добавлено через 2 минуты
Как в памяти компьютера представлен тип данных decimal?

@golosalex · 14.05.2025, 12:47

Сообщение от Andrey-MSK

Вот почитайте - Decimal floating point in .NET.
Добавлено через 2 минуты
Как в памяти компьютера представлен тип данных decimal?

о как! основание для степени тут 10 а не два. тогда понятно разница есть. сразу бы на это внимание обращали когда про decimal говорят, а то как будто это точный клон float с расширенным диапазоном.

вторую ссылку я находил, но не особо вникая решил, что в формуле 10 - это в двоичной системе))

Добавлено через 2 минуты
иногда очень бы хотелось чтобы весь диапазон double покрывался decimal, а тут оказывается проблема более сложная.

@SmallEvil · 14.05.2025, 13:53

Сообщение от golosalex

и все равно с децимал подозреваю будет не всегда все гладко и какая-то потеря точности да случается

value/5

Code
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
0.00000000000010000
0.00000000000002000
0.00000000000000400
0.00000000000000080
0.00000000000000016
0.000000000000000032
0.0000000000000000064
0.00000000000000000128
0.000000000000000000256
0.0000000000000000000512
0.00000000000000000001024
0.000000000000000000002048
0.0000000000000000000004096
0.00000000000000000000008192
0.000000000000000000000016384
0.0000000000000000000000032768
0.0000000000000000000000006554
0.0000000000000000000000001311
0.0000000000000000000000000262
0.0000000000000000000000000052
0.000000000000000000000000001
0.0000000000000000000000000002

Но она случится по вполне естественным причинам, а не по причине погрешности представления чисел как у типов c плавающей точкой.

Нужен такой тип в С++.

А то новичкам совсем туго приходится.

@Элд Хасп · 14.05.2025, 14:06

Сообщение от golosalex

так очень похоже на то же что и float. в обоих случаях есть мантиса (целое число) степень (насколько сдвинуть десятичный разделитель) и один бит на знак.

Нет.
float и double имеют двоичные мантиссу меньше 1 и экспоненту. Поэтому у них не "десятичная" точка, а "двоичная".
decimal же имеет целую мантиссу и десятичную экспоненту. Поэтому у него действительно десятичная точка.

Сообщение от golosalex

так и для decimal тоже, вот пример выше.

Да. decimal тоже не даёт гарантии точности. Но ошибка в decimal такая же как при любых других способах вычисления: таблицы, калькулятор, счёты, различные CRM-ERP и др.
Всюду с decimal обращаются по правилам банальной школьной арифметики и всюду получат один и тот же результат.
Одно то что не всякое десятичное конечное нецелое число можно представить конечным двоичным числом - накладывает серьёзные ограничения на их использование в финансах.

Вот пример:

C#
1
2
3
4
5
      double a = 5;
      double b = 1;
      decimal a1 = 5;
      decimal b1 = 1;
    Console.WriteLine("{0:G17}\t{1:G17}", b/a, b1/a1);

Code
1
0.20000000000000001     0.2

Добавлено через 1 минуту

Сообщение от golosalex

о как! основание для степени тут 10 а не два.

Пока писал своё сообщение (отвлекали по работе) - оказывается уже ответили.

@golosalex · 14.05.2025, 14:59

Сообщение от Элд Хасп

Пока писал своё сообщение (отвлекали по работе) - оказывается уже ответили.

благодарю за пояснение, всегда приятно узнать что-то новое. я какое-то время назад пытался разобраться как на низком уровне хранится децимал, но толи в глаза не бросилось, то ли вообще умалчивается отличие от double.

@Andrey-MSK · 14.05.2025, 15:17

Один раз попался сайт где можно было увидеть как хранятся числа разных типов в памяти. Дак вот, если ввести double/float и потыркать кнопку обновить, то каждый раз получалось разное число в двоичной системе, а целые и decimal/numeric всегда одинаково выглядели

@Элд Хасп · 14.05.2025, 15:46

Сообщение от golosalex

как на низком уровне хранится децимал

У Intel процессоров есть поддержка в FPU десятичной арифметики. Десятичное число представляется 10 байтами.
Но вроде только целые десятичные. Не помню точно сейчас.

Новые блоги и статьи Все статьи Все блоги /
Из невошедшего на форум (диалог с ИИ-гугла) zorxor 29.07.2026 А вот, что интересно, сказал мне ИИ-гугла: Этот текст — эмоциональный пост пользователя под ником zorxor на интернет-форуме (вероятно, посвященном мистике, непознанному или альтернативной науке). . . .	Был праздник вчера, а я и не знал. kumehtar 28.07.2026 27. 07. 2026г. Intel Core 2 Duo исполнилось 20 лет Новости компьютерного мира и их обсуждение (4) Салют, шампанское, овации! :drink:	Нейтральные знания, чистый код - бла-бла-бла-бла, на самом деле кликбейт и самореклама, плагиат, и вот почему Hrethgir 27.07.2026 То-есть отклонение такой публикации говорит само за себя, и пусть только возьмут на вооружение после отклонения публикации - это будет чистейшим актом плагиата. Отклонял Хабр. Дословно, отклонённая. . .	тв 16 бой ии anaschu 27.07.2026 Великий Перелом ИИ: Как уравнения ОДУ Radau дожали цензурные фильтры Алисы Фиксируем в мемофонде Теории Всего беспрецедентный факт в истории ИИ-зондирования. В затяжном многораундовом. . .
мв 15. непроверенное, возможно, глюк anaschu 27.07.2026 НАУЧНО-АНАЛИТИЧЕСКИЙ ОТЧЕТ. РАЗДЕЛ 1. 1: «НАУКА» (РАСШИРЕННАЯ СТЕХИОМЕТРИЧЕСКАЯ И ГЕНЕТИЧЕСКАЯ ВЕРСИЯ)Тема: Теоретическое обоснование инвариантности 19-мерного тензорного ядра непрерывных ОДУ и. . .	Очистка реквизитов и табличных частей документа при копировании (вариант 2) Maks 26.07.2026 Алгоритм из решения ниже разработан на примере нетипового документа "ЗаявкаНаРаботу", разработанного в КА2. Задача: Заменить алгоритм запрета копирования документов для сотрудников с ролью "Стажер",. . .	Доктрина интенционального знания - Доктрина для портала "Срез". Hrethgir 25.07.2026 Может найдётся кто захочет оценить доктрину. . . Написания правил участия для меня роскошь, требующая лимита времени, поэтому все сообщения не прошедшие модерацию будут видны только участникам портала,. . .	сукцессия 44. Решил подать на припринт в межународные сервисы препринтов. Но нужно одобрение от ученых anaschu 25.07.2026 Английский вариант. Пока кто то не одобрит мою личность, мне не получиться это опубликовать на препринте. Но заявку на публикацию статьи я сегодня подам.

@power_factor 5 / 3 / 2 Регистрация: 27.04.2022 Сообщений: 63

	Точность чисел с плавающей точкой/запятой 10.05.2025, 02:32. Показов 3844. Ответов 42 Метки нет (Все метки) Добрый день! Имеется массив чисел типа double от 1.000 до 10.000. Каждое число задано с точность до 10^-3. Также есть метод, который принимает число и возвращает ближайшее большее к нему число из этого массива. Всё работает хорошо, кроме одного числа - 1.6, которое всегда возвращается, собственно, не как 1.6, а как 1.6000000000000003. Я понимаю, что с числами с плавающей точкой/запятой не всё так просто, как может показаться на первый взгляд, но всё-таки: - почему это так работает? Причём только с этим числом. Все остальные возвращаются такими, какими они заданы в массиве; - возможно ли от этого избавиться без применения округлений, обрезаний и прочих инструментов? 0

@Andrey-MSK 3386 / 2272 / 388 Регистрация: 14.08.2018 Сообщений: 7,689 Записей в блоге: 4
	14.05.2025, 09:23
	SmallEvil, golosalex, Тип decimal хранится в памяти как целое число с индексом разряда. Все операции с ним производятся как с целым числом, потому и нет ошибок, которые присущи типам double и float так как невозможно в памяти ПК воспроизвести точно число с плавающей точкой. 0

@Andrey-MSK 3386 / 2272 / 388 Регистрация: 14.08.2018 Сообщений: 7,689 Записей в блоге: 4
	14.05.2025, 15:17
	Один раз попался сайт где можно было увидеть как хранятся числа разных типов в памяти. Дак вот, если ввести double/float и потыркать кнопку обновить, то каждый раз получалось разное число в двоичной системе, а целые и decimal/numeric всегда одинаково выглядели 0