Точность чисел с плавающей точкой/запятой

@power_factor · Регистрация: 27.04.2022

Студворк — интернет-сервис помощи студентам

Добрый день!

Имеется массив чисел типа double от 1.000 до 10.000. Каждое число задано с точность до 10^-3. Также есть метод, который принимает число и возвращает ближайшее большее к нему число из этого массива. Всё работает хорошо, кроме одного числа - 1.6, которое всегда возвращается, собственно, не как 1.6, а как 1.6000000000000003. Я понимаю, что с числами с плавающей точкой/запятой не всё так просто, как может показаться на первый взгляд, но всё-таки:
- почему это так работает? Причём только с этим числом. Все остальные возвращаются такими, какими они заданы в массиве;
- возможно ли от этого избавиться без применения округлений, обрезаний и прочих инструментов?

@Andrey-MSK · 12.05.2025, 11:39

Сообщение от wizard41

Погрешность настолько мала, что ей можно пренебречь..

С double никогда вот такое условие не выполнится, ну может быть и выполнится, но с вероятностью 0,00001%

C#
1
2
3
4
5
double v1;
double v2;
// ...
if((v2 - v1) == 0)
{ ... }

так что для расчётов, где нужна математическая точность, только decimal...

@wizard41 · 12.05.2025, 11:43

Сообщение от Andrey-MSK

С double никогда вот такое условие не выполнится

А при чем здесь это?
Я еще ранее ТСу говорил, что сравнивать даблы нужно с некоторой точностью..

@Andrey-MSK · 12.05.2025, 11:49

Сообщение от wizard41

А при чем здесь это?

Ну фиг его знает как они тут считают...

Сообщение от wizard41

Поэтому, например, в небесной механике или в астрономических расчетах (траекторий полетов, орбит) принимают всего 5-6 знаков числа ПИ - этого достаточно вполне. Погрешность настолько мала, что ей можно пренебречь..

@golosalex · 12.05.2025, 11:51

Сообщение от wizard41

Поэтому, например, в небесной механике или в астрономических расчетах (траекторий полетов, орбит) принимают всего 5-6 знаков числа ПИ - этого достаточно вполне. Погрешность настолько мала, что ей можно пренебречь..

это видимо, если вручную считают, потому что иначе зачем им отказываться от зашитой в машину константы?

уточню ваше утверждение:
невозможность обеспечить высокую точность измерений и промежуточных вычислений делает бесполезным брать число пи с высокой точностью (поэтому считаем достаточной точностью). так если вы циркулем измерите диаметр круга, то нет смысла при вычислении в столбик брать пи с точностью 10 знаков после запятой, так как уже при измерениях заложена ошибка.

или, альтернативно, можно предположить, что изначально стоит задача посчитать до стольких знаков после запятой.

@wizard41 · 12.05.2025, 11:58

Сообщение от Andrey-MSK

как они тут считают

Через double все прекрасно считается и достигается приемлемая точность.

Добавлено через 6 минут
golosalex, этот пример не сравнения дробных чисел, а показатель степени влияния каждого последующего знака на конечный результат. Причем здесь только 6 и 10 знаков, а ТСа волнует аж 16-й!
Смысл же всего этого таков: не нужно ничего отбрасывать и округлять. Числа должны оставаться такими, какими есть и участвовать в расчетах в неизменном виде. А уже выводить пользователю их значения можно с какой-л. точностью..

@Элд Хасп · 13.05.2025, 23:43

Сообщение от power_factor

- возможно ли от этого избавиться без применения округлений, обрезаний и прочих инструментов?

Для "человеческих" чисел нужно использовать тип decimal, а не double.
double - это тип для научных вычислений.
decimal - для финансово-бухгалтерских.

@SmallEvil · 14.05.2025, 01:03

Сообщение от Элд Хасп

decimal - для финансово-бухгалтерских

А в чем разница? Просто шире, больше точность?
Но всё та же жоППа, только вид сбоку.

Сообщение от Элд Хасп

для финансово-бухгалтерских

Только спец. типы.

@Элд Хасп · 14.05.2025, 01:55

Сообщение от SmallEvil

А в чем разница? Просто шире, больше точность?

В том что точность представления не двоичная, а десятичная. Что имеет большое значение при работе с "точными" дробными числами. Например, если копейки представлены долями рубля, то в double невозможно точно записать 0.2 рубля (то есть 20 копеек). И если таких дробных чисел много (что естественно для финнасово-бухгалтерских операций), то конечный результат будет непредсказуем. Хотя точность для таких операций должна быть "абсолютной", до одной копейки и, если нужно, долей копеек.

@SmallEvil · 14.05.2025, 02:33

Сообщение от Элд Хасп

В том что точность представления не двоичная, а десятичная. Что имеет большое значение при работе с "точными" дробными числами.

Понятно. Спасибо.

@golosalex · 14.05.2025, 08:07

Сообщение от Элд Хасп

В том что точность представления не двоичная, а десятичная. Что имеет большое значение при работе с "точными" дробными числами. Например, если копейки представлены долями рубля, то в double невозможно точно записать 0.2 рубля (то есть 20 копеек). И если таких дробных чисел много (что естественно для финнасово-бухгалтерских операций), то конечный результат будет непредсказуем. Хотя точность для таких операций должна быть "абсолютной", до одной копейки и, если нужно, долей копеек.

чет я не силен в бух учете, но никогда не сталкивался с переводами долей копеек, а значит полагаю, что их скорее всего округляют. а если все в копейках считается, то не проще ли как-то все в интах делать? ну или в даблах если на то пошло с округлением в конце. как - то можете обосновать, что погрешность может накопиться достаточной, чтобы обратить на себя внимание. вот в мат расчетах такие проблемы бывают и то вполне обходятся даблами. а тут то нафиг оно? и все равно с децимал подозреваю будет не всегда все гладко и какая-то потеря точности да случается. там же тоже мантиса степень и знак как в дабле?

но вполне допускаю что заблуждаюсь, могу изменить мнение под общественным давлением))))

@Andrey-MSK · 14.05.2025, 09:23

SmallEvil, golosalex, Тип decimal хранится в памяти как целое число с индексом разряда. Все операции с ним производятся как с целым числом, потому и нет ошибок, которые присущи типам double и float так как невозможно в памяти ПК воспроизвести точно число с плавающей точкой.

@Элд Хасп · 14.05.2025, 11:30

Сообщение от golosalex

чет я не силен в бух учете, но никогда не сталкивался с переводами долей копеек, а значит полагаю, что их скорее всего округляют.

Доли копеек в основном возникают при расчёте каких-то калькуляций.
Да потом они по итогу округляются. Но проведение вычислений в научной системе, потом округление в ней и приведение к десятичному виду часто может дать не тот результата, если всё это делать сразу в десятичном формате.
А одно из главных требований к финансово-бухгалтерским операциям - это возможно их точного повторения различными методами. Это нужно для проведение сверок и контролей.
double может дать разный результат даже при простом суммировании массива значений в зависимости от порядка их добавления в сумму.

Добавлено через 2 минуты
Простейшее правило арифметики A+B+С=C+B+A в реальности для double значений будет не всегда выполняться.

Добавлено через 1 минуту
P.S. Добро пожаловать в вычислительную математику!

Она не всегда совпадает со "школьной" математикой.

@golosalex · 14.05.2025, 12:20

попробую уточнить свою позицию:

Сообщение от Andrey-MSK

Тип decimal хранится в памяти как целое число с индексом разряда. Все операции с ним производятся как с целым числом, потому и нет ошибок, которые присущи типам double и float так как невозможно в памяти ПК воспроизвести точно число с плавающей точкой.

так очень похоже на то же что и float. в обоих случаях есть мантиса (целое число) степень (насколько сдвинуть десятичный разделитель) и один бит на знак.

если вы уверены что есть принципиальная разница в вычислениях, то вот пример ниже

C#
1
2
3
4
        decimal a = 1;
        decimal b = a / 3;
        decimal c = b * 7;
        decimal d = c * 3;

почему тогда d не будет в итоге точно равно семи?

Сообщение от Элд Хасп

А одно из главных требований к финансово-бухгалтерским операциям - это возможно их точного повторения различными методами. Это нужно для проведения сверок и контролей.

вообще если есть такие требования от бухгалтерии, то очевидно так и надо делать. но все равно это выглядит как следование правилу "так заведено".

Сообщение от Элд Хасп

Простейшее правило арифметики A+B+С=C+B+A в реальности для double значений будет не всегда выполняться.

так и для decimal тоже, вот пример выше.

единственное оправдание что я могу придумать - это то что какой-то годовой ввп мира с точностью до цента может не влезть, потому что точность будет примерно 15 знаков. но есть же какой-то условный long...

вот потому и подозреваю, что такая явно избыточная точность выглядит странной. (ну или просто у меня мало денег чтобы из в decimal хранить...)

@Andrey-MSK · 14.05.2025, 12:25

Сообщение от golosalex

так очень похоже на то же что и float. в обоих случаях есть мантиса (целое число) степень (насколько сдвинуть десятичный разделитель) и один бит на знак.

Вот почитайте - Decimal floating point in .NET.

Добавлено через 2 минуты
Как в памяти компьютера представлен тип данных decimal?

@golosalex · 14.05.2025, 12:47

Сообщение от Andrey-MSK

Вот почитайте - Decimal floating point in .NET.
Добавлено через 2 минуты
Как в памяти компьютера представлен тип данных decimal?

о как! основание для степени тут 10 а не два. тогда понятно разница есть. сразу бы на это внимание обращали когда про decimal говорят, а то как будто это точный клон float с расширенным диапазоном.

вторую ссылку я находил, но не особо вникая решил, что в формуле 10 - это в двоичной системе))

Добавлено через 2 минуты
иногда очень бы хотелось чтобы весь диапазон double покрывался decimal, а тут оказывается проблема более сложная.

@SmallEvil · 14.05.2025, 13:53

Сообщение от golosalex

и все равно с децимал подозреваю будет не всегда все гладко и какая-то потеря точности да случается

value/5

Code
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
0.00000000000010000
0.00000000000002000
0.00000000000000400
0.00000000000000080
0.00000000000000016
0.000000000000000032
0.0000000000000000064
0.00000000000000000128
0.000000000000000000256
0.0000000000000000000512
0.00000000000000000001024
0.000000000000000000002048
0.0000000000000000000004096
0.00000000000000000000008192
0.000000000000000000000016384
0.0000000000000000000000032768
0.0000000000000000000000006554
0.0000000000000000000000001311
0.0000000000000000000000000262
0.0000000000000000000000000052
0.000000000000000000000000001
0.0000000000000000000000000002

Но она случится по вполне естественным причинам, а не по причине погрешности представления чисел как у типов c плавающей точкой.

Нужен такой тип в С++.

А то новичкам совсем туго приходится.

@Элд Хасп · 14.05.2025, 14:06

Сообщение от golosalex

так очень похоже на то же что и float. в обоих случаях есть мантиса (целое число) степень (насколько сдвинуть десятичный разделитель) и один бит на знак.

Нет.
float и double имеют двоичные мантиссу меньше 1 и экспоненту. Поэтому у них не "десятичная" точка, а "двоичная".
decimal же имеет целую мантиссу и десятичную экспоненту. Поэтому у него действительно десятичная точка.

Сообщение от golosalex

так и для decimal тоже, вот пример выше.

Да. decimal тоже не даёт гарантии точности. Но ошибка в decimal такая же как при любых других способах вычисления: таблицы, калькулятор, счёты, различные CRM-ERP и др.
Всюду с decimal обращаются по правилам банальной школьной арифметики и всюду получат один и тот же результат.
Одно то что не всякое десятичное конечное нецелое число можно представить конечным двоичным числом - накладывает серьёзные ограничения на их использование в финансах.

Вот пример:

C#
1
2
3
4
5
      double a = 5;
      double b = 1;
      decimal a1 = 5;
      decimal b1 = 1;
    Console.WriteLine("{0:G17}\t{1:G17}", b/a, b1/a1);

Code
1
0.20000000000000001     0.2

Добавлено через 1 минуту

Сообщение от golosalex

о как! основание для степени тут 10 а не два.

Пока писал своё сообщение (отвлекали по работе) - оказывается уже ответили.

@golosalex · 14.05.2025, 14:59

Сообщение от Элд Хасп

Пока писал своё сообщение (отвлекали по работе) - оказывается уже ответили.

благодарю за пояснение, всегда приятно узнать что-то новое. я какое-то время назад пытался разобраться как на низком уровне хранится децимал, но толи в глаза не бросилось, то ли вообще умалчивается отличие от double.

@Andrey-MSK · 14.05.2025, 15:17

Один раз попался сайт где можно было увидеть как хранятся числа разных типов в памяти. Дак вот, если ввести double/float и потыркать кнопку обновить, то каждый раз получалось разное число в двоичной системе, а целые и decimal/numeric всегда одинаково выглядели

@Элд Хасп · 14.05.2025, 15:46

Сообщение от golosalex

как на низком уровне хранится децимал

У Intel процессоров есть поддержка в FPU десятичной арифметики. Десятичное число представляется 10 байтами.
Но вроде только целые десятичные. Не помню точно сейчас.

Новые блоги и статьи Все статьи Все блоги /
Беседа с ИИ о программистах, недопускающих к созданию и правке кода генеративные ИИ и причины этого zorxor 21.09.2026 Раньше я радовался или получал некоторые эмоции, пусть небольшие, но всё же, от самого процесса написания кода, рекомпиляции и запуска, видя постепенное развитие программы и прочее. А теперь лень. . .	Мобильное приложение ColorStep pavlinmavlin 17.09.2026 Реализовал приложение Красный, Зеленый, Синий в Unity3d + c#. Название изменил на ColorStep. Приложение прошло модерацию и теперь доступно для скачивания. Делал его сам, шаг за шагом — и вот,. . .	Запрет дублирования строк в табличной части Maks 13.09.2026 Реализация из решения ниже выполнена на нетиповом справочнике "Нормы ТО" с табличной часть "Виды ТО", разработанного в КА2, со следующими реквизитами: - ВидТО (СправочникСсылка. ВидыТО); - ВидГСМ. . .	Скрипты Tampermonkey для CyberForum, ChatGPT, Claude и пр. Jin X 06.09.2026 Скрипты Tampermonkey для CyberForum, ChatGPT, Claude и пр. Работая с форумом и нейросетями в браузере часто хочется что-то подкорректировать или добавить какого-то функционала. Ниже прикреплён. . .
Программа опроса у.з. расходомера SLS-720F Argus19 02.09.2026 Программа опроса у. з. расходомера SLS-720F Программа опрашивает один раз в минуту три ультразвуковых расходомера SLS-720F через интерфейс RS-485 по протоколу Modbus RTU. Опрашиваются регистры. . .	Hyper-V: Компьютер должен поддерживать доверенный платформенный модуль 2.0. Maks 31.08.2026 При установке Windows 11 на виртуальную машину Hyper-V 2-го поколения вылезла такая ошибка: Решение: в параметрах виртуальной машины, в разделе "Безопасность" (Security) активировать флаг. . .	Архитектура биовида Стива в Майнкрафте: Зачем бонобо кубический каннибализм anaschu 30.08.2026 Кубический Вагинокапитализм в Minecraft: Математический инвариант ОДУ и рок Стивов-бонобо Главная задача разработанной «Модели Всего» — наглядно продемонстрировать наличие системной «судьбы». . .	Оттачиваю умение писать js программы. russiannick 30.08.2026 Проектом выходного дня стало написание Книги шифров Виженера. Итогом стала версия 200, синий туман. Синий туман назван так, потому что замораживает текст под собой. Нажатие синих кнопок управляют. . .

@power_factor 5 / 3 / 2 Регистрация: 27.04.2022 Сообщений: 63

	Точность чисел с плавающей точкой/запятой 10.05.2025, 02:32. Показов 3910. Ответов 42 Метки нет (Все метки) Добрый день! Имеется массив чисел типа double от 1.000 до 10.000. Каждое число задано с точность до 10^-3. Также есть метод, который принимает число и возвращает ближайшее большее к нему число из этого массива. Всё работает хорошо, кроме одного числа - 1.6, которое всегда возвращается, собственно, не как 1.6, а как 1.6000000000000003. Я понимаю, что с числами с плавающей точкой/запятой не всё так просто, как может показаться на первый взгляд, но всё-таки: - почему это так работает? Причём только с этим числом. Все остальные возвращаются такими, какими они заданы в массиве; - возможно ли от этого избавиться без применения округлений, обрезаний и прочих инструментов? 0

@Andrey-MSK 3397 / 2283 / 388 Регистрация: 14.08.2018 Сообщений: 7,754 Записей в блоге: 4
	14.05.2025, 09:23
	SmallEvil, golosalex, Тип decimal хранится в памяти как целое число с индексом разряда. Все операции с ним производятся как с целым числом, потому и нет ошибок, которые присущи типам double и float так как невозможно в памяти ПК воспроизвести точно число с плавающей точкой. 0

@Andrey-MSK 3397 / 2283 / 388 Регистрация: 14.08.2018 Сообщений: 7,754 Записей в блоге: 4
	14.05.2025, 15:17
	Один раз попался сайт где можно было увидеть как хранятся числа разных типов в памяти. Дак вот, если ввести double/float и потыркать кнопку обновить, то каждый раз получалось разное число в двоичной системе, а целые и decimal/numeric всегда одинаково выглядели 0