5 / 3 / 2
Регистрация: 27.04.2022
Сообщений: 63

Точность чисел с плавающей точкой/запятой

10.05.2025, 02:32. Показов 3870. Ответов 42
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Добрый день!

Имеется массив чисел типа double от 1.000 до 10.000. Каждое число задано с точность до 10^-3. Также есть метод, который принимает число и возвращает ближайшее большее к нему число из этого массива. Всё работает хорошо, кроме одного числа - 1.6, которое всегда возвращается, собственно, не как 1.6, а как 1.6000000000000003. Я понимаю, что с числами с плавающей точкой/запятой не всё так просто, как может показаться на первый взгляд, но всё-таки:
- почему это так работает? Причём только с этим числом. Все остальные возвращаются такими, какими они заданы в массиве;
- возможно ли от этого избавиться без применения округлений, обрезаний и прочих инструментов?
0
Programming
Эксперт
39485 / 9562 / 3019
Регистрация: 12.04.2006
Сообщений: 41,671
Блог
10.05.2025, 02:32
Ответы с готовыми решениями:

Перевести десятичное число с плавающей запятой (точкой) в шестнадцатеричную систему и в 4-байтовом формате
Здравствуйте. Как перевести десятичное число с плавающей запятой (точкой) в шестнадцатиричную...

Генерация случайных чисел с плавающей точкой
Как сгенерировать случайное число на отрезке от, например, 1.2144 до 145.34213 ?

Сравнение чисел с плавающей запятой с точностью
Добрый день. Стоит задача сравнить частное двух чисел с числом Pi. Но максимальное значение...

42
Эксперт JavaЭксперт по электроникеЭксперт .NET
 Аватар для wizard41
3461 / 2782 / 575
Регистрация: 04.09.2018
Сообщений: 8,746
Записей в блоге: 3
14.05.2025, 17:27
Студворк — интернет-сервис помощи студентам
Для каких-то "единичных" вычислений, особенно финансовых - принят стандарт де-факто: децимал. Расчет вашей зарплаты - да, да - это тоже единичное вычисление, даже если ведется расчет, там.. скажем.. ваших премий за 3 года.

Но есть еще различные итерационные вычисления, в науке например, где использование децимал не применяется, в виду некоторой "тяжести" этого формата. Тогда на арену выходят такие понятия как стат. ошибки, погрешности, нелинейности и прочая такая лабуда, на которую изначально закладывается некоторый процент.

При заранее известной некоторой корреляции, берется интеграл от скорости накопления этих погрешностей, и они вычитаются периодически из результата.

Следует отметить, что, как правило, в подобных расчетах конечный результат никогда не может быть представлен совершенно точным значением: что в даблах, что в децимал. Однако расчеты в даблах намного более "скоростнее", даже с учетом доп. операций корректировки значений.

Например, полученная зарплата суммой, скажем, 65 352р,78 копеек вроде бы достаточно точно говорит сама за себя, несмотря на то, что копейки мы нынче не считаем (не принимаем как что-то значимое). А вот расстояние до Луны, в среднем = 384,4 * 103 км, и оно постоянно варьируется. В этом случае совершенно бессмысленно это расстояние представлять в децимал, т.к. "заранее" оговоренная точность этих измерений с лихвой обеспечивается даблом.

То же самое касается и всего подобного другого, например размер молекул, напряженности полей и т.п.
Ни кому и в голову не взбредет никогда рассчитывать дистанцию/массу/скорость в децимал, особенно в астрономических масштабах..
0
 Аватар для Andrey-MSK
3392 / 2278 / 388
Регистрация: 14.08.2018
Сообщений: 7,700
Записей в блоге: 4
14.05.2025, 17:32
wizard41, Ну дак никто и не спорит о том что если нужна математическая точность - decimal, для всего остального - double/float.
0
Эксперт JavaЭксперт по электроникеЭксперт .NET
 Аватар для wizard41
3461 / 2782 / 575
Регистрация: 04.09.2018
Сообщений: 8,746
Записей в блоге: 3
14.05.2025, 17:35
Цитата Сообщение от Andrey-MSK Посмотреть сообщение
что если нужна математическая точность - decimal, для всего остального - double/float.
Это можно трактовать как "все остальное" уже не мат. точность... Но это точно не так.
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
inter-admin
Эксперт
29715 / 6470 / 2152
Регистрация: 06.03.2009
Сообщений: 28,500
Блог
14.05.2025, 17:35

Хранение чисел с плавающей запятой в памяти
Здравствуйте. Скорее, вопрос не по теме, просто не знаю, куда задать вопрос. Вопрос связан с...

Формат представления чисел с плавающей запятой
Передаю число с плавающей запятой через COM на МК 0,0043 но в итоге получаю на самом МК число...

число с плавающей точкой
подскажите как из строкого формата числа с двумя числами после запитой, например 122,00 или 32,94,...

Числа с плавающей точкой
Как отделить целую часть и дробную? Например имеем число 12.54 число 12 должно бить записано в...

Введение данных с плавающей точкой в TextBox
Такая проблема: на форме есть 2 текстбокса, в один должно вводится число, которое будем приводить к...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
43
Ответ Создать тему
Опции темы

Новые блоги и статьи
Был там один разговор по поводу свободы в материальном мире.
kumehtar 19.08.2026
Суть: рассматривается живое существо, оказавшееся внутри довольно странной системы (этого мира) и пытающееся обустроить в ней свой кусок пространства. Жизнь действительно предъявляет каждому. . .
Когда логика программы не спасает от человеческих ошибок
Maks 18.08.2026
В последнее время всё чаще и чаще сталкиваюсь с таким явлением, как абсолютная невнимательность (или глупость) пользователей. Проявляется это чаще всего на работе в коллективе. Допустим, человек с. . .
Лето уходит
kumehtar 17.08.2026
Мысли в слух
kumehtar 17.08.2026
Забавно, насколько сейчас стала доступна информация. Например о магии, духовном развитии, медитациях, и других подобных направлениях, ранее зачастую тайных, передаваемых от учителя к ученику. Хотя. . .
Перемещение строк из ТЧ в другой документ с учетом текущего пробега
Maks 17.08.2026
Реализация из решения ниже выполнена на примере нетипового документа "Автозапчасти", с ТЧ "Шины". За основу взят алгоритм отсюда: https:/ / www. cyberforum. ru/ blogs/ 359708/ 10838. html Задача: . . .
Саморегулирующийся социальный контракт для сервера cross-section.
Hrethgir 14.08.2026
С кодом конечно таких глубоких размышлений пока не было, впрочем я уже привык к алгоритмизации. Суть предмета записи: снова в диалоге с нейросетью (я взял пока себе ник для учётки админа - Rector). . . .
Часы электронные
Uhbif79 12.08.2026
Выкладываю программу часов. Программа позволяет: 1. Использовать системное время и дату, 2. Есть возможность вводить время и дату вручную. 3. Реализованы 2 будильника: начало и конец рабочего дня. . . .
Часы с будильником на основе класса QLCDNumber
Uhbif79 12.08.2026
Всем добрый день, выкладываю программу часов с будильником на основе класса QLCDNumber. Здесь я пробовал самостоятельно создавал классы, впервые столкнулся с видимостью переменной одного класса из. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru