Форум программистов, компьютерный форум, киберфорум
C# для начинающих
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск  
 
 
5 / 3 / 2
Регистрация: 27.04.2022
Сообщений: 62

Точность чисел с плавающей точкой/запятой

10.05.2025, 02:32. Показов 3837. Ответов 42
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Добрый день!

Имеется массив чисел типа double от 1.000 до 10.000. Каждое число задано с точность до 10^-3. Также есть метод, который принимает число и возвращает ближайшее большее к нему число из этого массива. Всё работает хорошо, кроме одного числа - 1.6, которое всегда возвращается, собственно, не как 1.6, а как 1.6000000000000003. Я понимаю, что с числами с плавающей точкой/запятой не всё так просто, как может показаться на первый взгляд, но всё-таки:
- почему это так работает? Причём только с этим числом. Все остальные возвращаются такими, какими они заданы в массиве;
- возможно ли от этого избавиться без применения округлений, обрезаний и прочих инструментов?
0
Programming
Эксперт
39485 / 9562 / 3019
Регистрация: 12.04.2006
Сообщений: 41,671
Блог
10.05.2025, 02:32
Ответы с готовыми решениями:

Перевести десятичное число с плавающей запятой (точкой) в шестнадцатеричную систему и в 4-байтовом формате
Здравствуйте. Как перевести десятичное число с плавающей запятой (точкой) в шестнадцатиричную...

Генерация случайных чисел с плавающей точкой
Как сгенерировать случайное число на отрезке от, например, 1.2144 до 145.34213 ?

Сравнение чисел с плавающей запятой с точностью
Добрый день. Стоит задача сравнить частное двух чисел с числом Pi. Но максимальное значение...

42
Эксперт JavaЭксперт по электроникеЭксперт .NET
 Аватар для wizard41
3460 / 2781 / 575
Регистрация: 04.09.2018
Сообщений: 8,743
Записей в блоге: 3
14.05.2025, 17:27
Студворк — интернет-сервис помощи студентам
Для каких-то "единичных" вычислений, особенно финансовых - принят стандарт де-факто: децимал. Расчет вашей зарплаты - да, да - это тоже единичное вычисление, даже если ведется расчет, там.. скажем.. ваших премий за 3 года.

Но есть еще различные итерационные вычисления, в науке например, где использование децимал не применяется, в виду некоторой "тяжести" этого формата. Тогда на арену выходят такие понятия как стат. ошибки, погрешности, нелинейности и прочая такая лабуда, на которую изначально закладывается некоторый процент.

При заранее известной некоторой корреляции, берется интеграл от скорости накопления этих погрешностей, и они вычитаются периодически из результата.

Следует отметить, что, как правило, в подобных расчетах конечный результат никогда не может быть представлен совершенно точным значением: что в даблах, что в децимал. Однако расчеты в даблах намного более "скоростнее", даже с учетом доп. операций корректировки значений.

Например, полученная зарплата суммой, скажем, 65 352р,78 копеек вроде бы достаточно точно говорит сама за себя, несмотря на то, что копейки мы нынче не считаем (не принимаем как что-то значимое). А вот расстояние до Луны, в среднем = 384,4 * 103 км, и оно постоянно варьируется. В этом случае совершенно бессмысленно это расстояние представлять в децимал, т.к. "заранее" оговоренная точность этих измерений с лихвой обеспечивается даблом.

То же самое касается и всего подобного другого, например размер молекул, напряженности полей и т.п.
Ни кому и в голову не взбредет никогда рассчитывать дистанцию/массу/скорость в децимал, особенно в астрономических масштабах..
0
 Аватар для Andrey-MSK
3379 / 2265 / 388
Регистрация: 14.08.2018
Сообщений: 7,680
Записей в блоге: 4
14.05.2025, 17:32
wizard41, Ну дак никто и не спорит о том что если нужна математическая точность - decimal, для всего остального - double/float.
0
Эксперт JavaЭксперт по электроникеЭксперт .NET
 Аватар для wizard41
3460 / 2781 / 575
Регистрация: 04.09.2018
Сообщений: 8,743
Записей в блоге: 3
14.05.2025, 17:35
Цитата Сообщение от Andrey-MSK Посмотреть сообщение
что если нужна математическая точность - decimal, для всего остального - double/float.
Это можно трактовать как "все остальное" уже не мат. точность... Но это точно не так.
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
inter-admin
Эксперт
29715 / 6470 / 2152
Регистрация: 06.03.2009
Сообщений: 28,500
Блог
14.05.2025, 17:35

Хранение чисел с плавающей запятой в памяти
Здравствуйте. Скорее, вопрос не по теме, просто не знаю, куда задать вопрос. Вопрос связан с...

Формат представления чисел с плавающей запятой
Передаю число с плавающей запятой через COM на МК 0,0043 но в итоге получаю на самом МК число...

число с плавающей точкой
подскажите как из строкого формата числа с двумя числами после запитой, например 122,00 или 32,94,...

Числа с плавающей точкой
Как отделить целую часть и дробную? Например имеем число 12.54 число 12 должно бить записано в...

Введение данных с плавающей точкой в TextBox
Такая проблема: на форме есть 2 текстбокса, в один должно вводится число, которое будем приводить к...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
43
Ответ Создать тему
Новые блоги и статьи
Из невошедшего на форум (диалог с ИИ-гугла)
zorxor 29.07.2026
А вот, что интересно, сказал мне ИИ-гугла: Этот текст — эмоциональный пост пользователя под ником zorxor на интернет-форуме (вероятно, посвященном мистике, непознанному или альтернативной науке). . . .
Был праздник вчера, а я и не знал.
kumehtar 28.07.2026
27. 07. 2026г. Intel Core 2 Duo исполнилось 20 лет Новости компьютерного мира и их обсуждение (4) Салют, шампанское, овации! :drink:
Нейтральные знания, чистый код - бла-бла-бла-бла, на самом деле кликбейт и самореклама, плагиат, и вот почему
Hrethgir 27.07.2026
То-есть отклонение такой публикации говорит само за себя, и пусть только возьмут на вооружение после отклонения публикации - это будет чистейшим актом плагиата. Отклонял Хабр. Дословно, отклонённая. . .
тв 16 бой ии
anaschu 27.07.2026
Великий Перелом ИИ: Как уравнения ОДУ Radau дожали цензурные фильтры Алисы Фиксируем в мемофонде Теории Всего беспрецедентный факт в истории ИИ-зондирования. В затяжном многораундовом. . .
мв 15. непроверенное, возможно, глюк
anaschu 27.07.2026
НАУЧНО-АНАЛИТИЧЕСКИЙ ОТЧЕТ. РАЗДЕЛ 1. 1: «НАУКА» (РАСШИРЕННАЯ СТЕХИОМЕТРИЧЕСКАЯ И ГЕНЕТИЧЕСКАЯ ВЕРСИЯ)Тема: Теоретическое обоснование инвариантности 19-мерного тензорного ядра непрерывных ОДУ и. . .
Очистка реквизитов и табличных частей документа при копировании (вариант 2)
Maks 26.07.2026
Алгоритм из решения ниже разработан на примере нетипового документа "ЗаявкаНаРаботу", разработанного в КА2. Задача: Заменить алгоритм запрета копирования документов для сотрудников с ролью "Стажер",. . .
Доктрина интенционального знания - Доктрина для портала "Срез".
Hrethgir 25.07.2026
Может найдётся кто захочет оценить доктрину. . . Написания правил участия для меня роскошь, требующая лимита времени, поэтому все сообщения не прошедшие модерацию будут видны только участникам портала,. . .
сукцессия 44. Решил подать на припринт в межународные сервисы препринтов. Но нужно одобрение от ученых
anaschu 25.07.2026
Английский вариант. Пока кто то не одобрит мою личность, мне не получиться это опубликовать на препринте. Но заявку на публикацию статьи я сегодня подам.
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru