|
5 / 3 / 2
Регистрация: 27.04.2022
Сообщений: 62
|
|
Точность чисел с плавающей точкой/запятой10.05.2025, 02:32. Показов 3837. Ответов 42
Метки нет (Все метки)
Добрый день!
Имеется массив чисел типа double от 1.000 до 10.000. Каждое число задано с точность до 10^-3. Также есть метод, который принимает число и возвращает ближайшее большее к нему число из этого массива. Всё работает хорошо, кроме одного числа - 1.6, которое всегда возвращается, собственно, не как 1.6, а как 1.6000000000000003. Я понимаю, что с числами с плавающей точкой/запятой не всё так просто, как может показаться на первый взгляд, но всё-таки: - почему это так работает? Причём только с этим числом. Все остальные возвращаются такими, какими они заданы в массиве; - возможно ли от этого избавиться без применения округлений, обрезаний и прочих инструментов?
0
|
|
| 10.05.2025, 02:32 | |
|
Ответы с готовыми решениями:
42
|
|
|
|
| 14.05.2025, 17:27 | |
|
Для каких-то "единичных" вычислений, особенно финансовых - принят стандарт де-факто: децимал. Расчет вашей зарплаты - да, да - это тоже единичное вычисление, даже если ведется расчет, там.. скажем.. ваших премий за 3 года.
Но есть еще различные итерационные вычисления, в науке например, где использование децимал не применяется, в виду некоторой "тяжести" этого формата. Тогда на арену выходят такие понятия как стат. ошибки, погрешности, нелинейности и прочая такая лабуда, на которую изначально закладывается некоторый процент. При заранее известной некоторой корреляции, берется интеграл от скорости накопления этих погрешностей, и они вычитаются периодически из результата. Следует отметить, что, как правило, в подобных расчетах конечный результат никогда не может быть представлен совершенно точным значением: что в даблах, что в децимал. Однако расчеты в даблах намного более "скоростнее", даже с учетом доп. операций корректировки значений. Например, полученная зарплата суммой, скажем, 65 352р,78 копеек вроде бы достаточно точно говорит сама за себя, несмотря на то, что копейки мы нынче не считаем (не принимаем как что-то значимое). А вот расстояние до Луны, в среднем = 384,4 * 103 км, и оно постоянно варьируется. В этом случае совершенно бессмысленно это расстояние представлять в децимал, т.к. "заранее" оговоренная точность этих измерений с лихвой обеспечивается даблом. То же самое касается и всего подобного другого, например размер молекул, напряженности полей и т.п. Ни кому и в голову не взбредет никогда рассчитывать дистанцию/массу/скорость в децимал, особенно в астрономических масштабах..
0
|
|
|
|
|
| 14.05.2025, 17:32 | |
|
wizard41, Ну дак никто и не спорит о том что если нужна математическая точность - decimal, для всего остального - double/float.
0
|
|
|
|
||
| 14.05.2025, 17:35 | ||
|
0
|
||
| 14.05.2025, 17:35 | |
|
Хранение чисел с плавающей запятой в памяти
число с плавающей точкой Числа с плавающей точкой Введение данных с плавающей точкой в TextBox Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |
|
Новые блоги и статьи
|
|||
|
Из невошедшего на форум (диалог с ИИ-гугла)
zorxor 29.07.2026
А вот, что интересно, сказал мне ИИ-гугла:
Этот текст — эмоциональный пост пользователя под ником zorxor на интернет-форуме (вероятно, посвященном мистике, непознанному или альтернативной науке). . . .
|
Был праздник вчера, а я и не знал.
kumehtar 28.07.2026
27. 07. 2026г. Intel Core 2 Duo исполнилось 20 лет
Новости компьютерного мира и их обсуждение (4)
Салют, шампанское, овации!
:drink:
|
Нейтральные знания, чистый код - бла-бла-бла-бла, на самом деле кликбейт и самореклама, плагиат, и вот почему
Hrethgir 27.07.2026
То-есть отклонение такой публикации говорит само за себя, и пусть только возьмут на вооружение после отклонения публикации - это будет чистейшим актом плагиата. Отклонял Хабр.
Дословно, отклонённая. . .
|
тв 16 бой ии
anaschu 27.07.2026
Великий Перелом ИИ: Как уравнения ОДУ Radau дожали цензурные фильтры Алисы
Фиксируем в мемофонде Теории Всего беспрецедентный факт в истории ИИ-зондирования. В затяжном многораундовом. . .
|
|
мв 15. непроверенное, возможно, глюк
anaschu 27.07.2026
НАУЧНО-АНАЛИТИЧЕСКИЙ ОТЧЕТ. РАЗДЕЛ 1. 1: «НАУКА» (РАСШИРЕННАЯ СТЕХИОМЕТРИЧЕСКАЯ И ГЕНЕТИЧЕСКАЯ ВЕРСИЯ)Тема: Теоретическое обоснование инвариантности 19-мерного тензорного ядра непрерывных ОДУ и. . .
|
Очистка реквизитов и табличных частей документа при копировании (вариант 2)
Maks 26.07.2026
Алгоритм из решения ниже разработан на примере нетипового документа "ЗаявкаНаРаботу", разработанного в КА2.
Задача: Заменить алгоритм запрета копирования документов для сотрудников с ролью "Стажер",. . .
|
Доктрина интенционального знания - Доктрина для портала "Срез".
Hrethgir 25.07.2026
Может найдётся кто захочет оценить доктрину. . . Написания правил участия для меня роскошь, требующая лимита времени, поэтому все сообщения не прошедшие модерацию будут видны только участникам портала,. . .
|
сукцессия 44. Решил подать на припринт в межународные сервисы препринтов. Но нужно одобрение от ученых
anaschu 25.07.2026
Английский вариант. Пока кто то не одобрит мою личность, мне не получиться это опубликовать на препринте. Но заявку на публикацию статьи я сегодня подам.
|