|
2 / 2 / 1
Регистрация: 30.06.2021
Сообщений: 31
|
|||||||||||
Где теряется точность?04.09.2022, 20:40. Показов 3671. Ответов 23
Здравствуйте, сразу к делу:
А если написать так:
причём, если 'y' сделать double, опять получаем округление до 49.0000 Где теряется точность?
0
|
|||||||||||
| 04.09.2022, 20:40 | |
|
Ответы с готовыми решениями:
23
Теряется точность Куда теряется точность? Теряется точность в сравнении с exel |
|
Модератор
12843 / 7592 / 1766
Регистрация: 25.07.2009
Сообщений: 13,981
|
||||||||
| 08.09.2022, 14:48 | ||||||||
0
|
||||||||
|
Нарушающий
417 / 305 / 46
Регистрация: 13.04.2022
Сообщений: 1,759
|
|||||||||||
| 09.09.2022, 20:38 | |||||||||||
|
Вспомнил про эту тему, вот мои результаты (gcc/linux, Float, Double, Long double):
Адрес байтов растет влево.
0.6 в двоичном это 0.(1001). В зависимости от границы байта это может быть 0х33, 0х66, 0х99 или 0xcc Во всех случаях выше округление правильно выполняется вверх, поэтому погрешность для 0.1 тоже вверх. Погрешность для представления 0.1 равна значению нижнего бита мантиссы, минус отброшенный остаток. Float мантисса 23 бита, -100 1100 1101, значение нижнего бита 2-23, экспонента 2-4, т.е. 2-27. Величина отброшенного хвоста 1100 1100... начиная с 24 бита это 1.6*2-24, и экспонента 2-4, всего 1.6*2-28. Разница между двумя: 0.4*2-28, или 0.000000001490116119384765625, десятичная дробь конечной длины. Если написать printf() очень аккуратно, то printf( "%.30f", (float)0.1 ) должен вывести 0.100000001490116119384765625000. У меня ровно столько и выводит. Если кому-то интересно поиграться, код ниже. Кликните здесь для просмотра всего текста
0
|
|||||||||||
|
Вездепух
13215 / 6847 / 1826
Регистрация: 18.10.2014
Сообщений: 17,343
|
|||||||
| 10.09.2022, 20:00 | |||||||
Сообщение было отмечено Zicrys как решение
Решение1. Использование float в качестве промежуточного типа, в то время как с точки зрения языка все выражение вычисляется в типе double. Это приводит к "огрублению" промежуточного результата. Об этом вам уже рассказали.2. Сам факт выноса подвыражения M_PI*pow(x,2) из целого выражения pow(x,2)-sin(M_PI*pow(x,2)), даже (!) если бы промежуточный результат сохранялся в типе double, то есть даже если бы с тривиальной точки зрения потери точности "не могло быть".Реализация может использовать модель плавающих вычислений, которая выполняет все промежуточные вычисления в рамках полного выражения в супервысокой точности, т.е. в точности, превышающей точность типа double. Всякий раз, когда вы подразбиваете плавающее выражение на подвыражения с записью в промежуточные переменные, это приводит к огрублению промежуточных результатов. Будет ли иметь место этот эффект зависит от используемой реализацией модели плавающих вычислений. Мы все прекрасно помним это явление, когда плавающие вычисления на платформе x86 выполнялись средствами FPU. С переходом на использование SSE2 это явление становится менее актуальным. Другими словами, даже при использовании "правильных" типов
x и y в примере) могут быть разными (см. FP_CONTRACT).
1
|
|||||||
| 10.09.2022, 20:00 | |
|
Теряется точность переменной типа double
Умножение преобразованием Фурье. Теряется точность Где то теряется post Где теряется кодировка ? Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |
|
| Опции темы | |
|
|
Новые блоги и статьи
|
|||
|
Программа опроса у.з. расходомера SLS-720F
Argus19 02.09.2026
Программа опроса у. з. расходомера SLS-720F
Программа опрашивает один раз в минуту три ультразвуковых расходомера SLS-720F через интерфейс RS-485 по протоколу Modbus RTU.
Опрашиваются регистры. . .
|
Hyper-V: Компьютер должен поддерживать доверенный платформенный модуль 2.0.
Maks 31.08.2026
При установке Windows 11 на виртуальную машину Hyper-V 2-го поколения вылезла такая ошибка:
Решение: в параметрах виртуальной машины, в разделе "Безопасность" (Security) активировать флаг. . .
|
Архитектура биовида Стива в Майнкрафте: Зачем бонобо кубический каннибализм
anaschu 30.08.2026
Кубический Вагинокапитализм в Minecraft: Математический инвариант ОДУ и рок Стивов-бонобо
Главная задача разработанной «Модели Всего» — наглядно продемонстрировать наличие системной «судьбы». . .
|
Оттачиваю умение писать js программы.
russiannick 30.08.2026
Проектом выходного дня стало написание Книги шифров Виженера. Итогом стала версия 200, синий туман.
Синий туман назван так, потому что замораживает текст под собой. Нажатие синих кнопок управляют. . .
|
|
мат медиц модель 30. презентация проекта
anaschu 27.08.2026
хоп хоп хоп хидахоп, а я кладую))
|
Как у меня протекала болезнь
zorxor 27.08.2026
Здравствуйте, друзья! Эта запись блога предназначена именно для вас - для моих дорогих друзей, которые знали меня лично. Чтобы ответить на вопрос - а что же со мной произошло на самом деле? Я учился. . .
|
Нашел вот забавное видео о измерениях. Лучшее что я видел на эту тему
kumehtar 26.08.2026
ILETXiw9bMQ
Основная суть и тезисы по измерениям:
0D (Нулевое измерение): точка, не имеющая длины, ширины, высоты или объема.
Объект не может перемещаться в 0D.
1D (Первое измерение):. . .
|
[EasyBuilder Pro] Памятка по разработке для панелей Weintek
ФедосеевПавел 26.08.2026
Памятка по разработке для панелей Weintek
ВВЕДЕНИЕ
Ранее, при реализации проектов основное внимание уделял разработке управляющей программы для контроллера, а панели оператора доставалось время. . .
|