Незванный гость
1

Точность вычислений

11.02.2008, 16:35. Показов 2441. Ответов 2
Метки нет (Все метки)

Почему в программе при написании
C++
1
2
float A = 28.8;
float B = 19.6;
в отлатчике видим A = 28.8000004, И = 19.9999997?

Как сделать так, чтобы точность вычислений не уходила за пределы отведённой разрядности, ведь при операциях с данными переменными результат будет отличным от ожидаемого, т.к. в n-м знаке после запятой будет значащая цифра, т.е. будет иметь место ошибка?
__________________
Помощь в написании контрольных, курсовых и дипломных работ, диссертаций здесь
Programming
Эксперт
94731 / 64177 / 26122
Регистрация: 12.04.2006
Сообщений: 116,782
11.02.2008, 16:35
Ответы с готовыми решениями:

Точность значения пи.
Пожалуйста можете помочь с задачей. Напишите программу, которая вычисляет число ПИ с заданной ...

Точность вычислений
Для проверки точности вычислений существуют формулы и калькулятор на 200000 знаков до и после...

Точность вычислений у double
Дана задача: "Определить, на сколько нулей заканчивается факториал числа n". Пример: вводим "25",...

Высокая точность вычислений (погрешность<10^-30)
Здравствуйте, необходимо вычислить значение функции с заданной точностью (к примеру с точностью до...

2
Гость
11.02.2008, 16:37 2
Сорри, не И = 19.9999997, а B = 19.59999999. Неважно, суть прежняя.
118 / 118 / 10
Регистрация: 12.05.2010
Сообщений: 1,207
11.02.2008, 18:24 3
Никак - такова особенность дробных чисел... При необходимости, используйте double, например...
0
IT_Exp
Эксперт
87844 / 49110 / 22898
Регистрация: 17.06.2006
Сообщений: 92,604
11.02.2008, 18:24
Помогаю со студенческими работами здесь

Точность вычислений в double (Обрезание числа)
Здравствуйте! Дело в том, что мне необходимо выводить большие числа с большим количеством знаков...

Вещественные числа с плавающей точкой, точность вычислений
Работаю над проектом, требующим большую точность вычисления вещественных чисел. Решила...

"Точность вычислений" или "Элементарная погрешность"
Всем привет! Решаю задачку (Задача А - во вложениях), где даны координаты вершин треугольника, и...

Точность и т.д.
1)Дано два целых числа a і b. Виведите гипотенузу с катетами a и b с точностью 6 знаков. Вх одные...

Точность в double
Добрый день Мне задали сделать проект в универе - Калькулятор с великой точностю. Я уже почти...

Теряется точность
Видимо в этой проге теряетмя точность. Не проходит только 1 тест. #include &lt;iostream&gt;...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
3
Ответ Создать тему
Опции темы

КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2022, CyberForum.ru