Незванный гость
|
||||||
1 | ||||||
Точность вычислений11.02.2008, 16:35. Показов 2507. Ответов 2
Метки нет (Все метки)
Почему в программе при написании
Как сделать так, чтобы точность вычислений не уходила за пределы отведённой разрядности, ведь при операциях с данными переменными результат будет отличным от ожидаемого, т.к. в n-м знаке после запятой будет значащая цифра, т.е. будет иметь место ошибка? |
11.02.2008, 16:35 | |
Ответы с готовыми решениями:
2
Точность значения пи. Точность вычислений Точность вычислений у double Высокая точность вычислений (погрешность<10^-30) |
Гость
|
|
11.02.2008, 16:37 | 2 |
Сорри, не И = 19.9999997, а B = 19.59999999. Неважно, суть прежняя.
|
118 / 118 / 10
Регистрация: 12.05.2010
Сообщений: 1,207
|
|
11.02.2008, 18:24 | 3 |
Никак - такова особенность дробных чисел... При необходимости, используйте double, например...
0
|
11.02.2008, 18:24 | |
11.02.2008, 18:24 | |
Помогаю со студенческими работами здесь
3
Точность вычислений в double (Обрезание числа) Вещественные числа с плавающей точкой, точность вычислений "Точность вычислений" или "Элементарная погрешность" Точность и т.д. Точность в double Теряется точность Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |