0 / 0 / 1
Регистрация: 22.04.2017
Сообщений: 105
|
|
1 | |
Точность вычислений в double (Обрезание числа)21.05.2018, 19:15. Показов 2622. Ответов 1
Метки нет Все метки)
(
Здравствуйте! Дело в том, что мне необходимо выводить большие числа с большим количеством знаков после запятой. Однако и double и float обрезаются. Высчитываю число е: 2.71828 (Это при x = 100000). Дальше у меня не выходит получить точность.
К слову, я пишу на DevC++ в консоли. Мне кажется, что консоль может как то на это влиять. В любом случае буду благодарен ответу и решению проблемы.
__________________
Помощь в написании контрольных, курсовых и дипломных работ, диссертаций здесь
0
|
|
21.05.2018, 19:15 | |
Ответы с готовыми решениями:
1
Точность вычислений у double Вещественные числа с плавающей точкой, точность вычислений
Глюки VB 2 - точность вычислений (Single, Double) |
techpriest
634 / 213 / 57
Регистрация: 27.02.2014
Сообщений: 1,180
|
|
21.05.2018, 19:49 | 2 |
Действительно, точность double не абсолютна. Это связано с тем, что длина double составляет 64 бита, а уложить абсолютную точность в 64 бита ну никак не возможно. Подробнее смотреть здесь: https://neerc.ifmo.ru/wiki/ind... 0%B5%D0%BB
Однако, я рискну предположить, что ваша проблема связана не с точностью вычисления, которая при double весьма нехила, а с точностью вывода результата на консоль (которая по умолчанию значительно ниже точности вычисления). Если вы выложите ваш код, мы сможем эхто дело поправить.
1
|
21.05.2018, 19:49 | |
Помогаю со студенческими работами здесь
2
Глюки VB - точность вычислений (Single, Double) Точность числа типа double точность вычислений Точность вычислений Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |