0 / 0 / 1
Регистрация: 22.04.2017
Сообщений: 105
1

Точность вычислений в double (Обрезание числа)

21.05.2018, 19:15. Показов 2622. Ответов 1
Метки нет (Все метки)

Здравствуйте! Дело в том, что мне необходимо выводить большие числа с большим количеством знаков после запятой. Однако и double и float обрезаются. Высчитываю число е: 2.71828 (Это при x = 100000). Дальше у меня не выходит получить точность.

К слову, я пишу на DevC++ в консоли. Мне кажется, что консоль может как то на это влиять. В любом случае буду благодарен ответу и решению проблемы.
__________________
Помощь в написании контрольных, курсовых и дипломных работ, диссертаций здесь
0
Programming
Эксперт
94731 / 64177 / 26122
Регистрация: 12.04.2006
Сообщений: 116,782
21.05.2018, 19:15
Ответы с готовыми решениями:

Точность вычислений у double
Дана задача: "Определить, на сколько нулей заканчивается факториал числа n". Пример: вводим "25",...

Вещественные числа с плавающей точкой, точность вычислений
Работаю над проектом, требующим большую точность вычисления вещественных чисел. Решила...

Точность в N знаков после запятой числа типа double
Добрый день, уважаемы форумчане! Возникла проблема, заключающаяся в изменении значения,...

Глюки VB 2 - точность вычислений (Single, Double)
Добрый день как правильно объявить переменную делимого? Почему правильное объявление переменной...

1
techpriest
634 / 213 / 57
Регистрация: 27.02.2014
Сообщений: 1,180
21.05.2018, 19:49 2
Действительно, точность double не абсолютна. Это связано с тем, что длина double составляет 64 бита, а уложить абсолютную точность в 64 бита ну никак не возможно. Подробнее смотреть здесь: https://neerc.ifmo.ru/wiki/ind... 0%B5%D0%BB

Однако, я рискну предположить, что ваша проблема связана не с точностью вычисления, которая при double весьма нехила, а с точностью вывода результата на консоль (которая по умолчанию значительно ниже точности вычисления). Если вы выложите ваш код, мы сможем эхто дело поправить.
1
IT_Exp
Эксперт
87844 / 49110 / 22898
Регистрация: 17.06.2006
Сообщений: 92,604
21.05.2018, 19:49
Помогаю со студенческими работами здесь

Глюки VB - точность вычислений (Single, Double)
Знатоки VB, подскажите, пожалуйста. Периодически возникает проблема когда работаешь со переменными...

Точность числа типа double
Здравствуйте! Есть число типа double. double d; Вопрос: как в методе System.out.println(d)...

точность вычислений
Известно что в Питоне: 1.001 + 5 = 6.0009999999999994 А хочется чтобы было 6.001 ...

Точность вычислений
Для проверки точности вычислений существуют формулы и калькулятор на 200000 знаков до и после...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
2
Ответ Создать тему
Опции темы

КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2023, CyberForum.ru