0 / 0 / 0
Регистрация: 30.06.2015
Сообщений: 23
|
|
1 | |
повышенная точность22.11.2015, 15:40. Показов 2542. Ответов 2
Метки нет (Все метки)
Приветствую всех. Господа, подскажите где может быть косяк? Задача по геодезии, поэтому практически все значения double, в том числе и синусы и косинусы. Но при проверке (через вывод в консоль) все значения округляются до 5 знаков после запятой. Значение ПИ уже ввёл константно, всё равно обрезает. Только на форумы не переотсылайте, там всё перечитал. Может где в настройках студии что надо настроить.
Такая точность потому что переводы из радианов в угловые, в том числе с долями секунд. #include <cmath> const double PI = 3.141592653589793238463; Bx = A00*x + A20*sin(2 * A00*x) + A40*sin(4 * A00*x) + A60*sin(6 * A00*x); Сами понимаете, это только фрагменты. Осень надо помощь))) Спасибо за ранее.
0
|
22.11.2015, 15:40 | |
Ответы с готовыми решениями:
2
Точность и т.д. Точность ряда Точность float Заданная точность |
221 / 166 / 47
Регистрация: 17.07.2012
Сообщений: 587
|
||||||
22.11.2015, 15:45 | 2 | |||||
Shalygin,
0
|
0 / 0 / 0
Регистрация: 30.06.2015
Сообщений: 23
|
|
22.11.2015, 15:57 [ТС] | 3 |
а можно краткий комментарий по этой операции?
Добавлено через 51 секунду там формул просто штук 15 и если на каждой съедается по чуть-чуть, то на выходе пшик))) Добавлено через 51 секунду здесь не столько в выводе вопрос, сколько в точности вычисления
0
|
22.11.2015, 15:57 | |
22.11.2015, 15:57 | |
Помогаю со студенческими работами здесь
3
Точность вычислений Теряется точность Точность Float Точность вычисления Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |