Форум программистов, компьютерный форум, киберфорум
Наши страницы
С++ для начинающих
Войти
Регистрация
Восстановить пароль
 
Рейтинг 4.75/4: Рейтинг темы: голосов - 4, средняя оценка - 4.75
zabolekar
0 / 0 / 0
Регистрация: 29.06.2010
Сообщений: 1
1

Как именно округляются float и double?

02.07.2010, 13:51. Просмотров 632. Ответов 1
Метки нет (Все метки)

Вот имеется double l, функция sqrt из cmath и следующие формулы:

C++
1
sqrt(2-2*sqrt(1-l*l/4))
C++
1
sqrt(l*l/4+1-sqrt(1-l*l/4)-sqrt(1-l*l/4)+1-l*l/4)
C++
1
sqrt(l*l/4+(1-sqrt(1-l*l/4))*(1-sqrt(1-l*l/4)))
Если l длина стороны вписанного в круг с радиусом 1 правильного многоугольника с 2^n сторонами, то формула должна вычислить длину стороны вписанного в тот же круг правильного многоугольника с 2^{n+1} cторонами.

Математически эти три формулы одно и то же. Для больших l результаты совпадают, но начиная с e-007 разброд и шатания уже в районе двадцати процентов. Где-то после e-008 первая формула валится в 0. Вторая начиная с e-009 выдаёт nan. Третья выдаёт нечто на первый взгляд осмысленное, но если через эти многоугольники попытаться вычислить пи, то начиная с 268.435.456-угольника получается некое число, которое от пи отличается с четырнадцатого знака после запятой, однако само уже больше не меняется вообще, сколько углов ни делай. Ну, пока в nan не упрётся, конечно.

Я понимаю, что, пока используются double, от ошибок округления никуда не деться. Но мне интересно, почему они именно такие и как их можно более-менее оценить при взгляде на формулу. Особенно я не понимаю, откуда вторая берёт nan. Получает число меньше нуля, а потом из него корень?

Компилятор g++, если это важно.
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
Similar
Эксперт
41792 / 34177 / 6122
Регистрация: 12.04.2006
Сообщений: 57,940
02.07.2010, 13:51
Ответы с готовыми решениями:

Преобразовать 2 числа int в 1 число float(double) | double int1.int2
Всем привет. Изучая азы C++, столкнулся с такой проблемой. Есть два значения...

как победить Double? Float?
C++ - так описать нельзя( ну и как мне ее сделать глобальной и есть ли...

Почему точность Double такая же как у Float ?
Вначале столкнулся с проблемой float: time=65536.0f; (можно и больше число...

Значение double, float как можно разложить на байты
Я хочу по протоколу TCP ввиде потока байт передать число с плавающей точкой(не...

Как мне программу с int переделать в Float i double?
как мне програму с int переделать в Float i double??? #include <iostream> ...

1
Evg
Эксперт CАвтор FAQ
19305 / 7160 / 533
Регистрация: 30.03.2009
Сообщений: 20,037
Записей в блоге: 30
02.07.2010, 15:18 2
Ответить чтобы было просто и одновременно понятно - сложно. Если не забуду, то вечером дома погляжу. Где-то была ссылка с доступным объянением. Я и сам всё порывался статью написать, но никак не доходили руки и никак не мог определиться, с какого конца начинать
0
MoreAnswers
Эксперт
37091 / 29110 / 5898
Регистрация: 17.06.2006
Сообщений: 43,301
02.07.2010, 15:18

Как сделать в конструкциий switch, чтобы он считал норм float и double
Подскажите как сделать в конструкциий switch что бы он считал норм float и...

Как проверить вводилось ли число (типа double или float) в консоль
Как проверить вводилось ли число (типа double или float) в консоль?

Как преобразовать все int,float,double в строки LPWSTR, LPCTSTR
Столкнулся с проблемой не как не переведу в нормальный вид вот код ...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
2
Ответ Создать тему
Опции темы

КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin® Version 3.8.9
Copyright ©2000 - 2018, vBulletin Solutions, Inc.
Рейтинг@Mail.ru