Форум программистов, компьютерный форум CyberForum.ru

Как именно округляются float и double? - C++

Восстановить пароль Регистрация
 
zabolekar
Сообщений: n/a
02.07.2010, 13:51     Как именно округляются float и double? #1
Вот имеется double l, функция sqrt из cmath и следующие формулы:

C++
1
sqrt(2-2*sqrt(1-l*l/4))
C++
1
sqrt(l*l/4+1-sqrt(1-l*l/4)-sqrt(1-l*l/4)+1-l*l/4)
C++
1
sqrt(l*l/4+(1-sqrt(1-l*l/4))*(1-sqrt(1-l*l/4)))
Если l длина стороны вписанного в круг с радиусом 1 правильного многоугольника с 2^n сторонами, то формула должна вычислить длину стороны вписанного в тот же круг правильного многоугольника с 2^{n+1} cторонами.

Математически эти три формулы одно и то же. Для больших l результаты совпадают, но начиная с e-007 разброд и шатания уже в районе двадцати процентов. Где-то после e-008 первая формула валится в 0. Вторая начиная с e-009 выдаёт nan. Третья выдаёт нечто на первый взгляд осмысленное, но если через эти многоугольники попытаться вычислить пи, то начиная с 268.435.456-угольника получается некое число, которое от пи отличается с четырнадцатого знака после запятой, однако само уже больше не меняется вообще, сколько углов ни делай. Ну, пока в nan не упрётся, конечно.

Я понимаю, что, пока используются double, от ошибок округления никуда не деться. Но мне интересно, почему они именно такие и как их можно более-менее оценить при взгляде на формулу. Особенно я не понимаю, откуда вторая берёт nan. Получает число меньше нуля, а потом из него корень?

Компилятор g++, если это важно.
Similar
Эксперт
41792 / 34177 / 6122
Регистрация: 12.04.2006
Сообщений: 57,940
02.07.2010, 13:51     Как именно округляются float и double?
Посмотрите здесь:

C++ как победить Double? Float?
float double int C++
Почему точность Double такая же как у Float ? C++
C++ Как сделать в конструкциий switch, чтобы он считал норм float и double
C++ Как проверить вводилось ли число (типа double или float) в консоль
Как преобразовать все int,float,double в строки LPWSTR, LPCTSTR C++
C++ Как мне программу с int переделать в Float i double?
Преобразовать 2 числа int в 1 число float(double) | double int1.int2 C++

Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
После регистрации реклама в сообщениях будет скрыта и будут доступны все возможности форума.
Evg
Эксперт С++Автор FAQ
 Аватар для Evg
16843 / 5264 / 323
Регистрация: 30.03.2009
Сообщений: 14,159
Записей в блоге: 26
02.07.2010, 15:18     Как именно округляются float и double? #2
Ответить чтобы было просто и одновременно понятно - сложно. Если не забуду, то вечером дома погляжу. Где-то была ссылка с доступным объянением. Я и сам всё порывался статью написать, но никак не доходили руки и никак не мог определиться, с какого конца начинать
Yandex
Объявления
02.07.2010, 15:18     Как именно округляются float и double?
Ответ Создать тему
Опции темы

Текущее время: 23:31. Часовой пояс GMT +3.
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin® Version 3.8.9
Copyright ©2000 - 2016, vBulletin Solutions, Inc.
Рейтинг@Mail.ru