Форум программистов, компьютерный форум, киберфорум
VBA
Войти
Регистрация
Восстановить пароль
 
Рейтинг 4.71/7: Рейтинг темы: голосов - 7, средняя оценка - 4.71
5464 / 1144 / 50
Регистрация: 15.09.2012
Сообщений: 3,454
1

Как правильно применить при вычислениях тип данных Double

28.10.2012, 15:38. Показов 1377. Ответов 4
Метки нет (Все метки)

Вот цитата из справки по типу данных Double:
Переменные типа Double хранятся как 64-разрядные (8-байтные) IEEE-числа двойной точности с плавающей запятой и знаком, которые изменяются в диапазоне от -1,79769313486231570E+308 до -4,94065645841246544E-324 для отрицательных значений и от 4,94065645841246544E-324 до 1,79769313486231570E+308 для положительных.Числа двойной точности сохраняют приближенные значения действительных чисел.

Интересует вот этот фрагмент:
которые изменяются в диапазоне от -1,79769313486231570E+308 до -4,94065645841246544E-324

Как понять число:
-4,94065645841246544E-324
если максимальное число знаков после запятой: 15.
Если разделить -4,94065645841246544 на 10^324, то не будет 15 знаков после запятой.
0
Programming
Эксперт
94731 / 64177 / 26122
Регистрация: 12.04.2006
Сообщений: 116,782
28.10.2012, 15:38
Ответы с готовыми решениями:

Тип данных при вычислениях с деньгами
Здравствуйте! Перерыта куча вариантов ответа, но единственно верный не найден. Помогите,...

Ссылочный тип в конструкторе, как применить правильно?
Пишу калькулятор для одной группы в ВК, сейчас занялся прописыванием "оружия". Задумка проста,...

Как правильно организовать цикл при вычислениях
Имеется формула: Условие первой точки: \varepsilon c1:=15*{10}^{-5} \varepsilon c2:=0...

Как правильно число в ячейке типа string, перекинуть в ячейку в тип double ?
Cуть вопроса описанна в теме. Может не правильно объяснил, но всё же, вот пример: #include...

4
призрак
3261 / 888 / 119
Регистрация: 11.05.2012
Сообщений: 1,702
Записей в блоге: 2
28.10.2012, 16:10 2
зачем делить?
"знаки после запятой" - это относится к кол-ву знаков в мантиссе числа.
причем целая часть мантиссы должна находиться в диапазоне от 0 до 9.
1
Модератор
Эксперт функциональных языков программированияЭксперт Python
30428 / 16804 / 3456
Регистрация: 12.02.2012
Сообщений: 28,140
Записей в блоге: 5
28.10.2012, 16:43 3
Цитата Сообщение от Скрипт Посмотреть сообщение
если максимальное число знаков после запятой: 15.
- так уже не говорят... Правильно говорить "столько-то значащих цифр"
0
5464 / 1144 / 50
Регистрация: 15.09.2012
Сообщений: 3,454
28.10.2012, 16:50  [ТС] 4
Цитата Сообщение от ikki Посмотреть сообщение
зачем делить?
запись числа в экспоненциальном виде показывает, на сколько надо умножить или разделить число, чтобы узнать, что это за число.
0
Модератор
Эксперт функциональных языков программированияЭксперт Python
30428 / 16804 / 3456
Регистрация: 12.02.2012
Сообщений: 28,140
Записей в блоге: 5
28.10.2012, 16:56 5
Цитата Сообщение от Скрипт Посмотреть сообщение
апись числа в экспоненциальном виде показывает, на сколько надо умножить или разделить число, чтобы узнать, что это за число.
- когда делишь нормализованное число на степень 10, значащие цифры не меняются

В числах 123=0.123E3, 0.123=0.123E0 и 0.000123=0.123E-3 значащие цифры одни и те же
1
IT_Exp
Эксперт
87844 / 49110 / 22898
Регистрация: 17.06.2006
Сообщений: 92,604
28.10.2012, 16:56

Ошибки error C2296: -: недопустимо, левый операнд имеет тип "double (__cdecl *)(double,double,double
Думаю из-за polp #include<iostream> #include<cmath> #include<cstdlib> using namespace std;...

Как выводить в Edit тип данных Double ?
Всем доброго вечера. Написал программу формулу для расчета вот код программы (кнопки): void...

Цикл for и тип double. Переменная округляется, хотя объявлена как Double
using System; class zada4ka_5_32 { static void Main() { int n; ...

Как правильно указать в Sql запросе логический тип данных и тип "Дата время"?
Как правильно указывать в sql запросе логический тип и тип "дата время"? К примеру, запрос...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
5
Ответ Создать тему
Опции темы

КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2022, CyberForum.ru