Форум программистов, компьютерный форум CyberForum.ru
Наши страницы

Программирование Android

Войти
Регистрация
Восстановить пароль
 
Ametistos
0 / 0 / 0
Регистрация: 23.02.2013
Сообщений: 37
#1

Работа с числами типа double - Программирование Android

23.09.2013, 16:18. Просмотров 538. Ответов 2
Метки нет (Все метки)

еть два числа типа double: a=0.0001, b=500

при делении a/b=2.00000000000000002E-7, вопрос откуда лишняя двойка? и как от нее избавиться?

далее в коде (код не я писал) используется такая конструкция value =
BigDecimal.valueOf(val)
.setScale(precision, RoundingMode.HALF_UP).doubleValue();

где val наш результат деления. я так подозреваю это должно было решить проблему но почемуто не решило.. подскажите что почитать по этому поводу?
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
Similar
Эксперт
41792 / 34177 / 6122
Регистрация: 12.04.2006
Сообщений: 57,940
23.09.2013, 16:18
Здравствуйте! Я подобрал для вас темы с ответами на вопрос Работа с числами типа double (Программирование Android):

Сортировка массива с числами типа double - C++
Привет. Написал прогу подчитывающую кол-во одинаковых символов в тексте. И посчитал вероятность их появления. А упорядочить вероятности в...

Как работать с числами типа long double - C (СИ)
Возникает проблема при использовании типа long double при написании программы на Си. Ответом на каждую задачу являются просто нули....

заполнение массива числами типа double с шагом - C#
Скажите пожалуйста как заполнить массив числами типа double от 0 до 4 с шагом 0.16, в этом примере выводит все элементы массива=4. ...

Как сгенерировать случайное число типа я double имея на входе 2 числа типа double - минимальное и максимальное - C#
Например: public class ExtendedRandom : Random { public ExtendedRandom() : base() { ...

Создать структуру включающую в себя константу типа double, закрытое поле типа double - C#
Помогите пожалуйста с заданием, создать структуру включающую в себя константу типа double, закрытое поле типа double, которому при...

Аргумент типа double несовместим с параметром типа double - C++
#include <iostream> #include <cmath> #include <math.h> using namespace std; #define c 40 #define n 5 double po(double...

2
haribo
41 / 41 / 3
Регистрация: 26.05.2013
Сообщений: 160
23.09.2013, 16:23 #2
double и float имеют определенный класс точности. точность типа float может занимать 2 бита, точноть double в два раза больше, то есть 4 бита.
Это примерно 7 знаков после запятой.
При делении a/b точность нужна явно больше чем 7 знаков после запятой, то есть происходит округление, отсюда двойка.

Используется тип данных с большей точностью.

Если я конечно правильно понял ваш вопрос.
1
Netscape
373 / 360 / 48
Регистрация: 02.10.2009
Сообщений: 712
Записей в блоге: 4
23.09.2013, 16:56 #3
http://articles.org.ru/docum/java/gl4/gl4.php#5
1
MoreAnswers
Эксперт
37091 / 29110 / 5898
Регистрация: 17.06.2006
Сообщений: 43,301
23.09.2013, 16:56
Привет! Вот еще темы с ответами:

Аргумент типа double несовместим с параметром типа double* - C++
Функция function должна возвращать количество элементов массива, значение которые превышает значение средне арифметического элементов...

Обеспечить операторы преобразования матрицы к типу double[] и наоборот - от типа double[] к матрице - C#
Здравствуйте. Выполняю лабораторную работу, по заданию которой необходимо создать класс "Матрица" со всякими там "наворотами". ...

Какой спецификатор использовать для корректного вывода типа данных double и long double - C (СИ)
Подскажите пожалуйста, какой спецификатор использовать для корректного вывода типа данных double и long double. printf(" float min:...

функция принимает два параметра типа double и возвращает значение типа double - C++
Напишите функцию, которая принимает два параметра типа double и возвращает значение типа double, содержащее их минимум....


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
3
Ответ Создать тему
Опции темы

КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin® Version 3.8.9
Copyright ©2000 - 2017, vBulletin Solutions, Inc.
Рейтинг@Mail.ru