Форум программистов, компьютерный форум, киберфорум
Наши страницы
Программирование Android
Войти
Регистрация
Восстановить пароль
 
Рейтинг 4.75/4: Рейтинг темы: голосов - 4, средняя оценка - 4.75
Ametistos
0 / 0 / 0
Регистрация: 23.02.2013
Сообщений: 37
1

Работа с числами типа double

23.09.2013, 16:18. Просмотров 639. Ответов 2
Метки нет (Все метки)

еть два числа типа double: a=0.0001, b=500

при делении a/b=2.00000000000000002E-7, вопрос откуда лишняя двойка? и как от нее избавиться?

далее в коде (код не я писал) используется такая конструкция value =
BigDecimal.valueOf(val)
.setScale(precision, RoundingMode.HALF_UP).doubleValue();

где val наш результат деления. я так подозреваю это должно было решить проблему но почемуто не решило.. подскажите что почитать по этому поводу?
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
Similar
Эксперт
41792 / 34177 / 6122
Регистрация: 12.04.2006
Сообщений: 57,940
23.09.2013, 16:18
Ответы с готовыми решениями:

Сортировка массива с числами типа double
Привет. Написал прогу подчитывающую кол-во одинаковых символов в тексте. И...

Как работать с числами типа long double
Возникает проблема при использовании типа long double при написании программы...

заполнение массива числами типа double с шагом
Скажите пожалуйста как заполнить массив числами типа double от 0 до 4 с шагом...

Создание массива со случайными числами типа long и double
нужно создать и наполнить массив определенных размеров типа лонг и дабл,...

Нужно создать массив типа double и заполнить его псевдослучайными числами
Задание. С клавиатуры вводится число n - количество элементов массива. Нужно...

2
haribo
41 / 41 / 0
Регистрация: 26.05.2013
Сообщений: 160
23.09.2013, 16:23 2
double и float имеют определенный класс точности. точность типа float может занимать 2 бита, точноть double в два раза больше, то есть 4 бита.
Это примерно 7 знаков после запятой.
При делении a/b точность нужна явно больше чем 7 знаков после запятой, то есть происходит округление, отсюда двойка.

Используется тип данных с большей точностью.

Если я конечно правильно понял ваш вопрос.
1
Netscape
374 / 361 / 52
Регистрация: 02.10.2009
Сообщений: 712
Записей в блоге: 4
23.09.2013, 16:56 3
http://articles.org.ru/docum/java/gl4/gl4.php#5
1
MoreAnswers
Эксперт
37091 / 29110 / 5898
Регистрация: 17.06.2006
Сообщений: 43,301
23.09.2013, 16:56

Как сгенерировать случайное число типа я double имея на входе 2 числа типа double - минимальное и максимальное
Например: public class ExtendedRandom : Random { public...

Создать структуру включающую в себя константу типа double, закрытое поле типа double
Помогите пожалуйста с заданием, создать структуру включающую в себя константу...

Работа с переменными типа float и double
Приветствую всех форумчан. Я тут попытался реализовать программу, которая...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
3
Ответ Создать тему
Опции темы

КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin® Version 3.8.9
Copyright ©2000 - 2018, vBulletin Solutions, Inc.
Рейтинг@Mail.ru