Форум программистов, компьютерный форум CyberForum.ru

Работа с числами типа double - Android

Восстановить пароль Регистрация
 
Ametistos
0 / 0 / 0
Регистрация: 23.02.2013
Сообщений: 37
23.09.2013, 16:18     Работа с числами типа double #1
еть два числа типа double: a=0.0001, b=500

при делении a/b=2.00000000000000002E-7, вопрос откуда лишняя двойка? и как от нее избавиться?

далее в коде (код не я писал) используется такая конструкция value =
BigDecimal.valueOf(val)
.setScale(precision, RoundingMode.HALF_UP).doubleValue();

где val наш результат деления. я так подозреваю это должно было решить проблему но почемуто не решило.. подскажите что почитать по этому поводу?
Similar
Эксперт
41792 / 34177 / 6122
Регистрация: 12.04.2006
Сообщений: 57,940
23.09.2013, 16:18     Работа с числами типа double
Посмотрите здесь:

Android Список переменных типа String
Android Преобразование EditText в Double
Переменная типа Uri Android
Обмен числами между переменными Android
Проверить возможность приведения типа Android
Android Округлить double
Java.lang.NumberFormatException: Invalid double Android
Перевод double в byte[] Android
Что то типа навигации Android
Android Преобразование string в double
Android Ввод в edittext double
Android Можно ли ArrayList с числами сохранить в SharedPreferences?

Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
После регистрации реклама в сообщениях будет скрыта и будут доступны все возможности форума.
haribo
41 / 41 / 3
Регистрация: 26.05.2013
Сообщений: 160
23.09.2013, 16:23     Работа с числами типа double #2
double и float имеют определенный класс точности. точность типа float может занимать 2 бита, точноть double в два раза больше, то есть 4 бита.
Это примерно 7 знаков после запятой.
При делении a/b точность нужна явно больше чем 7 знаков после запятой, то есть происходит округление, отсюда двойка.

Используется тип данных с большей точностью.

Если я конечно правильно понял ваш вопрос.
Netscape
 Аватар для Netscape
371 / 358 / 48
Регистрация: 02.10.2009
Сообщений: 712
Записей в блоге: 4
23.09.2013, 16:56     Работа с числами типа double #3
http://articles.org.ru/docum/java/gl4/gl4.php#5
Yandex
Объявления
23.09.2013, 16:56     Работа с числами типа double
Ответ Создать тему
Опции темы

Текущее время: 21:28. Часовой пояс GMT +3.
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin® Version 3.8.9
Copyright ©2000 - 2017, vBulletin Solutions, Inc.
Рейтинг@Mail.ru