Форум программистов, компьютерный форум, киберфорум
Java
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.75/4: Рейтинг темы: голосов - 4, средняя оценка - 4.75
38 / 38 / 11
Регистрация: 21.05.2013
Сообщений: 128

Специфика отображения Floating point в консоли

13.07.2013, 17:25. Показов 817. Ответов 2
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Java
1
2
3
4
5
6
7
8
        double f1 = 0.1;
        f1 = f1 + f1 + f1;
        System.out.println(f1);
        System.out.println(new BigDecimal(f1));
 
         double f2 = 0.7;
         System.out.println(f2);
         System.out.println(new BigDecimal(f2));
У меня выводится как:
Java
1
2
3
4
0.30000000000000004
0.3000000000000000444089209850062616169452667236328125
0.7
0.6999999999999999555910790149937383830547332763671875
Кто-нибудь может объяснить почему во втором случае выводит 0.7 а не 0.69999999999999995? Как я понимаю он округляет, но по какому правилу?
0
cpp_developer
Эксперт
20123 / 5690 / 1417
Регистрация: 09.04.2010
Сообщений: 22,546
Блог
13.07.2013, 17:25
Ответы с готовыми решениями:

is not floating point value
делаю калькулятор, хочу, чтобы в Edit1 выводились все мои действия в таком формате: "1+2", затем результат после нажатия на...

Is not a floating point value
Всем привет, прошу помощь в следующем коде в делфи, у меня уже крыша едет видает ошибку is not a floating point value, я пробовал менять но...

Floating point value
вот часть кода begin html:=IdHTTP1.Get('http://m.rate.mail.ru/'); Delete(html,1,pos('<a href="currency?charcode=USD" title="Курс...

2
 Аватар для verylazy
462 / 462 / 71
Регистрация: 26.02.2013
Сообщений: 1,263
13.07.2013, 18:55
даю наводку
Java
1
2
3
4
5
6
7
8
9
10
{
    public static void main(String[] args)
    {
        double f2 = 0.7;
        BigDecimal bd = (new BigDecimal(f2,MathContext.DECIMAL128));
        System.out.println(bd);
        BigDecimal bdd = (new BigDecimal(f2,MathContext.DECIMAL64));
        System.out.println(bdd);
    }
}
Bash
1
2
0.6999999999999999555910790149937384
0.7000000000000000
1
 Аватар для AckiyBolt
653 / 402 / 35
Регистрация: 19.02.2013
Сообщений: 1,072
Записей в блоге: 2
13.07.2013, 18:56
это магия дробных чисел в джаве
при инициализации число всегда выглядит адекватно (третий принтлн), после операций - нет (первый принтлн).
при четвертом случае имеет место приведение типов (точнее операция на это похожая) от чего число коцается

если вам важна точность - юзайте сугубо BigDecimal
1
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
raxper
Эксперт
30234 / 6612 / 1498
Регистрация: 28.12.2010
Сообщений: 21,154
Блог
13.07.2013, 18:56
Помогаю со студенческими работами здесь

Floating point division by zero
Вечер добрый, обращался с этой проблемой, но так и не разобрался. На пункте "Определение потерь давления между ступенями" идет ошибка....

floating point error
int i = 124; int j = 0; "c" и "y" это float с диапазоном от 1 до 2; x это long double от 0.01 до 100; tempsum - long double; cr -...

Illegal use of floating point
#include <stdio.h> float factorial (int); float f (float); void main() {int a; float y; puts("vvedite a="); scanf("%i",&a); ...

Floating point overflow
Добрый день. Такая вот проблема при написании программы в Borland Pascal 7.0. Необходимо решить дифференциальное уравнение и затем...

Is not a valid floating point value
CMatrix::CMatrix(CMatrix &matr) { for (int i=0; i<m_nRow; i++) { delete pfMatrix; } delete pfMatrix; m_nRow =...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
3
Ответ Создать тему
Новые блоги и статьи
Отправка уведомления на почту при изменении наименования справочника
Maks 24.03.2026
Программная отправка письма электронной почты на примере изменения наименования справочника "Склады" в конфигурации БП3. Перед реализацией необходимо выполнить настройку системной учетной записи. . .
модель ЗдравоСохранения 5. Меньше увольнений- больше дохода!
anaschu 24.03.2026
Теперь система здравосохранения уменьшает количество увольнений. 9TO2GP2bpX4 a42b81fb172ffc12ca589c7898261ccb/ https:/ / rutube. ru/ video/ a42b81fb172ffc12ca589c7898261ccb/ Слева синяя линия -. . .
Midnight Chicago Blues
kumehtar 24.03.2026
Такой Midnight Chicago Blues, знаешь?. . Когда вечерние улицы становятся ночными, а ты не можешь уснуть. Ты идёшь в любимый старый бар, и бармен наливает тебе виски. Ты смотришь на пролетающие. . .
Контроль уникальности заводского номера - вариант №2
Maks 24.03.2026
В отличие от предыдущего варианта добавлено прерывание циклов, также добавлены новые переменные для сохранения контекста ошибки перед прерыванием цикла: Процедура ПередЗаписью(Отказ, РежимЗаписи,. . .
SDL3 для Desktop (MinGW): Вывод текста со шрифтом TTF с помощью библиотеки SDL3_ttf на Си и C++
8Observer8 24.03.2026
Содержание блога Финальные проекты на Си и на C++: finish-text-sdl3-c. zip finish-text-sdl3-cpp. zip
Жизнь в неопределённости
kumehtar 23.03.2026
Жизнь — это постоянное существование в неопределённости. Например, даже если у тебя есть список дел, невозможно дойти до точки, где всё окончательно завершено и больше ничего не осталось. В принципе,. . .
Модель здравоСохранения: работники работают быстрее после её введения.
anaschu 23.03.2026
geJalZw1fLo Корпорация до введения программа здравоохранения имела много невыполненных работниками заданий, после введения программы количество заданий выросло. Но на выплатах по больничным это. . .
Контроль уникальности заводского номера - вариант №1
Maks 23.03.2026
Алгоритм контроля уникальности заводского (или серийного) номера на примере документа выдачи шин для спецтехники с табличной частью в конфигурации КА2. Данные берутся из регистра сведений, по. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru