|
3 / 3 / 2
Регистрация: 24.05.2010
Сообщений: 56
|
||||||
Погрешность при выполнении операций с вещественными числами22.03.2011, 12:38. Показов 13683. Ответов 7
Метки нет (Все метки)
вот в ходе изучения…назрел еще один вопросик)
2.39 * 5 с каких это пор оно стало равно о_О 11.950000000000001 ? и как после этого верить программам))? наверное все знают что php иногда плох в математике…но java…настолько хорошая и всеми хваленая… ну это еще не все…раньше тип бил double потом решил float использовать…результат уже не удивил(11.950001), но назрел другой вопрос…ну вот написал примером
0
|
||||||
| 22.03.2011, 12:38 | |
|
Ответы с готовыми решениями:
7
Разработать DLL для исследования операций сравнения при работе с целыми и вещественными числами Устранить округление при выполнении арифметических операций над числами Реализация арифметических операций над вещественными числами |
|
8384 / 3617 / 419
Регистрация: 03.07.2009
Сообщений: 10,709
|
|||||||||
| 22.03.2011, 13:41 | |||||||||
|
К вашему сведению, такая проблема существует не только в Java, она есть также и во всех остальных языках программирования и фраза По умолчанию все вещественные числа в Java - это double, поэтому нет ничего странного в этом сообщении. Вы можете явно указать, что хотите использовать float добавив в конце f, т.е.
По поводу
1
|
|||||||||
|
2000 / 1427 / 92
Регистрация: 25.11.2010
Сообщений: 3,611
|
|||||||
| 22.03.2011, 14:40 | |||||||
1
|
|||||||
|
3 / 3 / 2
Регистрация: 24.05.2010
Сообщений: 56
|
|||||
| 22.03.2011, 15:05 [ТС] | |||||
|
в с++ с такими числами не было таких проблем, даже в c# который какбы на равне с java… а за остальное спасибо.
0
|
|||||
|
2000 / 1427 / 92
Регистрация: 25.11.2010
Сообщений: 3,611
|
||||||||
| 22.03.2011, 15:33 | ||||||||
2. Использование BigDecimal для точных расчетов. При работе с вещественными числами нужно просто учитывать границы применимости данных методов.
0
|
||||||||
|
3 / 3 / 2
Регистрация: 24.05.2010
Сообщений: 56
|
||
| 22.03.2011, 15:45 [ТС] | ||
0
|
||
|
2000 / 1427 / 92
Регистрация: 25.11.2010
Сообщений: 3,611
|
|
| 22.03.2011, 16:40 | |
|
Не могли. Вещественные числа обрабатываются процессором, вернее, его FPU. Соответственно, они ограничены стандартом IEEE 754. А BigDecimal держит отдельно мантиссу произвольной длины и отдельно - степень. Фактически, он с дробными не работает, он их эмулирует.
0
|
|
|
17 / 5 / 0
Регистрация: 16.04.2016
Сообщений: 344
|
|
| 12.11.2016, 21:41 | |
|
Всех приветствую. А что делать,если библиотеки используют тип double,но хочется получить результат поточнее. Например библиотека xp4j для распознавания математических выражений.
0
|
|
| 12.11.2016, 21:41 | |
|
Помогаю со студенческими работами здесь
8
Разработать электронный калькулятор для операций над вещественными числами
Класс MyMath обеспечивающий выполнение операций сравнения над двумя вещественными числами
Разработать класс MyMath, обеспечивающий выполнение операций сравнения над двумя вещественными числами Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |
|
Новые блоги и статьи
|
|||
|
AkelPad-скрипты, структуры, и немного лирики..
testuser2 05.04.2026
Такая программа, как AkelPad существует уже давно, и также давно существуют скрипты под нее. Тем не менее, прога живет, периодически что-то не спеша дополняется, улучшается. Что меня в первую очередь. . .
|
Отображение реквизитов в документе по условию и контроль их заполнения
Maks 04.04.2026
Алгоритм из решения ниже реализован на примере нетипового документа "ПланированиеСпецтехники", разработанного в конфигурации КА2.
Данный документ берёт данные из другого нетипового документа. . .
|
Фото всей Земли с борта корабля Orion миссии Artemis II
kumehtar 04.04.2026
Это первое подобное фото сделанное человеком за 50 лет. Снимок называют новым вариантом легендарной фотографии «The Blue Marble» 1972 года, сделанной с борта корабля «Аполлон-17». Новое фото. . .
|
Вывод диалогового окна перед закрытием, если документ не проведён
Maks 04.04.2026
Алгоритм из решения ниже реализован на примере нетипового документа "СписаниеМатериалов", разработанного в конфигурации КА2.
Задача: реализовать программный контроль на предмет проведения документа. . .
|
|
Программный контроль заполнения реквизитов табличной части документа
Maks 02.04.2026
Алгоритм из решения ниже реализован на примере нетипового документа "СписаниеМатериалов", разработанного в конфигурации КА2.
Задача:
1. Реализовать контроль заполнения реквизита. . .
|
wmic не является внутренней или внешней командой
Maks 02.04.2026
Решение:
DISM / Online / Add-Capability / CapabilityName:WMIC~~~~
Отсюда: https:/ / winitpro. ru/ index. php/ 2025/ 02/ 14/ komanda-wmic-ne-naydena/
|
Программная установка даты и запрет ее изменения
Maks 02.04.2026
Алгоритм из решения ниже реализован на примере нетипового документа "СписаниеМатериалов", разработанного в конфигурации КА2.
Задача: при создании документов установить период списания автоматически. . .
|
Вывод данных в справочнике через динамический список
Maks 01.04.2026
Реализация из решения ниже выполнена на примере нетипового справочника "Спецтехника" разработанного в конфигурации КА2.
Задача: вывести данные из ТЧ нетипового документа. . .
|