|
0 / 0 / 1
Регистрация: 01.04.2015
Сообщений: 65
|
||||||
Вычитание двух чисел с плавающей точкой откуда остаток15.01.2018, 16:49. Показов 4578. Ответов 9
Метки нет (Все метки)
Доброго времени суток!
От клиента приходит число например 0.02 ($qty); В DB есть 2 записи 0.005 ($incoming_old->qty) и 0.0015 (что в сумме 0.2); Логика заключается в том что мы подымаем первую запись смотрим у нее число ( = 0.005), выполняем формулу
0.0015 = 0.02 - 0.005; А вот на второй начинается magic: 0.0015 = 0.02 - 0.005; 8.6......E-19 = 0.0015 - 0.0015 Что только не пытался сделать, если ставлю проверку на равенство пишет true; Если руками посчитать 0.0015 - 0.0015 = 0; PHP 7.0.22
0
|
||||||
| 15.01.2018, 16:49 | |
|
Ответы с готовыми решениями:
9
Особенности представления чисел с плавающей точкой Сравнение чисел с плавающей точкой выдают неожиданный результат Число с плавающей точкой |
|
34 / 11 / 6
Регистрация: 09.01.2018
Сообщений: 189
|
|
| 15.01.2018, 17:01 | |
|
Не экономьте на символах.
echo (0.02-0.015-0.005); // 8.673617379884E-19 Операции с плавающей точкой не надежны из-за особенностей работы процессоров. Самый простой пример можно в браузере вычислить 0.2+0.7= 0.8999999999999999 Просто округлите до нужной точности с помощью round() (хотя у меня было что и округление не помогало, но случилось лишь раз в жизни)
0
|
|
|
4925 / 3920 / 1620
Регистрация: 24.04.2014
Сообщений: 11,441
|
|||
| 15.01.2018, 22:13 | |||
|a - b| < e, e - желаемая точностьhttps://habrahabr.ru/post/112953/
0
|
|||
|
34 / 11 / 6
Регистрация: 09.01.2018
Сообщений: 189
|
|||
| 16.01.2018, 02:33 | |||
|
0
|
|||
|
4925 / 3920 / 1620
Регистрация: 24.04.2014
Сообщений: 11,441
|
|
| 16.01.2018, 02:55 | |
|
0
|
|
|
34 / 11 / 6
Регистрация: 09.01.2018
Сообщений: 189
|
|||
| 16.01.2018, 07:03 | |||
|
Пример из статьи: 1,01e-3 = 1×2^-3 + 0×2^-4 + 1×2^-5 = 1×0,125 + 0×0,0625 + 1×0,03125 = 0,125 + 0,03125 = 0,15625 То есть оно складывается 1/8 + 0/16 + 1/32. Если брать десятичную систему то число 0,15625=0*10^0 + 1*10^-1-1 + 5*10^-2 + 6*10^3 + 2*10^-4 + 5*10^-5 или понятней 0,15625=0+1/10+5/100+6/1000+2/10000+5/100000 И если в десятичной системе можно точно записать вот такими степенями 10-ки, то в двоичной системе эти приближения к единице заканчиваются гораздо быстрее х/2+х/4+х/8+х/16... и в итоге получается число приблизительное (сколько влезло). И в результате вычисления остается вот эта приблизительная разница. echo round(0.02-0.015-0.005,8); // == 0
1
|
|||
|
0 / 0 / 1
Регистрация: 01.04.2015
Сообщений: 65
|
|
| 16.01.2018, 11:36 [ТС] | |
|
Благодарю за развернутые разъяснения
0
|
|
|
4925 / 3920 / 1620
Регистрация: 24.04.2014
Сообщений: 11,441
|
||||
| 16.01.2018, 21:45 | ||||
|
0
|
||||
|
34 / 11 / 6
Регистрация: 09.01.2018
Сообщений: 189
|
||
| 17.01.2018, 05:11 | ||
|
echo (0.02-0.015-0.005); // 8.673617379884E-19
0
|
||
| 17.01.2018, 09:45 | |
|
0
|
|
| 17.01.2018, 09:45 | |
|
Помогаю со студенческими работами здесь
10
Регулярное выражение - число с плавающей точкой Сложение и вычитание чисел с плавающей точкой Вычитание чисел с плавающей точкой в прямом коде
Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |
|
Новые блоги и статьи
|
|||
|
Загрузка PNG-файла с альфа-каналом с помощью библиотеки SDL3_image на Android
8Observer8 27.01.2026
Содержание блога
SDL3_image - это библиотека для загрузки и работы с изображениями. Эта пошаговая инструкция покажет, как загрузить и вывести на экран смартфона картинку с альфа-каналом, то есть с. . .
|
влияние грибов на сукцессию
anaschu 26.01.2026
Бифуркационные изменения массы гриба происходят тогда, когда мы уменьшаем массу компоста в 10 раз, а скорость прироста биомассы уменьшаем в три раза. Скорость прироста биомассы может уменьшаться за. . .
|
Воспроизведение звукового файла с помощью SDL3_mixer при касании экрана Android
8Observer8 26.01.2026
Содержание блога
SDL3_mixer - это библиотека я для воспроизведения аудио. В отличие от инструкции по добавлению текста код по проигрыванию звука уже содержится в шаблоне примера. Нужно только. . .
|
Установка Android SDK, NDK, JDK, CMake и т.д.
8Observer8 25.01.2026
Содержание блога
Перейдите по ссылке: https:/ / developer. android. com/ studio и в самом низу страницы кликните по архиву "commandlinetools-win-xxxxxx_latest. zip"
Извлеките архив и вы увидите. . .
|
|
Вывод текста со шрифтом TTF на Android с помощью библиотеки SDL3_ttf
8Observer8 25.01.2026
Содержание блога
Если у вас не установлены Android SDK, NDK, JDK, и т. д. то сделайте это по следующей инструкции: Установка Android SDK, NDK, JDK, CMake и т. д.
Сборка примера
Скачайте. . .
|
Использование SDL3-callbacks вместо функции main() на Android, Desktop и WebAssembly
8Observer8 24.01.2026
Содержание блога
Если вы откроете примеры для начинающих на официальном репозитории SDL3 в папке: examples, то вы увидите, что все примеры используют следующие четыре обязательные функции, а. . .
|
моя боль
iceja 24.01.2026
Выложила интерполяцию кубическими сплайнами www. iceja. net
REST сервисы временно не работают, только через Web.
Написала за 56 рабочих часов этот сайт с нуля. При помощи perplexity. ai PRO , при. . .
|
Модель сукцессии микоризы
anaschu 24.01.2026
Решили писать научную статью с неким РОманом
|