|
10 / 10 / 2
Регистрация: 09.08.2010
Сообщений: 321
|
||||||
Ошибка округления при использовании float или double22.11.2017, 21:32. Показов 3996. Ответов 3
Метки нет (Все метки)
Да-да, избитая тема. Понятно, что любое нецелое число может быть представленно в современных компьютерах только с определенной точностью. Но как просто и коротко объяснить, почему в данном случае переменная r примет значение false, а не true, как, возможно ожидалось бы.
Указывая явно f и присваивая числа переменным double -- значит ли это, что если я явно указываю после числа постфикс f, то это число принимается размером в 32 бита, где 1 бит - это знакоовый бит, 23 бита - значимая часть числа и 8 бит - экспонента И полностью помещается в double, размер которого 64 бита. Если же я указываю явно d (или не указываю ничего), то число в памяти компьютера представляется длинной во все свои 64 бита и точно также на каком-то этапе не помещается в эти 64 бита и происходит ошибка округления?
0
|
||||||
| 22.11.2017, 21:32 | |
|
Ответы с готовыми решениями:
3
Из String в Double или float Перевод строки в double или float целая часть float или double |
|
3639 / 2971 / 918
Регистрация: 05.07.2013
Сообщений: 14,220
|
|
| 22.11.2017, 22:24 | |
|
тебя как правило не интересуют все знаки после запятой, достаточно например 3. Т.о. для сравнения достаточно проверить, что разность чисел будет меньше 0.001, например
0
|
|
|
10 / 10 / 2
Регистрация: 09.08.2010
Сообщений: 321
|
|
| 22.11.2017, 23:04 [ТС] | |
|
А как объяснить то, почему происходят такие ошибки? Почему, если расставить скобки, например, так: double d3 = d1 + (d2 + d2 + d2 + d2), то результат будет верным?
0
|
|
|
3639 / 2971 / 918
Регистрация: 05.07.2013
Сообщений: 14,220
|
|
| 22.11.2017, 23:22 | |
|
ты можешь попробовать перевести даблы в двоичную систему и руками сложить, если тебе очень хочется понять, как это работает, и почему это именно так
0
|
|
| 22.11.2017, 23:22 | |
|
Помогаю со студенческими работами здесь
4
2-ичное представление числа типа double или float?
Как сменить тип с int на double или float в MFC? Как проверить вводилось ли число (типа double или float) в консоль Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |
|
Новые блоги и статьи
|
|||
|
SDL3 для Web (WebAssembly): Обработчик клика мыши в браузере ПК и касания экрана в браузере на мобильном устройстве
8Observer8 02.02.2026
Содержание блога
Для начала пошагово создадим рабочий пример для подготовки к экспериментам в браузере ПК и в браузере мобильного устройства. Потом напишем обработчик клика мыши и обработчик. . .
|
Философия технологии
iceja 01.02.2026
На мой взгляд у человека в технических проектах остается роль генерального директора. Все остальное нейронки делают уже лучше человека. Они не могут нести предпринимательские риски, не могут. . .
|
SDL3 для Web (WebAssembly): Вывод текста со шрифтом TTF с помощью SDL3_ttf
8Observer8 01.02.2026
Содержание блога
В этой пошаговой инструкции создадим с нуля веб-приложение, которое выводит текст в окне браузера. Запустим на Android на локальном сервере. Загрузим Release на бесплатный. . .
|
SDL3 для Web (WebAssembly): Сборка C/C++ проекта из консоли
8Observer8 30.01.2026
Содержание блога
Если вы откроете примеры для начинающих на официальном репозитории SDL3 в папке: examples, то вы увидите, что все примеры используют следующие четыре обязательные функции, а. . .
|
|
SDL3 для Web (WebAssembly): Установка Emscripten SDK (emsdk) и CMake для сборки C и C++ приложений в Wasm
8Observer8 30.01.2026
Содержание блога
Для того чтобы скачать Emscripten SDK (emsdk) необходимо сначало скачать и уставить Git: Install for Windows. Следуйте стандартной процедуре установки Git через установщик. . . .
|
SDL3 для Android: Подключение Box2D v3, физика и отрисовка коллайдеров
8Observer8 29.01.2026
Содержание блога
Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами. Версия v3 была полностью переписана на Си, в. . .
|
Инструменты COM: Сохранение данный из VARIANT в файл и загрузка из файла в VARIANT
bedvit 28.01.2026
Сохранение базовых типов COM и массивов (одномерных или двухмерных) любой вложенности (деревья) в файл, с возможностью выбора алгоритмов сжатия и шифрования.
Часть библиотеки BedvitCOM
Использованы. . .
|
SDL3 для Android: Загрузка PNG с альфа-каналом с помощью SDL_LoadPNG (без SDL3_image)
8Observer8 28.01.2026
Содержание блога
SDL3 имеет собственные средства для загрузки и отображения PNG-файлов с альфа-каналом и базовой работы с ними. В этой инструкции используется функция SDL_LoadPNG(), которая. . .
|