Как (почему) происходят числовые вычисления?

@V0fka · Регистрация: 24.05.2010

Студворк — интернет-сервис помощи студентам

Привет!

Почему 1.2F / 0.2F = 6, а 1.2D / 0.2D = 5.9999999999999991?

Я ожидал, что и в первом и втором случае должно быть 6.

Вопроса 2:
1. Почему так происходит?
2. Как обезопасить себя от подобных приколов?

@Young Vu · 11.10.2018, 17:24

Сообщение от V0fka

1. Почему так происходит?

Что нужно знать про арифметику с плавающей запятой

Сообщение от V0fka

2. Как обезопасить себя от подобных приколов?

никак

@kolorotur · 11.10.2018, 17:59

Сообщение от V0fka

Как обезопасить себя от подобных приколов?

Если нужно избежать ошибок вычисления при работе с деньгами, то используйте тип decimal.

@V0fka · 12.10.2018, 12:33 **[ТС]**

Спасибо за ответы!

Новые блоги и статьи Все статьи Все блоги /
Загрузка PNG с альфа-каналом на SDL3 для Android: с помощью SDL_LoadPNG (без SDL3_image) 8Observer8 28.01.2026 Содержание блога SDL3 имеет собственные средства для загрузки и отображения PNG-файлов с альфа-каналом и базовой работы с ними. В этой инструкции используется функция SDL_LoadPNG(), которая. . .	Загрузка PNG с альфа-каналом на SDL3 для Android: с помощью SDL3_image 8Observer8 27.01.2026 Содержание блога SDL3_image - это библиотека для загрузки и работы с изображениями. Эта пошаговая инструкция покажет, как загрузить и вывести на экран смартфона картинку с альфа-каналом, то есть с. . .	влияние грибов на сукцессию anaschu 26.01.2026 Бифуркационные изменения массы гриба происходят тогда, когда мы уменьшаем массу компоста в 10 раз, а скорость прироста биомассы уменьшаем в три раза. Скорость прироста биомассы может уменьшаться за. . .	Воспроизведение звукового файла с помощью SDL3_mixer при касании экрана Android 8Observer8 26.01.2026 Содержание блога SDL3_mixer - это библиотека я для воспроизведения аудио. В отличие от инструкции по добавлению текста код по проигрыванию звука уже содержится в шаблоне примера. Нужно только. . .
Установка Android SDK, NDK, JDK, CMake и т.д. 8Observer8 25.01.2026 Содержание блога Перейдите по ссылке: https:/ / developer. android. com/ studio и в самом низу страницы кликните по архиву "commandlinetools-win-xxxxxx_latest. zip" Извлеките архив и вы увидите. . .	Вывод текста со шрифтом TTF на Android с помощью библиотеки SDL3_ttf 8Observer8 25.01.2026 Содержание блога Если у вас не установлены Android SDK, NDK, JDK, и т. д. то сделайте это по следующей инструкции: Установка Android SDK, NDK, JDK, CMake и т. д. Сборка примера Скачайте. . .	Использование SDL3-callbacks вместо функции main() на Android, Desktop и WebAssembly 8Observer8 24.01.2026 Содержание блога Если вы откроете примеры для начинающих на официальном репозитории SDL3 в папке: examples, то вы увидите, что все примеры используют следующие четыре обязательные функции, а. . .	моя боль iceja 24.01.2026 Выложила интерполяцию кубическими сплайнами www. iceja. net REST сервисы временно не работают, только через Web. Написала за 56 рабочих часов этот сайт с нуля. При помощи perplexity. ai PRO , при. . .

@V0fka 86 / 13 / 1 Регистрация: 24.05.2010 Сообщений: 590

	.NET 4.x Как (почему) происходят числовые вычисления? 11.10.2018, 16:45. Показов 533. Ответов 3 Метки нет (Все метки) Привет! Почему 1.2F / 0.2F = 6, а 1.2D / 0.2D = 5.9999999999999991? Я ожидал, что и в первом и втором случае должно быть 6. Вопроса 2: 1. Почему так происходит? 2. Как обезопасить себя от подобных приколов? 0

@V0fka 86 / 13 / 1 Регистрация: 24.05.2010 Сообщений: 590
	12.10.2018, 12:33 [ТС]
	Спасибо за ответы! 0