212 / 210 / 137
Регистрация: 21.12.2015
Сообщений: 545
|
||||||
1 | ||||||
Потеря данных?18.07.2016, 16:24. Показов 3775. Ответов 11
Метки нет (Все метки)
Скорее всего это не потеря данных, просто не знал как по-другому назвать.
Число равно 10.124\\норма Целая часть числа равна 10\\все ок Дробная часть числа равна 0.124000000000001\\???
0
|
18.07.2016, 16:24 | |
Ответы с готовыми решениями:
11
Потеря данных при парсинге WebClient.DownloadFileAsync и потеря данных (скачивание картинок с сервера) Потеря точности в double Потеря точности с double |
13 / 13 / 4
Регистрация: 04.07.2016
Сообщений: 47
|
|
18.07.2016, 16:31 | 2 |
TuM0xA, скорее всего это из-за особенности хранения дробных чисел в памяти компьютера
Добавлено через 27 секунд То есть вещественных
1
|
484 / 397 / 68
Регистрация: 14.02.2014
Сообщений: 1,930
|
|
18.07.2016, 16:38 | 3 |
TuM0xA, это особенность типа
double . С точностью у него проблемы. Из-за этого, кстати, для работы с финансовыми данными вместо него НАСТОЙЧИВО рекомендуется decimal .
1
|
2806 / 1676 / 884
Регистрация: 14.04.2015
Сообщений: 5,717
|
|
18.07.2016, 16:40 | 4 |
о чем речь вообще?
10.124 - это константа, а 0.124000000000000000001 - это результат типа double, у которого после запятой помещается до 15 знаков. или я что-то не понимаю, объясните.
0
|
212 / 210 / 137
Регистрация: 21.12.2015
Сообщений: 545
|
|
18.07.2016, 17:03 [ТС] | 5 |
У числа с плавающей точкой 10.124 целая часть равна 10, а дробная 0.124 соответственно.Моя простая програмка должна была это показать, но вместо 0.124 она показала 0.124000000000001.Откуда взялась эта 0.000000000000001? Это мой косяк или косяк типа данных?
0
|
13 / 13 / 4
Регистрация: 04.07.2016
Сообщений: 47
|
|
18.07.2016, 17:12 | 6 |
TuM0xA, грубо говоря, косяк данных. На самом деле не косяк, а особенность.
Добавлено через 2 минуты Вещественное число хранится в памяти компьютера особым образом, что порою приводит к неточностям.
0
|
13 / 13 / 4
Регистрация: 04.07.2016
Сообщений: 47
|
|
18.07.2016, 18:05 | 8 |
EveKS, а у типа float разве не теряется точность? (Мне правда интересно).
0
|
601 / 485 / 185
Регистрация: 19.04.2016
Сообщений: 1,885
|
|
18.07.2016, 18:54 | 9 |
Как-то абстрактно.
О написанном мной -- такой ответ, касался бы конкретного вопроса, а статья позволит автору понять почему.
0
|
13 / 13 / 4
Регистрация: 04.07.2016
Сообщений: 47
|
|
18.07.2016, 19:01 | 10 |
EveKS, в общем то верно говорите только, думаю, надо было статью на русском (хотя опять же мотивация учить английский), ввиду молодого возраста создателя темы
0
|
18.07.2016, 19:54 | 11 |
На русском: http://www.softelectro.ru/ieee754.html
1
|
2806 / 1676 / 884
Регистрация: 14.04.2015
Сообщений: 5,717
|
||||||
19.07.2016, 08:48 | 12 | |||||
TuM0xA, можешь использовать вывод такого типа, для отображения числа нужной длинны
2
|
19.07.2016, 08:48 | |
19.07.2016, 08:48 | |
Помогаю со студенческими работами здесь
12
Потеря значений в массиве double Потеря точности в Double.ToString() Арифметическая потеря значимости. Как отследить? Потеря точности при преобразовании типов Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |