|
26 / 26 / 9
Регистрация: 25.05.2009
Сообщений: 98
|
||||||
преобразование типов10.06.2009, 02:44. Показов 3163. Ответов 14
Метки нет (Все метки)
Уважаемые специалисты, у меня имеется одна проблема. Есть два числа. double и float.
Надо из double вычесть float. Все бы хорошо, но проблема в следующем: при преобразовании float'а к double внутри функции float'овское число из 1.00010 становится, к примеру 1.0001000165939. А мне необходимо, чтобы оно был 1.0001000000000, т. е. чтобы та часть нового double, которая по точности "выше", чем точность float'a была заполнена 0. Говоря на примере:
Каким образом это сделать? Добавлено через 20 минут 50 секунд Хотя на самом деле мне нужно получить число |y_double-y_float| (y-одно и то же число, но с разной точностью). Возможно, для такого частного случая решение будет проще, чем для общего
0
|
||||||
| 10.06.2009, 02:44 | |
|
Ответы с готовыми решениями:
14
Преобразование типов Преобразование типов Преобразование типов |
|
14 / 10 / 1
Регистрация: 28.04.2009
Сообщений: 219
|
||||||
| 10.06.2009, 02:53 | ||||||
|
Не знаю, у меня фсё работает:
Чё за компилятор?
0
|
||||||
|
Заказ софта
343 / 188 / 21
Регистрация: 26.05.2009
Сообщений: 863
|
||||||
| 10.06.2009, 03:31 | ||||||
|
У меня тоже все нормально выдает. По всей видимости, у тебя не Вижуал Студия...
Можешь попробовать так написать:
0
|
||||||
|
26 / 26 / 9
Регистрация: 25.05.2009
Сообщений: 98
|
||||||
| 10.06.2009, 10:07 [ТС] | ||||||
|
хммм. У меня Visual С++ 6.0
Дело в том, что такая конструкция у меня работает, но: есть вычисления, в ходе которых я преобразовываю y_double в y_float. Т.е допустим -19586.671870135 становится -19586.7 (значения написаны по значениям watch'ей) Когда же я вычисляю y_double-y_float, то y_float при обратном повышении до double становится не -19586.700000000, а -19586.67187500. Получается, что либо он каким то образом "помнит" "хвост" double, либо у float точность выше, чем мне показывает при отладке, либо еще что-то. Вот мой код:
0
|
||||||
|
|
|
| 10.06.2009, 11:19 | |
|
Приведи код полность, потому как по словесному описанию проблема не совсем понятна. Почему при преобразовании из double а float число начинаем выглядеть немного по другому это понятно (Происходит потеря точности). Почему такое происходит при преобразовании в обратную сторону - непонятно (такого быть не должно)
0
|
|
|
26 / 26 / 9
Регистрация: 25.05.2009
Сообщений: 98
|
||||||
| 10.06.2009, 12:25 [ТС] | ||||||
|
ну... полный текст программы долог и нуден, поэтому покажу упрощенный вариант, который уже бажит:
0
|
||||||
|
Заказ софта
343 / 188 / 21
Регистрация: 26.05.2009
Сообщений: 863
|
|
| 10.06.2009, 12:32 | |
|
Это не баг - это фича))
0
|
|
|
2348 / 1721 / 149
Регистрация: 06.03.2009
Сообщений: 3,675
|
|||||||||||
| 10.06.2009, 12:39 | |||||||||||
|
А что если преобразование производить с помощью
Т.е.
1
|
|||||||||||
|
26 / 26 / 9
Регистрация: 25.05.2009
Сообщений: 98
|
|
| 10.06.2009, 12:48 [ТС] | |
|
хм... даже с кастом они остаются 3.84566e-008. Прям магия какая-то )))
0
|
|
|
|
||||||||||||
| 10.06.2009, 12:56 | ||||||||||||
0
|
||||||||||||
|
2348 / 1721 / 149
Регистрация: 06.03.2009
Сообщений: 3,675
|
||
| 10.06.2009, 12:59 | ||
|
Когда мы 1.0001000 во float преобразуем к double то получаем 1.0001000165939331. Соответственно 1.0001000550504999 - 1.0001000165939331 получается 3.84566e-008.
0
|
||
|
|
||||||||||||
| 10.06.2009, 13:06 | ||||||||||||
|
Добавлено через 5 минут 33 секунды Вот пример покороче:
0
|
||||||||||||
|
26 / 26 / 9
Регистрация: 25.05.2009
Сообщений: 98
|
|
| 10.06.2009, 13:18 [ТС] | |
|
ладно, фиг с ним. На самом деле мне было просто было не ясно, почему мы из 1.0001000 получаем 1.0001000165939331, а не 1.000100000000000, потому что по моему мнению должно было получаться именно такое число. Потому что 165... в - какой-то там степени взяться просто неоткуда (ну, то есть как в физике, когда мы увеличиваем точность, то просто дописываем 0. Например 1 с точностью до 3 знака после запятой равно 1.00 а не 1.165). То есть, я предполагал, что при преобразовании из float в double берется float, а далее он "добивается" 0-ми.
0
|
|
|
|
|||||||||||
| 10.06.2009, 13:23 | |||||||||||
|
> На самом деле мне было просто было не ясно, почему мы из 1.0001000
Потому что это число НЕ представляется точно в формате double > То есть, я предполагал, что при преобразовании из float в double берется float, а далее он "добивается" 0-ми. Так оно и есть:
1
|
|||||||||||
|
26 / 26 / 9
Регистрация: 25.05.2009
Сообщений: 98
|
|
| 10.06.2009, 13:40 [ТС] | |
|
Все, вроде понятно. Теперь ясно, почему так. Теперь я понял, что такое "странное" значение получилось из-за "двоичной" потери точности. А я рассчитывал на "десятичную" потерю точности.
0
|
|
| 10.06.2009, 13:40 | |
|
Помогаю со студенческими работами здесь
15
Преобразование типов
Преобразование типов Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |
|
Новые блоги и статьи
|
|||
|
Символьное дифференцирование
igorrr37 13.02.2026
/ *
Логарифм записывается как: (x-2)log(x^2+2) - означает логарифм (x^2+2) по основанию (x-2).
Унарный минус обозначается как !
в-строка - входное арифметическое выражение в инфиксной(обычной). . .
|
Камера Toupcam IUA500KMA
Eddy_Em 12.02.2026
Т. к. у всяких "хикроботов" слишком уж мелкий пиксель, для подсмотра в ESPriF они вообще плохо годятся: уже 14 величину можно рассмотреть еле-еле лишь на экспозициях под 3 секунды (а то и больше),. . .
|
И ясному Солнцу
zbw 12.02.2026
И ясному Солнцу,
и светлой Луне.
В мире
покоя нет
и люди
не могут жить в тишине.
А жить им немного лет.
|
«Знание-Сила»
zbw 12.02.2026
«Знание-Сила»
«Время-Деньги»
«Деньги -Пуля»
|
|
SDL3 для Web (WebAssembly): Подключение Box2D v3, физика и отрисовка коллайдеров
8Observer8 12.02.2026
Содержание блога
Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами и вызывать обработчики событий столкновения. . . .
|
SDL3 для Web (WebAssembly): Загрузка PNG с прозрачным фоном с помощью SDL_LoadPNG (без SDL3_image)
8Observer8 11.02.2026
Содержание блога
Библиотека SDL3 содержит встроенные инструменты для базовой работы с изображениями - без использования библиотеки SDL3_image. Пошагово создадим проект для загрузки изображения. . .
|
SDL3 для Web (WebAssembly): Загрузка PNG с прозрачным фоном с помощью SDL3_image
8Observer8 10.02.2026
Содержание блога
Библиотека SDL3_image содержит инструменты для расширенной работы с изображениями. Пошагово создадим проект для загрузки изображения формата PNG с альфа-каналом (с прозрачным. . .
|
Установка Qt-версии Lazarus IDE в Debian Trixie Xfce
volvo 10.02.2026
В общем, достали меня глюки IDE Лазаруса, собранной с использованием набора виджетов Gtk2 (конкретно: если набирать текст в редакторе и вызвать подсказку через Ctrl+Space, то после закрытия окошка. . .
|