Prober
|
||||||
1 | ||||||
Преобразование дробного числа к целому дает неожиданные результаты27.06.2012, 21:51. Показов 4403. Ответов 3
Метки нет (Все метки)
Добрый день, уважаемые.
Помогите, кого не затруднит, разобраться в следующем моменте. Дело вроде примитивное, но понять не получается...
65535 65534 65534 65534 Почему инты приняли такие значения (две последние цифры) - что стало с первым из значений - 65535? Ведь это не int16 и младший бит никак не может быть отведен под знак... |
27.06.2012, 21:51 | |
Ответы с готовыми решениями:
3
Преобразование string в int с отбрасыванием дробного числа Преобразование денежной суммы, заданной в виде дробного числа, в формат «рубли – копейки» преобразование дробного в целое Преобразование дробного выражения |
637 / 498 / 77
Регистрация: 28.07.2010
Сообщений: 895
|
||||||
27.06.2012, 22:05 | 2 | |||||
0
|
17689 / 12874 / 3366
Регистрация: 17.09.2011
Сообщений: 21,138
|
|
27.06.2012, 22:28 | 3 |
Особенности чисел с плавающей точкой: 655.35 * 100 = 65534.9961, при касте дробная часть отбрасывается.
Вместо каста используйте Convert.ToInt32 - он округлит до ближайшего целого.
1
|
Prober
|
|
27.06.2012, 22:44 | 4 |
Ок.
Спасибо за информацию - буду знать. |
27.06.2012, 22:44 | |
27.06.2012, 22:44 | |
Помогаю со студенческими работами здесь
4
Как матлаб быстрее дает результаты Функция rand() дает странные результаты Сравнение строк и StringBuilder дает разные результаты Указатели и массивы: почему заданный код даёт разные результаты? Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |