Форум программистов, компьютерный форум, киберфорум
C# для начинающих
Войти
Регистрация
Восстановить пароль
Карта форума Темы раздела Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.81/21: Рейтинг темы: голосов - 21, средняя оценка - 4.81
Prober
1

Преобразование дробного числа к целому дает неожиданные результаты

27.06.2012, 21:51. Показов 4403. Ответов 3
Метки нет (Все метки)

Author24 — интернет-сервис помощи студентам
Добрый день, уважаемые.
Помогите, кого не затруднит, разобраться в следующем моменте.
Дело вроде примитивное, но понять не получается...
C#
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
static void Main(string[] args)
        {
            static float fnum;
            static float fnum2;
 
            static int num;
            static int num2;
            
            //задаем значения
            fnum = (float)655.35;
            fnum2 = (float)655.34;
 
            //проводим мат.преобразование
            fnum = fnum * 100;
            fnum2 = fnum2 * 100;
 
            //выводим, чтобы поглядеть в консольке
            Console.WriteLine(fnum);
            Console.WriteLine(fnum2);
 
            // приводим к инту явно - ну надо чтобы были целыми
            num = (int)fnum;
            num2 = (int)fnum2;
            
            // смотрим приведенные значения - WTF???
            Console.WriteLine(num);
            Console.WriteLine(num2);
        }
Вывод получается следующим:
65535
65534
65534
65534
Почему инты приняли такие значения (две последние цифры) - что стало с первым из значений - 65535? Ведь это не int16 и младший бит никак не может быть отведен под знак...
Programming
Эксперт
94731 / 64177 / 26122
Регистрация: 12.04.2006
Сообщений: 116,782
27.06.2012, 21:51
Ответы с готовыми решениями:

Преобразование string в int с отбрасыванием дробного числа
Всем привет есть переменная humidity типа string,она получает данные из регулярки,всё хорошо,но...

Преобразование денежной суммы, заданной в виде дробного числа, в формат «рубли – копейки»
Разрабатывается приложение «Lab02_02», которое: 1) имеет интерфейс, разработанный с применением...

преобразование дробного в целое
каким оператором можно преобразовать дробное число в целое, или откинуть дробную часть? Подскажите...

Преобразование дробного выражения
Здравствуйте. Мой вопрос следующий. Как преобразовать выражение вида: (a+b*j)/(c+d*j) в выражение...

3
637 / 498 / 77
Регистрация: 28.07.2010
Сообщений: 895
27.06.2012, 22:05 2
C#
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
            float fnum;
            float fnum2;
 
            int num;
            int num2;
            
            //задаем значения
            fnum = (float)655.35;
            fnum2 = (float)655.34;
 
            //проводим мат.преобразование
            fnum = fnum * 100;
            fnum2 = fnum2 * 100;
 
            //выводим, чтобы поглядеть в консольке
            Console.WriteLine(fnum);
            Console.WriteLine(fnum2);
 
            // приводим к инту явно - ну надо чтобы были целыми
            num = (int)Math.Round(fnum);
            num2 = (int)Math.Round(fnum2);
            
            // смотрим приведенные значения - WTF???
            Console.WriteLine(num);
            Console.WriteLine(num2);
            Console.ReadKey();
Вот так работает. По-моему это особенности IEEE
0
Эксперт .NET
17689 / 12874 / 3366
Регистрация: 17.09.2011
Сообщений: 21,138
27.06.2012, 22:28 3
Особенности чисел с плавающей точкой: 655.35 * 100 = 65534.9961, при касте дробная часть отбрасывается.
Вместо каста используйте Convert.ToInt32 - он округлит до ближайшего целого.
1
Prober
27.06.2012, 22:44 4
Ок.
Спасибо за информацию - буду знать.
27.06.2012, 22:44
IT_Exp
Эксперт
87844 / 49110 / 22898
Регистрация: 17.06.2006
Сообщений: 92,604
27.06.2012, 22:44
Помогаю со студенческими работами здесь

Как матлаб быстрее дает результаты
Здравствуйте, коллеги! Мне нужна ваша помощь! Задача о том, что написать модель сигнал М-ФМ +...

Функция rand() дает странные результаты
Есть класс Owner с таким конструктором, значения его членов определяются рандомно. В main.cpp...

Сравнение строк и StringBuilder дает разные результаты
Есть такой код: String str1 = "String"; String str2 = "String"; ...

Указатели и массивы: почему заданный код даёт разные результаты?
Почему этот код даёт разные результаты? Что присваивается указателю во втором случае? int main()...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
4
Ответ Создать тему
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2024, CyberForum.ru