Дикие округления при математических рассчетах

@Ticksy · Регистрация: 03.02.2011

Author24 — интернет-сервис помощи студентам

Имеется такой вот код:

C#

decimal i = 0;
            int n = 3;
            for(int m = 1; m <= n; m++) {
                i += Convert.ToDecimal(1/Math.Pow(m, 1/2));
            }
            disp.Text = Convert.ToString(i);

Проблема в том, что происходит очень большое округление (до целых, даже в разрез с математикой. иногда на других формулах/значениях не происходит такое.). В данном случае (n = 3) программа выведет 3, хотя в действительности результат 2.28... (считал на инженерском калькуляторе).

При дебаге с каждой итерацией цикла переменная i увеличивается строго на 1. Что за фокусы такие в .NET?

@NickoTin · 16.02.2011, 15:51

Ticksy, Вы понимаете разницу между целыми типами и типами с плавающей точкой? Какие будут результаты при делении 1 на 2 типа Int32 (целый тип), и какой результат если тип будет хотя-бы Double (тип с плавающей точкой).

Ответьте про себя, а потом смотрите

ответ.

1) 0 - т.к. целый тип не может содержать запятой, и число будет округлено (т.е дает целую часть от деления).
2) 0.5 - а тут без проблем.

C#

            decimal i = 0;
            int n = 3;
            for (int m = 1; m <= n; m++) {
                i += Convert.ToDecimal(1d / Math.Pow(m, 1d / 2d));
            }
            disp.Text = i.ToString();

Читайте книжки

@Ticksy · 16.02.2011, 16:05 **[ТС]**

Сообщение от SSTREGG

понимаете разницу между целыми типами и типами с плавающей точкой?

Понимаю...

Сообщение от SSTREGG

Какие будут результаты при делении 1 на 2 типа Int32 (целый тип), и какой результат если тип будет хотя-бы Double (тип с плавающей точкой).

Как тогда производить деление, чтобы результат оказывался в double? Приписывать в конце числа первую букву его типа (судя по примеру) или писать типа 1.0/2.0? Хотя в данном случае можно указать 0.5 (это я для удобства так записал...).

Ох уж эта моя логика после PHP... (там нет строгой типизации).

@NickoTin · 16.02.2011, 16:11

Сообщение от Ticksy

или писать типа 1.0/2.0

Можно так, можно через литерал (1d, 2d, 3d, ... )) Если в числе есть точка, то оно по умолчанию считается типом double.

Для float (4 байта): 1.0f, 1f, 2.5f, 2f, ...
Для double (8 байт): 1.0, 1d, 2.5, 2d, ...
Для decimal (16 байт): 1.0m, 1m, 2.5m, 2m, ...

Буквы могут быть как строчными так и заглавными.

Сообщение от Ticksy

Ох уж эта моя логика после PHP...

Почитайте книжки.

@Ticksy 1 / 1 / 0 Регистрация: 03.02.2011 Сообщений: 29
	16.02.2011, 16:05 [ТС]	3
	Сообщение от SSTREGG понимаете разницу между целыми типами и типами с плавающей точкой? Понимаю... Сообщение от SSTREGG Какие будут результаты при делении 1 на 2 типа Int32 (целый тип), и какой результат если тип будет хотя-бы Double (тип с плавающей точкой). Как тогда производить деление, чтобы результат оказывался в double? Приписывать в конце числа первую букву его типа (судя по примеру) или писать типа 1.0/2.0? Хотя в данном случае можно указать 0.5 (это я для удобства так записал...). Ох уж эта моя логика после PHP... (там нет строгой типизации). 0

@NickoTin Почетный модератор 8721 / 3673 / 404 Регистрация: 14.06.2010 Сообщений: 4,513 Записей в блоге: 9
	16.02.2011, 16:11	4
	Сообщение от Ticksy или писать типа 1.0/2.0 Можно так, можно через литерал (1d, 2d, 3d, ... )) Если в числе есть точка, то оно по умолчанию считается типом double. Для float (4 байта): 1.0f, 1f, 2.5f, 2f, ... Для double (8 байт): 1.0, 1d, 2.5, 2d, ... Для decimal (16 байт): 1.0m, 1m, 2.5m, 2m, ... Буквы могут быть как строчными так и заглавными. Сообщение от Ticksy Ох уж эта моя логика после PHP... Почитайте книжки. 1