0 / 0 / 0
Регистрация: 23.10.2016
Сообщений: 122
1

Ошибка при округлении

31.08.2017, 18:17. Показов 448. Ответов 2
Метки нет (Все метки)

вот пример хочу округлить как обычно большее к большему меньшее к меньшему что по середине не важно куда
C#
1
2
3
4
            double thisStep = (sizeType/sizeViews)*step;
            thisStep = Math.Round(thisStep);
 
            textBox1.AppendText(sizeType + "/"+ sizeViews+ "*"+ step + " = "+ thisStep + "\n");
ответ 70/300*3 = 0
почему ноль если получается 0,7 в итоге должно получиться 1
__________________
Помощь в написании контрольных, курсовых и дипломных работ здесь
0
Programming
Эксперт
94731 / 64177 / 26122
Регистрация: 12.04.2006
Сообщений: 116,782
31.08.2017, 18:17
Ответы с готовыми решениями:

Ошибка при округлении чисел
Подскажите пожалуйста в чем ошибка,надо округлить число, выдает такую ошибку "Too many actual...

Странный результат при округлении
ПочемуedtResult.setText(String.valueOf(Math.round(result * 100.0) / 100.0));...

Погрешность при вычислении и округлении
Здравствуйте! Мне надо было написать простенькую функцию, которая переводит дробную часть числа из...

Глюки при округлении числа в Delphi5!
Глюки при округлении числа в Delphi5! Написал функцию округления : Вот пример при трассировке...

2
323 / 302 / 173
Регистрация: 16.11.2010
Сообщений: 1,069
Записей в блоге: 9
31.08.2017, 18:41 2
Выводит 1:
C#
1
2
3
4
            double sizeType = 70, sizeViews = 300, step = 3;
            double thisStep = (sizeType / sizeViews) * step;
            thisStep = Math.Round(thisStep);
            Console.WriteLine(thisStep);
Выводит 0:
C#
1
2
3
4
            int sizeType = 70, sizeViews = 300, step = 3;
            double thisStep = (sizeType / sizeViews) * step;
            thisStep = Math.Round(thisStep);
            Console.WriteLine(thisStep);
А все потому что 70/300 типа инт = 0, далее 0*3=0 А в следующей строчке Math.Round(0) никак не дадут 1
1
0 / 0 / 0
Регистрация: 23.10.2016
Сообщений: 122
31.08.2017, 18:45  [ТС] 3
Спасибо
0
IT_Exp
Эксперт
87844 / 49110 / 22898
Регистрация: 17.06.2006
Сообщений: 92,604
31.08.2017, 18:45

Вычисление количества элементов матрицы, которые при округлении дают 6
Здравствуйте, нужна ваша помощь.Я начинающий программист. Есть вот такое задание : Дан массив...

Ошибка при чтении изменений при обмене РИБ: Ошибка при вызове метода контекста (ПрочитатьИзменения): Ошибка записи!
Доброго всем времени суток! подскажи пожалуйста как исправить ошибку: Ошибка при чтении изменений...

Ошибка при передаче строк в функцию, ошибка при формировании дерева
Курсовой проект, в основе база данных, данные записываются в двоичное дерево. Есть 2 проблемы: 1)...

Ошибка HTTP 500 - внутреняя ошибка сервера при отправке почты.
Я пытаюсь отправить почту и присоединяю к ней письма Вот часть страницы Dim myMail Set myMail =...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
3
Ответ Создать тему
Опции темы

КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2022, CyberForum.ru