Форум программистов, компьютерный форум, киберфорум
Unity, Unity3D
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.75/4: Рейтинг темы: голосов - 4, средняя оценка - 4.75
7 / 6 / 1
Регистрация: 13.08.2019
Сообщений: 203

Погрешность при операции с числом с плавающей запятой

19.12.2020, 01:13. Показов 739. Ответов 1

Студворк — интернет-сервис помощи студентам
C#
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
using System.Collections;
using System.Collections.Generic;
using UnityEngine;
 
public class General27 : MonoBehaviour
{
    Camera cam;
 
    void Start()
    {
        cam = gameObject.GetComponent<Camera>();
    }
 
    void Update()
    {
        float scroll = Input.GetAxis("Mouse ScrollWheel") * 12;
 
        if (scroll != 0)
        {
            cam.orthographicSize += scroll;
        }
    }
}
Исходное положение cam.ortographicSize = 5. Почему размер камеры иногда получается 8.599999 или 30.20001 и тд? И как это можно исправить?
0
Programming
Эксперт
39485 / 9562 / 3019
Регистрация: 12.04.2006
Сообщений: 41,671
Блог
19.12.2020, 01:13
Ответы с готовыми решениями:

Погрешность при вычислении результата с плавающей запятой
Здравствуйте ! Подучиваю тут С по учебнику Стивена Пратта. Очень простенькая программа, а именно : /*Ваш золотой эквивалент*/ ...

При работе с числом с плавающей запятой в файл выводится -NaN(not a number)
Есть функция для чтения из файла и записи в массив, после прорабатывается алгоритм и выводит новое значение в файл(тоже через функцию), но...

Погрешность числа в 32-разрядном формате с плавающей запятой
Доброго времени суток, помогите, пожалуйста, определить погрешность числа 2*10^38 в 32-разрядном формате с плавающей запятой. Пробовал...

1
 Аватар для Ronin_v
293 / 189 / 111
Регистрация: 22.07.2020
Сообщений: 538
19.12.2020, 02:03
piffo,
Потому, что значение
C#
1
Input.GetAxis("Mouse ScrollWheel")
не равняется целому числу.
Можно округлять.
Например так.

C#
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
using UnityEngine;
using System;
 
public class General27 : MonoBehaviour
{
    Camera cam;
 
    void Start()
    {
        cam = gameObject.GetComponent<Camera>();
    }
 
    void Update()
    {
        float scroll = Input.GetAxis("Mouse ScrollWheel") * 12;
 
        if (scroll != 0)
        {
            cam.orthographicSize += (float)RoundUp(Convert.ToDecimal(scroll), 0);
        }
    }
    public static decimal RoundUp(decimal number, int digits)
    {
        var factor = Convert.ToDecimal(Math.Pow(10, digits));
        return Math.Ceiling(number * factor) / factor;
    }
}
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
inter-admin
Эксперт
29715 / 6470 / 2152
Регистрация: 06.03.2009
Сообщений: 28,500
Блог
19.12.2020, 02:03
Помогаю со студенческими работами здесь

Максимальная погрешность чисел с плавающей запятой для 16-и разрядной системы
Рассчитайте максимальную погрешность представления чисел в форме с плавающей запятой для 16-и разрядной системы: на мантиссу и порядок...

Как следить за числом с плавающей запятой?
к примеру у меня есть число,и к нему постоянно прибавляют дроби.У этого числа увеличивается часть с плавающей запятой следовательно.Так вот...

Операции с плавающей запятой
Как найти количество операций с плавающей запятой в следующей программе: using System; using System.Linq; class CyberForum { ...

Операции над числами с плавающей запятой
НЕ получается осуществить операции над числами с плавающей запятой. С целыми числами все нормально. class Program { public...

Операции сложения и вычитания чисел с плавающей запятой
Господа, нужна хелпа, с информатикой. Точнее с ЭВМ и плавающими запятой в цифрах. Буду признателен если не за решение, то за...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
2
Ответ Создать тему
Новые блоги и статьи
http://iceja.net/ математические сервисы
iceja 20.01.2026
Обновила свой сайт http:/ / iceja. net/ , приделала Fast Fourier Transform экстраполяцию сигналов. Однако предсказывает далеко не каждый сигнал (см ограничения http:/ / iceja. net/ fourier/ docs ). Также. . .
http://iceja.net/ сервер решения полиномов
iceja 18.01.2026
Выкатила http:/ / iceja. net/ сервер решения полиномов (находит действительные корни полиномов методом Штурма). На сайте документация по API, но скажу прямо VPS слабенький и 200 000 полиномов. . .
Расчёт переходных процессов в цепи постоянного тока
igorrr37 16.01.2026
/ * Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа, решает её и находит переходные токи и напряжения на элементах схемы. . . .
Восстановить юзерскрипты Greasemonkey из бэкапа браузера
damix 15.01.2026
Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым. Но восстановить их можно так. Для этого понадобится консольная утилита. . .
Сукцессия микоризы: основная теория в виде двух уравнений.
anaschu 11.01.2026
https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/
WordPad для Windows 11
Jel 10.01.2026
WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .
Classic Notepad for Windows 11
Jel 10.01.2026
Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .
Почему дизайн решает?
Neotwalker 09.01.2026
В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru