Как правильно округлять Е числа?

@Nebiros · Регистрация: 23.03.2010

Студворк — интернет-сервис помощи студентам

Вот попалось мне число в координатах ( -1,489405E-09 ) , я его округлил -1,48 , вывод неверный (по действиям вижу смещение), неправильно, можете объяснить что за такие Е числа и как их правильно округлять?

I can · 17.03.2022, 23:31

Сообщение от Nebiros

что за такие Е

Экспоненциальная запись

Добавлено через 2 минуты
Экспоненциальная запись числа

Добавлено через 1 минуту
-1,489405E-09 это -0,000000001489405

@Nebiros · 17.03.2022, 23:43 **[ТС]**

Сообщение от I can

-1,489405E-09 это -0,000000001489405

понял теперь как с ними воевать, сначала в строку

C#
1
string s = f.ToString("0.#########################");

ну а дальше обрезаю

C#
1
s = s.Substring(0,4);

и там уже всё как нужно....

@wizard41 · 17.03.2022, 23:46

Сообщение от Nebiros

сначала в строку

Сообщение от Nebiros

ну а дальше обрезаю

Математически неверно. Двойка.

@Nebiros · 17.03.2022, 23:54 **[ТС]**

Сообщение от wizard41

Математически неверно. Двойка.

всё правильно теперь получается, раньше у меня из -1,489405E-09 получалось -1,48 при округлении, что приводило к ошибкам, теперь при данном методе это ноль, что уже правильно и работает как нужно...

@wizard41 · 18.03.2022, 00:12

Nebiros, еще раз...
Математически неверно! Вы преобразовали число в строку, затем обрезали ее (строку) до нужных вам знаков и ее округлили. А то что обрезали - выкинули прямиком в мусорное ведро.
В какую сторону округляли?
По какому правилу?
Какая была старшая "отрезанная" цифра в строке?
Твердая двойка!

Сообщение от Nebiros

всё правильно теперь получается

По каким правилам и кто сказал?

@kolorotur · 18.03.2022, 02:13

Сообщение от Nebiros

как их правильно округлять?

Округлять или форматировать?
Вы спрашиваете про округление, а код показываете для форматирования.
Для округления есть метод Round в классе Math.
Для форматирования есть стандартные и настраиваемые форматы.

@Nebiros · 18.03.2022, 10:00 **[ТС]**

Сообщение от kolorotur

Округлять или форматировать?
Вы спрашиваете про округление, а код показываете для форматирования.
Для округления есть метод Round в классе Math.
Для форматирования есть стандартные и настраиваемые форматы.

мне нужно было именно обрезать, до этого я использовал d = (float)Math.Round(d, 2);, в итоге 1.47666666 превращалось в 1.48 а 147222222 в 1.47, мне нужно было именно обрезать, вот до 2х знаков после запятой, причём эти значения брались из вектора Vector3 а там они float, в итоге я перегонял в double округлял и снова в float, понимаю выглядит всё как полный бред....
Но вот на данный момент мне это решение как раз даёт нужный результат, то есть именно обрезает, а не округляет в какую либо сторону...

@kolorotur · 18.03.2022, 10:46

Сообщение от Nebiros

мне нужно было именно обрезать

Обрезать для чего? Для дальнейших вычислений или для вывода на экран?

@Nebiros · 18.03.2022, 11:29 **[ТС]**

Сообщение от kolorotur

Обрезать для чего? Для дальнейших вычислений или для вывода на экран?

И то и другое, дело в том что метод из юнити мне выдаёт массив следования из векторов, потом я вычисляю расстояние между этими векторами, и мне нужно вывести это расстояние в UI панель, а во вторых чтобы это расстояние совпадало с возможным, так как если разница будет хоть в одну сотую то объект не достанет до точки направления, и т.д....

Добавлено через 1 минуту
И да, дальше я строку вывожу в UI, а для вычислений перегоняю в float....

@kolorotur · 18.03.2022, 12:01

Сообщение от Nebiros

если разница будет хоть в одну сотую то объект не достанет до точки направления

В этом случае для вычислений округляйте до нужного количества десятичных разрядов, используя вышеуказанный метод Round, а в строку конвертируйте только при выводе в UI, используя форматирование.

@Nebiros · 18.03.2022, 15:00 **[ТС]**

Сообщение от kolorotur

В этом случае для вычислений округляйте до нужного количества десятичных разрядов, используя вышеуказанный метод Round

так он в ближайшую сторону, а мне в меньшую нужно, а такого метода я не нашел, то есть даже если число будет 1.799999999999999999 мне нужно 1.79 а не 1.80, вот у меня так нужно по моей механике...

@kolorotur · 18.03.2022, 18:01

Сообщение от Nebiros

так он в ближайшую сторону, а мне в меньшую нужно

В меньшую или в сторону нуля?

@Nebiros · 18.03.2022, 18:06 **[ТС]**

Сообщение от kolorotur

В меньшую или в сторону нуля?

Просто обрезать, то есть

HTML5
1
2
3
5.577777777 => 5.57
5.549999999 => 5.54
5.512222222 => 5.51

то есть не важно что там дальше за сотыми, просто обрезка до сотых...

@kolorotur · 18.03.2022, 18:17

Сообщение от Nebiros

Просто обрезать

C#
1
2
3
int factor = 100;
double d = 5.577777777;
d = Math.Truncate(d * factor) / factor;

Но вообще учитывайте, что вычисления с float/double в большинстве случаев неточны, включая округление и обрезание.
Если вам это для вычислений, то раз нужна точность в два десятичных разряда — считайте равными любые два значения, различающиеся по модулю меньше, чем на 0.01

Новые блоги и статьи Все статьи Все блоги /
Midnight Chicago Blues kumehtar 24.03.2026 Такой Midnight Chicago Blues, знаешь?. . Когда вечерние улицы становятся ночными, а ты не можешь уснуть. Ты идёшь в любимый старый бар, и бармен наливает тебе виски. Ты смотришь на пролетающие. . .	Контроль уникальности заводского номера - вариант №2 Maks 24.03.2026 В отличие от предыдущего варианта добавлено прерывание циклов, также добавлены новые переменные для сохранения контекста ошибки перед прерыванием цикла: Процедура ПередЗаписью(Отказ, РежимЗаписи,. . .	SDL3 для Desktop (MinGW): Вывод текста со шрифтом TTF с помощью библиотеки SDL3_ttf на Си и C++ 8Observer8 24.03.2026 Содержание блога Финальные проекты на Си и на C++: finish-text-sdl3-c. zip finish-text-sdl3-cpp. zip	Жизнь в неопределённости kumehtar 23.03.2026 Жизнь — это постоянное существование в неопределённости. Например, даже если у тебя есть список дел, невозможно дойти до точки, где всё окончательно завершено и больше ничего не осталось. В принципе,. . .
Модель здравоСохранения: работники работают быстрее после её введения. anaschu 23.03.2026 geJalZw1fLo Корпорация до введения программа здравоохранения имела много невыполненных работниками заданий, после введения программы количество заданий выросло. Но на выплатах по больничным это. . .	Контроль уникальности заводского номера - вариант №1 Maks 23.03.2026 Алгоритм контроля уникальности заводского (или серийного) номера на примере документа выдачи шин для спецтехники с табличной частью в КА2. Данные берутся из регистра сведений, по которому настроено. . .	Хочу заставить корпорации вкладываться в здоровье сотрудников: делаю мат модель здравосохранения anaschu 22.03.2026 e7EYtONaj8Y Z4Tv2zpXVVo https:/ / github. com/ shumilovas/ med2. git	Программный отбор элементов справочника по группе Maks 22.03.2026 Установка программного отбора элементов справочника "Номенклатура" из модуля формы документа в КА2. В качестве фильтра для отбора справочника служит группа номенклатуры. Отбор по наименованию. . .

Как правильно округлять Е числа?

Решение

Решение

@Nebiros 41 / 40 / 16 Регистрация: 23.03.2010 Сообщений: 3,122

	Как правильно округлять Е числа? 17.03.2022, 23:14. Показов 2436. Ответов 14 Метки нет (Все метки) Вот попалось мне число в координатах ( -1,489405E-09 ) , я его округлил -1,48 , вывод неверный (по действиям вижу смещение), неправильно, можете объяснить что за такие Е числа и как их правильно округлять? 0