|
3 / 2 / 2
Регистрация: 19.06.2016
Сообщений: 299
|
||||||
Как ограничить размер переменной типа double?09.07.2017, 15:37. Показов 2726. Ответов 5
Метки нет (Все метки)
Здравствуйте! Когда я пытаюсь найти квадратный корень любого числа через класс Math, то выходит число с очень большим кол-вом знаком после запятой. И из-за этого срабатывает исключение. Как исправить?
Код на всякий случай -
0
|
||||||
| 09.07.2017, 15:37 | |
|
Ответы с готовыми решениями:
5
Как сгенерировать случайное число типа я double имея на входе 2 числа типа double - минимальное и максимальное Вызов переменной типа int и типа double из нескольких форм
|
|
Администратор
|
|
| 09.07.2017, 15:43 | |
|
Jesterru, какое исключение? В какой именно ситуации? Округлять число до нужной точности пробовал делать?
0
|
|
|
3 / 2 / 2
Регистрация: 19.06.2016
Сообщений: 299
|
||
| 09.07.2017, 15:49 [ТС] | ||
|
0
|
||
|
Администратор
|
|
| 09.07.2017, 15:55 | |
|
Jesterru, раз возникает переполнение, то нужно не ограничивать а наоборот "расширять". Но прежде чем давать советы хочется точно понять что происходит. Пример кода для вопроизведения исключения можешь показать? Если исключение возникает в коде из первого сообщения, то расскажи какой тип у переменной _TotalEnergy и какое и нее значение.
0
|
|
|
3 / 2 / 2
Регистрация: 19.06.2016
Сообщений: 299
|
|||||||
| 09.07.2017, 16:01 [ТС] | |||||||
|
Добавлено через 1 минуту Кликните здесь для просмотра всего текста
0
|
|||||||
|
Администратор
|
|
| 09.07.2017, 16:21 | |
|
Jesterru, проблема в расчете
_TotalEnergy = 1 - ((_Velocity * _Velocity) / (_C * _C)) дает отрицательное число. Корень из отрицательного числа это NaN - Not A Number. Поэтому далее и происходит ошибка при преобразовании. Решается путем замены типа переменной _C на long и всех decimal на double.
0
|
|
| 09.07.2017, 16:21 | |
|
Помогаю со студенческими работами здесь
6
Ошибка в переменной типа double Как ограничить размер ListBox размером окна (расползается на весь размер)? Теряется точность переменной типа double
Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |
|
Новые блоги и статьи
|
|||
|
http://iceja.net/ математические сервисы
iceja 20.01.2026
Обновила свой сайт http:/ / iceja. net/ , приделала Fast Fourier Transform экстраполяцию сигналов. Однако предсказывает далеко не каждый сигнал (см ограничения http:/ / iceja. net/ fourier/ docs ). Также. . .
|
http://iceja.net/ сервер решения полиномов
iceja 18.01.2026
Выкатила http:/ / iceja. net/ сервер решения полиномов (находит действительные корни полиномов методом Штурма).
На сайте документация по API, но скажу прямо VPS слабенький и 200 000 полиномов. . .
|
Расчёт переходных процессов в цепи постоянного тока
igorrr37 16.01.2026
/ *
Дана цепь постоянного тока с R, L, C, k(ключ), U, E, J. Программа составляет систему уравнений по 1 и 2 законам
Кирхгофа, решает её и находит переходные токи и напряжения на элементах схемы. . . .
|
Восстановить юзерскрипты Greasemonkey из бэкапа браузера
damix 15.01.2026
Если восстановить из бэкапа профиль Firefox после переустановки винды, то список юзерскриптов в Greasemonkey будет пустым.
Но восстановить их можно так.
Для этого понадобится консольная утилита. . .
|
|
Сукцессия микоризы: основная теория в виде двух уравнений.
anaschu 11.01.2026
https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/
|
WordPad для Windows 11
Jel 10.01.2026
WordPad для Windows 11
— это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .
|
Classic Notepad for Windows 11
Jel 10.01.2026
Old Classic Notepad for Windows 11
Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .
|
Почему дизайн решает?
Neotwalker 09.01.2026
В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .
|