floating point error

@korez · Регистрация: 22.02.2011

Студворк — интернет-сервис помощи студентам

C++
1
2
3
4
5
6
7
8
int i = 124; int j = 0; "c" и "y" это float с диапазоном от 1 до 2; 
x это long double от 0.01 до 100; 
tempsum - long double; cr - long double;
--------------------------------------------------------------------------
for(; i>0; i--, j++)
{   cr = *c - (stp1.mass[j].y);
            correctmul(&cr, &csp, stp1);
    tempsum += (cr * stp1.mass[j].x * 1000);} //<--- overflow

в указанной строке происходит переполнение
мненужно только 5 знаков после запятой в самом крайнем случае.
с этой ошибкой я довольно часто сталкиваюсь так что мне нужно както решить ее основательно. раньше я просто увеличивал точность(double-> long double).

@novi4ok · 04.09.2012, 17:26

значения переменных при переполнении покажи.

@korez · 04.09.2012, 21:16 **[ТС]**

tempsum = 80.013511776622025;
cr = -0.049996376037597656; - это 0.05 представленная в long double
stp1.mass[j].x = 0.029999999329447746 - это 0.03 представленная в long double
j = 122;
i = 2

Добавлено через 14 минут
tempsum = 78.513620529019278;
немного ошибся на один ход
cr = -0.059998035430908203; - это 0.06 представленная в long double
stp1.mass[j].x = 0.039999999105930328 - это 0.04 представленная в long double
j = 123;
i = 1;

Добавлено через 3 часа 13 минут
я разложил цикл получилось что переполнение вызывает
вот это выражение
stp1.mass[j].x * 1000;

@novi4ok · 04.09.2012, 21:22

Сообщение от korez

получилось что переполнение вызывает
вот это выражение
stp1.mass[j].x * 1000;

и какое значение имеет в этот момент

C++
1
stp1.mass[j].x

?

@korez · 04.09.2012, 22:49 **[ТС]**

stp1.mass[j].x = 0.039999999105930328

Добавлено через 53 секунды
novi4ok, как вообще бороться с переполнением чисел с плавающей точкой?

@novi4ok · 04.09.2012, 22:56

т.е. ты хочешь сказать, что при умножении трех сотых на тычесю возникает переполнение? что-то ты не там копал.

Добавлено через 6 минут

Сообщение от korez

stp1.mass[j].x = 0.039999999105930328

Добавлено через 53 секунды
novi4ok, как вообще бороться с переполнением чисел с плавающей точкой?

отлавливать и принимать меры. какие еще варианты? подозреваю, эта ситуация бросает особый случай. ловить и действовать по обстоятельствам. или погуглить-почитать, как народ борется. не приходилось вплотную сталкиваться. в фортране когда-то

@korez · 04.09.2012, 23:11 **[ТС]**

как отлавливать (перехватывать?).

Добавлено через 10 минут
сейчас еще раз проверил это точно так
stp1.mass[j].x = 0.039999999105930328;

@novi4ok · 05.09.2012, 10:22

а cr?

с "перехватывать" это был неправильный совет. почитал, народ убежден, что эти ситуации нужно предотвращать, используя правильные алгоритмы.
в ассемблере проще, там можно проверять после каждой операции так наз. флаг переполнения. он все равно проверяется, но в случае чего просто получишь результат 1.#INF или что-то подобное.

Новые блоги и статьи Все статьи Все блоги /
PhpStorm 2025.3: WSL Terminal всегда стартует в ~ and_y87 14.12.2025 PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .	Access VikBal 11.12.2025 Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.	Новый ноутбук volvo 07.12.2025 Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro	Музыка, написанная Искусственным Интеллектом volvo 04.12.2025 Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .	От async/await к виртуальным потокам в Python IndentationError 23.11.2025 Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
Поиск "дружественных имён" СОМ портов Argus19 22.11.2025 Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .	Сколько Государство потратило денег на меня, обеспечивая инсулином. Programma_Boinc 20.11.2025 Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .	Ломающие изменения в C#.NStar Alpha Etyuhibosecyu 20.11.2025 Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .	Мысли в слух kumehtar 18.11.2025 Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .	Создание Single Page Application на фреймах krapotkin 16.11.2025 Статья исключительно для начинающих. Подходы оригинальностью не блещут. В век Веб все очень привыкли к дизайну Single-Page-Application . Быстренько разберем подход "на фреймах". Мы делаем одну. . .

@novi4ok 556 / 510 / 25 Регистрация: 23.07.2009 Сообщений: 2,359 Записей в блоге: 1
	04.09.2012, 17:26
	значения переменных при переполнении покажи. 1

@korez 9 / 9 / 1 Регистрация: 22.02.2011 Сообщений: 203
	04.09.2012, 21:16 [ТС]
	tempsum = 80.013511776622025; cr = -0.049996376037597656; - это 0.05 представленная в long double stp1.mass[j].x = 0.029999999329447746 - это 0.03 представленная в long double j = 122; i = 2 Добавлено через 14 минут tempsum = 78.513620529019278; немного ошибся на один ход cr = -0.059998035430908203; - это 0.06 представленная в long double stp1.mass[j].x = 0.039999999105930328 - это 0.04 представленная в long double j = 123; i = 1; Добавлено через 3 часа 13 минут я разложил цикл получилось что переполнение вызывает вот это выражение stp1.mass[j].x * 1000; 0

@korez 9 / 9 / 1 Регистрация: 22.02.2011 Сообщений: 203
	04.09.2012, 22:49 [ТС]
	stp1.mass[j].x = 0.039999999105930328 Добавлено через 53 секунды novi4ok, как вообще бороться с переполнением чисел с плавающей точкой? 0

@korez 9 / 9 / 1 Регистрация: 22.02.2011 Сообщений: 203
	04.09.2012, 23:11 [ТС]
	как отлавливать (перехватывать?). Добавлено через 10 минут сейчас еще раз проверил это точно так stp1.mass[j].x = 0.039999999105930328; 0

@novi4ok 556 / 510 / 25 Регистрация: 23.07.2009 Сообщений: 2,359 Записей в блоге: 1
	05.09.2012, 10:22
	а cr? с "перехватывать" это был неправильный совет. почитал, народ убежден, что эти ситуации нужно предотвращать, используя правильные алгоритмы. в ассемблере проще, там можно проверять после каждой операции так наз. флаг переполнения. он все равно проверяется, но в случае чего просто получишь результат 1.#INF или что-то подобное. 0