|
84 / 84 / 19
Регистрация: 17.12.2007
Сообщений: 574
|
|
Ламерский вопрос по арифметике.02.10.2008, 11:16. Показов 4365. Ответов 9
Метки нет (Все метки)
Всем привет!!!
Столкнулся вот с такой проблемкой: В программе я делаю всевозможные вычисления, результаты в строку вывожу функцией FloatToStrF. Все нормально, только заметил что результаты не правильно округляются, мой результат отличен от тех же вычислений на прстом калькуляторе((. Подскажите как это побороть
0
|
|
| 02.10.2008, 11:16 | |
|
Ответы с готовыми решениями:
9
Ламерский вопрос Ламерский вопрос про БП Ламерский вопрос по VisualFoxPro |
|
1513 / 780 / 103
Регистрация: 22.04.2008
Сообщений: 1,610
|
|
| 02.10.2008, 11:20 | |
|
При работе с этой функцией числа не округляются , обрезаются поэтому попробуйте
использовать стандартные функции округления и покажите код
0
|
|
|
Почетный модератор
8785 / 2538 / 144
Регистрация: 07.03.2007
Сообщений: 11,873
|
||||||
| 02.10.2008, 12:36 | ||||||
|
вот тебе функция математического округления:
2
|
||||||
|
1 / 1 / 0
Регистрация: 29.09.2008
Сообщений: 18
|
|
| 02.10.2008, 13:18 | |
|
а разве фукция FloatToStrF не позволяет задавать точность и формат???
0
|
|
|
Почетный модератор
8785 / 2538 / 144
Регистрация: 07.03.2007
Сообщений: 11,873
|
|
| 02.10.2008, 13:19 | |
|
точность у нее - это количество знаков после запятой, остальное обрубает просто...
0
|
|
|
1 / 1 / 0
Регистрация: 29.09.2008
Сообщений: 18
|
||||||
| 02.10.2008, 13:36 | ||||||
|
почему тогда код
Получается точность ограничивается и общим количеством цифр и количеством после запятой, причем если число цифр после запятой превышает общее, то выводится вместе с целыми 18 (в данном случае). Причем результат явно не обрубание, а изменение, интересно по какому алгоритму?
0
|
||||||
|
Почетный модератор
8785 / 2538 / 144
Регистрация: 07.03.2007
Сообщений: 11,873
|
|
| 02.10.2008, 13:40 | |
|
алгоритм прослеживается слабо, но согласитесь, что это не совсем математическое округление... а вообще если бы было - 23154,456898724336000000, то это до верхней границы, а так даже не скажу, что оно там исполняет... я же представил код именно арифметического округления, проверено на рабочей системе с очень большими требованиями к округлениям
0
|
|
|
1 / 1 / 0
Регистрация: 29.09.2008
Сообщений: 18
|
|
| 02.10.2008, 13:56 | |
|
Полностью согласен
0
|
|
|
|
||
| 04.04.2009, 15:28 | ||
|
1
|
||
| 04.04.2009, 15:28 | |
|
Помогаю со студенческими работами здесь
10
Ламерский вопрос о загрузке файлов Ламерский вопрос по настройке Oracle Ламерский вопрос про group by и order by База 1с из сервер sql (ламерский вопрос) Предикат CONTAINING (ламерский вопос :) Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |
|
Новые блоги и статьи
|
|||
|
Модель ЗдрввоСохранения 7: больше работников, больше ресурсов.
anaschu 08.04.2026
работников и заданий может быть сколько угодно, но настроено всё так, что используется пока что только 20%
kYBz3eJf3jQ
|
Дальние перспективы сервера - слоя сети с космологическим дизайном интефейса карты и логики.
Hrethgir 07.04.2026
Дальнейшее ближайшее планирование вывело к размышлениям над дальними перспективами. И вот тут может быть даже будут нужны оценки специалистов, так как в дальних перспективах всё может очень сильно. . .
|
Горе от ума
kumehtar 07.04.2026
Эта мне ментальная установка, что вот прямо сейчас, мол, мне для полного счастья не хватает (нужное вписать), и когда я этого достигну - тогда и полный кайф. Одна из самых сильных ловушек на пути. . . .
|
Использование значений реквизитов справочника в документе, с определенными условиями и правами
Maks 07.04.2026
1. Контроль срока действия договора
Алгоритм из решения ниже реализован на примере нетипового документа "ЗаявкаНаРаботу", разработанного в конфигурации КА2.
Задача: уведомлять пользователя, если. . .
|
|
Доступность команды формы по условию
Maks 07.04.2026
Алгоритм из решения ниже реализован на примере нетипового документа "СписаниеМатериалов", разработанного в конфигурации КА2.
Задача: сделать доступной кнопку (команда формы "ЗавершитьСписание") при. . .
|
Уведомление о неверно выбранном значении справочника
Maks 06.04.2026
Алгоритм из решения ниже реализован на примере нетипового документа "НарядПутевка", разработанного в конфигурации КА2.
Задача: уведомлять пользователя, если в документе выбран неверный склад. . .
|
Установка Qt Creator для C и C++: ставим среду, CMake и MinGW без фреймворка Qt
8Observer8 05.04.2026
Среду разработки Qt Creator можно установить без фреймворка Qt. Есть отдельный репозиторий для этой среды: https:/ / github. com/ qt-creator/ qt-creator, где можно скачать установщик, на вкладке Releases:. . .
|
AkelPad-скрипты, структуры, и немного лирики..
testuser2 05.04.2026
Такая программа, как AkelPad существует уже давно, и также давно существуют скрипты под нее. Тем не менее, прога живет, периодически что-то не спеша дополняется, улучшается. Что меня в первую очередь. . .
|