|
0 / 0 / 0
Регистрация: 20.03.2018
Сообщений: 11
|
||||||
Плавающая запятая20.12.2019, 13:02. Показов 1403. Ответов 3
Доброго дня, пожалуйста, подскажите как решить следующую проблему:
-1.000000715 -0.9000006914 -0.8000006676 -0.7000006437 -0.6000006199 -0.500000596 -0.400000602 -0.300000608 -0.2000006139 -0.1000006124 -6.124377023e-07 0.09999939054 0.199999392 0.2999993861 0.3999993801 0.4999993742 Как видно из-за погрешности в младших разрядах при переходе от отрицательных чисел к нолю получается какое-то очень маленькое число, а потом в положительных числах этой погрешности не хватает до правильной значимой части. Я не смог сам разобраться с тем, откуда эта погрешности береться и что с ней делать
0
|
||||||
| 20.12.2019, 13:02 | |
|
Ответы с готовыми решениями:
3
Длинно-плавающая запятая Плавающая запятая ADO запрос и плавающая запятая) |
|
6772 / 4565 / 1844
Регистрация: 07.05.2019
Сообщений: 13,726
|
||
| 20.12.2019, 13:14 | ||
|
https://habr.com/ru/company/xakep/blog/257897/
0
|
||
|
0 / 0 / 0
Регистрация: 20.03.2018
Сообщений: 11
|
|
| 20.12.2019, 13:22 [ТС] | |
|
Я читал эту статью, когда пытался разобраться. Я правильно понял, что дальше какого-то количества разрядов начинается мусор,, вместо обычных нолей и происходит это из-за ограниченного размера мантиссы? В любом случае, неужели нет никакого способа попросить процессор считать числа только с точностью до 6-7 знака после запятой, отбрасывая все, что дальше?
0
|
|
|
6772 / 4565 / 1844
Регистрация: 07.05.2019
Сообщений: 13,726
|
|
| 20.12.2019, 13:25 | |
|
0
|
|
| 20.12.2019, 13:25 | |
|
Помогаю со студенческими работами здесь
4
Плавающая запятая Плавающая ошибка: timers cannot be stopped/started from another thread Что обозначает сообщение "Плавающая точка переполнения". При работе со СТРИНГРИД Дробные числа - плавающая и фиксированная точки Плавающая и фиксированная точка Искать еще темы с ответами Или воспользуйтесь поиском по форуму: |
|
| Опции темы | |
|
|
Новые блоги и статьи
|
|||
|
Подстановка значения реквизита справочника в табличную часть документа
Maks 10.04.2026
Алгоритм из решения ниже реализован на примере нетипового документа "ПланированиеПерсонала", разработанного в конфигурации КА2.
Задача: при выборе сотрудника (справочник Сотрудники) в ТЧ документа. . .
|
Очистка реквизитов документа при копировании
Maks 09.04.2026
Алгоритм из решения ниже применим как для типовых, так и для нетиповых документов на самых различных конфигурациях.
Задача: при копировании документа очищать определенные реквизиты и табличную. . .
|
модель ЗдравоСохранения 8. Подготовка к разному выполнению заданий
anaschu 08.04.2026
https:/ / github. com/ shumilovas/ med2. git
main ветка * содержимое блока дэлэй из старой модели теперь внутри зайца новой модели
8ATzM_2aurI
|
Блокировка документа от изменений, если он открыт у другого пользователя
Maks 08.04.2026
Алгоритм из решения ниже реализован на примере нетипового документа, разработанного в конфигурации КА2.
Задача: запретить редактирование документа, если он открыт у другого пользователя.
/ / . . .
|
|
Система безопасности+живучести для сервера-слоя интернета (сети). Двойная привязка.
Hrethgir 08.04.2026
Далее были размышления о системе безопасности. Сообщения с наклонным текстом - мои.
А как нам будет можно проверить, что ссылка наша, а не подделана хулиганами, которая выбросит на другую ветку и. . .
|
Модель ЗдрввоСохранения 7: больше работников, больше ресурсов.
anaschu 08.04.2026
работников и заданий может быть сколько угодно, но настроено всё так, что используется пока что только 20%
kYBz3eJf3jQ
|
Дальние перспективы сервера - слоя сети с космологическим дизайном интефейса карты и логики.
Hrethgir 07.04.2026
Дальнейшее ближайшее планирование вывело к размышлениям над дальними перспективами. И вот тут может быть даже будут нужны оценки специалистов, так как в дальних перспективах всё может очень сильно. . .
|
Горе от ума
kumehtar 07.04.2026
Эта мне ментальная установка, что вот прямо сейчас, мол, мне для полного счастья не хватает (нужное вписать), и когда я этого достигну - тогда и полный кайф. Одна из самых сильных ловушек на пути. . . .
|