Глюки VB 2 - точность вычислений (Single, Double)

@Newzero · Регистрация: 30.11.2014

Студворк — интернет-сервис помощи студентам

Добрый день как правильно объявить переменную делимого?
Почему правильное объявление переменной ведет к неправильному результату?

Кликните здесь для просмотра всего текста

Visual Basic
1
2
3
4
5
6
7
8
9
Private Sub Form_Load()
Dim b As Single
Dim c As Single
Dim a As Single
b = 0.04
c = 5
a = b / c
Label1.Caption = a
End Sub

Результат отображения
Название: 1.PNG
Просмотров: 91

Размер: 6.3 Кб

Не красивое объявление переменной b но правильный результат

Кликните здесь для просмотра всего текста

Visual Basic
1
2
3
4
5
6
7
8
9
Private Sub Form_Load()
Dim b
Dim c As Single
Dim a As Single
b = 0.04
c = 5
a = b / c
Label1.Caption = a
End Sub

Результат отображения

Глюки VB 2 - точность вычислений (Single, Double)

Как поступить?

@The trick · 20.11.2019, 17:31

Сообщение от Newzero

Видимо что то недоделано однозначно у VB

Покажи код VB со скрином. Тот же код и на C++ будет выдавать аналогичный результат:

Сообщение от Newzero

У меня цель установить правильный тип данных (вроде делаю как положено ) или операцию исправления
чтобы при получении данных из переменной были достоверные цифры,
где деление без остатка то получать результат как положено
т.е. 0,04/5= 0,008, а не 7,999999E-03

Так используй Double.

@Newzero · 20.11.2019, 22:47 **[ТС]**

Добрый день

Выкладываемый пример в котором проверял типы был кусок программы.
Поменял все типы c Single на Double - помогло.
Почему то при передаче данных из одной переменной в новую также наследуется и тип

Спасибо

@IDK · 21.11.2019, 03:52

Сообщение от Newzero

Почему то при передаче данных из одной переменной в новую также наследуется и тип

Присваивается значение, тип не наследуется.

Есть стандарт IEEE 754. Когда вы присваиваете значение переменной single, то фактически выполняется присваивание не a = 0.04, но a = 0.0399999991059303284 - отсюда и неточность при расчёте. От языка, как сказал, the trick - не зависит. Для того, чтобы наиболее точно представить в стандарте IEEE 754 вещественное число 0.04, нужно использовать тип данных double, который сможет представить число 0,04 = 0.0400000000000000004 - также и любой другой язык программирования. Стандарт IEEE 754 используется в компьютерной технике для представления вещественных чисел, поддерживается CPU intel/amd и компилятором vb и другими. Используйте Double, если нужна высокая точность, при single она и так не низкая, смотря для чего нужно значение.

@Pro_grammer · 21.11.2019, 08:04

Сообщение от Newzero

Поменял все типы c Single на Double - помогло.

Я вам это посоветовал сразу же, в первом своём сообщении + привел выдержку из MSDN с объяснением этого явления.
У меня только 1 вопрос:
Почему мне вы ответили, что не помогло, а теперь вдруг

Сообщение от Newzero

Поменял все типы c Single на Double - помогло.

Как так то?

@Catstail · 21.11.2019, 08:44

Newzero, вместо того, чтобы безапелляционно высказывать глупости ("Видимо что то недоделано однозначно у VB") лучше изучить особенности работы с плавающей запятой

@Newzero · 23.11.2019, 12:52 **[ТС]**

Сообщение от Pro_grammer

Как так то?

Прошу прощения
Я когда писал про свои опыты я вспоминал Ваш ответ, но не мог понять почему так ведь точности SINGLE было достаточно
Когда появилось выше сообщение про

Есть стандарт IEEE 754. Когда вы присваиваете значение переменной single, то фактически выполняется присваивание не a = 0.04, но a = 0.0399999991059303284 - отсюда и неточность при расчёте. От языка, как сказал, the trick - не зависит. Для того, чтобы наиболее точно представить в стандарте IEEE 754 вещественное число 0.04, нужно использовать тип данных double, который сможет представить число 0,04 = 0.0400000000000000004 - также и любой другой язык программирования. Стандарт IEEE 754 используется в компьютерной технике для представления вещественных чисел, поддерживается CPU intel/amd и компилятором vb и другими. Используйте Double, если нужна высокая точность, при single она и так не низкая, смотря для чего нужно значение.

Все встало на свое место

Добавлено через 6 минут

Сообщение от Catstail

Newzero, вместо того, чтобы безапелляционно высказывать глупости ("Видимо что то недоделано однозначно у VB") лучше изучить особенности работы с плавающей запятой

Ну почему безопеляцонно
для значения 0,04 разрядности SINGLE достаточно ? Достаточно
Если бы сразу подсказали что есть информация по указанной Вами статье п.3-п.4 и я ее не брал бы в расчет то согласен.

Добавлено через 5 минут
Тему можно закрыть, всем спасибо

@Catstail · 23.11.2019, 13:05

Сообщение от Newzero

для значения 0,04 разрядности SINGLE достаточно ? Достаточно

- Дробь 0.04 в двоичном виде становится периодической и не может быть представлена точно. Кроме того, в ЯП никаких особых действий над числами с плавающей точкой не выполняется - используются команды микропроцессора. Так что VB здесь не при чем дважды.

Новые блоги и статьи Все статьи Все блоги /
Загрузка PNG-файла с альфа-каналом с помощью библиотеки SDL3_image на Android 8Observer8 27.01.2026 Содержание блога SDL3_image - это библиотека для загрузки и работы с изображениями. Эта пошаговая инструкция покажет, как загрузить и вывести на экран смартфона картинку с альфа-каналом, то есть с. . .	влияние грибов на сукцессию anaschu 26.01.2026 Бифуркационные изменения массы гриба происходят тогда, когда мы уменьшаем массу компоста в 10 раз, а скорость прироста биомассы уменьшаем в три раза. Скорость прироста биомассы может уменьшаться за. . .	Воспроизведение звукового файла с помощью SDL3_mixer при касании экрана Android 8Observer8 26.01.2026 Содержание блога SDL3_mixer - это библиотека я для воспроизведения аудио. В отличие от инструкции по добавлению текста код по проигрыванию звука уже содержится в шаблоне примера. Нужно только. . .	Установка Android SDK, NDK, JDK, CMake и т.д. 8Observer8 25.01.2026 Содержание блога Перейдите по ссылке: https:/ / developer. android. com/ studio и в самом низу страницы кликните по архиву "commandlinetools-win-xxxxxx_latest. zip" Извлеките архив и вы увидите. . .
Вывод текста со шрифтом TTF на Android с помощью библиотеки SDL3_ttf 8Observer8 25.01.2026 Содержание блога Если у вас не установлены Android SDK, NDK, JDK, и т. д. то сделайте это по следующей инструкции: Установка Android SDK, NDK, JDK, CMake и т. д. Сборка примера Скачайте. . .	Использование SDL3-callbacks вместо функции main() на Android, Desktop и WebAssembly 8Observer8 24.01.2026 Содержание блога Если вы откроете примеры для начинающих на официальном репозитории SDL3 в папке: examples, то вы увидите, что все примеры используют следующие четыре обязательные функции, а. . .	моя боль iceja 24.01.2026 Выложила интерполяцию кубическими сплайнами www. iceja. net REST сервисы временно не работают, только через Web. Написала за 56 рабочих часов этот сайт с нуля. При помощи perplexity. ai PRO , при. . .	Модель сукцессии микоризы anaschu 24.01.2026 Решили писать научную статью с неким РОманом

@Newzero 0 / 0 / 0 Регистрация: 30.11.2014 Сообщений: 33
	20.11.2019, 22:47 [ТС]
	Добрый день Выкладываемый пример в котором проверял типы был кусок программы. Поменял все типы c Single на Double - помогло. Почему то при передаче данных из одной переменной в новую также наследуется и тип Спасибо 0

@Catstail Супер-модератор 38168 / 21103 / 4307 Регистрация: 12.02.2012 Сообщений: 34,693 Записей в блоге: 14
	21.11.2019, 08:44
	Newzero, вместо того, чтобы безапелляционно высказывать глупости ("Видимо что то недоделано однозначно у VB") лучше изучить особенности работы с плавающей запятой 1