Глюки VB 2 - точность вычислений (Single, Double)

@Newzero · Регистрация: 30.11.2014

Студворк — интернет-сервис помощи студентам

Добрый день как правильно объявить переменную делимого?
Почему правильное объявление переменной ведет к неправильному результату?

Кликните здесь для просмотра всего текста

Visual Basic
1
2
3
4
5
6
7
8
9
Private Sub Form_Load()
Dim b As Single
Dim c As Single
Dim a As Single
b = 0.04
c = 5
a = b / c
Label1.Caption = a
End Sub

Результат отображения
Название: 1.PNG
Просмотров: 91

Размер: 6.3 Кб

Не красивое объявление переменной b но правильный результат

Кликните здесь для просмотра всего текста

Visual Basic
1
2
3
4
5
6
7
8
9
Private Sub Form_Load()
Dim b
Dim c As Single
Dim a As Single
b = 0.04
c = 5
a = b / c
Label1.Caption = a
End Sub

Результат отображения

Глюки VB 2 - точность вычислений (Single, Double)

Как поступить?

@The trick · 20.11.2019, 17:31

Сообщение от Newzero

Видимо что то недоделано однозначно у VB

Покажи код VB со скрином. Тот же код и на C++ будет выдавать аналогичный результат:

Сообщение от Newzero

У меня цель установить правильный тип данных (вроде делаю как положено ) или операцию исправления
чтобы при получении данных из переменной были достоверные цифры,
где деление без остатка то получать результат как положено
т.е. 0,04/5= 0,008, а не 7,999999E-03

Так используй Double.

@Newzero · 20.11.2019, 22:47 **[ТС]**

Добрый день

Выкладываемый пример в котором проверял типы был кусок программы.
Поменял все типы c Single на Double - помогло.
Почему то при передаче данных из одной переменной в новую также наследуется и тип

Спасибо

@IDK · 21.11.2019, 03:52

Сообщение от Newzero

Почему то при передаче данных из одной переменной в новую также наследуется и тип

Присваивается значение, тип не наследуется.

Есть стандарт IEEE 754. Когда вы присваиваете значение переменной single, то фактически выполняется присваивание не a = 0.04, но a = 0.0399999991059303284 - отсюда и неточность при расчёте. От языка, как сказал, the trick - не зависит. Для того, чтобы наиболее точно представить в стандарте IEEE 754 вещественное число 0.04, нужно использовать тип данных double, который сможет представить число 0,04 = 0.0400000000000000004 - также и любой другой язык программирования. Стандарт IEEE 754 используется в компьютерной технике для представления вещественных чисел, поддерживается CPU intel/amd и компилятором vb и другими. Используйте Double, если нужна высокая точность, при single она и так не низкая, смотря для чего нужно значение.

@Pro_grammer · 21.11.2019, 08:04

Сообщение от Newzero

Поменял все типы c Single на Double - помогло.

Я вам это посоветовал сразу же, в первом своём сообщении + привел выдержку из MSDN с объяснением этого явления.
У меня только 1 вопрос:
Почему мне вы ответили, что не помогло, а теперь вдруг

Сообщение от Newzero

Поменял все типы c Single на Double - помогло.

Как так то?

@Catstail · 21.11.2019, 08:44

Newzero, вместо того, чтобы безапелляционно высказывать глупости ("Видимо что то недоделано однозначно у VB") лучше изучить особенности работы с плавающей запятой

@Newzero · 23.11.2019, 12:52 **[ТС]**

Сообщение от Pro_grammer

Как так то?

Прошу прощения
Я когда писал про свои опыты я вспоминал Ваш ответ, но не мог понять почему так ведь точности SINGLE было достаточно
Когда появилось выше сообщение про

Есть стандарт IEEE 754. Когда вы присваиваете значение переменной single, то фактически выполняется присваивание не a = 0.04, но a = 0.0399999991059303284 - отсюда и неточность при расчёте. От языка, как сказал, the trick - не зависит. Для того, чтобы наиболее точно представить в стандарте IEEE 754 вещественное число 0.04, нужно использовать тип данных double, который сможет представить число 0,04 = 0.0400000000000000004 - также и любой другой язык программирования. Стандарт IEEE 754 используется в компьютерной технике для представления вещественных чисел, поддерживается CPU intel/amd и компилятором vb и другими. Используйте Double, если нужна высокая точность, при single она и так не низкая, смотря для чего нужно значение.

Все встало на свое место

Добавлено через 6 минут

Сообщение от Catstail

Newzero, вместо того, чтобы безапелляционно высказывать глупости ("Видимо что то недоделано однозначно у VB") лучше изучить особенности работы с плавающей запятой

Ну почему безопеляцонно
для значения 0,04 разрядности SINGLE достаточно ? Достаточно
Если бы сразу подсказали что есть информация по указанной Вами статье п.3-п.4 и я ее не брал бы в расчет то согласен.

Добавлено через 5 минут
Тему можно закрыть, всем спасибо

@Catstail · 23.11.2019, 13:05

Сообщение от Newzero

для значения 0,04 разрядности SINGLE достаточно ? Достаточно

- Дробь 0.04 в двоичном виде становится периодической и не может быть представлена точно. Кроме того, в ЯП никаких особых действий над числами с плавающей точкой не выполняется - используются команды микропроцессора. Так что VB здесь не при чем дважды.

Новые блоги и статьи Все статьи Все блоги /
Асинхронный приём данных из COM-порта Argus19 01.05.2026 Асинхронный приём данных из COM-порта Купил на aliexpress термопринтер QR701. Он оказался странным. Поключил к Arduino Nano. Был очень удивлён. Наотрез отказывается печатать русские буквы. Чтобы. . .	попытка написать игровой сервер на C++ pyirrlicht 29.04.2026 попытка написать игровой сервер на плюсах с открытым бесконечным миром. возможно получится прикрутить интерпретатор питон для кастомизации игровой логики. что есть на текущий момент:. . .	Контроль уникальности выбранного документа-основания при изменении реквизита Maks 28.04.2026 Алгоритм из решения ниже разработан на примере нетипового документа "ЗаявкаНаРемонтСпецтехники", разработанного в КА2. Задача: уведомлять пользователя, если указанная заявка (документ-основание). . .	Благородство как наказание Maks 24.04.2026 У хорошего человека отношения с женщинами всегда складываются трудно. А я человек хороший. Заявляю без тени смущения, потому что гордиться тут нечем. От хорошего человека ждут соответствующего. . .
Валидация и контроль данных табличной части документа перед записью Maks 22.04.2026 Алгоритм из решения ниже реализован на примере нетипового документа, разработанного в КА2. Задача: контроль и валидация данных табличной части документа перед записью с учетом регламента компании. . .	Отчёт о затраченных материалах за определенный период с макетом печатной формы Maks 21.04.2026 Отчёт из решения ниже размещён в конфигурации КА2. Задача: разработка отчёта по затраченным материалам за определённый период, с возможностью вывода печатной формы отчёта с шапкой и подвалом. В. . .	Отчёт о спецтехнике находящейся в ремонте Maks 20.04.2026 Отчёт из решения ниже размещен в конфигурации КА2. Задача: отобразить спецтехнику, которая на данный момент находится в ремонте. Есть нетиповой документ "Заявка на ремонт спецтехники" который. . .	Памятка для бота и "визитка" для читателей "Semantic Universe Layer (Слой семантической вселенной)" Hrethgir 19.04.2026 Сгенерировано для краткого описания по случаю сборки и компиляции скелета серверного приложения. И пусть после этого скажут, что статьи сгенерированные AI - туфта и не интересно. И это не реклама -. . .

@Newzero 0 / 0 / 0 Регистрация: 30.11.2014 Сообщений: 33
	20.11.2019, 22:47 [ТС]
	Добрый день Выкладываемый пример в котором проверял типы был кусок программы. Поменял все типы c Single на Double - помогло. Почему то при передаче данных из одной переменной в новую также наследуется и тип Спасибо 0

@Catstail Супер-модератор 38203 / 21135 / 4310 Регистрация: 12.02.2012 Сообщений: 34,746 Записей в блоге: 14
	21.11.2019, 08:44
	Newzero, вместо того, чтобы безапелляционно высказывать глупости ("Видимо что то недоделано однозначно у VB") лучше изучить особенности работы с плавающей запятой 1

Опции темы