Глюки VB 2 - точность вычислений (Single, Double)

@Newzero · Регистрация: 30.11.2014

Студворк — интернет-сервис помощи студентам

Добрый день как правильно объявить переменную делимого?
Почему правильное объявление переменной ведет к неправильному результату?

Кликните здесь для просмотра всего текста

Visual Basic
1
2
3
4
5
6
7
8
9
Private Sub Form_Load()
Dim b As Single
Dim c As Single
Dim a As Single
b = 0.04
c = 5
a = b / c
Label1.Caption = a
End Sub

Результат отображения
Название: 1.PNG
Просмотров: 91

Размер: 6.3 Кб

Не красивое объявление переменной b но правильный результат

Кликните здесь для просмотра всего текста

Visual Basic
1
2
3
4
5
6
7
8
9
Private Sub Form_Load()
Dim b
Dim c As Single
Dim a As Single
b = 0.04
c = 5
a = b / c
Label1.Caption = a
End Sub

Результат отображения

Глюки VB 2 - точность вычислений (Single, Double)

Как поступить?

@Pro_grammer · 19.11.2019, 08:10

Можете объявить как вещественное число двойной точности.
Double наиболее эффективен для дробных типов данных, так как процессоры на современных платформах выполняют операции с плавающей запятой с двойной точностью.

Visual Basic
1
2
3
4
5
6
7
8
9
Private Sub Form_Load()
Dim b As Double
Dim c As Single ' Double
Dim a As Single ' Double
b = 0.04
c = 5
a = b / c
Label1.Caption = a
End Sub

Тогда как тип данных Single можно использовать если у вас есть очень большое количество переменных, которые содержат небольшие числа с плавающей запятой, тогда хранить ваши Single переменные более эффективно и снизить потребление памяти. Но в современных компах памяти обычно много, я бы всё же делал ставку на быстродействие.

@Newzero · 19.11.2019, 11:39 **[ТС]**

Добрый день пробовал тоже самое к сожалению

@Catstail · 19.11.2019, 12:21

Не столь важно, как объявлять... Важнее - как печатать:

Visual Basic
1
2
3
4
5
6
7
8
9
Sub aaa()
Dim b As Single
Dim c As Single 
Dim a As Single 
  b = 0.04
  c = 5 
  a = b / c
  Debug.Print Format$(a, "0.000")
End Sub

@Pro_grammer · 19.11.2019, 13:54

Сообщение от Newzero

пробовал тоже самое

Странно, наверно всё же зависит от системы и того, как процессор считает.
У меня гуд!

@Catstail · 19.11.2019, 15:55

Сообщение от Pro_grammer

от системы и того, как процессор считает.

- скорее, от версии Офиса

@Pro_grammer · 19.11.2019, 17:00

Сообщение от Catstail

скорее, от версии Офиса

А если Офис вообще на компе не установлен, только VB6?

@Catstail · 19.11.2019, 17:03

Сообщение от Pro_grammer

А если Офис вообще на компе не установлен, только VB6?

- тогда вопрос...

@IDK · 19.11.2019, 17:26

В вещественный регистр загружается значение делимого не 0.04, а 0.0399999991059303284. Зашивается, действительно, компилятором VB в исполняемый файл. Это если все переменные объявлены Single.

@Замабувараев · 19.11.2019, 18:14

Single и Double принципиально не могут быть точными.
Потому что они так устроены.

@IDK · 19.11.2019, 18:45

При объявлении переменной как Double, погрешность репрезентации вещественного числа снижается, что привод к более точному результату расчёта, который при округлении результата дает ответ = 0,008.

@Catstail · 19.11.2019, 20:51

Сообщение от Замабувараев

Single и Double принципиально не могут быть точными.

- могут, если представимы конечной двоичной дробью

@Newzero · 19.11.2019, 22:23 **[ТС]**

Использую для своих нужд для оптимизации вычислений
дома поднял винду XP и VB6 и офис 2003 поставил чтобы все использовало Microsoft DLL и ядрах одного возраста.
Маленькие программки писать пойдет.

С подобной проблемой сталкивался при написании макросов в EXCEL, в ячейку из переменной попадает значение с такой же проблемой.

Скорее всего это на уровне ниже связано (с выделением памяти при определении переменных).

Решение да есть два/три варианта:
1. Вывод форматированный - но в переменной результат с ошибкой остается, а с этими данными еще нужно чтото будет делать программе
2. Оставить тип как VARIANT
3. Использовать тип Currency - помогает, но думаю не во всех случаях

Но все эти варианты не красивые ибо придется много тестировать и отслеживать все переменные, для достоверности

А может глюк VB6 (SP6)

Добавлено через 3 минуты
Проблема в конкретном приведенном примере
Если бы был результат ожидаемый как 2/3 в десятичном представлении то бы бог с ним, а тут все до конца делится

Пробовал уходить от дробной части делимое умножал на 1000 потом делил и результат потом делил на 1000 - как вариант не потерять значимые цифры - не помогает

@IDK · 20.11.2019, 03:22

Сообщение от Pro_grammer

Странно, наверно всё же зависит от системы и того, как процессор считает.
У меня гуд!

Тип данных для переменной b поменяйте на Single, тогда будет как у ТС.

Если нужны красивые цифры, то либо на типе данных single использовать функцию round/format, если известно количество значащих цифр после запятой, либо объявить все вещественны переменные типом данных Double.

@Pro_grammer · 20.11.2019, 07:36

Сообщение от IDK

Тип данных для переменной b поменяйте на Single, тогда будет как у ТС.

Для чего? Вы ветку прочитали?
У ТС с Double результат такой же, как и с Single, а у меня не такой.
Сей факт мы тут и пытаемся научно обосновать.

@The trick · 20.11.2019, 09:39

Сообщение от Pro_grammer

Double наиболее эффективен для дробных типов данных, так как процессоры на современных платформах выполняют операции с плавающей запятой с двойной точностью.

FPU выполняет операции с 80 битовыми числами с плавающей запятой, все числа конвертируются в этот формат. Из-за разности форматов могут даже возникать неочевидные вещи такие как отрицательные результаты после инкремента и последующего вычитания из инкремента предыдущего значения. Такое поведение характерно для других компиляторов также, а не только в VB6. К примеру такой код:

Visual Basic
1
2
3
4
  Dim t As Single
 
  t = Timer
  Caption = Timer - t

Будет иногда выдавать отрицательные значения. Объяснение такого поведения можно найти у Хакера на форуме (т.к ссылки нельзя давать, название темы "Странное поведение ф-ции Timer").
Newzero, какой тебе результат то нужен в итоге чтобы был?

@Pro_grammer · 20.11.2019, 11:35

Сообщение от The trick

Dim t As Single

C Single всё предельно ясно.

Интересно другое, почему у меня VB6 с Double

Visual Basic
1
2
3
4
5
6
7
8
9
Private Sub Form_Load()
Dim b As Double
Dim c As Single ' Double
Dim a As Single ' Double
b = 0.04
c = 5
a = b / c
Label1.Caption = a
End Sub

Выдает 0.008, а у ТС (по его словам) 7,999999E -3
От чего это зависит?

@The trick · 20.11.2019, 11:51

Сообщение от Pro_grammer

Выдает 0.008, а у ТС (по его словам) 7,999999E -3

Не может такого быть, как минимум у Double больше знаков, а по словам ТС написано как у Single.
Просто для проверки:

Visual Basic
1
2
3
4
5
Dim s As Single
Dim o As Double
 
s = 0.04! / 5   ' s = 7,999999E-03
o = s   ' o = 7,99999944865704E-03

Добавлено через 3 минуты

Сообщение от Pro_grammer

C Single всё предельно ясно.

С Double тоже самое может выдать, т.к. Double 64-битный, а FPU стек 80.

@Newzero · 20.11.2019, 16:54 **[ТС]**

Добрый день

У меня цель установить правильный тип данных (вроде делаю как положено ) или операцию исправления
чтобы при получении данных из переменной были достоверные цифры,
где деление без остатка то получать результат как положено
т.е. 0,04/5= 0,008, а не 7,999999E-03

а 2/3=0,66666 - это уже не суть сколько знаков буду использовать в дальнейшем, поскольку иного результата не будет

Помимо этого данные передаю в EXCEL в ячейках тоже искаженные данные попадают
Если решений нет то думаю припишем еще один глюк и тему закроем.

@Newzero · 20.11.2019, 17:11 **[ТС]**

Попробовал на другом компьютере с W7*64 в VBA EXCELe офиса 2016
Видимо что то недоделано однозначно у VB

Visual Basic
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
Private Sub CommandButton1_Click()
Dim a As Single
Dim b As Single
Dim c As Single
a = 0.04
b = 5
c = a / b
Label1.Caption = c
End Sub
 
Private Sub CommandButton2_Click()
Dim a As Double
Dim b As Double
Dim c As Double
a = 0.04
b = 5
c = a / b
Label2.Caption = c

Новые блоги и статьи Все статьи Все блоги /
Автозаполнение реквизита при выборе элемента справочника Maks 27.03.2026 Программный код из решения ниже на примере нетипового документа "ЗаявкаНаРемонтСпецтехники" разработанного в конфигурации КА2. При выборе "Спецтехники" (Тип Справочник. Спецтехника), заполняется. . .	Сумматор с применением элементов трёх состояний. Hrethgir 26.03.2026 Тут. https:/ / fips. ru/ EGD/ ab3c85c8-836d-4866-871b-c2f0c5d77fbc Первый документ красиво выглядит, но без схемы. Это конечно не даёт никаких плюсов автору, но тем не менее. . . всё может быть. . .	Автозаполнение реквизитов при создании документа Maks 26.03.2026 Программный код из решения ниже размещается в модуле объекта документа, в процедуре "ПриСозданииНаСервере". Алгоритм проверки заполнения реализован для исключения перезаписи значения реквизита,. . .	Команды формы и диалоговое окно Maks 26.03.2026 1. Команда формы "ЗаполнитьЗапчасти". Программный код из решения ниже на примере нетипового документа "ЗаявкаНаРемонтСпецтехники" разработанного в конфигурации КА2. В качестве источника данных. . .
Кому нужен AOT? DevAlt 26.03.2026 Решил сделать простой ланчер Написал заготовку: dotnet new console --aot -o UrlHandler var items = args. Split(":"); var tag = items; var id = items; var executable = args;. . .	Отправка уведомления на почту при изменении наименования справочника Maks 24.03.2026 Программная отправка письма электронной почты на примере изменения наименования типового справочника "Склады" в конфигурации БП3. Перед реализацией необходимо выполнить настройку системной учетной. . .	модель ЗдравоСохранения 5. Меньше увольнений- больше дохода! anaschu 24.03.2026 Теперь система здравосохранения уменьшает количество увольнений. 9TO2GP2bpX4 a42b81fb172ffc12ca589c7898261ccb/ https:/ / rutube. ru/ video/ a42b81fb172ffc12ca589c7898261ccb/ Слева синяя линия -. . .	Midnight Chicago Blues kumehtar 24.03.2026 Такой Midnight Chicago Blues, знаешь?. . Когда вечерние улицы становятся ночными, а ты не можешь уснуть. Ты идёшь в любимый старый бар, и бармен наливает тебе виски. Ты смотришь на пролетающие. . .

@Newzero 0 / 0 / 0 Регистрация: 30.11.2014 Сообщений: 33
	19.11.2019, 11:39 [ТС]
	Добрый день пробовал тоже самое к сожалению 0

@IDK 63 / 48 / 12 Регистрация: 28.12.2014 Сообщений: 270
	19.11.2019, 17:26
	В вещественный регистр загружается значение делимого не 0.04, а 0.0399999991059303284. Зашивается, действительно, компилятором VB в исполняемый файл. Это если все переменные объявлены Single. 0

@Замабувараев COM‐пропагандист 936 / 785 / 149 Регистрация: 18.12.2014 Сообщений: 2,256 Записей в блоге: 4
	19.11.2019, 18:14
	Single и Double принципиально не могут быть точными. Потому что они так устроены. 1

@IDK 63 / 48 / 12 Регистрация: 28.12.2014 Сообщений: 270
	19.11.2019, 18:45
	При объявлении переменной как Double, погрешность репрезентации вещественного числа снижается, что привод к более точному результату расчёта, который при округлении результата дает ответ = 0,008. 0

@Newzero 0 / 0 / 0 Регистрация: 30.11.2014 Сообщений: 33
	19.11.2019, 22:23 [ТС]
	Использую для своих нужд для оптимизации вычислений дома поднял винду XP и VB6 и офис 2003 поставил чтобы все использовало Microsoft DLL и ядрах одного возраста. Маленькие программки писать пойдет. С подобной проблемой сталкивался при написании макросов в EXCEL, в ячейку из переменной попадает значение с такой же проблемой. Скорее всего это на уровне ниже связано (с выделением памяти при определении переменных). Решение да есть два/три варианта: 1. Вывод форматированный - но в переменной результат с ошибкой остается, а с этими данными еще нужно чтото будет делать программе 2. Оставить тип как VARIANT 3. Использовать тип Currency - помогает, но думаю не во всех случаях Но все эти варианты не красивые ибо придется много тестировать и отслеживать все переменные, для достоверности А может глюк VB6 (SP6) Добавлено через 3 минуты Проблема в конкретном приведенном примере Если бы был результат ожидаемый как 2/3 в десятичном представлении то бы бог с ним, а тут все до конца делится Пробовал уходить от дробной части делимое умножал на 1000 потом делил и результат потом делил на 1000 - как вариант не потерять значимые цифры - не помогает 0

@Newzero 0 / 0 / 0 Регистрация: 30.11.2014 Сообщений: 33
	20.11.2019, 16:54 [ТС]
	Добрый день У меня цель установить правильный тип данных (вроде делаю как положено ) или операцию исправления чтобы при получении данных из переменной были достоверные цифры, где деление без остатка то получать результат как положено т.е. 0,04/5= 0,008, а не 7,999999E-03 а 2/3=0,66666 - это уже не суть сколько знаков буду использовать в дальнейшем, поскольку иного результата не будет Помимо этого данные передаю в EXCEL в ячейках тоже искаженные данные попадают Если решений нет то думаю припишем еще один глюк и тему закроем. 0