Тип данных Decimal. Как использовать?

@serjM · Регистрация: 13.02.2013

Студворк — интернет-сервис помощи студентам

Максимальное число с которым я могу оперировать это 24159191040 (Long). Как преобразовать long или Variant в Decimal? Или как получить Decimal?Просто так Decimal не добавляется, хотя на сайте Microsoft прямо так и пишут Dim d1,d2,d3,d4 as Decimal. Если я увеличиваю For i = 1 To 155432 (корень из 24159191040(Long)), то когда значение i становится 46341 (что это?) выскакивает ошибка Run time error 6 Overflow.
Код моей программы для поиска автоморфных чисел ниже

Visual Basic
1
2
3
4
5
6
7
8
9
Dim a As Integer
Dim b, i As Long
Sub Command1_Click()
For i = 1 To 30000
b = i ^ 2
a = Len(i)
If i = b Mod 10 ^ a Then Print i
Next i
End Sub

Ошибка "Overflow" именно в подсчете b Mod 10 ^ a.Но хотелось бы также узнать как использовать Decimal?

@Казанский · 08.04.2014, 22:36

Сообщение от serjM

Как преобразовать long или Variant в Decimal? Или как получить Decimal?

Функцией CDec. Смотрите например Получить корень из двух в формате Decimal
Для этой задачи Decimal избыточен, подойдет Double.

Кстати, a=4 всегда - подумайте, почему.

@serjM · 08.04.2014, 22:58 **[ТС]**

Код программы выше рабочий. Ошибки возникают при изменении For i= 1 to (значения больше 46431)

Сообщение от Казанский

Кстати, a=4 всегда - подумайте, почему.

Да нет, не всегда. оно меняется от 1 до 5 в процессе. CDec просто вместо +27Е возвращает количество нулей. Получить корень из двух в формате Decimal Я не думаю что в той теме есть решение

Сообщение от Казанский

Для этой задачи Decimal избыточен

Чем больше, тем лучше. Я хотел написать For i = 1 To x, где x корень из максимального значения Decimal, или чуть меньше

@Антихакер32 · 08.04.2014, 22:59

кто им вообще пользуется этим типом данных Decimal ?
мне ни разу не попадалось в нормальных исходниках

а если бы и попалось то исправил бы на Long

@Казанский · 08.04.2014, 23:03

Вот более правильный код

Visual Basic
1
2
3
4
5
6
7
8
9
Dim i As Long, m As Long
 
Sub Command1_Click()
m = 10
For i = 1 To 30000
  If i >= m Then m = m * 10
  If i = i * i Mod m Then Print i
Next i
End Sub

А 46341 - это и есть корень из макс. Long.

Добавлено через 2 минуты

Сообщение от serjM

оно меняется от 1 до 5 в процессе

Вы проверяли? А что получается в итоге? Должно быть

@Антихакер32 · 08.04.2014, 23:09

супер точность в крайне редких случаях нужна
и то я бы тогда больше доверился тексту чем непонятных мне
функций преобразований с неизвестной точностью ...

@Казанский · 08.04.2014, 23:14

Сообщение от serjM

Чем больше, тем лучше

100 млн хватит?

Visual Basic
1
2
3
4
5
6
7
8
9
10
Dim i As Long, m As Double, b As Double
 
Sub Command1_Click()
m = 10
For i = 1 To 100000000
  If i >= m Then m = m * 10
  b = CDbl(i) * i
  If i = b - Int(b / m) * m Then Print i
Next i
End Sub

@serjM · 08.04.2014, 23:40 **[ТС]**

Сообщение от Казанский

Вы проверяли?

Проверял. Работает.

Добавлено через 20 минут

Сообщение от Казанский

b = CDbl(i) * i
* If i = b - Int(b / m) * m Then Print i

Это замечательно! Спасибо

Добавлено через 3 минуты
С помощью Double можно считать числа с 308 знаками я так понимаю. Мне не нужен был Decimal

@Казанский · 08.04.2014, 23:47

Сообщение от serjM

С помощью Double можно считать числа с 308 знаками я так понимаю

Нет, с 15-ю. Здесь последнее число 87109376 уже цепляет за край.
С Decimal на самом деле почти то же самое:

Visual Basic
1
2
3
4
5
6
7
8
9
10
Dim i As Long, m As Double, b
 
Sub Command1_Click()
m = 10
For i = 1 To 100000000
  If i >= m Then m = m * 10
  b = CDec(i) * i
  If i = b - Int(b / m) * m Then Debug.Print i
Next i
End Sub

Но мееедленноооо...

Если есть желание - оптимизируйте алгоритм, сравнивайте: http://oeis.org/A003226/list

@Антихакер32 · 09.04.2014, 01:12

ему надо было скинуть нормальную ссыль на типы данных
и на оптимизацию кода сразу-же в первом посте
это бы намного ускорило диалог

Добавлено через 3 минуты
даже не ссыль а руками можно-было написать (на пальцах объяснить)
в чем различия и скорости

Добавлено через 5 минут
вообще теоретически
можно использовать расчеты любой точности даже с Long
если использовать систему исчисления с основанием 2^32
а Long представлять числовым массивом ...

Добавлено через 2 минуты
именно Long самый скоростной тип данных ...

@The trick · 09.04.2014, 09:17

Сообщение от FelixMacintosh

даже не ссыль а руками можно-было написать (на пальцах объяснить)
в чем различия и скорости

Single, Long, Double (и еще куча стандартных) - работают напрямую с аппаратной частью при проведении арифметичесских операций, в Decimal все делается программно, поэтому медленно.
В Decimal можно хранить больше всего значащих цифр, поэтому его точность выше чем у остальных.

Новые блоги и статьи Все статьи Все блоги /
SDL3 для Web (WebAssembly): Обработчик клика мыши в браузере ПК и касания экрана в браузере на мобильном устройстве 8Observer8 02.02.2026 Содержание блога Для начала пошагово создадим рабочий пример для подготовки к экспериментам в браузере ПК и в браузере мобильного устройства. Потом напишем обработчик клика мыши и обработчик. . .	Философия технологии iceja 01.02.2026 На мой взгляд у человека в технических проектах остается роль генерального директора. Все остальное нейронки делают уже лучше человека. Они не могут нести предпринимательские риски, не могут. . .	SDL3 для Web (WebAssembly): Вывод текста со шрифтом TTF с помощью SDL3_ttf 8Observer8 01.02.2026 Содержание блога В этой пошаговой инструкции создадим с нуля веб-приложение, которое выводит текст в окне браузера. Запустим на Android на локальном сервере. Загрузим Release на бесплатный. . .	SDL3 для Web (WebAssembly): Сборка C/C++ проекта из консоли 8Observer8 30.01.2026 Содержание блога Если вы откроете примеры для начинающих на официальном репозитории SDL3 в папке: examples, то вы увидите, что все примеры используют следующие четыре обязательные функции, а. . .
SDL3 для Web (WebAssembly): Установка Emscripten SDK (emsdk) и CMake для сборки C и C++ приложений в Wasm 8Observer8 30.01.2026 Содержание блога Для того чтобы скачать Emscripten SDK (emsdk) необходимо сначало скачать и уставить Git: Install for Windows. Следуйте стандартной процедуре установки Git через установщик. . . .	SDL3 для Android: Подключение Box2D v3, физика и отрисовка коллайдеров 8Observer8 29.01.2026 Содержание блога Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами. Версия v3 была полностью переписана на Си, в. . .	Инструменты COM: Сохранение данный из VARIANT в файл и загрузка из файла в VARIANT bedvit 28.01.2026 Сохранение базовых типов COM и массивов (одномерных или двухмерных) любой вложенности (деревья) в файл, с возможностью выбора алгоритмов сжатия и шифрования. Часть библиотеки BedvitCOM Использованы. . .	SDL3 для Android: Загрузка PNG с альфа-каналом с помощью SDL_LoadPNG (без SDL3_image) 8Observer8 28.01.2026 Содержание блога SDL3 имеет собственные средства для загрузки и отображения PNG-файлов с альфа-каналом и базовой работы с ними. В этой инструкции используется функция SDL_LoadPNG(), которая. . .

@Антихакер32 1201 / 473 / 46 Регистрация: 06.01.2014 Сообщений: 1,797 Записей в блоге: 19
	08.04.2014, 22:59
	кто им вообще пользуется этим типом данных Decimal ? мне ни разу не попадалось в нормальных исходниках а если бы и попалось то исправил бы на Long 0

@Антихакер32 1201 / 473 / 46 Регистрация: 06.01.2014 Сообщений: 1,797 Записей в блоге: 19
	08.04.2014, 23:09
	супер точность в крайне редких случаях нужна и то я бы тогда больше доверился тексту чем непонятных мне функций преобразований с неизвестной точностью ... 0

@Антихакер32 1201 / 473 / 46 Регистрация: 06.01.2014 Сообщений: 1,797 Записей в блоге: 19
	09.04.2014, 01:12
	ему надо было скинуть нормальную ссыль на типы данных и на оптимизацию кода сразу-же в первом посте это бы намного ускорило диалог Добавлено через 3 минуты даже не ссыль а руками можно-было написать (на пальцах объяснить) в чем различия и скорости Добавлено через 5 минут вообще теоретически можно использовать расчеты любой точности даже с Long если использовать систему исчисления с основанием 2^32 а Long представлять числовым массивом ... Добавлено через 2 минуты именно Long самый скоростной тип данных ... 0

Тип данных Decimal. Как использовать?

Решение