Форум программистов, компьютерный форум, киберфорум
C# .NET
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.74/170: Рейтинг темы: голосов - 170, средняя оценка - 4.74
7 / 7 / 3
Регистрация: 25.11.2010
Сообщений: 93

Переполнение в результате выполнения арифметической операции

22.04.2011, 21:21. Показов 32823. Ответов 5
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
При использовании типа int - ошибки нет,
но некоторым переменным необходимо присвоить значения более 1000 000 000
Поэтому для переменной frmGeneration.QuantityOfVectors я задал тип ulong

В результате возникла ошибка в строке:
C#
1
values = new string[frmGeneration.QuantityOfVectors];
"Переполнение в результате выполнения арифметической операции"

И progressBar пришлось отключить, т.к. в
C#
1
pBarGeneration.Maximum =frmGeneration.QuantityOfVectors;
несоответствие типов int и uint.

Как можно это исправить?
0
Programming
Эксперт
39485 / 9562 / 3019
Регистрация: 12.04.2006
Сообщений: 41,671
Блог
22.04.2011, 21:21
Ответы с готовыми решениями:

Тип ошибки: Ошибка выполнения Microsoft VBScript (0x800A0006) Переполнение: 'cint' /cgi/head.inc, line 30
Ребята. Что это? Тип ошибки: Ошибка выполнения Microsoft VBScript (0x800A0006) Переполнение: 'cint' /cgi/head.inc, line 30

Ошибка: Переполнение в результате выполнения арифметической операции
string lines = File.ReadAllLines(textBox1.Text); int N =lines.Length-3; int P = 8; int x= new...

System.OverflowException: Переполнение в результате выполнения арифметической операции
/* * Created by SharpDevelop. * User: Александр * Date: 06.10.2014 * Time: 10:26 * * To change this template use Tools |...

5
 Аватар для DeKaN
36 / 36 / 8
Регистрация: 10.02.2010
Сообщений: 184
23.04.2011, 05:30
Про трэк бар всё довольно просто...Используй pBarGeneration.Maximum=frmGeneration.Qua ntityOfVectors/N, где N - множитель....И через каждые N шагов, значение прогресбара увеличивай на 1.

На счёт больших чисел, напиши лучше класс, или поищи уже готовые решения для этого...Длинная арифметика называется
1
 Аватар для HIMen
4340 / 1509 / 101
Регистрация: 12.04.2009
Сообщений: 2,342
23.04.2011, 10:27
1000 000 000 указателей по 4 байта = 4000000000 байт = 3906250 Кб = 3814 Мб = 3.7 Гб
2
1152 / 860 / 263
Регистрация: 30.04.2009
Сообщений: 3,603
23.04.2011, 10:41
Что то я сомневаюсь в адекватности работы программы...
Не знаю предметной области, но предполагаю, что это
C#
1
values = new string[frmGeneration.QuantityOfVectors];
можно поделить на части, а не сразу выделять столько памяти.
1
7 / 7 / 3
Регистрация: 25.11.2010
Сообщений: 93
23.04.2011, 12:29  [ТС]
1000 000 000 указателей по 4 байта = 4000000000 байт = 3906250 Кб = 3814 Мб = 3.7 Гб
Как же мне быть - мне все равно нужно использовать такие значения и даже больше?
Можете объяснить подробнее - я не понимаю в чем заключается ошибка.

можно поделить на части, а не сразу выделять столько памяти.
Каким образом можно это сделать?
Вы же понимаете, как трудно писать свой первый проект.
Первый блин комом.
Не поможете ли новичку?

C#
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
unsafe  private void lfsr()
        {
            pBarGeneration.Minimum = 1;
         pBarGeneration.Maximum =frmGeneration.QuantityOfVectors;
            pBarGeneration.Step = 1;
 
            values = new string[frmGeneration.QuantityOfVectors];
                    
            values[0] = frmInItialStatus.statusTemporaryString;
 
            for (ulong j = 1; j < frmGeneration.QuantityOfVectors; j++)
            {           
                 
                if (j < FirstVector)
                {
                  int*  sA= _lfsr(frmInitGen.DimentionOfGenerator, frmInputPolynom.polynomArray, frmInItialStatus.statusArray);
                    pBarGeneration.PerformStep();
                }
                else
                {
                    int* sA = _lfsr(frmInitGen.DimentionOfGenerator, frmInputPolynom.polynomArray, frmInItialStatus.statusArray);
                    string s = "";
                    for (int i = 0; i < frmInItialStatus.statusArray.Length; i++)
                    {
                        
                      s += sA[i];
                    }
                    values[j] = s;
                    pBarGeneration.PerformStep();
 
                  
                }
0
1152 / 860 / 263
Регистрация: 30.04.2009
Сообщений: 3,603
23.04.2011, 13:22
Вместо создания такого массива пишите в текстовый файл - медленнее, но точно памяти хватит.
Оптимально писать не по одной строчке, а по несколько, например по 5000.
то есть у вас будет массив values=new string[5000], при прохождении по циклу вы его заполняете аналогично как сейчас, только еще будет индекс текущей строки в массиве values. Когда массив заполнился - записывайте его в файл, и снова заполняете его сначала, и так до конца цикла.
1
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
inter-admin
Эксперт
29715 / 6470 / 2152
Регистрация: 06.03.2009
Сообщений: 28,500
Блог
23.04.2011, 13:22
Помогаю со студенческими работами здесь

Шифрование AES. Переполнение в результате выполнения арифметической операции
Помогите пожалуйста почему выдает ошибку:&quot;Переполнение в результате выполнения арифметической операции&quot; при дешифровании и как убрать...

Какое значение примет i в результате выполнения кода?
int i = 0; String Text = &quot;Sample string&quot;; int i = 5; if (i * j &gt; 5) i = 1; ...

Переменная в результате выполнения замыкания получает неверное значение
int position = new int; Task tsk = new Task; for (int i = 0; i &lt; 5; i++) { ...

Почему выдаются такие значения в результате выполнения методов
Здравствуйте всем. Есть код, почему при его выполнении получаются именно такие результаты. using System; using...

Чему будет равно x в результате выполнения следующего фрагмента
Чему будет равно x в результате выполнения следующего фрагмента: int x=5; for(int i =1; i&lt;5; i++); x+=5;?


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
6
Ответ Создать тему
Новые блоги и статьи
SDL3 для Web (WebAssembly): Обработчик клика мыши в браузере ПК и касания экрана в браузере на мобильном устройстве
8Observer8 02.02.2026
Содержание блога Для начала пошагово создадим рабочий пример для подготовки к экспериментам в браузере ПК и в браузере мобильного устройства. Потом напишем обработчик клика мыши и обработчик. . .
Философия технологии
iceja 01.02.2026
На мой взгляд у человека в технических проектах остается роль генерального директора. Все остальное нейронки делают уже лучше человека. Они не могут нести предпринимательские риски, не могут. . .
SDL3 для Web (WebAssembly): Вывод текста со шрифтом TTF с помощью SDL3_ttf
8Observer8 01.02.2026
Содержание блога В этой пошаговой инструкции создадим с нуля веб-приложение, которое выводит текст в окне браузера. Запустим на Android на локальном сервере. Загрузим Release на бесплатный. . .
SDL3 для Web (WebAssembly): Сборка C/C++ проекта из консоли
8Observer8 30.01.2026
Содержание блога Если вы откроете примеры для начинающих на официальном репозитории SDL3 в папке: examples, то вы увидите, что все примеры используют следующие четыре обязательные функции, а. . .
SDL3 для Web (WebAssembly): Установка Emscripten SDK (emsdk) и CMake для сборки C и C++ приложений в Wasm
8Observer8 30.01.2026
Содержание блога Для того чтобы скачать Emscripten SDK (emsdk) необходимо сначало скачать и уставить Git: Install for Windows. Следуйте стандартной процедуре установки Git через установщик. . . .
SDL3 для Android: Подключение Box2D v3, физика и отрисовка коллайдеров
8Observer8 29.01.2026
Содержание блога Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами. Версия v3 была полностью переписана на Си, в. . .
Инструменты COM: Сохранение данный из VARIANT в файл и загрузка из файла в VARIANT
bedvit 28.01.2026
Сохранение базовых типов COM и массивов (одномерных или двухмерных) любой вложенности (деревья) в файл, с возможностью выбора алгоритмов сжатия и шифрования. Часть библиотеки BedvitCOM Использованы. . .
SDL3 для Android: Загрузка PNG с альфа-каналом с помощью SDL_LoadPNG (без SDL3_image)
8Observer8 28.01.2026
Содержание блога SDL3 имеет собственные средства для загрузки и отображения PNG-файлов с альфа-каналом и базовой работы с ними. В этой инструкции используется функция SDL_LoadPNG(), которая. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru