Форум программистов, компьютерный форум CyberForum.ru
Наши страницы

С++ для начинающих

Войти
Регистрация
Восстановить пароль
 
Iss_Windr
0 / 0 / 0
Регистрация: 16.01.2013
Сообщений: 4
#1

Повреждение кучи при создании нейросети с количеством слоев больше 51 - C++

03.06.2014, 16:04. Просмотров 310. Ответов 3
Метки нет (Все метки)

Добрый день.
Я знаю, таких тем уже много, я их прочитала, но ни в одной не нашла решения моей проблемы.
Проблема. Есть нейронная сеть (без обучения, это даже настоящей НС нельзя назвать, если честно). Задание - создать сеть большого размера и проверить время выполнения.
При создании сети с количеством слоев больше 51 возникает ошибка - повреждение кучи. Если 51 слой или меньше - все в порядке.
Вероятно, причина ошибки глупая и очевидная, но я ее найти не могу. Помогите, пожалуйста.
C++
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
#include "stdafx.h"
#include <stdlib.h>
#include <stdio.h>
#include <ctime>
#include <clocale>
#include <iostream>
#include <iomanip>
#include <random>
 
clock_t begin, end;
 
struct Neuron
{
    double* inputWeights;
    int inputsAmount;
    double sum;
    double functionResult;  
};
 
struct NeuronArray
{
    struct Neuron* array;
    int neuronAmount;
    double* inputSignals;
    double* outputSignals;
    struct NeuronArray* next;
    struct NeuronArray* prev;
};
 
struct NeuronArray* head;
 
void initializeNeuron(struct Neuron* tempNeuron, int amount)
{       
    tempNeuron->inputWeights = new double[amount];
    for(int i = 0; i < amount; i++)
    {
        tempNeuron->inputWeights[i] = 0.01*(-100 + rand()%100);
    }
    tempNeuron->inputsAmount = amount;
    tempNeuron->sum = 0;
    tempNeuron->functionResult = 0;
}
 
struct NeuronArray* initializeNeuronArray(int arraySize, int inputAmount)
{
    struct NeuronArray* tmp = new NeuronArray[arraySize];
    tmp->array = new Neuron[arraySize];
    for(int i = 0; i < arraySize; i++)
    {
        initializeNeuron(&tmp->array[i], inputAmount);
    }
    tmp->neuronAmount = arraySize;
    tmp->inputSignals = new double[inputAmount];
    tmp->outputSignals = new double[inputAmount];
    return tmp;
}
 
void setNeuronNet(struct NeuronArray* tempNeuron, int size)
{
    struct NeuronArray* current = new struct NeuronArray;
    struct NeuronArray* temp = new struct NeuronArray;
    current = head;
    if(current == NULL)
    {
        current = tempNeuron;
        head = current;
        head->next = NULL;
        head->prev = NULL;
    }
    else
    {
        while (current->next != NULL)
        {
            current = current->next;
        }
        temp = current;
        current = current->next;
        current = tempNeuron;
        current->next = NULL;
        current->prev = temp;
        temp->next = current;
 
    }
 
}
 
void neuronFunction(struct Neuron* tempNeuron, double* inputSig)
{
    double tmp;
 
    for(int i = 0; i < tempNeuron->inputsAmount; i++)
    {
        tmp = tempNeuron->inputWeights[i]*inputSig[i];
        tempNeuron->sum = tempNeuron->sum + tmp;
    }
    if(tempNeuron->sum < 0)
    {
        tmp = (-1)*tempNeuron->sum;
    }
    else
        tmp = tempNeuron->sum;
    tempNeuron->functionResult = tempNeuron->sum/(tmp + 1);
}
 
void netFunction(double* inputSigs)
{
    begin = clock();
    struct NeuronArray* current = new NeuronArray();
    current = head;
    while(current != NULL)
    {       
        if(current == head)
        {
            for(int j = 0; j < current->neuronAmount; j++)
            {
                current->inputSignals[j] = inputSigs[j];
            }
        }
        else
        {
            for(int j = 0; j < current->array->inputsAmount; j++)
            {
                current->inputSignals[j] = current->prev->outputSignals[j];
            }
        }               
        current = current->next;
    }
    end = clock();
}
 
int _tmain(int argc, _TCHAR* argv[])
{
    setlocale(LC_ALL,"Rus");
    srand(time(NULL)|clock());  
    int count = 0;
    int Number;
    Number = 52;
    double* inSigs = new double[Number];
    for(int i = 0; i < Number; i++)
    {
        int inp_am, neu_am;
        struct NeuronArray* tmp = new NeuronArray;
        if(i == 0)
        {
                inp_am = 1;
                neu_am = Number;
        }
        else
        {       
            neu_am = Number - 1;
            if(i == 1)
                    inp_am = Number;
            else
                    
                inp_am = Number - 1;
        }
        tmp = initializeNeuronArray(neu_am, inp_am);
        setNeuronNet(tmp, neu_am);
    }
    for(int i = 0; i < Number; i++)
    {
        inSigs[i] = 0.01*(-100 + rand()%100);
    }
 
    netFunction(inSigs);    
    int calcTime = (end - begin)/CLOCKS_PER_SEC;
    getchar();
    getchar();
    return 0;
}
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
Similar
Эксперт
41792 / 34177 / 6122
Регистрация: 12.04.2006
Сообщений: 57,940
03.06.2014, 16:04
Здравствуйте! Я подобрал для вас темы с ответами на вопрос Повреждение кучи при создании нейросети с количеством слоев больше 51 (C++):

Получать различные начала кучи при создании кучи внутри цикла - C++
Можно ли как-то такое провернуть, чтобы на каждой итерации цикла получались различные адреса (выбираются ОС) на начало кучи (периодические...

Ошибка при "сборе мусора" . Повреждение кучи - C++
Привет ребята! Я совсем скверно знаю плюсы и не смотря на несколько лет довольно успешной работы в ИТ так и не заставил себя заниматься...

Повреждение кучи - C++
Приветствую! Сделал, казалось бы, простую программу, но у меня возникает ошибка на самом ровном месте: void print(node** graph, int V) ...

Повреждение кучи - C++
Есть код #include &lt;iostream&gt; using namespace std; struct STUDENT { char NAME; int GROUP; int SES; };

Повреждение кучи - C++
После выполнения программы выдаёт ошибку Debug Assertion Failed Помогите найти и исправить место из-за которого ошибка, я так понимаю она...

Повреждение кучи - C++
#ifndef _TASK2_H_ #define _TASK2_H_ #include &lt;iostream&gt; using namespace std; namespace TeamResult { static int...

3
Kuzia domovenok
1891 / 1746 / 118
Регистрация: 25.03.2012
Сообщений: 5,926
Записей в блоге: 1
03.06.2014, 16:28 #2
столько new везде без всякой обёртки в классы, что голова кругом!
Зато ни одного delete нету!
0
Iss_Windr
0 / 0 / 0
Регистрация: 16.01.2013
Сообщений: 4
03.06.2014, 16:28  [ТС] #3
Прошу прощения за беспокойство, проблема решена.
0
VTsaregorodtsev
362 / 345 / 50
Регистрация: 19.02.2010
Сообщений: 1,454
08.06.2014, 23:41 #4
Цитата Сообщение от Iss_Windr Посмотреть сообщение
При создании сети с количеством слоев больше 51
Нафига столько?
Щас у ведущих собаководов - если и набирается десяток слоёв, то обычно из сильно разнотипных слоёв (в свёрточных сетках, например).
У гугловско-стэнфордской нейросетки, которая 2 года назад сама научилась на картинках выделять котиков (новость обсуждалась в инетах) - было 9 или 12 слоёв (лень глядеть в ту статью).
Грубая сила в виде десятков слоёв - бесполезна, вы такую сетку не научите (имеется в виду обучение чем-то вроде бэкпропа - а не схема расщепления в виде первоначального предобучения каждого отдельного слоя в DBM и уже только затем - дообучения-тюнинга всей сети).
0
MoreAnswers
Эксперт
37091 / 29110 / 5898
Регистрация: 17.06.2006
Сообщений: 43,301
08.06.2014, 23:41
Привет! Вот еще темы с ответами:

МНК, повреждение кучи - C++
Аппроксимация методом наименьших квадратов.. Если не использовать динамическую память, все работает замечательно.. Если описывать...

Странное повреждение кучи - C++
Доброго времени суток, форумчане! Есть проект, в нем реализована функцию дублирования всех элементов статического массива с...

Ошибка о повреждение кучи - C++
Вот переделал программу со строками, с использованием классов. Почему-то опять возникает ошибка о повреждение кучи. Не могу понять где...

Точка останова(повреждение кучи) - C++
Прошу помочь, смотрел по форуму похожие темы - ответа не нашел void Base::Read() { char* name=new char;//переменная для имени ...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
4
Yandex
Объявления
08.06.2014, 23:41
Ответ Создать тему
Опции темы

КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin® Version 3.8.9
Copyright ©2000 - 2017, vBulletin Solutions, Inc.
Рейтинг@Mail.ru