Форум программистов, компьютерный форум, киберфорум
C++: ИИ, нейросети, ML, агенты
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
21 / 16 / 5
Регистрация: 22.06.2015
Сообщений: 68

Персептрон с обратным распространением - Нейронка не обучается

05.02.2019, 00:09. Показов 970. Ответов 0
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Добрый вечер, столкнулся с проблемой при попытке обучить самописную нейронку (персептрон с обратным распространением) - ошибка обучения не падает ниже определенного уровня, смена гипперпараметров не помогает. В качестве примера используется xor


код обратного распространения
C++
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
void Net::backward(elementSet* _idealSet)
{
    //Recount output delta
    for (int i = 0; i < layers[layersCount - 1].count; ++i)
    {
        layers[layersCount - 1].neuron[i].recountOutputDelta(_idealSet->at(i));
    }
    //Recount hidden delta
    for (int layNum = layersCount - 2; layNum > 0; --layNum)
    {
        for (int neuNum = 0; neuNum < layers[layNum].count; ++neuNum)
        {
            layers[layNum].neuron[neuNum].recountHiddenDelta(&layers[layNum+1], neuNum);
        }
    }
 
    //Update Weight
    for (int layNum = layersCount - 1; layNum > 0; --layNum)
    {
        for (int neuNum = 0; neuNum < layers[layNum].count; ++neuNum)
        {
            layers[layNum].neuron[neuNum].updateWeight(trainSpeed, moment);
        }
    }
}
void Neuron::updateWeight(double _speed, double _moment)
{
    std::vector<sinaps>::iterator connect = connections.begin();
    double lastModWeight = 0;
 
    for (; connect < connections.end(); ++connect)
    {
        lastModWeight = _speed * delta * connect->first->getOut() + lastModWeight * _moment;
        connect->second += lastModWeight;
    }
}
double Neuron::recountOutputDelta(double _idealOut)
{
    delta = (_idealOut - out) * derivateActivation();
    return delta;
}
 
double Neuron::recountHiddenDelta(Layer* _nextLayer, int _myNum)
{
    double sum = 0;
    for (int i = 0; i < _nextLayer->count; ++i)
    {
        sum += _nextLayer->neuron[i].delta * _nextLayer->neuron[i].connections[_myNum].second;
    }
    delta = sum * derivateActivation();
    return delta;
}
Прямой ход
C++
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
Layer* forward(elementSet* _set)
    {
        if (_set->size() != *(topology)) throw "Invalid element's set! Set's size != size of topology's input layer.\n";
 
        //Set input 
        std::vector<double>::const_iterator elem = _set->cbegin();
        for (int j = 0; j < *(topology); ++j)
        {
            layers[0].neuron[j].setInput( &(*elem) );
            ++elem;
        }
 
        //Forward
        for (int i = 1; i < layersCount; ++i)
        {
            for (int j = 0; j < *(topology + i); ++j)
            {
                layers[i].neuron[j].activation();
            }
        }
 
        return &layers[layersCount - 1];
    }
И ссылка на остальное: https://github.com/VictorrGor/... neuronCell
Буду рад, если кто поможет)
0
cpp_developer
Эксперт
20123 / 5690 / 1417
Регистрация: 09.04.2010
Сообщений: 22,546
Блог
05.02.2019, 00:09
Ответы с готовыми решениями:

Нейронная сеть с обратным распространением ошибки для прогнозирования спроса
Написал на java нейронную сеть с обратным распространением ошибки. Предназначена сеть для прогнозирования спроса на товар. В качестве...

Двухслойный персептрон по алгоритму, не обучается
Доброго времени суток. Для выполнения дипломной работы мне понадобился двухслойный персептрон (вместо реализованного однослойного),...

Двухслойный персептрон, алгоритм BP. Не обучается, запоминает только последний заученный образ
Доброго времени суток. Для моей научной работы мне понадобился двухслойный персптрон (вместо реализованного однослойного). Алгоритм...

0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
raxper
Эксперт
30234 / 6612 / 1498
Регистрация: 28.12.2010
Сообщений: 21,154
Блог
05.02.2019, 00:09
Помогаю со студенческими работами здесь

Проблемы с распространением приложения. Программа работает не везде
Программа написана с использованием Windows Forms и ado.net для доступе к БД. Т.к. она распространяется потом на другие машины конечных...

Определить принадлежность точки к фигуре(с бесконечным распространением по оси Оу)
Приветствую формчане, нужна помощь с решением данной задачи. Циклы использовать нельзя.

Python нейронка
Разбираю пример с библиотекой fastai https://github.com/TannerGilbert/Tutorials/blob/master/FastAI/Book%20Recommendation%20System.ipynb ...

Нейронка на Python
Доброго времени суток форумчане, копаюсь в нейронных сетях и при написании каждый раз захожу в тупик. :wall: Может у кого есть пример...

fastai нейронка
Разбираю пример с библиотекой fastai https://github.com/TannerGilbert/Tutorials/blob/master/FastAI/Book%20Recommendation%20System.ipynb ...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
1
Ответ Создать тему
Новые блоги и статьи
Thinkpad X220 Tablet — это лучший бюджетный ноутбук для учёбы, точка.
Programma_Boinc 23.12.2025
Thinkpad X220 Tablet — это лучший бюджетный ноутбук для учёбы, точка. Рецензия / Мнение/ Перевод https:/ / **********/ gallery/ thinkpad-x220-tablet-porn-gzoEAjs . . .
PhpStorm 2025.3: WSL Terminal всегда стартует в ~
and_y87 14.12.2025
PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .
Как объединить две одинаковые БД Access с разными данными
VikBal 11.12.2025
Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.
Новый ноутбук
volvo 07.12.2025
Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro
Музыка, написанная Искусственным Интеллектом
volvo 04.12.2025
Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .
От async/await к виртуальным потокам в Python
IndentationError 23.11.2025
Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
Поиск "дружественных имён" СОМ портов
Argus19 22.11.2025
Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .
Сколько Государство потратило денег на меня, обеспечивая инсулином.
Programma_Boinc 20.11.2025
Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .
Ломающие изменения в C#.NStar Alpha
Etyuhibosecyu 20.11.2025
Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .
Мысли в слух
kumehtar 18.11.2025
Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2025, CyberForum.ru