Форум программистов, компьютерный форум, киберфорум
C# .NET
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.76/34: Рейтинг темы: голосов - 34, средняя оценка - 4.76
16 / 16 / 8
Регистрация: 18.03.2014
Сообщений: 268

Перцептрон

12.02.2018, 16:48. Показов 6920. Ответов 10

Студворк — интернет-сервис помощи студентам
Пытаюсь сделать Перцептрон. Делаю всё как в википедии(см. Обучение с учителем). Ответ сеть даёт неправильный, посмотрите пожалуйста код.

Код
C#
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
using System;
using System.Collections.Generic;
using System.Linq;
 
namespace ConsoleApp2
{
    class Program
    {
        static void Main(string[] args)
        {
            int Seed = Guid.NewGuid().GetHashCode();
            Random random = new Random(Seed);
            Console.WriteLine("Seed: " + Seed);
            Console.WriteLine();
 
            // Study data
            int[][] input_data = new int[][]{
                new int[] { 0, 0 },
                new int[] { 0, 1 },
                new int[] { 1, 0 },
                new int[] { 1, 1 },
            };
            int[][] output_data = new int[][]{
                new int[] { 0 },
                new int[] { 1 },
                new int[] { 1 },
                new int[] { 0 },
            };
 
            // Check
            if (input_data.Length != output_data.Length)
                throw new Exception("[ERROR] InputVector.Length != OutputVector.Length");
            for (int i = 1, j = input_data[0].Length; i < input_data.Length; i++)
                if (input_data[i].Length != j)
                    throw new Exception("[ERROR] (InputVector) Length [i - 1] != [i]");
            for (int i = 1, j = output_data[0].Length; i < output_data.Length; i++)
                if (output_data[i].Length != j)
                    throw new Exception("[ERROR] (OutputVector) Length [i - 1] != [i]");
 
            // Layers
            int[] S = new int[input_data[0].Length];
            (int, int)[] A = new(int, int)[3]; // Activate, Theta
            (int, int)[] R = new(int, int)[output_data[0].Length]; // Activate, Theta
 
            // Links
            List<(int, int, int)> SA_links = new List<(int, int, int)>();
            (int, int, int)[] AR_links = new(int, int, int)[A.Length * R.Length];
 
            // Create SA links
            for (int i = 0; i < A.Length; i++)
            {
                HashSet<int> used = new HashSet<int>();
 
                for (int j = 0, u = random.Next(1, S.Length + 1); j < u; j++)
                {
                    int num = int.MinValue;
 
                    do
                    {
                        num = random.Next(S.Length);
                    } while (!used.Add(num));
 
                    SA_links.Add((num, i, random.Next(2) == 0 ? -1 : 1));
                }
            }
 
            // Create AR links
            for (int i = 0; i < A.Length; i++)
                for (int j = 0; j < R.Length; j++)
                    AR_links[i * R.Length + j] = (i, j, 0);
 
            #region Functions
            Func<int[], int> SetS = delegate (int[] input)
            {
                if (input.Length != S.Length)
                    return 1;
 
                for (int i = 0; i < input.Length; i++)
                    S[i] = input[i];
 
                return 0;
            };
 
            Func<int> RecalcA = delegate () {
                for (int i = 0; i < A.Length; i++)
                {
                    A[i].Item1 = 0;
 
                    foreach (var link in SA_links.Where((v) => (v.Item2 == i)))
                    {
                        if (S[link.Item1] == 1)
                        {
                            A[i].Item1 += link.Item3;
                        }
                    }
 
                    A[i].Item1 = (A[i].Item1 > A[i].Item2) ? 1 : 0;
                }
 
                return 0;
            };
 
            Func<int> RecalcR = delegate ()
            {
                for (int i = 0; i < R.Length; i++)
                {
                    R[i].Item1 = 0;
                    foreach(var link in AR_links.Where((v) => (v.Item2 == i)))
                        R[i].Item1 += link.Item3 * A[link.Item1].Item1;
 
                    R[i].Item1 = (R[i].Item1 == 0) ? 0 : (R[i].Item1 < R[i].Item2 ? -1 : 1);
                }
 
                return 0;
            };
            #endregion Functions
 
            #region Study
            for (int step = 0; step < 1e4; step++)
            {
                int sampleInd = random.Next(input_data.Length);
                SetS(input_data[sampleInd]);
                RecalcA();
 
                for (int i = 0; i < A.Length; i++)
                {
                    if (A[i].Item1 == 1)
                    {
                        for (int j = 0; j < AR_links.Length; j++)
                        {
                            if (AR_links[j].Item1 == i)
                            {
                                for (int f = 0; f < R.Length; f++)
                                {
                                    if (AR_links[j].Item2 == f)
                                    {
                                        AR_links[j].Item3 += (output_data[sampleInd][f] == 1 ? 1 : -1);
                                    }
                                }
                            }
                        }
                    }
                }
            }
            #endregion Study
 
            #region DebugOutput
            for (int i = 0; i < input_data.Length; i++)
            {
                Console.Write("{");
                for (int u = 0; u < input_data[i].Length; u++)
                    Console.Write(input_data[i][u] + (u < input_data[i].Length - 1 ? ", " : ""));
                Console.Write("} -> {");
 
                SetS(input_data[i]);
                RecalcA();
                RecalcR();
 
                for (int j = 0; j < R.Length; j++)
                    Console.Write(R[j].Item1 + (j < R.Length - 1 ? ", " : ""));
                Console.WriteLine("}");
            }
            #endregion DebugOutput
 
            Console.ReadLine();
        }
    }
}

https://pastebin.com/jtZgG39h
0
Лучшие ответы (1)
Programming
Эксперт
39485 / 9562 / 3019
Регистрация: 12.04.2006
Сообщений: 41,671
Блог
12.02.2018, 16:48
Ответы с готовыми решениями:

Перцептрон
Всем привет! Делаю однослойный перцептрон, но не понимаю где ошибся. Можете посмотреть з.ы. делал перцептрон на си всё работало, но...

Перцептрон: распознавание изображений букв, заданных в виде матриц
Нужно: Теория Написал чето: using System; using System.Collections.Generic; using System.Linq; using System.Text;

Перцептрон на tensorflow
import tensorflow as tf import numpy as np x_data = np.array(, , , ]) y_data = np.array(,

10
Эксперт .NET
 Аватар для Usaga
14303 / 9388 / 1354
Регистрация: 21.01.2016
Сообщений: 35,397
12.02.2018, 18:43
Hopeco, сами его посмотрите. Через отладчик.
0
16 / 16 / 8
Регистрация: 18.03.2014
Сообщений: 268
12.02.2018, 18:58  [ТС]
Usaga, спасибо ваша помощь неоценима, надеюсь найдутся советы получше чем дебажить нейро сеть.

P.S. Обновил код, нашёл одну ошибку, она была связана с функциями активации.
0
12.02.2018, 19:53

Не по теме:

Цитата Сообщение от Hopeco Посмотреть сообщение
Обновил код, нашёл одну ошибку, она была связана с функциями активации.
Собственно, на что и был нацелен совет с отладчиком.

0
16 / 16 / 8
Регистрация: 18.03.2014
Сообщений: 268
13.02.2018, 00:31  [ТС]
Usaga,

Не по теме:

ошибка была из за моего не знания как должна работать функция, а не из-за того что я не так написал



Добавлено через 4 минуты
Народ кто знает объясните пожалуйста следующий момент:
Связи и их веса между слоями S A должны формировать случайно?
0
 Аватар для LeniumSoft
1454 / 847 / 150
Регистрация: 06.06.2012
Сообщений: 2,370
13.02.2018, 11:43
Цитата Сообщение от Hopeco Посмотреть сообщение
надеюсь найдутся советы получше чем дебажить нейро сеть.
Эм.. Я свою дебажил! Пошагово топал и смотрел изменения весов. В итоге часа через два обнаружил косяк с округлением значения при приведении типов.

Добавлено через 9 минут
Цитата Сообщение от Hopeco Посмотреть сообщение
Связи и их веса между слоями S A должны формировать случайно?
У меня случайно.

Юзаю такой хелпер:

Кликните здесь для просмотра всего текста
C#
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
/// <summary>
    /// 
    /// </summary>
    public static class Gaussian
    {
        private static Random random = new Random();
 
        /// <summary>
        /// 
        /// </summary>
        /// <returns></returns>
        public static double GetRandomGaussian()
        {
            return GetRandomGaussian(0.0, 1.0);
        }
 
        /// <summary>
        /// 
        /// </summary>
        /// <param name="mean"></param>
        /// <param name="stddev"></param>
        /// <returns></returns>
        public static double GetRandomGaussian(double mean, double stddev)
        {
            double rVal1, rVal2;
 
            GetRandomGaussian(mean, stddev, out rVal1, out rVal2);
 
            return rVal1;
        }
 
        /// <summary>
        /// 
        /// </summary>
        /// <param name="mean"></param>
        /// <param name="stddev"></param>
        /// <param name="val1"></param>
        /// <param name="val2"></param>
        public static void GetRandomGaussian(double mean, double stddev, out double val1, out double val2)
        {
            double u, v, s, t;
 
            do
            {
                u = 2 * random.NextDouble() - 1;
                v = 2 * random.NextDouble() - 1;
            }
            while (u * u + v * v > 1 || (u == 0 && v == 0));
 
            s = u * u + v * v;
            t = Math.Sqrt((-0.2 * Math.Log(s)) / s);
 
            val1 = stddev * u * t + mean;
            val2 = stddev * v * t + mean;
        }
    }


И в нейроне:
C#
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
/// <summary>
        /// 
        /// </summary>
        /// <param name="weightsCount"></param>
        public Neuron(int weightsCount)
        {
            _weights = new double[weightsCount];
 
            for (int i = 0; i < weightsCount; i++)
            {
                _weights[i] = Gaussian.GetRandomGaussian();
            }
 
            Bias = Gaussian.GetRandomGaussian();
        }
или я не понял вопрос?
0
16 / 16 / 8
Регистрация: 18.03.2014
Сообщений: 268
13.02.2018, 14:37  [ТС]
LeniumSoft, ну в вики соединения у сети от слоя S до слоя A создаются случайно и с весами {-1, 1, 0(не сущ)}
В самой шапке на вики картинка.

Добавлено через 5 минут
Цитата Сообщение от LeniumSoft Посмотреть сообщение
Эм.. Я свою дебажил!
Ну дебажить можно если в коде ошибка, а не в знаниях. Я написал именно то что хотел и оно работает так как я хотел, но из-за недостатка в знаний в области "нейронсетей" работает криво или вообще не работает.
0
 Аватар для LeniumSoft
1454 / 847 / 150
Регистрация: 06.06.2012
Сообщений: 2,370
13.02.2018, 15:52
Цитата Сообщение от Hopeco Посмотреть сообщение
ну в вики соединения у сети от слоя S до слоя A создаются случайно и с весами
https://habrahabr.ru/post/154369/

Я по этой статье учился и делал свою реализацию.
П.С. формулы реально пугают)))
1
16 / 16 / 8
Регистрация: 18.03.2014
Сообщений: 268
13.02.2018, 16:56  [ТС]
LeniumSoft, спасибо буду разбираться.

Добавлено через 8 минут
LeniumSoft, у меня тут вопрос возник: изменение веса - это производная от функции ошибки по весу * на скорость обучение * (-1)?

Добавлено через 30 минут
И ещё вопрос: Что является функцией ошибки?

П.С. Половина картинок битая
0
 Аватар для LeniumSoft
1454 / 847 / 150
Регистрация: 06.06.2012
Сообщений: 2,370
13.02.2018, 17:02
Лучший ответ Сообщение было отмечено Hopeco как решение

Решение

На. Лучше посмотри реализацию.
Ато я сейчас уже не отвечу на всё это)

https://www.cyberforum.ru/csha... ost8353244
1
16 / 16 / 8
Регистрация: 18.03.2014
Сообщений: 268
13.02.2018, 17:07  [ТС]
LeniumSoft, эхх. как жаль, а то у меня вопрос про градиенты, и про градиентный спуск
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
inter-admin
Эксперт
29715 / 6470 / 2152
Регистрация: 06.03.2009
Сообщений: 28,500
Блог
13.02.2018, 17:07
Помогаю со студенческими работами здесь

Перцептрон на Python
сильно не смейтесь, занимаюсь изучением профессии программиста недолго, а питона вообще мало нейроку брал эту: ...

Перцептрон на objective c
Добрый день! Я пытаюсь реализовать перцептрон на обжектив-С. Но столкнулся с проблеммой, когда через какое-то число эпох выход сети уходит...

Нейронные сети. Перцептрон Розенблата
Здравствуйте! Помогите разобраться в коде (напишите комментарии). Уже несколько дней пытался понять, как он работает, но ничего толкового...

Нейронные сети. Написать перцептрон, который распознает введеную букву
нужно написать перцептрон который распознает введеную букву.Помогите с прогой я просто нейронные сети вообще не понимаю(((

"Бинарный перцептрон" Не совсем просто =) P.S: для меня)
Цель: Написать программу &quot;Бинарный перцептрон&quot;. Алгоритм обучения: 1) Логическая функция T=x1+x2*x3 (xi=0 или 1) 2) На вход подается...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
11
Ответ Создать тему
Новые блоги и статьи
делаю науч статью по влиянию грибов на сукцессию
anaschu 13.03.2026
прикрепляю статью
SDL3 для Desktop (MinGW): Создаём пустое окно с нуля для 2D-графики на SDL3, Си и C++
8Observer8 10.03.2026
Содержание блога Финальные проекты на Си и на C++: hello-sdl3-c. zip hello-sdl3-cpp. zip Результат:
Установка CMake и MinGW 13.1 для сборки С и C++ приложений из консоли и из Qt Creator в EXE
8Observer8 10.03.2026
Содержание блога MinGW - это коллекция инструментов для сборки приложений в EXE. CMake - это система сборки приложений. Здесь описаны базовые шаги для старта программирования с помощью CMake и. . .
Как дизайн сайта влияет на конверсию: 7 решений, которые реально повышают заявки
Neotwalker 08.03.2026
Многие до сих пор воспринимают дизайн сайта как “красивую оболочку”. На практике всё иначе: дизайн напрямую влияет на то, оставит человек заявку или уйдёт через несколько секунд. Даже если у вас. . .
Модульная разработка через nuget packages
DevAlt 07.03.2026
Сложившийся в . Net-среде способ разработки чаще всего предполагает монорепозиторий в котором находятся все исходники. При создании нового решения, мы просто добавляем нужные проекты и имеем. . .
Модульный подход на примере F#
DevAlt 06.03.2026
В блоге дяди Боба наткнулся на такое определение: В этой книге («Подход, основанный на вариантах использования») Ивар утверждает, что архитектура программного обеспечения — это структуры,. . .
Управление камерой с помощью скрипта OrbitControls.js на Three.js: Вращение, зум и панорамирование
8Observer8 05.03.2026
Содержание блога Финальная демка в браузере работает на Desktop и мобильных браузерах. Итоговый код: orbit-controls-threejs-js. zip. Сканируйте QR-код на мобильном. Вращайте камеру одним пальцем,. . .
SDL3 для Web (WebAssembly): Синхронизация спрайтов SDL3 и тел Box2D
8Observer8 04.03.2026
Содержание блога Финальная демка в браузере. Итоговый код: finish-sync-physics-sprites-sdl3-c. zip На первой гифке отладочные линии отключены, а на второй включены:. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru