Нейросистема. Математические ограничения функциональности и их уменьшение.
Запись от Hrethgir размещена 27.02.2022 в 20:54
Показов 1902
Комментарии 4
|
Кого-чего "функция расчёта суммы весов нейрона - 4 слова с родительным падежом и одно с именительным. Приветствую всех, в том числе и тех кто читает у меня впервые по этой тематике. Для тех кто читает впервые я разместил текст под спойлером, впрочем это может оказаться интересным и тем, кто уже читал, так как там будут некоторые мои рассуждения касаемо терминологии, концепции, взглядов: [SPOILER] Стоит объяснить почему был выбран такой подход. Дело в том, что литературу по хайтеку в области IT я читаю периодически, так-же как читал и образовательную литературу по нейросетям. Но терпение в чтении образовательной литературы моё кончилось, так как я учил математику и геометрию ещё в Союзе, а там во всей этой школе всегда отслеживалась связь причин и следствий, в то время как в теории нейросетей, которая является следствием, в качестве причины указываются биологические нейросети, то-есть теоретическая связка отсутствует. Это меня и подтолкнуло к собственному изучению области. Как известно - правильно заданный вопрос содержит половину ответа, поэтому я долго выбирал задачу, поставив которую я смогу получить как можно большую часть ответа, изучив детали и мелочи задачи. Что мне вполне удалось, и даже вывести формулу суммирования весов (уровня сигналов, вообще ряд терминов я заменю для нейросистемы на наиболее подходящие). Задача системы, по мере упрощения, свелась к близкой к задаче по физике, что система должна определить пункт прибытия, на клеточном поле в линию, в который попадёт объект, движущийся с определённой возможной скоростью (от 1 клетки за ход до 3 клеток за ход) из пункта отправления, за единицу времени (условно ход в виртуальной СИ). Иображение с которого начиналось описание задачи, и которое было не совсем рациональным по расположению осей. . Нерациональность его была в том, что элементы считались то справа налево, то слева направо, а далее я умудрился и вовсе обозначить цифрами то, что в геометрии и математике цифрами никогда не обозначают, так как такое обозначение влечёт потом кучу проблем связанных с дополнениями и описанием. Но в последней графике, поняв что это не чертёж, я устранил прошлые ошибки. А то неудобное выглядело так [IMG]https://www.cyberforum.ru/blog_attachment.php?attachmentid=7390&stc=1&thumb=1&d=1645107719[/IMG] . Зелёная группа элементов - группа отвечающая за пункт отправления на поле, желтая - за пункт прибытия, и красная за скорость, причём чтобы не отходить от правил нейросетей, элементы красной группы должны срабатывать от минимума активации - то есть если скорость три клетки за ход, то активными должны быть все три элемента скорости, а не один, и задача системы выбрать нужный пункт назначения и отсечь лишние варианты, и всё на двух слоях. [/SPOILER] Для тех кто уже читал предыдущую и сломал глаз о изображения я изобразил задачу, решаемую нейросистемой, несколько иначе (впрочем как и остальные изображения). Изображение 1 [IMG]https://www.cyberforum.ru/blog_attachment.php?attachmentid=7414&stc=1&thumb=1&d=1645876452[/IMG], исправив оси отсчёта разных элементов, разумеется с сокращением стрелок отправляемых сигналов до того их кол-ва, которое играет роль в расчётах, а так красные элементы входящего слоя отправляют сигналы свои на весь выходящий слой. Далее я размещаю изображение законченное сегодня, в нём так так-же кое-что улучшено для глаза, да и не только в принципе... Изображение 2 [IMG]https://www.cyberforum.ru/blog_attachment.php?attachmentid=7415&stc=1&d=1645879168[/IMG]. Итак ..., что тут изображено ... по пунктам: 1) входящий слой представлен двумя следующими группами элементов 2) красные нейроны, группа [B][I]S[/I][/B], отвечающие за скорость объекта, 3) условное множество элементов [B][I]inF[/I][/B](входящие поля), обозначенное зелёной горизонтальной линией, ограниченное двумя зелёными элементами с обозначением квантора всеединства [B][SIZE="4"]∀[/SIZE][/B], 4) на нём активный нейрон с обозначением квантора существования [SIZE="4"][B]∃[/B][/SIZE]- пункт отправления объекта на поле. 5) Выходящий слой отображён желтой горизонтальной линией, ограниченной двумя нейронами с обозначением того-же квантора всеобщности (тут смысл тот, что активация любого элемента происходит при наборе суммой весов некоторого минимума активации, независимо от слоя и группы - все элементы срабатывают от минимума активации, разница может быть только в предписаниях ими осуществляемых - куда подать сигнал и какого уровня или грубо говоря типа (в настоящий момент предполагается два типа сигнала, так как для обвеса системы в целях улучшения функциональности - планируется второй тип сигнала)) и содержащий на отрезке множества 6) три элемента с обозначением логически возможного [B][SIZE="5"]⋄[/SIZE][/B] - возможные пункты прибытия, которые выделяет отправляя на них сигналы соответствующие пунктам прибытия и скорости передвижения предикат, обозначенный среди множества пунктов отправления - поля, квантором существования(пункт 4), 7) [B]s(S)[/B] - сигналы от элементов группы [B][I]S[/I][/B](пункт 2), в данном примере подаются на группу выходящего слоя (пункт 5), передают параметр для функции расчёта, 8) [B]s(∃)[/B] - сигналы от элемента описанного в пункте 4 и условно отмеченного как предикат, отмечают возможные пункты прибытия и передают параметр (вес) для функции расчёта, 9) [B]A[/B] порог активации элементов выходного слоя. Согласно данной схемы, для любого элемента выходного слоя активирующий потенциал рассчитывается по функции [LATEX]SummaVes(possible)=s(existing)+\sum\limits_{i=1}^S(2*(s(S)(i)-s(existing)))[/LATEX], где i=1 только в начале цикла (я лично так понял применение этой функции цикла), а логические символы заменены переводом "возможный" и "существующий", а cчётчик[B][I]S[/I][/B] ограничивающий цикл в формуле - увеличивается на 1 до 3 от первой клетки к третьей, куда она может попасть только на третьей скорости, а s(S)(i) - наверное правильнее даже читать как s(i), но имеется ввиду сигнал группы элементов S - тут я плохо спланировал опять обозначения и получил жирную "кляксу" в описании. То-есть на первую клетку предикат подаёт сигнал только первой скорости, и тот считается в цикле число раз равное числу активных элементов скорости, сигнал второй подаётся им на вторую клетку, а третий на третью, куда возможен ход. Теперь я опишу математическое ограничение и неравенства. Да и смысл самой функции. Если скорость движения две клетки за ход, то для первой клетки функция сделает потенциал активации (сумма весов) недостижимым до порога активации, так как вычитание от второго сигнала группы скорости на втором шаге даст отрицательное число, которое при суммировании уменьшит сумму, точно так-же элемент третий группы скорости уменьшит потенциал активации второй клетки, и при скорости 3 клетки за ход активируется только одна клетка - третья. Теперь неравенства, ограничения по функциональности функции расчёта, и некоторые разграничения, я не стал редактировать старую запись так как там очень невизуабельная графика да и пункты. Здесь я это опишу, но запись уже выложу в доступ. Вероятно спустя несколько минут. [B][I]И собственно для данной графике неравенства напишу чуть позже, тогда сразу про разграничение ограничений: v(A)- переменная порога активации, которая задаётся предикатом s(existing) размещённым на множестве [I]inF[/I]. Так способ и формула становятся функциональнее.[/I][/B] Здесь предикат имеется ввиду что он один активен на множестве элементов (сигналов-же он отправляет как обычный нейрон, но с [B][I]v(A)[/I][/B] на один больше. И далее - я всё больше и больше начинаю понимать, что лезу в болото которое отнимет у меня массу времени, и возможен случай когда даже при успехе создания чего-то существенного - на мою жизнь это повлияет только как существенно отнятое время. Ну что-же, тогда [B][I]се ля ви[/I][/B]. Что касается AI - это для него вполне применимо, так как осуществляет вполне логические действия, где на примере группы S - сопутствующая информация, а предикат - обсуждаемый объект. Я не знаю насколько тесно связана функция с математической логикой, но с логикой она связана сильно - отсекает лишние варианты активируя только один. Математическую логику я не то чтобы не учил - даже не читал её основ. Мне просто было надо - я сделал. А как это называется научным языком - мне особой разницы нет, главное - это функционально. [B][I][SIZE="5"]Прошу прощения за то, что потерял в формуле множитель на 2, именно он и подразумевался, чтобы сигнал от элемента скорости самостоятельно не активировал элементы выходящего слоя без сигнала от предиката - клетки отправления, впрочем, гипотетически это может быть и не множитель, а какое-то дополнительное слагаемое.[/SIZE][/I][/B]. Есть-ли это какая-то новая парадигма нейросетей? Скорее да, так как скрытый слой тут отсутствует, сумма рассчитывается с участием цикла суммирования разницы, порог активации элемента выходящего слоя задаётся элементом предикатом. В общем это несколько иной подход, где функционировать полноценно может даже не сеть, а всего два слоя. А сам принцип действия может быть намного эффективнее в осуществлении логических операций по сравнению с их осуществлением стандартными нейросетями. Но тут может и не парадигма а уровень другой. Так-то эта та-же нейронка, ну функция суммирования другая - сложнее, функциональность выше... а так... какая разница - главное что это рабочее. На изображении видно, что сигналы s(S) могут быть константами, а это значит, что активировав один элемент множества inF и один элемент множества outF можно узнать каким средством такой результат может быть достижим. То-есть эти два слоя могут выполнять самые разные задачи - быть инверторными. Поэтому вполне возможно что задачу свёрточных нейросетей они тоже смогут. |
Размещено в Без категории
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
Всего комментариев 4
Комментарии
-
В настоящий момент рассматриваю то - сможет ли такая система функционировать выполняя задачу свёрточных нейросетей.
Хотя...надо неравенства описать, так как без них код не начнётся.Запись от Hrethgir размещена 28.02.2022 в 09:58 
-
Функция дешифратора - уже не интересно.
Запись от Hrethgir размещена 01.02.2025 в 21:26
-
Хотя с другой стороны, ведь его можно сделать многопроходным. Такой дешифратор может функционировать в несколько проходов (закольцованно). Тогда жто уже становится снова интересным и актуальным.
Запись от Hrethgir размещена 02.02.2025 в 07:23
-
Хотя нет, ошибочка, это больше похоже на сумматор. Как дешифратор это работать не сможет, скорее всего, потому что получится, что в одну и ту-же точку можно будет попасть разными путями. Но, если ввести правила, то можно, вероятно.
Запись от Hrethgir размещена 02.02.2025 в 07:36
