Небольшая проблема нейросетей, и небольшое её решение.
Запись от Hrethgir размещена 28.11.2021 в 18:58
Показов 1249
Комментарии 0
|
Может быть моих знаний совсем мало, и я мало читал книг, но есть вещи более чем очевидные и без них. Одну из них я опишу тут, возможно она описана кем-то ещё и я даже читал, но видимо мне не вошло сильно прямое описание. Всё это размышления о нейросетях, их недостатках в конкретных задачах. В математической логике стандартные нейросети становятся чем-то неповоротливым и мало куда годным. Тогда соответственно встаёт вопрос - а какая функция годна? А такая [B][I]Boolean=(y/x)[/I][/B] [B][I]y[/I][/B]- количество выполнения каких-либо условий, которые просто прибавляются в реал тайме при обработке: [B][I]Boolean=(y/x)=(1/x)*y=1/x+1/x+1/x+1/x+...y[/I][/B] раз [B][I]x[/I][/B] - число, равное необходимому количеству повторов для того, чтобы функция дала сигнал когда [B][I]Boolean=1[/I][/B]. y- количество выполнения каких-либо условий, которые просто прибавляются в реал тайме при обработке: Boolean=(y/x)=(1/x)*y=1/x+1/x+1/x+1/x+...y раз x - число, равное необходимому количеству повторов для того, чтобы функция дала сигнал когда Boolean=1. Может быть я просто не понял каких-то заумных текстов когда-то, или не увидел в них смысл, но мне такое описание является описание факта вполне очевидного и легкодоступного. То-есть до полноценного сигнала нужно добрать единицу, тогда сумма должна набираться дробью равной единице делённой на необходимое число повторов. Нейроны в стороне скрытого слоя, дающие +1 или -1 к выходному слою, это как мне стало понятно - нейроны приоритета в случае противоречивых условий. Это нигде не поясняется особо. Если-же условия не несут никакой логики и могут противоречить по не поддающимся логике правилам, то в таком случае можно оставлять всего два нейрона на скрытом слое дающие приоритеты, и при этом каждый набор сигналов кроме дроби наделять множителем, на который умножится сумма этого набора в случае если даёт единицу. [SPOILER]так-то я давно читал по нейросетям, и периодически перечитывал, но то-ли изложение материала мне не зашло, то-ли подход, в общем мне то кажется чем-то типа абстрактного примера пояснительного к польской записи, а метод изложения не является научным тот, поскольку вместо системы отсчёта автор преподнёс абстракцию, в то время как мой метод парсера является разметкой математического выражения в системе отсчёта действий над выражением, что более конкретно, правильно, имеет систему отсчёта. Разметку мой парсер делает одномерную. То-же самое мне кажется и с ннейросетями - в их теории полностью отсутствует система отсчёта как база всего, а должна быть именно она, на ней базируется абсолютно любая идея которая не замкнута на самой себе (если в основе идеи лежит конкретная система отсчёта для достижения цели - она не является манией или шизидеей).[/SPOILER] Чем является данный метод, по сути это метод нейросети, которая обучается правилам. Каждый набор сигналов для неё является правилом. А уже создавать подпункты правил - это уже другой метод. [IMG]https://www.cyberforum.ru/blog_attachment.php?attachmentid=7257&stc=1&thumb=1&d=1638213627[/IMG] Данная нейронка, которая обучается изучая правила, оперирует только с наборами сигналов. Допустим что у нас любые комбинации сигналов активируют зелёный нейрон, но когда имеется только два крайних сигнала входящих - то активируется красный нейрон. Что делать когда нельзя выкинуть отсутствующие сигналы и сетапа? А вот в том и выход, что нужно устанавливать верхний предел помимо нижнего. То-есть красный нерон активируется строго при сумме весов равной сумме крайних сигналов, если прийдёт сигнал от средних, то некоторая величина превысит предельную и сработает зелёный нейрон. Так-же можно было-бы сделать по множеству других вариантов решения проблемы - инвертировать сигналы от не крайних сенсоров и вместо суммирования делать умножение - это было-бы гибче на самом деле и правильнее. Вот на таком примере я попробовал изложить небольшую, но для меня очевидную проблему нейросетей обычных. Да проблема вроде как не бросается в глаза сразу, завуалирована теорией нейросетей - они не рассматривают её вообще, там всё возлагается на длительный процесс обучения. Но нельзя долго обучаться тому например, что если взяться за провода под напряжением руками - они ударят током. И далее таких правил может насобираться множество, и если хвататься за провода - не дожить и одной эпохи. Ну вот так вот. Иначе говоря - процесс обучения это не процесс подгонки состояния системы, а процесс реального обучения, и в нём многие нейронные сети при всех рассказах о их обучении - в процессах обучения никогда и не участвовали, так как на самом деле они проходят процесс уравновешивания связей, приведения системы весов в состояние, но не обучения. Если кто-то реально читал это - прошу простить за то, что я не открыл качественно материал сразу, а доделывал публикацию по настроению начиная от вброса не лучшего качества. Но я эту мысль и доводил до конца вот так, чтобы не перегревать свой "ЦП", хотя само явление этого недостатка в теории нейросетей у меня крутилось в голове изначально, просто я решил не спешить с этим, а довести вот так. Проблема данного подхода будет ощутима тогда, когда нейросети при[B][I]й[/I][/B]дётся (я сочуствую людям не выговаривающим "й" после "и", жертвам алкоголизма, наркомании и прочих человеческих пороков, но писать я буду так, как меня учили не общих образовательных учреждениях) обрабатывать математические данные (ну например как определить бомбардировщик или истребитель, что-то около того из учебников по нейронкам), но к этому времени я надеюсь на свой очередной лайфхак. А вообще это для проесса ускорения обучения нейросети обучающейся по правилам и законам. Потому что нейросеть обрабатывающая математические данные обучается правилам и законам невероятно долго. Попытка не пытка - нужно понять закон сокращения правил, где в логике нет лжи, а есть инверсия истины. Логике абсолютно без разницы человеческое восприятие, человек наделил её в программировании терминами истина и ложь, нужно попробовать рассматривать связи как версию и инверсию. Возможно это даст результат. [URL="https://ru.wikipedia.org/wiki/%D0%98%D1%81%D1%82%D0%B8%D0%BD%D0%B0"]Классическая философская концепция истины[/URL], восходящая к Платону и Аристотелю, основывается на том, что истина есть мысль, соответствующая объективной (независимой от познающего субъекта) действительности[2]. Что-же реально существует, если не подходит живое восприятие. Реально существует мир природы. Что-же можно выделить в нём полезного для логики? Выделить можно в нём немного сразу: отношение объектов друг к другу, полезным логике может оказаться явление связей - замкнутость и разомкнутость. Реально в природе существует источник и течение, объект и отражение. Есть источники и порождаемое ими. Видимо это концепция по деятельности данной сети была-бы схожа с деятельностью [B][I]искателя источника истины[/I][/B]. Исходя из данных рассуждений для поиска "Закона законов" и развития данной концепции нейросети, будет браться не верхний предел для нейрона, а инверсия сигнала в комбинациях набора сигналов. В приоритете действие умножения единиц и нулей (вместо сумм весов) - так как это позволит сократить машинное время работы сети. Возможно будет выведено специальное правило умножения. [B][I]Хотя в идеале создать нечто гибридное, что различает два отношения: качественное и количественное, и соответственно в зависимости от отношения связи применять сложение при количественном и умножение при качественном. Наборы связей нейронов предположительно применять больше прийдётся при качественном. На изображение на красный нейрон поданы качественные связи с знаком действия умножения, красные инвертированы. Кроме того что они инвертированы они всегда дадут ноль при любой комбинации кроме оговоренной ранее - то есть являются в данном случае фиксированными и на работу сети влиять отрицательно не станут.[/I][/B] |
Размещено в Без категории
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
Всего комментариев 0
Комментарии
