И ещё раз о нейросетях. И немного о аналоговых компьютерах.
Запись от Hrethgir размещена 26.12.2021 в 22:30
Показов 1458
Комментарии 0
|
В свободное время серфил, листал, смотрел, пробовал размышлять. Ясности добавил этот ролик [YOUTUBE]mBgk8vGL6ic[/YOUTUBE] . Почему? Если помните - я писал, что синапсы - не суть нейросетей, суть отношения нейронов, где два синапса от входящего слоя к нейрону скрытого слоя дают одно отношение. К такому выводу я пришёл почитав к литературе о нейросетях основы комбинаторики. И моё предположение о ролике в ракурсе нейросетей - возвращения аналоговых компютеров не будет. К этому у меня два аргумента - один интуитивный, а второй ближе к практике. тот что ближе к практике подсказывает что у нейронов помимо весов есть свой язык, то-есть использовать математическую модель - заведомо ущербно. Более практичным подходом было-бы понимание языка нейросетей биологических. И уже тут начинается интуитивная часть. Если помните - я писал о булевых операциях типа умножения на -1 и 1, ну допустим что с каждой можно увеличивать модуль на 1. Так вот посмотрев видео в блоге веритасиума я пришёл к заключению своих размышлений на предмет таких булевых операций - они реально могут добавить в нейронку дополнительное измерение, где каждый нейрон следующего слоя может представить собой нейрон входящего слоя для нейрона с слоя, который для него самого входящий. Чем это может быть удобнее чем рекурентная сеть? Это открывает некоторые перспективы к пониманию языка биологических нейросетей, где кол-во измерений намного больше, язык позволяет создавать сложные структуры, где понятие рекурентности представляет только стеснение возможности, ограничение в пространстве. Иначе говоря - нейросеть живёт в своём пространстве, она может быть относительно небольшой но может представлять собой очень сложную структуру, которая значительно превосходит материальный носитель по устройству собственному и своего виртуального пространства. Пространство нейросети усложняется и наращивается за счёт того, что между нейронами всех слоёв существует язык, а булевые его составляющие могут многократно увеличивать кол-во измерений на участке или области. Алгоритм тут скорее ближе к складыванию листка бумаги, на котором прочерчена линия - линия вроде одна, но если листок сложить - она привидёт совершенно в другую точку плоскости. Такая аналогия крутится в голове. То-есть если в принципе все входящие синапсы можно представить себе в виде аналоговой машины - то заставить работать участок этой машины в другом измерении будет скорее всего невозможным - создавать структуктры и самоорганизовываться - способность субъектов, в данном случае - нейронов, а сама способность к самоорганизации обусловлена существованием языка, или проще сказать - информационной коммуникации, которая не является простым конвеером данных. |
Размещено в Без категории
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
Всего комментариев 0
Комментарии
