Многослойный перцептрон и крестики - нолики 3х3. Не учится

Теперь не решается новая задача.
У меня есть реализация многослойного перцептрона с прямым распространением и обратным возвратом ошибки на C#
Я успешно аппроксимировал множество функций, например:

y = x*0.5 +1
y = x^2 -1
y = (x^3)*1,1 +2

Я успешно разделил линейно разделимые и нелинейно разделимые множества, на отлично прошел датасет со спиралью.
То есть сама работа перцептрона не вызывает вопросов.

Так вот, суть задачи состояла в том, чтобы научить перцептрон играть в крестики - нолики.
Архитектура перцептрона вглядела так:
на входном слое 9 нейронов.
На скрытом первом - 50 нейронов
На скрытом втором - 50 нейронов
На выходном слое - 9 нейронов.

learningrate - 0.01
momentum - 0.1
Активация - сигмоида

Я делал это несколькими способами:
1. Я создал CSV файл с примерами, на 9 входных нейронов подавалась информация о состоянии каждой клеточки поля.
если там ничего не стоит, то на рецептор подается 0.5
Если там стоит O - на вход подавалось 0.1
Если там стоит X - на вход подавалось 0.9

На выходных нейронах формировался ответ. Ответ интерпретировался так: ответом является самое большое число.
Каждый из выходных нейронов был приурочен к своей клеточке поля. Например, если самое большое значение было у нейрона №1, то ответ нейросети ставился в клеточку поля A1

Данный подход не оправдал доверия. Очень быстро нейронная сеть скатывалась к тому, что тупо ставила крестик или нолик в одно и то же положение, независимо от входных значений, и продолжала ставить в одно и то же место, даже если я делал последующий ход (делала неверные ходы в одно и то же место)

Тогда я попробовал второй подход. у меня был бот, играющий в крестики нолики, я написал его чисто на if-ах. Нейросетка играла с этим ботом, причем пара тренировочный сет с марками правильных ответов генерировалась на лету (сеть брала пример с бота), и тут же после каждого хода бота корректировала веса.

Этот способ тоже оказался провальным. Как и в прошлый раз, нейрсеть научилась ставить крестик или нолик исключительно лишь в одну клеточку, полностью игнорируя игровую ситуацию. Я грешным делом подумал, что может, проблема в промаркирванных данных? - нет, с ними все в порядке. В общем, я в тупике и не знаю, что предпринять, может, кто-то сможет помочь?

0

Сообщение от VTsaregorodtsev Расскажите, где/откуда/какая/зачем интуиция у простейших методов машобуча.

Интуиция - это выдача ответа при наличии сигнала на входе, которого ранее (при обучении) не было.

Все просто.

0

Сообщение от Mikhaylo Интуиция - это выдача ответа при наличии сигнала на входе, которого ранее (при обучении) не было.

Увы, научность предполагает использование стандартных и строгих математических терминов "интерполяция/экстраполяция".
Да и байесовский подход тоже не различает (если не колхозить какой-то свой алгоритм с добавлением проверки равенства условной вероятности нолю или иной взятой с потолка константе) обучающие и "боевые"/новые сигналы.

Не, я знаю, что ряд видов нейронок (некоторые растущие сетки) имеют встроенный индикатор новизны сигнала - но он у них работает только в ходе синтеза=обучения нейронки (хотя адаптацию такой нейронки можно продолжать и при её "боевой" работе). Но это всё-таки НЕ ВСЕ методы машобуча. И "интуиция" у них зашита аппаратно в виде фиксированного формального алгоритма оценки/действия - а явные алгоритмы словом "интуиция" не характеризуются (ибо такое будет качественным ухудшением научности/строгости/правильности описания алгоритма и/или положенной в основу алгоритма теории).

Поэтому -

Сообщение от Mikhaylo Все просто.

забирай зачётку - придёшь на пересдачу осенью

0

Тогда так

интуиция - это правильное решение Задачи при недостатке начальных данных или при недостатке систематизации методов решения подобной Задачи

0

Вот это получше - а то предыдущее михайловское

Сообщение от Mikhaylo Интуиция - это выдача ответа при наличии сигнала на входе, которого ранее (при обучении) не было

легко опровергалось логичным продолжением: тогда суперинтуицией обладает метод случайного тыка (random guessing), которому обучающей выборки видеть вообще не надо и которому обучение вообще не требуется

Но всё равно - давайте не будем продолжать пихать в тему оффтопик.

0

и што?
про метод Монте-Карло слыхом не слыхивали?
а им иногда даже число Пи вычисляют

0

Вы передёргиваете - применением монте-карлы с недостатком данных / информации о методах (Ваше же утверждение о том, что такое интуиция?) борется сам человек, а не монте-карла.
Ибо где непосредственно у монте-карлы хоть какая-то "интуиция", выходящая за задаваемые человеком интервалы/законы для её генератора рандома?
Откуда монте-карла "интуитивно" узнаёт, что информации/данных исходно мало?
Да и монте-карла не выдаёт же ответ. Результаты экспериментов по монте-карле затем дополнительно обрабатываются (усредняются, либо считаются вероятности, либо...) для получения этого финального ответа/результата.
Т.е. как схему монте-карловых набросов экспериментов, так и схему итоговой обработки полученных результатов экспериментов явно и формально разрабатывает-задаёт человек непосредственно под нужную ему задачу.

В общем, я показал ненаучность/неправильность некоего утверждения путём продолжения его до абсурда - и не надо пытаться превращать этот абсурд (проведение равенства между рандомом и "интуицией") в якобы правильность.

0

Сообщение от ivan2141 и што? про метод Монте-Карло слыхом не слыхивали? а им иногда даже число Пи вычисляют

Монте-Карло это нормально. Вообще перебором можно почти всё решить, но ученые любят себя помучить, посоревноваться кто наиболее ловок в борьбе со сложностью, в принципе и спортсмены тоже любят пострадать, но физически, это полезно.

0