Форум программистов, компьютерный форум, киберфорум
Наши страницы
Искусственный интеллект
Войти
Регистрация
Восстановить пароль
 
Рейтинг 4.67/3: Рейтинг темы: голосов - 3, средняя оценка - 4.67
Фоголан
0 / 0 / 1
Регистрация: 09.08.2013
Сообщений: 48
1

Конкурентное обучение

19.11.2016, 04:14. Просмотров 566. Ответов 8
Метки нет (Все метки)

Всем привет, пытаюсь обучить нейронную сеть распознавать числа от 0 до 9. Входные данные представлены матрицами 5x3, единице соответствует закрашенный пиксель, нулю - белый. Обучаю сеть методом конкурентного обучения. Вопрос состоит в том, как определить, обучилась ли сеть? Так как обучение происходит без учителя, мне не очень понятно, сколько раз подавать обучающую выборку и когда считать сеть обученной. Когда я подаю примеры один раз, вменяемого результата я получить не могу(один и тот же нейрон распознает 2 и 3, например). В интернете ничего конкретного не нашел, в литературе на данную тему тоже. Подскажите, пожалуйста)
0
Similar
Эксперт
41792 / 34177 / 6122
Регистрация: 12.04.2006
Сообщений: 57,940
19.11.2016, 04:14
Ответы с готовыми решениями:

Дедуктивное обучение или Обучение по прецедентам (плюсы и минусы)
Привет, друзья! Как вы смотрите на то, чтобы обсудить вопрос о преимуществах и недостатках 2...

Обучение программированию
Добрый день! Хотел попросить помощи в изучении программировании, совет где лучше обучаться или...

Обучение с оракулом
Добрый день, уважаемые форумчане! У меня, наверное, легчайший вопрос для этого раздела. Вгрызаюсь в...

Обучение нейрона
Добрый день! Начал недавно изучать нейронные сети! Но кое что не понятно: 1. Есть ИНС с одним...

Обучение нейросетей видеоиграм
добрый день, возник вопрос: насколько я понимаю, видеоигры обучают методом Q-learning для которого...

8
echs
Регистрация: 23.10.2013
Сообщений: 5,076
Записей в блоге: 8
19.11.2016, 10:48 2
Фоголан
Лично мне вопрос непонятен. Чтобы ответить на
вопрос: обучилась ли сеть? Надо знать где и в каком
виде хранятся данные. Получить начальные данные
и конечные. И сравнить их... А так? ничего ясно ...
0
Mikhaylo
202 / 189 / 24
Регистрация: 20.09.2014
Сообщений: 1,361
19.11.2016, 14:54 3
echs, ты это... не демонстрируй свое невежество что ли, почитай про машинное обучение. Я сейчас буду говорить тебе не совсем понятные вещи: в обучении с учителем имеется возможность сравнивать результаты решающего алгоритма ("ученика") с контрольной выборкой (которая подготовлена "учителем"). Здесь же учителя нет.
echs, тебе не кажется, что слишком многие здесь на форуме применяют какие-то интересные термины? Может они где-то учились? А?
0
echs
19.11.2016, 16:44
  #4

Не по теме:

Mikhaylo
Если я что-то не знаю, то я говорю, что не знаю.
Впрочем вы можете говорить что хотите. Имеете право.

0
Mikhaylo
19.11.2016, 19:16
  #5

Не по теме:

echs, ну вообще это не отменяет необходимого повышения квалификации. Пытаешься общаться в теме, в которой не в теме.

0
Excalibur921
767 / 463 / 80
Регистрация: 12.10.2013
Сообщений: 3,118
20.11.2016, 18:34 6
Цитата Сообщение от Фоголан Посмотреть сообщение
распознавать числа от 0 до 9.
Погуглите MNIST.
Цитата Сообщение от Фоголан Посмотреть сообщение
представлены матрицами 5x3
Очень мало, смысл тут сеть делать? MNIST вроде 28 на 28.

Цитата Сообщение от Фоголан Посмотреть сообщение
методом конкурентного обучения.
Цитата Сообщение от Фоголан Посмотреть сообщение
В интернете ничего конкретного не нашел, в литературе на данную тему тоже.
Зачем вообще брать метод который не нашли легко в любой книге /инете?

Цитата Сообщение от Фоголан Посмотреть сообщение
как определить, обучилась ли сеть?
Посчитать процент ошибки на большом объеме данных.
Например в MNIST скармливают сетке несколько тысяч рукописных букв от разных людей и процент ошибки узнавания от разных алгоритмов на сайте там есть.
0
Фоголан
0 / 0 / 1
Регистрация: 09.08.2013
Сообщений: 48
23.11.2016, 02:45  [ТС] 7
Цитата Сообщение от Excalibur921 Посмотреть сообщение
Погуглите MNIST.
Я читал про MNIST, но в дело не в нем, как мне кажется. Дело вообще не в размере входов, хотя согласен, их маловато. Мне просто не понятен сам принцип определения обученной сети, если она обучается без учителя. Точнее не непонятен, я его не знаю. Есть ли какое-то условие, может изменение весов или что-то еще.
Цитата Сообщение от Excalibur921 Посмотреть сообщение
Зачем вообще брать метод который не нашли легко в любой книге /инете?
Жажда познаний, она такая) Да и много где описан этот метод, но вот данный вопрос что-то я для себя прояснить не смог.
Цитата Сообщение от Excalibur921 Посмотреть сообщение
Посчитать процент ошибки на большом объеме данных.
Вы имеете ввиду, что после подачи тестовой выборки смотреть, сколько ошибок, и на основании этого уже решать, продолжать ли обучение? Хорошая идея, попробую, спасибо)
0
Excalibur921
767 / 463 / 80
Регистрация: 12.10.2013
Сообщений: 3,118
23.11.2016, 14:48 8
Цитата Сообщение от Фоголан Посмотреть сообщение
хотя согласен, их маловато.
5 на 3 просто ниочем…
MNIST есть готовые базы для обучения и проверки + куча тестов показан процент ошибки. В инете сверяют точность распознания по многим библиотекам с готовыми сетками+тесты скорости.
Цитата Сообщение от Фоголан Посмотреть сообщение
если она обучается без учителя.
Мне непонятна сама идеология как можно обучать без учителя, нет классификации что правильно а что нет… в садике показывают картинку с числом 5 и говорят это 5…

Или по вашему разбрасывают пачку картинок с символами и спрашивают найди мне тут лямбда =). Ребенок скажет что не знает как она выглядит…его не учили.

Цитата Сообщение от Фоголан Посмотреть сообщение
Хорошая идея
Не знаю, просто очевидная и простая. Проверить на тесте. Есть еще какое то переобучение…
https://ru.wikipedia.org/wiki/%D0%9F...BD%D0%B8%D0%B5
1
VTsaregorodtsev
572 / 520 / 77
Регистрация: 19.02.2010
Сообщений: 1,908
23.11.2016, 23:21 9
Цитата Сообщение от Excalibur921 Посмотреть сообщение
Мне непонятна сама идеология как можно обучать без учителя, нет классификации что правильно а что нет
Можно без учителя найти кластеры в данных. А потом назначить каждому кластеру тот класс, примеры которого в наибольшем количестве входят в данный кластер.
И затем классифицировать новые примеры по близости к центрам этих кластеров - назначать каждому примеру тот класс, который был назначен ближайшему к нему кластеру.
Т.е. просто использовать гипотезу, что объекты одного класса более похожи друг на друга, чем на объекты других классов - поэтому они будут ближе друг к другу (и образовывать отдельный кластер или несколько кластеров), чем к объектам других классов (и к кластерам из этих объектов).
По мере роста числа кластеров (т.е. при переходе от кластеризации к "квантованию" данных) на МНИСТ точность должна приблизиться к точности классификатора ближайшим соседом (knn), т.е. к 2-5% (в зависимости от настроек knn) неправильно распознанных тестовых примеров. Потому, что пример, при knn классифицировавшийся по ближайшим к нему эталонным объектам, теперь будет классифицироваться уже готовой меткой, назначенной центру кластера/кванта, составленного их этих же самых объектов.

Ну и другая возможная идея есть - из объектов формировать эталонные "прототипы", как это делает нейросеть Хопфилда. Чтобы потом иметь возможность каждый искажённый/зашумлённый/сдвинутый/... образ приводить этой нейросеткой в эталонное состояние (убирать шумы/искажения/..., восстанавливать частично потерянные фрагменты,..).

Но просто ни один, ни другой вариант к конкурентному обучению не относятся.
0
23.11.2016, 23:21
MoreAnswers
Эксперт
37091 / 29110 / 5898
Регистрация: 17.06.2006
Сообщений: 43,301
23.11.2016, 23:21

Обучение проэктированию приложений
Добрый день. Я в программировании не совсем новичок - вроде, и несколько яп знаю, и не совсем...

Обучение программированию по видео курсам
Здравствуйте. Кто-нибудь из вас С НУЛЯ(!) обучился программированию(не ИГР, а вообще! Без скриптов,...

Сверточные нейронные сети. Обучение
Добрый вечер. С прошлыми топиками на эту тематику я ознакомлен. Прочитав материалы по сверточным...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
9
Ответ Создать тему
Опции темы

КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin® Version 3.8.9
Copyright ©2000 - 2019, vBulletin Solutions, Inc.
Рейтинг@Mail.ru