Реализация человекоподобного обучения нейросети

Что будет, если нейросеть обучать по такому алгоритму:
1. Создать виртуальное пространство
2. Создать первую нейросеть, которую нужно обучить стандартными алгоритмами, и дать ей цель обучить следующую нейросеть на основе того, что она знает
3. Создать вторую нейросеть, которая будет обучаться у первой нейросети и при этом она будет самостоятельно немного изучать то, что не связано с обучением у первой нейросети. Дать ей цель обучить следующую нейросеть
4. Повторить несколько раз пункт 3.

При этом первоначально у нейросетей будет своё виртуальное окружение и виртуальное зрение. Они могут в нём перемещаться, взаимодействовать с предметами, общаться с другими нейросетями и т. д. Что в итоге получится?

0

Результат, конечно, интересен. Но вы предложите варианты формирования данных для обучения. А то ведь ваши нейросети являются игроками в виртуальных пространствах, а не тренерами.

0

Сообщение от Aleksey_1024 При этом первоначально у нейросетей будет своё виртуальное окружение и виртуальное зрение. Они могут в нём перемещаться, взаимодействовать с предметами, общаться с другими нейросетями и т. д. Что в итоге получится?

Опишите пожалуйста, как вы представляете перемещение нейросетей в виртуальном окружении. А так-же - на каком языке нейросети будут "общаться с другими нейросетями" и о чем они будут "общаться". Будет интересно обсудить ваши мысли.

0

Сообщение от Aleksey_1024 и дать ей цель обучить следующую нейросеть на основе того, что она знает

Если предположить, что первая сетка натренирована очень неплохо, то она будет размечать вновь прибывшие живые данные (test-set) для следующей сетки. То есть test-set будет играть роль training-set-а для второй сетки.
Однако первая сетка может ошибаться, и тогда будет критичен вопрос устойчивости к ошибкам к разметке данных. FC-сетки (Fully Connected, полносвязные, или dense), как минимум, достаточно устойчивы к малому кол-ву ошибок. Но они конкретно косячат при больших ошибках в разметке, что легко объясняется.
Имхо, подозреваю, в результате этой затеи будут просто хреновые показатели классификации. То есть ничего стоящего не выйдет.

Сообщение от Aleksey_1024 и при этом она будет самостоятельно немного изучать то, что не связано с обучением у первой нейросети.

В DL уже есть такая техника, называется transfer learning - когда берем какую-нибудь крутую сетку, вытаскиваем какой-то нужный слой и начинаем использовать его для решения и последующей дотренировки на другом типе задач.

0

passant, виртуальное окружение может быть любым, но я бы предпочёл сделать карту небольшого поселения посреди природы, но это поселение будет окружено забором высотой 5-6 метров. В поселении будут дома (их количество будет зависеть от количества жителей: один дом - один житель), огород, школа. Можно разработать собственный язык, на котором они будут общаться, либо использовать один из настоящих языков, но в урезанном виде. Общение у них будет похожим на:
Нейросеть1: Нейросеть2 вы собирать урожай из огород!
Нейросеть2: Я выполнять.

Спустя некоторое время...
Нейросеть1: Нейросеть2 вы собирать урожай из огород?
Нейросеть2: Я собирать урожай из огород успешно.
Нейросеть1: Хорошо. Нейросеть2 вы разведать территорию!
Нейросеть2: Я выполнять.
...
Конечно такое общение очень примитивное, но этого хватит для общения двух простых нейросетей. Можно им дать волю для изменения конструкций языка, но потом они будут говорить на непонятном языке и возможно даже на машинном коде. А этого нам не надо если мы за ними будем наблюдать и/или будем с ними общаться.

Добавлено через 5 минут
Mikhaylo, первую нейросеть можно написать уже обученной, или самим её тренировать несколько часов или дней. Формат данных будет в виде виртуального зрения, виртуального слуха, виртуальных органов чувств

Добавлено через 14 минут
А ещё интересней их обучить в игре-песочнице, к примеру в minecraft. Там тогда понадобится больше датчиков для выживания, но и нейросети будут интереснее себя вести

0

Командовать - это не значит тренировать. Командовать можно только натренированными.

0

Нужны органы чувств и потребности, иначе ничего не будет. Зачем собирать еду если нет голода? Зачем защищать себя и еду если нет страха?
Где-то читал что основная причина почему шимпанзе не эволюционируют это отсутствие у них любопытства на генном уровне. Еще нужна будет мутация архитектуры и как следствие поведения + естественный отбор. Скорей всего совершенно бесполезно делать для симуляции человеческое время и человеческие скорости действий бег, еда и т.д. так эволюция займет тысячи человеческих лет. Нужно распараллелить вычисления до предела скорости компа + сохранение результата с нацеливанием на расчеты месяц...другой.

Добавлено через 1 минуту
Главное не забыть добавить в прогу сразу не убираемые как их там 3 правила робототехники что-то такое.

0

При этой постановке задачи у нейросетки предел обучения на уровне - увидел, поймал, съел. В принципе многие животные так существуют. Устраивает ли такой уровень? Хотелось бы, чтобы нейросетки открыли университет и делали научные открытия типа законов Ньютона для виртуальных сред?

0

Сообщение от Aleksey_1024 Можно разработать собственный язык, на котором они будут общаться, либо использовать один из настоящих языков, но в урезанном виде. ... Можно им дать волю для изменения конструкций языка

После того, как на первой МИФИческой "Нейроинформатике" в 1999ом был представлен способ создания языка коммуникации между "роботами" с абсолютного нуля (да ещё и одновременно с самОй адаптацией этих роботов) - априори будут неинтересными любые попытки исходно заложить в модель какой-то кастрированный язык общения (или адаптировать такого кастрата).

Сообщение от Aleksey_1024 Нейросеть1: Нейросеть2 вы собирать урожай из огород! Нейросеть2: Я выполнять. Спустя некоторое время... Нейросеть1: Нейросеть2 вы собирать урожай из огород? Нейросеть2: Я собирать урожай из огород успешно. Нейросеть1: Хорошо. Нейросеть2 вы разведать территорию! Нейросеть2: Я выполнять. ...

Ибо -

сюжеты были штампованные, герои - картонные, язык - чуть посложнее, чем у питекантропов.

(С) Д.Симмонс, "Гиперион".

0

Нейросети это автостатистика на примерах и ничего более.
Поэтому не будет работать это

Сообщение от Aleksey_1024 немного изучать то, что не связано с обучением у первой нейросети.

Тут нужно будет создавать систему с самообучением с нуля и принципиально другого уровня. Такая система должна будет сама находить обучающие выборки в окружении, сама решать есть ли польза от их изучения. Есть ли польза обучать других сетей этому. Это уже искусственный разум. Очень нетривиальная задача.

1