Рекуррентная НС для распознавания речи - Искусственный интеллект - Ответ 10340167

@Abraziv__ · Регистрация: 05.02.2013

Студворк — интернет-сервис помощи студентам

Доброго времени суток. Стоит задача написать классификатор для кластеризации языка голоса.
Языка всего 2. Английский и русский.
Хотел спросить правильно ли я понял проблему и правильно ли двигаюсь в реализации.
В качестве признаков использую 13 MFCC + 13 deriv MFCC + 13 deriv deriv MFCC. В качестве классификатора использую рекуррентную нейронную сеть типа LSTM. Архитектура сети: 39-100-2:
39 - входных нейрона,
100 - юнитов LSTM
2 - выходных нейрона. Один отвечает за русский язык, второй за английский.
Сформировал от разных дикторов по 10 часов ИКМ для каждого из языка. Получилось примерно по 150 файлов для каждого языка.
Сформировал массив меток для обучения сети. [1 0] - если подаётся файл с русским языком, [0 1] - английский.
Все файлы перед подачей перетасовываются.
Далее делаю так:
Подаю файл на сеть, прогоняю прямым ходом. Проверяю на сходимость. Если не сошлось: двигаюсь от конца к началу для каждого из признака MFCC + dMFCC + ddMFCC (метод обратного распространения ошибки).
Другими словами, допустим для файла с русской речью, устанавливаю метку на выходе выставляю в [1 0] и прогоняю весь файл. После этого в обратном ходе делаю так
Формирую дельту:
ошибка -> выходной слой -> скрытый слой (LSTM)
ошибка -> выходной слой -> скрытый слой (LSTM)
ошибка -> выходной слой -> скрытый слой (LSTM)
.
.
.
ошибка -> выходной слой -> скрытый слой (LSTM)
Коррекция весов.
Далее беру следующий файл, допустим с английской речью выставляю метку на выходе в [0 1]
и дальше как в прошлом случае:
Формирую дельту:
ошибка -> выходной слой -> скрытый слой (LSTM)
ошибка -> выходной слой -> скрытый слой (LSTM)
ошибка -> выходной слой -> скрытый слой (LSTM)
.
.
.
ошибка -> выходной слой -> скрытый слой (LSTM)

и т.д. пока ошибки для всех файлов будут меньше заданного порога.
Я правильно понимаю проблему?

При реализации столкнулся с проблемой, что для одних файлов во время обучения ошибка уменьшается для других растёт. Допустим ели взять два файла, один с англ речью другой с русской, то для русского файла ошибка будет уменьшаться и идти на убыль, для английского напротив растёт, суммарная ошибка примерно равна 1, т.е. для одного языка уменьшается , для другого увеличивается.
Не понимаю, где ошибка или что я делаю не так. В коде вроде ошибок нет, мне кажется где-то фундаментальная ошибка, т.е. я что-то не так понимаю и реализовал соответственно.
Буду рад любой информации.

Вернуться к обсуждению:
Рекуррентная НС для распознавания речи Искусственный интеллект

Следующий ответ

Другие темы раздела
Искусственный интеллект Обучающая выборка из матриц разного размера Как использовать подобную выборку для обучения? Возможно ли вообще её применить для обучения, или упростить, или применить в генетическом алгоритме? https://www.cyberforum.ru/ ai/ thread1962080.html	Искусственный интеллект Построение базы знаний экспертной системы помогите пожалуйста! Построение базы знаний экспертной системы на основе продукционной модели представления знаний. Цель работы Изучение взаимосвязи правил в базе знаний, построенной на основе продукционной модели представления знаний. Задание 1. Изучите базу знаний ЭС, указанную преподавателем.
Искусственный интеллект Как создаются нейросети для чат ботов? https://www.cyberforum.ru/ ai/ thread1955329.html Хочу узнать как создаются нейросети для чат-ботов. неужеле нужна какая-то супер математика?	Искусственный интеллект Мета онтология в среде Protege Здравствуйте! Нужно описать онтологию технологического процесса, это уже сделано, не хватает мета онтологии, к которой можно подключить непосредственно онтологию ТП, пытался написать, но не работает корректно, возможно, напутал с аксиомами. Вопрос, есть ли у кого то мета онтология, работающая корректно с аксиомами? буду признателен https://www.cyberforum.ru/ ai/ thread1948914.html
НС выполняющая функцию для двух чисел Искусственный интеллект Добрый день. Собственно меня интересует, как НС способна получать новые данные на основе обобщения предыдущих. Нашёл много статей про сети, которые обрабатывают данные, и сравнивают их с уже выученными. Выбирается наиболее совпавший. Для этого используются разнообразные алгоритмы основанные на перемножении матриц или построении простейшего графа нейронов. Однако я не понимаю, как написать НС,...	Искусственный интеллект Планирование операций виртуального объекта Всем привет! Недавно начал изучать темы, касающихся ИИ. Что посоветуйте почитать или где-то поглядеть на реализацию/описания методов планирования при решении некоторых задач? Желательно на C++. Заранее спасибо! https://www.cyberforum.ru/ ai/ thread1943652.html
Искусственный интеллект Несколько непониманий по многослойным НС Доброго времени суток. Пусть имеется НС 50-100-2. Нужно обучить НС так, чтобы при подаче на вход символа А выход 1 возбуждался. При подаче символа Б выход 2 возбуждался. Вот я натренировал сеть так чтобы при подаче символа А возбуждался выход 1 (2 выход в процессе обучения я не трогаю). После этого я натренировал выход 2 при подаче символа Б (1 выход в процессе обучения я не трогаю). Собственно... https://www.cyberforum.ru/ ai/ thread1941486.html	Искусственный интеллект Нейронные сети адаптивного резонанса ART-2 и ART-3 Доброго времени суток, подскажите пожалуйста, где можно найти пример программной реализации сетей ART-2 либо ART-3, перерыл кучу литературы по нейронкам, везде либо абстрактные математические алгоритмы, либо реализация сети ART-1, которая, к сожалению, мне не подходит. Заранее спасибо.
Искусственный интеллект Какие существуют достижения в ИИ? Я вот смотрю, тут в этом разделе темы, в основном, космического масштаба, как создать аналог человеческого интелекта, как создать сверх человеческий и в таком духе:) Мечтать конечно может не вредно, но я хочу поставить более прозаический вопрос. А какие достижения вообще существуют? Я помню, когда последний раз интересовался темой, помню, что там ведь одни фейлы были. Сначала растаяла надежда на... https://www.cyberforum.ru/ ai/ thread1939006.html	Искусственный интеллект Навигация в пошаговой игре Создаю пошаговую игру. Минимальная единица времени – тик. Персонаж может передвинуться на соседнюю клетку за 1 тик, но после этого он некоторое время должен бездействовать (время бездействия зависит от направления движения (после передвижения по диагонали время бездействия больше)). Персонаж на данном изображении бездействует 9 тиков после движения на 1 клетку не по диагонали или 13 тиков после... https://www.cyberforum.ru/ ai/ thread1933742.html
Задачи по ИИ Искусственный интеллект Доброго времени суток. Мне в университете дали задание реализовать какую-либо программу на тематику ИИ. Собственно говоря вопрос: посоветуйте что-нибудь по ИИ, ибо в интернете сейчас ОЧЕНЬ МНОГО материала по данной теме, что глаза разбегаются.Если не литературу, то какую-нибудь классическую задачу(типа распознание буквы по картинке, выделения контура (эта тема уже занята) и.т.д.).Желательно...	Искусственный интеллект Как выразить отношение между предикатами в логике первого порядка? Здравствуйте, изучаю известный доказыватель теорем 'E Prover', который работает с логикой первого порядка. Не могу понять возможно ли адаптировать к ЛПП (логике первого порядка) некоторые отношения между свойствами переменных, а не между переменными. Например, имеем список людей. У каждого человека имеется несколько предикатов, один из предикатов, например, "Город проживания". И, имеется... https://www.cyberforum.ru/ ai/ thread1930800.html

@Abraziv__ 4 / 4 / 2 Регистрация: 05.02.2013 Сообщений: 441
		0
	Рекуррентная НС для распознавания речи - Искусственный интеллект - Ответ 10340167 17.04.2017, 14:05. Показов 1038. Ответов 3 Метки (Все метки) Доброго времени суток. Стоит задача написать классификатор для кластеризации языка голоса. Языка всего 2. Английский и русский. Хотел спросить правильно ли я понял проблему и правильно ли двигаюсь в реализации. В качестве признаков использую 13 MFCC + 13 deriv MFCC + 13 deriv deriv MFCC. В качестве классификатора использую рекуррентную нейронную сеть типа LSTM. Архитектура сети: 39-100-2: 39 - входных нейрона, 100 - юнитов LSTM 2 - выходных нейрона. Один отвечает за русский язык, второй за английский. Сформировал от разных дикторов по 10 часов ИКМ для каждого из языка. Получилось примерно по 150 файлов для каждого языка. Сформировал массив меток для обучения сети. [1 0] - если подаётся файл с русским языком, [0 1] - английский. Все файлы перед подачей перетасовываются. Далее делаю так: Подаю файл на сеть, прогоняю прямым ходом. Проверяю на сходимость. Если не сошлось: двигаюсь от конца к началу для каждого из признака MFCC + dMFCC + ddMFCC (метод обратного распространения ошибки). Другими словами, допустим для файла с русской речью, устанавливаю метку на выходе выставляю в [1 0] и прогоняю весь файл. После этого в обратном ходе делаю так Формирую дельту: ошибка -> выходной слой -> скрытый слой (LSTM) ошибка -> выходной слой -> скрытый слой (LSTM) ошибка -> выходной слой -> скрытый слой (LSTM) . . . ошибка -> выходной слой -> скрытый слой (LSTM) Коррекция весов. Далее беру следующий файл, допустим с английской речью выставляю метку на выходе в [0 1] и дальше как в прошлом случае: Формирую дельту: ошибка -> выходной слой -> скрытый слой (LSTM) ошибка -> выходной слой -> скрытый слой (LSTM) ошибка -> выходной слой -> скрытый слой (LSTM) . . . ошибка -> выходной слой -> скрытый слой (LSTM) и т.д. пока ошибки для всех файлов будут меньше заданного порога. Я правильно понимаю проблему? При реализации столкнулся с проблемой, что для одних файлов во время обучения ошибка уменьшается для других растёт. Допустим ели взять два файла, один с англ речью другой с русской, то для русского файла ошибка будет уменьшаться и идти на убыль, для английского напротив растёт, суммарная ошибка примерно равна 1, т.е. для одного языка уменьшается , для другого увеличивается. Не понимаю, где ошибка или что я делаю не так. В коде вроде ошибок нет, мне кажется где-то фундаментальная ошибка, т.е. я что-то не так понимаю и реализовал соответственно. Буду рад любой информации. Вернуться к обсуждению: Рекуррентная НС для распознавания речи Искусственный интеллект Следующий ответ 0

	17.04.2017, 14:05