Форум программистов, компьютерный форум, киберфорум
Искусственный интеллект
Войти
Регистрация
Восстановить пароль
Другие темы раздела
Искусственный интеллект Компьютерное зрение. Алгоритм расчета межканальных задержек в аудиосигналах https://www.cyberforum.ru/ ai/ thread2630015.html
Всем добрый день. Интересная задача для меня возникла в области автоматизации расчета межканальных задержек в стерео записe. На картинке ниже представлена такая стереопара. Перед каким-то...
Искусственный интеллект Куда вставлять умножение на производную
Это уже третья моя тема подряд в этом разделе. Остался последний вопрос. Куда нужно вставлять умножение на производную в методе обратного распространения ошибки нейросети. По одним источникам это в...
Искусственный интеллект Что такое альфа в функциях активации Наткнулся на функцию Soft Exponential (Мягкая экспоненциальная). Её уравнение выглядит так α==0: f(α, x) = x α > 0: f(α, x) = (exp(αx)-1) / α + α α < 0: f(α, x) = -ln(1-α(x + α)) / α Что... https://www.cyberforum.ru/ ai/ thread2625518.html Искусственный интеллект Как рисовать график ошибок нейронов Как нарисовать график я знаю. У меня есть нейронная сеть и примеры для обучения. Чтобы нарисовать график ошибок мне нужно сложить все выходы нейросети и поделить на количество нейронов выходного... https://www.cyberforum.ru/ ai/ thread2624934.html
Основные направления развития ИИ Искусственный интеллект
Обычно, когда я начинаю заниматься какой-то новой для себя областью, я начинаю с того, что составляю небольшой словарик терминов и понятий. Читая этот раздел форума, я заметил, что существует...
Искусственный интеллект ИИ vs функциональная архитектура нейронных сетей На текущем этапе развития нейросетей они работают в режиме преобразования входных данных. Например, изготовление дипфейка или прохождение аркадной игры - это пусть навороченная, но всего лишь... https://www.cyberforum.ru/ ai/ thread2615632.html
Искусственный интеллект Проблема с ReLu https://www.cyberforum.ru/ ai/ thread2615555.html
Здравствуйте! В нейронной сети (прямого распространения), при обучение (обратное распространения ошибки), если использовать функцию ReLu, получаю ошибку -nan(ind). Начал разбираться. Выявил,...
Искусственный интеллект Как реализовать API?
Всем привет! Пытаюсь понять и разобраться, как реализовать API для нейросети и вообще, как данный механизм работает в целом. Программирую на языке python (в крайнем случае подойдут ++). Можете...
Искусственный интеллект Jupiter Notebook и навигация по заголовкам https://www.cyberforum.ru/ ai/ thread2613129.html
Здравствуйте, друзья! Jupiter Notebook приятная среда для работы с данными, формулами, графики показывает... Но! Когда вопрос не маленький, рабочая тетрадь разрастается и становится очень затратно...
Искусственный интеллект Какую бесплатную оболочку применить для особенной медицинской экспертной системы? После постановки диагноза экспертной системой хочется иметь следующий функционал. Чтобы выводился список заболеваний, которые бы были возможны, если бы в определенном месте пациент ответил на вопрос... https://www.cyberforum.ru/ ai/ thread2612924.html
Искусственный интеллект Как передавать данные в нейросеть в режиме реального времени? + реализация графики
Всем привет! Подскажите, как в настоящий момент реализуется алгоритм по передаче какой-то информации (например с биржевого графика или шахматной доски или видео) в нейросеть в режиме реального...
Искусственный интеллект Маркировка картинок для обучения сети https://www.cyberforum.ru/ ai/ thread2607705.html
Привет. Я хочу обучить свою модель в caffe(файл .caffemodel). Знаю, что картинки нужно маркировать, чтоб их скормить. Но не знаю как правильно это делать. И есть ли пз для этого. Я нашел только...
1145 / 1071 / 171
Регистрация: 19.02.2010
Сообщений: 3,222
29.04.2020, 18:06 0

Функция активации - Искусственный интеллект - Ответ 14488048

29.04.2020, 18:06. Показов 1051. Ответов 1
Метки (Все метки)

Лучший ответ Сообщение было отмечено Maximax67 как решение

Решение

Цитата Сообщение от Maximax67 Посмотреть сообщение
Это получаеться надо взять значение до прохождения через функцию активации???
Да, для ряда функций активации надо (если требуется затем вычислять производную) сохранять входящее в ф.а. значение. Т.е. перезаписать на его место выход ф.а. - нельзя.

Цитата Сообщение от Maximax67 Посмотреть сообщение
Но если взять функцию RELU, то в ней в производной есть x.
Вот как раз для ReLU можно обойтись и без знания аргумента при расчёте производной. Ибо если выход ReLU >0 - то там производная очевидно будет =1, а если выход <=0 - то производная =0.

Вернуться к обсуждению:
Функция активации Искусственный интеллект
1
Programming
Эксперт
94731 / 64177 / 26122
Регистрация: 12.04.2006
Сообщений: 116,782
29.04.2020, 18:06
Готовые ответы и решения:

Радиально-симметричная функция активации
Здравствуйте! Объясните пожалуйста, как интерпретировать результат радиально-симметричной функции...

Нормализация входных значений и функция активации
Читая в разных местах про основные компоненты нейронных сетей возник вопрос. Какая разница в...

Сигмоидная функция активации нейронной сети
Доброго времени суток! Начал изучать нейронные сети. Возник следующий вопрос: предположим, что я...

Выбор функции активации нейронов
Доброго времени суток. Вопрос следующий. Если требуется, чтобы выход нейрона был бинарным, какую...

1
IT_Exp
Эксперт
87844 / 49110 / 22898
Регистрация: 17.06.2006
Сообщений: 92,604
29.04.2020, 18:06

Кубический корень в качестве функции активации
В википедии перечислено множество функций активации. И многие из них похожи: гиперболический...

Что такое альфа в функциях активации
Наткнулся на функцию Soft Exponential (Мягкая экспоненциальная). Её уравнение выглядит так α==0: ...

Использование ReLU для активации единственного скрытого слоя
Не смог нагуглить ответ на простой вопрос. Везде пишут, что ReLU (ну и его производные, в том числе...

Многослойный персептрон. Функция активации
Доброго времени суток! Создаю однослойный персептрон с обратным распространением ошибки. Суть его...

Функция активации для нейросети
Пожалуйста, покажите мне каким образом можно сделать функцию активации для нейросети... Вот это ...

Пороговая функция активации для нейросети Тарика Рашида
Добрый день уважаемые форумчане. Изучал книгу &quot;Создаем нейронную сеть&quot; Тарика Рашида. Он...

0
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin® Version 3.8.9
Copyright ©2000 - 2021, vBulletin Solutions, Inc.