Числа с экспонентой в ответе нейронной сети python

@Corsider · Регистрация: 17.03.2019

Студворк — интернет-сервис помощи студентам

Не могу понять свою ошибку. Пишу большую нейронную сеть. Функция активации - сигмоид

Python
1
2
def sigmoid(x):
    return 1/(1 + np.exp(-x))

Сначала веса задаются случайными числами от -0.5 до 0.5. иногда получаются числа с экспонентой, я их корректирую с помощью этой функции:

Python
1
2
def correct(w):
    return "%.8f" % w

Но уже после прохождения от первого слоя ко второму нейроны второго слоя принимают такой вид:
8.92684837е-00
1.02929277е+17
2.62727299е-09
И тд.
Не понимаю, что не так. Значения входных нейронов - нули и единицы. Функция прямого прохождения:

Python
1
2
3
4
5
6
def forward(N0, N1, W):
    for y in range(W.shape[1]):
    N1[y][0] = 0
    for x in range(W.shape[0]):
        N1[y][0] = N1[y][0] + N0[x][0] * W[x][y]
    N1[y][0] = sigmoid(N1[y][0])

И к тому же вылезает ошибка
Runtime warning overflow in exp

@tooru · 10.07.2019, 00:06

Надо отлаживать все это

@VTsaregorodtsev · 15.07.2019, 21:28

Сообщение от Corsider

И к тому же вылезает ошибка
Runtime warning overflow in exp

дык, в любом языке программирования стандартная функция exp(), возвращающая результат типа double, переполнится при аргументах вне отрезка -+700 (по памяти написал и, может, на какие-то единицы заузил).
Вот и у Вас она переполняется при аргументе 1.02929277е+17.

@Corsider · 16.07.2019, 13:41 **[ТС]**

Спасибо. Перепроверял много раз код, так и не понял на каком моменте сеть превращала данные в такой мусор. Но сейчас переписал с использованием перемножений по dot, вроде лучше стало. Правда dot что-то тоже иногда мусор выдает, либо я что-то не понимаю ))

Новые блоги и статьи Все статьи Все блоги /
SDL3 для Web (WebAssembly): Работа со звуком через SDL3_mixer 8Observer8 08.02.2026 Содержание блога Пошагово создадим проект для загрузки звукового файла и воспроизведения звука с помощью библиотеки SDL3_mixer. Звук будет воспроизводиться по клику мышки по холсту на Desktop и по. . .	SDL3 для Web (WebAssembly): Основы отладки веб-приложений на SDL3 по USB и Wi-Fi, запущенных в браузере мобильных устройств 8Observer8 07.02.2026 Содержание блога Браузер Chrome имеет средства для отладки мобильных веб-приложений по USB. В этой пошаговой инструкции ограничимся работой с консолью. Вывод в консоль - это часть процесса. . .	SDL3 для Web (WebAssembly): Обработчик клика мыши в браузере ПК и касания экрана в браузере на мобильном устройстве 8Observer8 02.02.2026 Содержание блога Для начала пошагово создадим рабочий пример для подготовки к экспериментам в браузере ПК и в браузере мобильного устройства. Потом напишем обработчик клика мыши и обработчик. . .	Философия технологии iceja 01.02.2026 На мой взгляд у человека в технических проектах остается роль генерального директора. Все остальное нейронки делают уже лучше человека. Они не могут нести предпринимательские риски, не могут. . .
SDL3 для Web (WebAssembly): Вывод текста со шрифтом TTF с помощью SDL3_ttf 8Observer8 01.02.2026 Содержание блога В этой пошаговой инструкции создадим с нуля веб-приложение, которое выводит текст в окне браузера. Запустим на Android на локальном сервере. Загрузим Release на бесплатный. . .	SDL3 для Web (WebAssembly): Сборка C/C++ проекта из консоли 8Observer8 30.01.2026 Содержание блога Если вы откроете примеры для начинающих на официальном репозитории SDL3 в папке: examples, то вы увидите, что все примеры используют следующие четыре обязательные функции, а. . .	SDL3 для Web (WebAssembly): Установка Emscripten SDK (emsdk) и CMake для сборки C и C++ приложений в Wasm 8Observer8 30.01.2026 Содержание блога Для того чтобы скачать Emscripten SDK (emsdk) необходимо сначало скачать и уставить Git: Install for Windows. Следуйте стандартной процедуре установки Git через установщик. . . .	SDL3 для Android: Подключение Box2D v3, физика и отрисовка коллайдеров 8Observer8 29.01.2026 Содержание блога Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами. Версия v3 была полностью переписана на Си, в. . .

@tooru 1293 / 677 / 367 Регистрация: 07.01.2019 Сообщений: 2,301
	10.07.2019, 00:06
	Надо отлаживать все это 0

@Corsider 0 / 0 / 0 Регистрация: 17.03.2019 Сообщений: 16
	16.07.2019, 13:41 [ТС]
	Спасибо. Перепроверял много раз код, так и не понял на каком моменте сеть превращала данные в такой мусор. Но сейчас переписал с использованием перемножений по dot, вроде лучше стало. Правда dot что-то тоже иногда мусор выдает, либо я что-то не понимаю )) 0