Форум программистов, компьютерный форум, киберфорум
Python: Научные вычисления
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.56/9: Рейтинг темы: голосов - 9, средняя оценка - 4.56
0 / 0 / 0
Регистрация: 28.05.2021
Сообщений: 58

Долго обучается нейронная сеть на Python

21.06.2022, 20:19. Показов 2207. Ответов 13

Студворк — интернет-сервис помощи студентам
Здравствуйте, написал нейронную сеть для прогнозирования финансового временного ряда.

Исходный код:
Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
import math
import random
import sys
 
eta=0.01 #скорость обучения
n=5000 #количество эпох обучения
inp=30 #размер входного слоя
m=10 #размер скрытого слоя
y=0 #выходной сигнал
t=0 #целевой сигнал
e=0 #сигнал ошибки
d_y=0 #локальный градиент для последнего нейрона
err=0 #вычисленная ошибка сети для выходного нейрона
err_av=0 #средняя ошибка сети
path='dataTrain.txt' #обучающая выборка
path2='dataStart.txt' #запуск прогноза ИНС
kolday = 365 #количество дней прогнозирования
 
x=[] #обучающая выборка
w=[[0 for j in range(inp)] for i in range(m)] #матрица весов (синапсы)
v=[0 for j in range(m)] #вектор весов выходного слоя
y_s=[0 for j in range(m)] #скрытый слой нейронов
d_y_s=[0 for j in range(m)] #локальные градиенты для нейронов скрытого слоя
averError=[] #массив ошибок НС (по эпохам)
okno=[] #скользящее окно
prognoz=[]
fact=[] #целевые значения
obych=[] #значения, полученные ИНС во время обучения
 
def sigmoid(arg):
  return 1/(1+math.exp(-(arg-0.5)))
 
# def init_x(path):
  #функция считывания обучающей выборки
 
def train():
  for k in range(1, n+1): #цикл по эпохам
    err_av=0
    for f in range(0, len(x)): #цикл по примерам
      for i in range(0, m):
         sum=0
         for j in range(0, inp):
           sum=sum+w[i][j]*x[f][j+2] 
         y_s[i]=sum
      #вычисление активности нейронов скрытого слоя
      for p in range(0, m):
        y_s[p]=sigmoid(y_s[p]) 
      sum=0
      for z in range(0, m):
        sum=sum+v[z]*y_s[z]
      y=sigmoid(sum) #конец прямого распространения ошибки. y - выход
 
      t=x[f][32]
   
      e=y-t
      err=pow(e, 2)/2
      err_av=err_av+err
      
      d_y=e*y*(1-y)
      #модификация весов нейрона выходного слоя
      for q in range(0, m):
        v[q]=v[q]-eta*d_y*y_s[q] 
      for r in range(0, m):
        d_y_s[r]=d_y*v[r] #
      #модификация весов нейронов скрытого слоя
      for i1 in range(0, m):
        for j1 in range(0, inp):
          w[i1][j1]=w[i1][j1]-eta*d_y_s[i1]*y_s[i1]*(1-y_s[i1])*x[f][j1+2] 
    
#def predict(okno, prognoz, kolday):
  #функция построения прогноза
 
init_x(path)
train()
predict(okno, prognoz, kolday)
Вопрос: процесс обучения ИНС на языке Python длится полторы минуты. Почему так долго? На C++ аналогичный код выполняется за 3 секунды.
0
IT_Exp
Эксперт
34794 / 4073 / 2104
Регистрация: 17.06.2006
Сообщений: 32,602
Блог
21.06.2022, 20:19
Ответы с готовыми решениями:

Python+Numpy, Нейронная сеть обучается но ответ не верный
Доброго дня! Реализовал нейронную сеть с помощью numpy, метод обучения метод обратного распространения ошибки. Дело в том что она...

Рекуррентная нейронная сеть на Python
скиньте, пожалуйста, любой код рекуррентной сети. не важно какой. главное рабочую сеть.

Нейронная сеть для распознавания объектов на Python
Всем привет. Нужно написать СОБСТВЕННУЮ нейронную сеть для распознавания объектов на фотографии. Вот пример фотографии, на которой...

13
2622 / 1633 / 266
Регистрация: 19.02.2010
Сообщений: 4,334
21.06.2022, 21:00
Цитата Сообщение от Wallesss Посмотреть сообщение
Почему так долго?
Интерпретатор плюс динамическая типизация.
0
5514 / 2867 / 571
Регистрация: 07.11.2019
Сообщений: 4,752
22.06.2022, 07:15
Цитата Сообщение от Wallesss Посмотреть сообщение
Почему так долго?
Если нужно быстрее - используйте numpy и не используйте циклы for. На чистом Python числодробилки будут всегда медленно работать.
0
1472 / 827 / 140
Регистрация: 12.10.2013
Сообщений: 5,456
22.06.2022, 21:23
Цитата Сообщение от Wallesss Посмотреть сообщение
написал нейронную сеть для прогнозирования финансового временного ряда.
Утопия.

Питон скриптовый а плюсы компилируемый…а значит разности скоростей обязаны быть просто огромны.
0
0 / 0 / 0
Регистрация: 28.05.2021
Сообщений: 58
22.06.2022, 22:01  [ТС]
Цитата Сообщение от Excalibur921 Посмотреть сообщение
Утопия.
Надо же что-то делать... :)
0
0 / 0 / 0
Регистрация: 28.05.2021
Сообщений: 58
22.06.2022, 22:10  [ТС]
Почему прогноз ИНС "сходится" к определенному значению?
P.S. В точности такая же ситуация наблюдается и в ИНС, построенной в аналитической платформе Deductor Studio.
Миниатюры
Долго обучается нейронная сеть на Python   Долго обучается нейронная сеть на Python  
0
2 / 2 / 0
Регистрация: 30.07.2016
Сообщений: 49
23.06.2022, 10:03
Вопрос: процесс обучения ИНС на языке Python длится полторы минуты. Почему так долго? На C++ аналогичный код выполняется за 3 секунды.

Python
1
2
3
4
5
6
7
8
 for k in range(1, n+1): #цикл по эпохам
    err_av=0
    for f in range(0, len(x)): #цикл по примерам
      for i in range(0, m):
         sum=0
         for j in range(0, inp):
           sum=sum+w[i][j]*x[f][j+2] 
         y_s[i]=sum
Вот за такое тебя уволят с должности Python-разработчика (я бы даже с С++ разработчика джуна уволил). Питон очень плох во вложенных циклах, а у тебя их 4. Некорректно сравнивать Python и C++, Python написан на Си + библиотеки далеки от идеала.

Почему прогноз ИНС "сходится" к определенному значению?
P.S. В точности такая же ситуация наблюдается и в ИНС, построенной в аналитической платформе Deductor Studio.
Вопрос непонятен. Вас смущает то, что график всегда один и тот же, или то, почему она так строит график?
0
2 / 2 / 0
Регистрация: 30.07.2016
Сообщений: 49
23.06.2022, 10:04
Сообщение задублировалось
0
0 / 0 / 0
Регистрация: 28.05.2021
Сообщений: 58
23.06.2022, 10:19  [ТС]
Цитата Сообщение от Overwatcher Посмотреть сообщение
Вопрос непонятен. Вас смущает то, что график всегда один и тот же, или то, почему она так строит график?
Очевидно, что временной ряд не должен "превращаться" в прямую линию. Я так понимаю, НС потеряла способность к обучению. Хотя веса синапсов меняются, только что проверил.
0
1472 / 827 / 140
Регистрация: 12.10.2013
Сообщений: 5,456
24.06.2022, 08:49
Хех…а может выборка закончилась? ))
0
0 / 0 / 0
Регистрация: 28.05.2021
Сообщений: 58
24.06.2022, 13:30  [ТС]
Нейронная сеть с функцией активации типа Sigmoid не работает. Заработала только с tanh. Как такое может быть?
0
1472 / 827 / 140
Регистрация: 12.10.2013
Сообщений: 5,456
24.06.2022, 17:07
Давно играл я сетями…может нормализация кривая? Сигмоид от 0 до 1 а танх от -1 до 1.
0
0 / 0 / 0
Регистрация: 28.05.2021
Сообщений: 58
24.06.2022, 18:14  [ТС]
Цитата Сообщение от Excalibur921 Посмотреть сообщение
Сигмоид от 0 до 1
Использована минимаксная нормализация, а она масштабирует данные в интервале [0; 1].
0
262 / 151 / 33
Регистрация: 29.06.2019
Сообщений: 1,515
13.08.2022, 07:57
так вам временной ряд надо прогнозировать или вы классификацию делаете - определитесь! -- sigmoid - для бинарной классификации... с Relu должно работать ваше прогнозирование временного ряда (не проверяла) -- познакомьтесь лучше с функциями активации

Добавлено через 13 минут
а ещё лучше используйте специализированные библиотеки - tensorflow, например... - там многое заточено на многопоточность... или Keras, для которого tf служит бэкэндом (можно и др. бэкэнд - т.е. вычислительный движок), а сам Keras даёт удобные абстраккции/классы для построения ИИ...
если хотите более высокоуровневую библиотеку - sklearn...
Всё равно всё организуется в загрузку в pipeline (это лишь один способ ускорения в Машинном Обучении, ищите - их много)
p.s.
если всё-таки захотите потом с высокоуровневой либы спуститься на более низкоуровневую (для написания кастомных лосс-функций, кастомных слоёв и т.д.) - здесь Migrating an Sklearn model training Pipeline to Tensorflow Keras
===
не надо изобретать велосипед
0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
BasicMan
Эксперт
29316 / 5623 / 2384
Регистрация: 17.02.2009
Сообщений: 30,364
Блог
13.08.2022, 07:57
Помогаю со студенческими работами здесь

Нейронная сеть для поиска путей обхода препятствия (Python)
Здравствуйте, недавно начал изучать создание нейронных сетей на Python (в частности используя библиотеку Keras). Делал пример по...

Нейронная сеть не обучается
Доброго времени суток. Пытаюсь обучить нейронную сеть в эксель на данных. Формат данных нормализован к диапазону (0;1) и имеет вид: ...

Нейронная сеть на action script, не обучается
Добрый день, уважаемые! прошу у Вас помощи, ибо 3й день я не могу найти ошибку в написанном мной алгоритме обучения нейросети,...

Нейронная сеть на Python (Таблица умножения)
Добрый день. Подскажите пожалуйста в чем недочет, нашел на habr пример реализации нейронной сети () и решил его подогнать под свой пример...

Создание бота для мобильной игры TrafficRacer. Python. искусственный интеллект, нейронная сеть
На скриншоте нужно распознать все машинки, при этом сохраняя их расположение во что-то (список, число, строка и т.д.). Примерные мысли...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
14
Ответ Создать тему
Новые блоги и статьи
Thinkpad X220 Tablet — это лучший бюджетный ноутбук для учёбы, точка.
Programma_Boinc 23.12.2025
Thinkpad X220 Tablet — это лучший бюджетный ноутбук для учёбы, точка. Рецензия / Мнение/ Перевод https:/ / **********/ gallery/ thinkpad-x220-tablet-porn-gzoEAjs . . .
PhpStorm 2025.3: WSL Terminal всегда стартует в ~
and_y87 14.12.2025
PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .
Как объединить две одинаковые БД Access с разными данными
VikBal 11.12.2025
Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.
Новый ноутбук
volvo 07.12.2025
Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro
Музыка, написанная Искусственным Интеллектом
volvo 04.12.2025
Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .
От async/await к виртуальным потокам в Python
IndentationError 23.11.2025
Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
Поиск "дружественных имён" СОМ портов
Argus19 22.11.2025
Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .
Сколько Государство потратило денег на меня, обеспечивая инсулином.
Programma_Boinc 20.11.2025
Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .
Ломающие изменения в C#.NStar Alpha
Etyuhibosecyu 20.11.2025
Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .
Мысли в слух
kumehtar 18.11.2025
Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2025, CyberForum.ru