@r_u_s_l_a_n

Привет всем!
Заинтересовали меня ИНС, в связи с этим хочу узнать, какие дисциплины нужно подтянуть, чтобы начать заниматься этими сетями. А именно:

1. Программирование. Какие разделы (наверное, это так называется) следует изучить (напр.: где-то читал, что нужно знать распределённые вычисления).

2. Математика. Каким разделам математики уделить наибольшее внимание.

Также дополняйте, что ещё необходимо знать для начала изучения.
Заранее спасибо.

0

@VTsaregorodtsev

Ну, всё во многом зависит от выбора конкретных нейросетей.
А просто для общих рецептов - пойдём с конца. С математики.
- Линейная алгебра. Вернее, нужно просто представлять, как записать функционирование нейросетки через операции над векторами и матрицами.
- Статистика, в т.ч. непараметрическая. Естественно, не только способы расчёта каких-то оценок и способы проверки гипотез - а вплоть до методов решения задач (задач классификации с учителем - байес, линейный дискриминант,..; задач регрессии и авторегрессии; задач классификации без учителя;...).
- Методы градиентной оптимизации, в т.ч. методы стохастической аппроксимации (Роббинс-Монро).

Также нужно просто знать "в общем" про желаемые области применения и про иные методы решения тамошних задач. Например, если берём распознавание изображений - то должны знать и метод Виолы-Джонса, и разнообразные детекторы признаков (детектор Харриса, SIFT, SURF, FAST,...), и разную алгоритмическую прикладуху типа нахождения контура некоторого "пятна".

По программированию - при необходимости/желании можно просто юзать готовые нейросетевые библиотеки.
Распределённые вычисления тоже всё больше и больше уходят в "облака", т.е. опять же никакого нейросетевого ядра проекта самостоятельно не разрабатываем, а просто юзаем те библиотеки, которые в нужное облако поставили-настроили "провайдеры".
Т.е., скорее, будут ограничения со стороны языка программирования (чтобы библиотеки или интерфейс к ним были доступны на нужном языке). Например, Делфи никого из разработчиков современных нейробиблиотек не интересует, а Шарп может интересовать только майкрософтовцев (которые сделали шарповский интерфейс к своей нейробиблиотеке https://www.microsoft.com/en-us/cognitive-toolkit/ ), но почти никого больше.

1

@vlasovsv26

какую задачу хотите решить, мне не понадобились знания распределенных вычислений (задача была в распознавании сигналов)

0

@r_u_s_l_a_n

Да, нужно сузить тему. Планирую использовать ИНС при биржевой торговле.

0

@vlasovsv26

не вдавался в подробности, но встречал на форекс форумах темы, которые вас могут заинтересовать, посмотрите там

0

@rrr3

Конечно же я лезу не в свое дело, но не могу удержаться от предостережения.
А потому посоветовал бы Вам прежде хорошенько подумать о том, что такое биржа, экономика, какие могут быть закономерности/хаос в котировках и т.д. и т.п. прежде, чем выбирать (и изучать) инструмент для "вытаскивания" того, чего не знаете. Иначе есть вероятность пустой потери возможностей, которые дает молодость и которые с годами куда-то улетучиваются что бы мы не делали...
То, что с помощью ИНСов порой(!) чего-то конкретное (а не все подряд) распознают, даже порой не понимая - чего и как (в конкретных деталях, а не в принципе) совершенно не означает, что они решат проблемы Вашего не понимания того, что такое биржевая торговля по сути (а не по технике исполнения).

Удачи!

0

@VTsaregorodtsev

В учебнике Ежова и Шумского "Нейрокомпьютинг и его применения в экономике и бизнесе" целая глава (если правильно помню) про это есть.
Но, как всегда, дьявол будет прятаться в деталях - и в надёжно работающей системе нейросетка займёт процентов 5 трудоёмкости, не более (а основную часть работы - займёт нахождение и выделение ПРАВИЛЬНЫХ признаков, способами, у Е-Ш не описанными). А ничего не гарантирующих нейророботов - полно на всяких mql5.com (или на каком другом сайте биржа роботов и индюкаторов?) по цене в десятки-сотни баксов (нормальная же система будет стоить столько, что окупается, как и ЛЮБЫЕ инвестиции в бизнес, за несколько лет).

0

@r_u_s_l_a_n

rrr3, спасибо за предостережение, но я прекрасно представляю, что такое игра на бирже. И ИНС планирую использовать как помощника, а не приёмщика решений.

VTsaregorodtsev, спасибо за книгу, почитаю. И спасибо за первый пост.

0

@Excalibur921

Если почитать эту тему то идея сделать предсказатель или полезный помощник как рукой снимет.
Прогнозирование с ИИ

0

@сахатый

В биржевой торговле сама по себе классификация или регрессия это вершина айсберга, первичны данные и признаки(как Вам верно намекнул VGT). Данные имеются в виду не исторические свечные секвенции от ДЦ, данные нужно собирать самому отовсюду(от инсайдеров в том числе), у профессионалов это терабайты в сутки, при правильных признаках обычный XGB даст не многим худущий результат чем результат труда десятка PhD за несколько лет. Нейросети вообще не рекомендую, долго и неустойчиво, особенно всякое рекурентное и с “памятью”.

PS: Если Вы уже не хотя бы средний программист(C++\C#\Java) с техвузовской математикой(хотя бы 2 первых курсов) то стать биржевым квантом Вам будет очень не просто, нужны как минимум не преодолимая мотивация и хотя бы 5 лет свободного времени и результат не гарантирован, он маловероятен 1:100 в лучшем раскладе.

0

@Shamil1

Я так понимаю, Вы собираетесь написать ИИ, который будет предсказывать котировки по результатам предыдущих торгов? Это в принципе невозможно (нет нужной информации для предсказания).

0

@сахатый

Можно, но сложно. ХФТ самое простое, для прогнозирования, но ХФТ это не для домашних экспериментов, чем ниже частота тем хуже скор, но данных нужно намного больше, чем разумеют средние клиенты ДЦ, чисто по прошлой цене нельзя ничего путного получить (<52% accuracy, Sharp ratio <1).

0

@Shamil1

Нельзя. Это как по следу на воде предсказывать, куда плывёт катер.

0

@сахатый

Ну, давайте без образных метафор, мы не в суде и не в депутаты баллотируемся))) Доказательством\фальсификацией чьих любо слов может быть только датасет+модель, если хотите то можем проверить, как c XGB прогнозируются даже по простым рядам цен, например будущие ретурны, по прошлым ретурнам с разным шагом дескретизации, или вейвлетам\FFT.

Чтобы удостовериться можно всунуть в модель случайное блуждание, которое не должно быть предсказуемо. Хорошая модель дает 51-53% accuracy(50% - рандом) на хреновых данных, теоретически даже такой паршивый скор можно торговать, но не стоит, лучше подсуетиться с данными и получить 55% accuracy, это Шарп ратио ~2 -3 а это уже гуд.

Если не верите можем провести публичный эксперимент на конкретных датасетах и моделях. Например я Вам могу дать модель которая на следующем месяце на форексе будет давать 51-53%, то есть модель будет в “опечатанном” виде у Вас месяц, потом накопится новых данных, Вы прогоните на ней и оцените скор.


PS: между прочем по следу катера можно предсказать на короткое время куда будет плыть катер, ввиду простой инерции катера и регулярности его движения.

0

@Shamil1

Но нельзя предсказать, будет он поворачивать налево или направо или продолжит плыть прямо. Кроме того, катер может наскочить на риф и резко изменить траекторию. Точно так же и с котировками. Мы можем сказать примерно какие они будут в самом ближайшем будущем (если не случится что-то "форс-мажорное"). Но не можем предсказать, будут они расти или уменьшаться или стоять на месте.

Как модель может быть доказательством, если невозможно определить, правильная она или нет?

Какой размер выборка потребуется, чтобы исключить дисперсию, при таком небольшом преимуществе?
Кроме того, наверняка есть какая-то комиссия (банка, площадки и т.п.).

0

@Mikhaylo

В котировках частичная информация о будущем безусловно содержится, но вопрос, насколько она полезна/значима.

0

@сахатый

Всё верно, этого достаточно.
можно проверить, можно в реалтайме накапливать, можно подождать месяц и прогнать на новых данных, так как модель будет у независимого лица, заранее, то факт подгонки исключен.
Нужны десятки тысяч сэмплов, для ХФТ(не ultra) это довольно быстро насобирать, за месяц хватит с головой. Такое маленькое преимущество для низких частот, очень ограниченных данных и глупых признаков(например RSI разного периода), на высокой частоте(тики, секунды) беря цены всех инструментов всего рынка и других рынков, новостные потоки и разную прочую квантифицированную инфу о человеческой активности(погода, солнечная активность, активность на дорогах, интерпретированная спутниковая съёмка и тд.) можно выжать почти 60% accuracy, это SR 5-7, то есть "грааль", что в крупных ХФТ фондах норма.

0