Метод покоординатного спуска и идея сопряжённых направлений

Всем доброго времени суток.
Необходимо решить задачу кластеризации k-means в R^n с помощью непосредственной оптимизации функционала среднеквадратичного отклонения (функционал здесь: http://ru.wikipedia.org/wiki/K-means) методом покоординатного спуска с фиксированным шагом (т.е. выбрали координату, посмотрели в плюс и минус на шаг, посмотрели, где лучше, шагнули туда; если и там, и там плохо, остались на месте; если n раз никуда не шагнули, уменьшаем шаг вдвое). С этим методом проблем не возникает. Кроме того, в задании требуется реализовать тот же метод для решения той же задачи, но с реализацией метода сопряжённых направлений (т.е. каждый шаг делается ровно до точки оптимума по данному направлению, а новое направление q_(i+1) должно удовлетворять условию q_i^T * H(x_i) * q_(i+1) = 0, где q_i - направление предыдущей итерации, q_(i+1) - направление текущей итерации, H(x_i) - матрица вторых производных функционала в точке x_i, T - транспонирование; подробнее в аттаче, раздел 6). Таким образом, для внесения этой идеи в метод покоординатного спуска, необходимо найти вторые производные разрывной функции argmin.
Собственно, вопрос в том, как реализовать данную идею в этом методе? На семинаре нам говорили, что метод с уже реализованной этой идеей существует, но название сказали искать самим, но, к сожалению, мои поиски ни к чему не привели Натолкните, пожалуйста, на ссылочку, где это объяснено, или, быть может, кто-то знает название этого метода?
Заранее благодарна за помощь

Вложения

opt.pdf (107.7 Кб, 20 просмотров)

0

Честно говоря, мне кажется, идеи покоординатного спуска и сопряжения (слегка) противоречат друг другу, но задание есть задание

0