SVM и двойственная задача

@Juicer · Регистрация: 25.11.2016

Author24 — интернет-сервис помощи студентам

Сейчас разбираюсь в SVM и вроде бы всё понятно, но есть пара вопросов.
С самого начала у нас есть задача о минимизации $https://www.cyberforum.ru/cgi-bin/latex.cgi?$\min \dfrac{1}{2}||w||^2$$ , ограничения $https://www.cyberforum.ru/cgi-bin/latex.cgi?$y_i(w^Tx - b) - 1 \geq 0, \; i = 1, ..., m.$$
Потом мы составляем лагранжиан для нашей задачи:
$https://www.cyberforum.ru/cgi-bin/latex.cgi?$$\mathcal{L}(w, b, \alpha) = \dfrac{1}{2}||w||^2 + \sum_{i = 1}^m \alpha_i [y_i(w^Tx - b) - 1].$$$
Далее берём частные производные по параметрам $https://www.cyberforum.ru/cgi-bin/latex.cgi?$w, b$$ , приравниваем их к нулю, находим решение для нашего вектора, перпендикулярного разделяющей гиперплоскости:
$https://www.cyberforum.ru/cgi-bin/latex.cgi?$$w^{(0)} = \sum_{i = 1}^m \alpha_i y_i x ^{(i)}.$$$
Привели исходную задачу к двойственной задаче
$https://www.cyberforum.ru/cgi-bin/latex.cgi?$$\mathcal{L} (w, b, \alpha) = \sum_{i = 1}^m \alpha_i - \dfrac{1}{2}\sum_{i, j = 1}^m y^{(i)}y^{(j)}\alpha^{(i)}\alpha^{(j)}<x^{(i)}, x^{(j)}>,$$$
1) Я понимаю, что мы находим вектор $https://www.cyberforum.ru/cgi-bin/latex.cgi?$w$$ , для опорных векторов $https://www.cyberforum.ru/cgi-bin/latex.cgi?$\alpha_i \neq 0$$ , но как находить эти самые коэффициенты $https://www.cyberforum.ru/cgi-bin/latex.cgi?$\alpha$$ мне не ясно.

@Juicer 0 / 0 / 1 Регистрация: 25.11.2016 Сообщений: 60
		1
	SVM и двойственная задача 23.05.2020, 13:57. Показов 524. Ответов 0 Метки svm (Все метки) Сейчас разбираюсь в SVM и вроде бы всё понятно, но есть пара вопросов. С самого начала у нас есть задача о минимизации $https://www.cyberforum.ru/cgi-bin/latex.cgi?$\min \dfrac{1}{2}\|\|w\|\|^2$$ , ограничения $https://www.cyberforum.ru/cgi-bin/latex.cgi?$y_i(w^Tx - b) - 1 \geq 0, \; i = 1, ..., m.$$ Потом мы составляем лагранжиан для нашей задачи: $https://www.cyberforum.ru/cgi-bin/latex.cgi?$$\mathcal{L}(w, b, \alpha) = \dfrac{1}{2}\|\|w\|\|^2 + \sum_{i = 1}^m \alpha_i [y_i(w^Tx - b) - 1].$$$ Далее берём частные производные по параметрам $https://www.cyberforum.ru/cgi-bin/latex.cgi?$w, b$$ , приравниваем их к нулю, находим решение для нашего вектора, перпендикулярного разделяющей гиперплоскости: $https://www.cyberforum.ru/cgi-bin/latex.cgi?$$w^{(0)} = \sum_{i = 1}^m \alpha_i y_i x ^{(i)}.$$$ Привели исходную задачу к двойственной задаче $https://www.cyberforum.ru/cgi-bin/latex.cgi?$$\mathcal{L} (w, b, \alpha) = \sum_{i = 1}^m \alpha_i - \dfrac{1}{2}\sum_{i, j = 1}^m y^{(i)}y^{(j)}\alpha^{(i)}\alpha^{(j)}<x^{(i)}, x^{(j)}>,$$$ 1) Я понимаю, что мы находим вектор $https://www.cyberforum.ru/cgi-bin/latex.cgi?$w$$ , для опорных векторов $https://www.cyberforum.ru/cgi-bin/latex.cgi?$\alpha_i \neq 0$$ , но как находить эти самые коэффициенты $https://www.cyberforum.ru/cgi-bin/latex.cgi?$\alpha$$ мне не ясно. 0

	23.05.2020, 13:57

Опции темы