Полиномиальная регрессия используя Градиентный Спуск и Матричный Способ

@tz5x · Регистрация: 03.10.2018

Студворк — интернет-сервис помощи студентам

Здравствуйте! Мне нужно было применить линейную и полиномиальную регрессии (без использования Scikit-Learn и специальных функций, например polyfit) для построения гипотезы. Линейная регрессия отлично работает:

Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
def regressionByIteration():
    import numpy as np
    import matplotlib.pyplot as plt
    xr=np.matrix(np.linspace(0,10,30))
    x=xr.T
    y=np.power(x,2)+1
    plt.plot(x,y)
    m=x.size
    on=np.ones([m,1])
    X=np.concatenate((on,x),axis=1)
    theta=np.matrix('0.1;1.3')
    h=np.dot(X,theta)
    plt.plot(x,h)
    alpha=0.05
    iter=500
    for i in range(iter):
        theta[0][0]=theta[0][0]-alpha*(1/m)*np.sum(h-y)
        theta[1][0]=theta[1][0]-alpha*(1/m)*np.sum(np.multiply((h-y),x))
        h=np.dot(X,theta)
    plt.figure(1)
    plt.plot(x,h)
    mse=np.sum(np.power((h-y),2))
    print('regressionByIteration mse= ', mse)  
regressionByIteration()

Но когда я пытаюсь адаптировать код уже под полиномиальную регрессию (градиентный спуск), то программа ошибок не выдаёт, но сама гипотеза (модель) так и остаётся прямой линией, хотя хотелось бы наблюдать дугу. Код примерно тот же, укажу лишь строки в которых произвожу изменения:

Python
1
2
3
    on=np.ones([m,2]) #сделал [m,2] вместо [m,1]
theta=np.matrix('0.1;1.3;5.5') #добавил третье значение для theta
theta[2][0]=theta[2][0]-alpha*(1/m)*np.sum(np.multiply((h-y),np.power(x,2))) #добавил эту строку

Чтобы выполнить полиномиальную матричным способом, убираю alpha, итерации и так далее и заменяю на:

Python
1
2
    theta=np.dot(np.linalg.inv(np.dot(X.T,X)) , np.dot(X.T,y))
    h=np.dot(X,theta)

Но тоже не едет. Оранжевая линия так и остаётся прямой (рис. 1), хотя мне нужна дуга (рис. 2). Может я что-то упустил?

@woldemas · 09.09.2019, 07:55

Сообщение от tz5x

Может я что-то упустил?

Что-то не видно, чтобы вы расширили матрицу квадратами X, им же сами взяться неоткуда.
Полиномиальная регрессия - это та же линейная, просто передаете матрицу X дополненную столбцами с нужными степенями переменной. Там в идеале даже в методе регрессии ничего менять не надо.

Новые блоги и статьи Все статьи Все блоги /
WordPad для Windows 11 Jel 10.01.2026 WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .	Classic Notepad for Windows 11 Jel 10.01.2026 Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .	Почему дизайн решает? Neotwalker 09.01.2026 В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .	Модель микоризы: классовый агентный подход 3 anaschu 06.01.2026 aa0a7f55b50dd51c5ec569d2d10c54f6/ O1rJuneU_ls https:/ / vkvideo. ru/ video-115721503_456239114
Owen Logic: О недопустимости использования связки «аналоговый ПИД» + RegKZR ФедосеевПавел 06.01.2026 Owen Logic: О недопустимости использования связки «аналоговый ПИД» + RegKZR ВВЕДЕНИЕ Введу сокращения: аналоговый ПИД — ПИД регулятор с управляющим выходом в виде числа в диапазоне от 0% до. . .	Модель микоризы: классовый агентный подход 2 anaschu 06.01.2026 репозиторий https:/ / github. com/ shumilovas/ fungi ветка по-частям. коммит Create переделка под биомассу. txt вход sc, но sm считается внутри мицелия. кстати, обьем тоже должен там считаться. . . .	Расчёт токов в цепи постоянного тока igorrr37 05.01.2026 / * Дана цепь постоянного тока с сопротивлениями и напряжениями. Надо найти токи в ветвях. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа и решает её. Последовательность действий:. . .	Новый CodeBlocs. Версия 25.03 palva 04.01.2026 Оказывается, недавно вышла новая версия CodeBlocks за номером 25. 03. Когда-то давно я возился с только что вышедшей тогда версией 20. 03. С тех пор я давно снёс всё с компьютера и забыл. Теперь. . .

Полиномиальная регрессия используя Градиентный Спуск и Матричный Способ

Решение