Как минимизировать такую функцию?

@Key27 · Регистрация: 02.04.2017

Студворк — интернет-сервис помощи студентам

Есть список значений Y и список X и я хочу минимизировать функцию такого вида(прикрепил картинку).

Также есть начальные значения Theta0 = 1.537, Theta1 = 1.143, Theta2 = 0.01604. Как минимизировать такую функцию?

@VTsaregorodtsev · 28.09.2019, 13:00

Превращайте эту полиномиальную регрессию в линейную путём ввода новой независимой переменной Z=X^2, далее любыми способами решения задачи линейной множественной регрессии. Например, через решение СЛАУ методом Гаусса.

@Key27 · 28.09.2019, 17:43 **[ТС]**

VTsaregorodtsev, Немного не правильно выразился. Попробую на конкретном примере
Как с помощью scipy найти минимум функции трех переменных
$https://www.cyberforum.ru/cgi-bin/latex.cgi?\frac{1}{2}(5.59 - (\Theta_0+3.35\Theta_1+11.22\Theta_2))^2\to\min\limits_{\Theta_0,\Theta_1,\Theta_2}$ ?

Добавлено через 39 минут
Это делается примерно так:

Python
1
2
3
4
5
6
def f(params):
    a, b, c = params
    return 1/2*((5.59-(a + 3.35*b + 11.22*c)))**2
 
initial_guess = [1.537, 1.143, 0.01604]
result = minimize(f, initial_guess)

А что делать, когда нужно найти минимум суммы $https://www.cyberforum.ru/cgi-bin/latex.cgi?\sum\limits_{i=1}^{n} 0.5*(Y_i - (\Theta_0 + \Theta_1X_i + \Theta_2X_i^2 )^2$ , где X и Y - два списка?

Добавлено через 11 минут
Пробовал так:

Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
def f(params,X,y,i):
    a, b, c = params
    return (y[i]-(a + X[i]*b + X[i]**2*c))
 
 
def f2(params):
    sum = 0
    for i in range(len(y)):
        sum += 0.5*(f(params,X,y,i))**2
 
    return(sum)
 
initial_guess = [1.537, 1.143, 0.01604]
result = minimize(f2, initial_guess)

Но получаю ошибку

Bash
1
ValueError: Desired error not necessarily achieved due to precision loss.

@dondublon · 30.09.2019, 11:49

Вам сюда: https://docs.scipy.org/doc/sci... imize.html

@woldemas · 30.09.2019, 15:18

Сообщение от Key27

А что делать, когда нужно найти минимум суммы

Надо просто продифференцировать и приравнять производные к нулю. Если лень это делать, то можно найти формулу для коэффициентов множественной регрессии:
$https://www.cyberforum.ru/cgi-bin/latex.cgi?\Theta = (X^T X)^{-1} X^T Y$
В данном случае незачем использовать scipy можно обойтись одним numpy, что-то типа

Python
1
2
3
4
5
6
import numpy as np
x = np.array(...)
y = np.array(...)
x = x.reshape(-1, 1)
x_ext = np.hstack((np.ones(x.shape), x, x**2))
theta = np.linalg.inv(np.dot(x_ext.T, x_ext)).dot(x_ext.T).dot(y)

@dondublon · 30.09.2019, 15:44

woldemas, не надо диференцировать.
100 к одному, задача именно на минимизацию путём градиентного спуска или чем-то подобным.
normal equation подходит в случае, когда признаков немного и способ не этого урока

@woldemas · 30.09.2019, 16:43

Сообщение от dondublon

задача именно на минимизацию путём градиентного спуска

Это в чистом виде полиномиальная регрессия (если я правильно понял обозначения - ТС там в скобках путается). Градиентный спуск даст тот же результат - там же целевая функция квадратичная.

@dondublon · 30.09.2019, 16:52

woldemas, да я вижу, что регрессия.
Тут ведь дело не просто в том, чтобы результат получить, а научиться вызывать минимизацию в соответствии с учебным курсом

Новые блоги и статьи Все статьи Все блоги /
Советы по крайней бережливости. Внимание, это ОЧЕНЬ длинный пост. Programma_Boinc 28.12.2025 Советы по крайней бережливости. Внимание, это ОЧЕНЬ длинный пост. Налог на собак: https:/ / ********/ gallery/ V06K53e Финансовый отчет в Excel: https:/ / ********/ gallery/ bKBkQFf Пост отсюда. . .	Кто-нибудь знает, где можно бесплатно получить настольный компьютер или ноутбук? США. Programma_Boinc 26.12.2025 Нашел на реддите интересную статью под названием Anyone know where to get a free Desktop or Laptop? Ниже её машинный перевод. После долгих разбирательств я наконец-то вернула себе. . .	Thinkpad X220 Tablet — это лучший бюджетный ноутбук для учёбы, точка. Programma_Boinc 23.12.2025 Рецензия / Мнение/ Перевод Нашел на реддите интересную статью под названием The Thinkpad X220 Tablet is the best budget school laptop period . Ниже её машинный перевод. Thinkpad X220 Tablet —. . .	PhpStorm 2025.3: WSL Terminal всегда стартует в ~ and_y87 14.12.2025 PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .	Как объединить две одинаковые БД Access с разными данными VikBal 11.12.2025 Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.
Новый ноутбук volvo 07.12.2025 Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro	Музыка, написанная Искусственным Интеллектом volvo 04.12.2025 Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .	От async/await к виртуальным потокам в Python IndentationError 23.11.2025 Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .	Поиск "дружественных имён" СОМ портов Argus19 22.11.2025 Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .	Сколько Государство потратило денег на меня, обеспечивая инсулином. Programma_Boinc 20.11.2025 Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .

@Key27 3 / 3 / 0 Регистрация: 02.04.2017 Сообщений: 273

	Как минимизировать такую функцию? 28.09.2019, 12:43. Показов 1333. Ответов 7 Метки нет (Все метки) Есть список значений Y и список X и я хочу минимизировать функцию такого вида(прикрепил картинку). Также есть начальные значения Theta0 = 1.537, Theta1 = 1.143, Theta2 = 0.01604. Как минимизировать такую функцию? Миниатюры 0

@VTsaregorodtsev 2622 / 1633 / 266 Регистрация: 19.02.2010 Сообщений: 4,338
	28.09.2019, 13:00
	Превращайте эту полиномиальную регрессию в линейную путём ввода новой независимой переменной Z=X^2, далее любыми способами решения задачи линейной множественной регрессии. Например, через решение СЛАУ методом Гаусса. 0

@dondublon 4652 / 2072 / 366 Регистрация: 17.03.2012 Сообщений: 10,181 Записей в блоге: 6
	30.09.2019, 11:49
	Вам сюда: https://docs.scipy.org/doc/sci... imize.html 0

@dondublon 4652 / 2072 / 366 Регистрация: 17.03.2012 Сообщений: 10,181 Записей в блоге: 6
	30.09.2019, 15:44
	woldemas, не надо диференцировать. 100 к одному, задача именно на минимизацию путём градиентного спуска или чем-то подобным. normal equation подходит в случае, когда признаков немного и способ не этого урока 0

@dondublon 4652 / 2072 / 366 Регистрация: 17.03.2012 Сообщений: 10,181 Записей в блоге: 6
	30.09.2019, 16:52
	woldemas, да я вижу, что регрессия. Тут ведь дело не просто в том, чтобы результат получить, а научиться вызывать минимизацию в соответствии с учебным курсом 0