Медленная сходимость метода Ньютона

@DmitryOpalev · Регистрация: 31.10.2010

Студворк — интернет-сервис помощи студентам

Доброго времени суток.
Пишу программу для решения системы нелинейных уравнений. Используется метод Ньютона.
В прикрепленном изображении отображена зависимость значения переменной от номера итерации.
Как видно, за две итерации (230,660) мы достаточно близко подходим к решению, однако далее требуется еще 130 итерации, чтоб дойти до конца (230,480)
Аналогичная программа находит решение меньше чем за 20 итераций.
В чем может быть причина такой долгой сходимости?

@mathmichel · 04.05.2018, 22:01

Скорей всего у Вас близкая к вырожденной система уравнений. Соответствующая матрица производных имеет почти нулевые собственные значения...
P.S. Сейчас только заметил фразу "аналогичная программа...", что это значит? Если речь шла сначала о доморощенной программе, то причины плохой сходимости могут быть любые, не связанные с плохой системой уравнений

@DmitryOpalev · 04.05.2018, 22:34 **[ТС]**

Матрица производных:
$https://www.cyberforum.ru/cgi-bin/latex.cgi?\begin{bmatrix} -641.670 & -0.614\\ -137.942 & 2.778 \end{bmatrix}$

Да, речь сначала идет о моей собственной программе. Под аналогичной я понимаю программу, которой пользуются на нашей кафедре.
Возможно ли эту ситуацию как-то проанализировать?

@one man · 04.05.2018, 22:41

Это что, система линейных уравнений решается методом Ньютона?

@DmitryOpalev · 04.05.2018, 22:45 **[ТС]**

mathidiot, по сути, если мы в итоге приходим к верному решению, значит модель составлена верно.

@one man · 04.05.2018, 22:59

Если о сути, то сначала надо понять, как работает метод, и не называть матрицей производных что ни попадя или же не решать с помощью метода Ньютона, то, что решается методом Гаусса.

@mathmichel · 04.05.2018, 23:07

Итерационные алгоритмы часто позволяют найти верное решение при ошибках при вычислении обратной матрицы производных, но в этом случае сходимость указывает на неньютовский характер работы алгоритма - скорей всего где-то ошибки у себя ищите

Добавлено через 2 минуты
one man, ТС в первом посте сказал про нелинейную систему уравнений!

@DmitryOpalev · 05.05.2018, 04:23 **[ТС]**

mathidiot
Прежде чем задать вопрос, опишу ситуацию.
Изначально есть 4 уравнения и 4 переменных. Задаемся так, что 2 переменные уже известны, их приращения равны нулю. Так же 2 уравнения не учитываем вообще (могу это объяснить с точки зрения физической модели, для которой решается задача, с точки зрения математики - нет)
Тогда у нас получается выражение:

$https://www.cyberforum.ru/cgi-bin/latex.cgi? \begin{bmatrix} \frac{\partial F_{1}}{\partial x_{1}} & \frac{\partial F_{1}}{\partial x_{2}} \\ \frac{\partial F_{2}}{\partial x_{1}} & \frac{\partial F_{2}}{\partial x_{2}} \end{bmatrix}\begin{bmatrix} \Delta x_{1}\\ \Delta x_{2} \end{bmatrix}=\begin{bmatrix} \Delta F_{1}\\ \Delta F_{2} \end{bmatrix} $

Пусть в качестве первой переменной будет та, о которой я писал сообщения выше.
Я построил график для второй переменной, результат на картинке. Насколько я понимаю, так быть не должно.
Вопрос: можно ли, хотя бы грубо, оценить, в каком месте может быть ошибка? Прошу отнестись с пониманием, если мои вопросы покажутся вам глупыми.

@Том Ардер · 05.05.2018, 13:02

Комментарий модератора

Правила форума

4.7. Как можно более полно описывайте суть проблемы или вопроса, что было сделано для ее решения и какие результаты получены.

DmitryOpalev, полезно прочитать: Б.Банди, Методы оптимизации.Вводный курс. М.,"Радио и связь", 1988

Испытайте свой метод на тестовой функции (Функция Розенброка):
$https://www.cyberforum.ru/cgi-bin/latex.cgi?f(x_{1},x_{2})=100\left (x_{2}-x_{1}^2 \right )+\left (1-x_{1} \right )^2,\; start \, from \, (-1.2,\, 1)$

@one man · 05.05.2018, 14:36

mathidiot, я вижу, что показал вопрошающий, назвав это матрицей производных нелинейной системы. Пожалуйста, наполните смыслом Ваше мне замечание с восклицательным знаком, или скажите, в каком месте я пропустил нелинейную систему.

@mathmichel · 05.05.2018, 17:01

Сообщение от one man

Это что, система линейных уравнений решается методом Ньютона?

Без комментариев

@one man · 05.05.2018, 18:08

mathidiot, Вы из принципа игнорируете константы под названием частные производные или искренне не понимаете, что они соответствует линейной системе, и поэтому просто доверяете вопрошающему?
Или Вы вовсе волшебник, решающий невидимые системы?

@mathmichel · 05.05.2018, 19:25

Вы имеете в виду пост #3 от ТС, где он привел матрицу производных? Мне показалось, что это матрица задана в точке решения, а вообще лучше подождать ответа от него. Если это просто система линейных уравнений, тогда задача вообще никакого интереса не представляет.

@Excalibur921 · 07.05.2018, 20:32

Сообщение от DmitryOpalev

Пишу программу для решения системы нелинейных уравнений.

Хоть бы уравнение показали…

Сообщение от DmitryOpalev

программу для решения системы нелинейных уравнений. Используется метод Ньютона.

А вы уверены что у вас 1 корень на участке где вы его ищите? И будет дальше всегда 1 корень во всех задачках для которых вы пишите решатель? Смысл в велике? Этих решателей нелинейных уравнений в одной только Mathematica 8 несколько штук+куча настроек. Хотя без контроля решения и она выдает бред, помню сделал ей простую систему и она не справилась.

Сообщение от DmitryOpalev

отображена зависимость значения переменной от номера итерации.

Где? Итерации не меняются… обычно например по X номер итерации по Y значение целевой…а что у вас непонятно.

Новые блоги и статьи Все статьи Все блоги /
SDL3 для Web (WebAssembly): Обработчик клика мыши в браузере ПК и касания экрана в браузере на мобильном устройстве 8Observer8 02.02.2026 Содержание блога Для начала пошагово создадим рабочий пример для подготовки к экспериментам в браузере ПК и в браузере мобильного устройства. Потом напишем обработчик клика мыши и обработчик. . .	Философия технологии iceja 01.02.2026 На мой взгляд у человека в технических проектах остается роль генерального директора. Все остальное нейронки делают уже лучше человека. Они не могут нести предпринимательские риски, не могут. . .	SDL3 для Web (WebAssembly): Вывод текста со шрифтом TTF с помощью SDL3_ttf 8Observer8 01.02.2026 Содержание блога В этой пошаговой инструкции создадим с нуля веб-приложение, которое выводит текст в окне браузера. Запустим на Android на локальном сервере. Загрузим Release на бесплатный. . .	SDL3 для Web (WebAssembly): Сборка C/C++ проекта из консоли 8Observer8 30.01.2026 Содержание блога Если вы откроете примеры для начинающих на официальном репозитории SDL3 в папке: examples, то вы увидите, что все примеры используют следующие четыре обязательные функции, а. . .
SDL3 для Web (WebAssembly): Установка Emscripten SDK (emsdk) и CMake для сборки C и C++ приложений в Wasm 8Observer8 30.01.2026 Содержание блога Для того чтобы скачать Emscripten SDK (emsdk) необходимо сначало скачать и уставить Git: Install for Windows. Следуйте стандартной процедуре установки Git через установщик. . . .	SDL3 для Android: Подключение Box2D v3, физика и отрисовка коллайдеров 8Observer8 29.01.2026 Содержание блога Box2D - это библиотека для 2D физики для анимаций и игр. С её помощью можно определять были ли коллизии между конкретными объектами. Версия v3 была полностью переписана на Си, в. . .	Инструменты COM: Сохранение данный из VARIANT в файл и загрузка из файла в VARIANT bedvit 28.01.2026 Сохранение базовых типов COM и массивов (одномерных или двухмерных) любой вложенности (деревья) в файл, с возможностью выбора алгоритмов сжатия и шифрования. Часть библиотеки BedvitCOM Использованы. . .	SDL3 для Android: Загрузка PNG с альфа-каналом с помощью SDL_LoadPNG (без SDL3_image) 8Observer8 28.01.2026 Содержание блога SDL3 имеет собственные средства для загрузки и отображения PNG-файлов с альфа-каналом и базовой работы с ними. В этой инструкции используется функция SDL_LoadPNG(), которая. . .

@DmitryOpalev 0 / 0 / 0 Регистрация: 31.10.2010 Сообщений: 22

	Медленная сходимость метода Ньютона 04.05.2018, 21:51. Показов 1744. Ответов 13 Метки нет (Все метки) Доброго времени суток. Пишу программу для решения системы нелинейных уравнений. Используется метод Ньютона. В прикрепленном изображении отображена зависимость значения переменной от номера итерации. Как видно, за две итерации (230,660) мы достаточно близко подходим к решению, однако далее требуется еще 130 итерации, чтоб дойти до конца (230,480) Аналогичная программа находит решение меньше чем за 20 итераций. В чем может быть причина такой долгой сходимости? Миниатюры 0

@mathmichel $Эксперт по математике/физике$ 11068 / 7369 / 3989 Регистрация: 14.01.2014 Сообщений: 16,807
	04.05.2018, 22:01
	Скорей всего у Вас близкая к вырожденной система уравнений. Соответствующая матрица производных имеет почти нулевые собственные значения... P.S. Сейчас только заметил фразу "аналогичная программа...", что это значит? Если речь шла сначала о доморощенной программе, то причины плохой сходимости могут быть любые, не связанные с плохой системой уравнений 0

@DmitryOpalev 0 / 0 / 0 Регистрация: 31.10.2010 Сообщений: 22
	04.05.2018, 22:34 [ТС]
	Матрица производных: $https://www.cyberforum.ru/cgi-bin/latex.cgi?\begin{bmatrix}<br /> -641.670 & -0.614\\ <br /> -137.942 & 2.778<br /> \end{bmatrix}$ Да, речь сначала идет о моей собственной программе. Под аналогичной я понимаю программу, которой пользуются на нашей кафедре. Возможно ли эту ситуацию как-то проанализировать? 0

@one man Нарушитель 212 / 352 / 62 Регистрация: 09.06.2015 Сообщений: 1,436
	04.05.2018, 22:41
	Это что, система линейных уравнений решается методом Ньютона? 0

@DmitryOpalev 0 / 0 / 0 Регистрация: 31.10.2010 Сообщений: 22
	04.05.2018, 22:45 [ТС]
	mathidiot, по сути, если мы в итоге приходим к верному решению, значит модель составлена верно. 0

@one man Нарушитель 212 / 352 / 62 Регистрация: 09.06.2015 Сообщений: 1,436
	04.05.2018, 22:59
	Если о сути, то сначала надо понять, как работает метод, и не называть матрицей производных что ни попадя или же не решать с помощью метода Ньютона, то, что решается методом Гаусса. 0

@mathmichel $Эксперт по математике/физике$ 11068 / 7369 / 3989 Регистрация: 14.01.2014 Сообщений: 16,807
	04.05.2018, 23:07
	Итерационные алгоритмы часто позволяют найти верное решение при ошибках при вычислении обратной матрицы производных, но в этом случае сходимость указывает на неньютовский характер работы алгоритма - скорей всего где-то ошибки у себя ищите Добавлено через 2 минуты one man, ТС в первом посте сказал про нелинейную систему уравнений! 0

@DmitryOpalev 0 / 0 / 0 Регистрация: 31.10.2010 Сообщений: 22
	05.05.2018, 04:23 [ТС]
	mathidiot Прежде чем задать вопрос, опишу ситуацию. Изначально есть 4 уравнения и 4 переменных. Задаемся так, что 2 переменные уже известны, их приращения равны нулю. Так же 2 уравнения не учитываем вообще (могу это объяснить с точки зрения физической модели, для которой решается задача, с точки зрения математики - нет) Тогда у нас получается выражение: $https://www.cyberforum.ru/cgi-bin/latex.cgi?<br /> \begin{bmatrix}<br /> \frac{\partial F_{1}}{\partial x_{1}} & \frac{\partial F_{1}}{\partial x_{2}} \\ <br /> \frac{\partial F_{2}}{\partial x_{1}} & \frac{\partial F_{2}}{\partial x_{2}}<br /> \end{bmatrix}\begin{bmatrix}<br /> \Delta x_{1}\\ <br /> \Delta x_{2}<br /> \end{bmatrix}=\begin{bmatrix}<br /> \Delta F_{1}\\ <br /> \Delta F_{2}<br /> \end{bmatrix}<br />$ Пусть в качестве первой переменной будет та, о которой я писал сообщения выше. Я построил график для второй переменной, результат на картинке. Насколько я понимаю, так быть не должно. Вопрос: можно ли, хотя бы грубо, оценить, в каком месте может быть ошибка? Прошу отнестись с пониманием, если мои вопросы покажутся вам глупыми. Миниатюры 0

@one man Нарушитель 212 / 352 / 62 Регистрация: 09.06.2015 Сообщений: 1,436
	05.05.2018, 14:36
	mathidiot, я вижу, что показал вопрошающий, назвав это матрицей производных нелинейной системы. Пожалуйста, наполните смыслом Ваше мне замечание с восклицательным знаком, или скажите, в каком месте я пропустил нелинейную систему. 0

@one man Нарушитель 212 / 352 / 62 Регистрация: 09.06.2015 Сообщений: 1,436
	05.05.2018, 18:08
	mathidiot, Вы из принципа игнорируете константы под названием частные производные или искренне не понимаете, что они соответствует линейной системе, и поэтому просто доверяете вопрошающему? Или Вы вовсе волшебник, решающий невидимые системы? 0

@mathmichel $Эксперт по математике/физике$ 11068 / 7369 / 3989 Регистрация: 14.01.2014 Сообщений: 16,807
	05.05.2018, 19:25
	Вы имеете в виду пост #3 от ТС, где он привел матрицу производных? Мне показалось, что это матрица задана в точке решения, а вообще лучше подождать ответа от него. Если это просто система линейных уравнений, тогда задача вообще никакого интереса не представляет. 0