Методы оптимизации

Может глупый вопрос,но мне нужно знать.К каким функциям можно применять методы,если функция явно не задана? Если нет каких-то особых критерий,то это может быть любая f(x)?
B еще: итерация в контексте оптимизации, это любое значение,какое может принимать х?

Добавлено через 17 часов 41 минуту
Отзовитесь.

0

Сообщение от melanisa К каким функциям можно применять методы

Если функция удовлетворяет:
1. критерию сходимости/применимости - то можно, иначе - нельзя.
2. достаточному условию сходимости/применимости - то можно, иначе - ищите другие условия или выводите сами (это трудно).
3. необходимому условию сходимости/применимости - ищите другие условия или выводите сами (это трудно), иначе - нельзя.
Где брать такие критерия и условия? Например, в книжках по численным методам. Могу предложить "Самарский, Гулин. Численные методы".

0

Евгений М., Спасибо большое,обязательно посмотрю. Просто у меня есть методы,а функция нигде не задана. Я сделала вывод,что все расчеты проводятся как бы в экспериментальном порядке.

0

Опять я... Я так поняла,что самое главное для сходимости это шаг(так по крайней мере у меня написано в методичке для заданий) и возможность дифференциации. Уточняю,что моя задача это: "методы нахождения безусловного минимума скалярной функции , заданной на всем пространстве ."Суть методов заключается в нахождении последовательности векторов,чтобы удовлетворяли условию Но торможу,однако. Методы должны использоваться такие: "Общий градиентный метод" , "Градиентный метод с дроблением шага", "Метод наискорейшего спуска", "Метод Ньютона".
Проблема в том,что все что я нашла в интернете пишется в теоретической форме и ни одного! конкретного практического примера вычислений вручную и на ВМ.(А скорее я чего-то не догоняю,посему и пишу.) Под практическим вычислением я понимаю конкретные входные параметры(шаг,количество интераций) и саму функцию. Со старшей школы еще привыкла,что функция задана,к примеру и не нужно искать свою,а потом еще и проверять на сходимость.После того, как я посчитаю по все алгоритмам вручную я должна еще и исследовать зависимость скорости сходимости для каждого случая и точность полученных результатов,а для этого мне нужно использовать Excel "Поиск решений" ,так мне писано в методичке. Но,естественно,я не знаю,как надо работать.
Кто уже сталкивался с подобными работами,отзовитесь! Не знаю к кому обращаться...

0

Почитала - про условия сходимости пока не слова,но зато нашла условия экстремума функции от многих переменных(что и необходимо). Но с функцией пока не определилась. Поищу, почитаю еще.
Вот что сказано у меня в найденной методичке "Т е о р е м а 2.1. Для того чтобы в точке х̂ функция f(х1, …, хⁿ) имела безусловный локальный экстремум, необходимо, чтобы все ее частные производные обращались в х̂ в нуль:"
Но помимо этого существуют еще "Необходимое условие второго порядка. Достаточные условия. "
Так уж необходимо сие искать? Потому как,мне если честно, непонятна семантика этой теоремы.
А в другом одном электронном учебнике я нашла вот что: " Теорема 7.4 Если точка - это точка локального экстремума функции , и существует производная в этой точке , то .

Утверждение теоремы можно переформулировать так:

если функция имеет локальный экстремум в точке , то либо
1) , либо
2) производная не существует.
Таким образом,находится производная,приравнивается к нулю,находятся корни и подставляются в функцию. Обычный алгоритм нахождения экстремума(и условие его существования соответственно), но видимо нахождение экстремума от нескольких переменных в n-мерном пространстве другое и нефиг мне школьный курс даже вспоминать...,но ведь уравнения функций и этого электронного учебника тоже не с одной x-ной переменной,а с несколькими - с другой стороны.
К примеру: .

Вообщем, голова уже кругом. Помогите разобраться c этими функциями,очень надо.

0

Сообщение от melanisa Утверждение теоремы можно переформулировать так:

Нельзя.
Если производной не существует, то использовать эту теорему невозможно т.к. по условию она существует.

Сообщение от melanisa Необходимое условие второго порядка

Че-то я не помню такую. Озвучите?

0

Нельзя. Если производной не существует, то использовать эту теорему невозможно т.к. по условию она существует.

Да-да,точно ведь абсурд. Читаю видимо на автомате, лишь бы что еще найти,но такой вот эл. онлайн учебник(справочник?)

Че-то я не помню такую. Озвучите?

Прикрепляю методичку.

Вложения

2.docx (26.2 Кб, 58 просмотров)

0

Сообщение от melanisa вот эл. онлайн учебник(справочник?)

То что книга это справочник или учебник обычно оговаривается в самом начале.

Сообщение от melanisa Но помимо этого существуют еще "Необходимое условие второго порядка. Достаточные условия. " Так уж необходимо сие искать? Потому как,мне если честно, непонятна семантика этой теоремы.

Сначала проверяйте достаточное условие (если ее использовать можно). Если оно выполняется - то Вы нашли локальный минимум/максимум.
Если достаточное условие не применима или не удовлетворена, тогда с помощью необходимого условия второго порядка (если ее использовать можно) проверяете стоит ли дальше искать локальный минимум или максимум. Под "искать дальше" подразумевается брать 3-юю производную и находить теорию о локальном минимуме/максимуме, в котором говориться о 3-ей производной.

1

Сообщение от melanisa и возможность дифференциации.

При чём здесь дифференциация? Функции не выбирают, кем им стать, это не клетки.

0

Сообщение от taras atavin При чём здесь дифференциация?

При том,что функция должна дифференцироваться достаточное количество раз.

Сообщение от taras atavin Функции не выбирают, кем им стать, это не клетки.

Да,но если Вы заметили - я как раз и пытаюсь разобраться какая функция мне нужна. Если бы у меня например было задание "Найдите безусловный минимум функции такой-то, вот такими-то численными методами - всё встало бы на свои места.

Добавлено через 5 часов 19 минут

Сообщение от Евгений М. То что книга это справочник или учебник обычно оговаривается в самом начале. Сначала проверяйте достаточное условие (если ее использовать можно). Если оно выполняется - то Вы нашли локальный минимум/максимум. Если достаточное условие не применима или не удовлетворена, тогда с помощью необходимого условия второго порядка (если ее использовать можно) проверяете стоит ли дальше искать локальный минимум или максимум. Под "искать дальше" подразумевается брать 3-юю производную и находить теорию о локальном минимуме/максимуме, в котором говориться о 3-ей производной.

А я-то подумала,что на все сразу надо проверять,спасибо. Надо придумать или взять какую-нибудь функцию и попробовать начать считать,наконец,всеми теми методами,которые мне указаны - а потом уже производить проверку.

Добавлено через 14 минут
А по поводу источника - он там обозначен как учебник,но вызывает некоторые подозрения.

Добавлено через 22 часа 18 минут
Нашла материальчик еще по проверке эстремумов. Всё тоже самое,чем я и располагала,только еще и наглядно.
Но там все-таки говорят,что надо и по первому порядку проверять и по второму включительно.
Про условия сходимости -даже не знаю,нужны ли проверки(материал пока не читала). Только вот скорость сходимости для разных алгоритмов все равно нужно исследовать. В экселе. Не смотрела,чего там к чему будет,только подключила "Поиск решений". Надо сначала узнать как вообще она находится,сия скорость.
Еще смущает вот такой факт: почему-то у меня по условию,должно быть только 2 интерации, а шаг тогда какой брать?

0

Сообщение от melanisa Про условия сходимости -даже не знаю,нужны ли проверки(материал пока не читала)

О чем речь?

0

Добавлено через 22 часа 51 минуту
Итерационная последовательность своим пределом должна иметь искомое значение – x*.
, где k-> 00 "k стремится к бесконечности."
Какая-то формула странная,ведь фактически существование предела самой функции - это и есть критерий ее сходимости вроде как. И если предел функции к примеру бесконечен,так значит и интераций возможно бесконечное количество. Ну это если рассуждать. Считается ли бесконечный предел функции и соответственно бесконечный предел интераций сходимостью? Или это наоборот - функция расходящаяся?

0

Я Вас не понял.

Сообщение от melanisa существование предела самой функции - это и есть критерий ее сходимости вроде как.

"Критерий сходимости функции". Я это первый раз слышу. К тому-же у Вас не функция, а последовательность.

Сообщение от melanisa Считается ли бесконечный предел функции и соответственно бесконечный предел интераций сходимостью?

"Предел итерации" - тоже первый раз слышу.

0

Сообщение от Евгений М. К тому-же у Вас не функция, а последовательность.

Это понятно,что последовательность. Но ведь итерационная. Отсюда и предел. Предел - это же,по сути,такое значение,к которому стремится какая-нибудь переменная.
Вот и вот эту вот штуковину:

Итерационная последовательность своим пределом должна иметь искомое значение – x*.

(на "=" не смотрите, не знаю,почему в конце знак "=") я нашла в небольшой статье по интерационным алгоритмам. А вот что пишет вики про предел функции.
"Предел функции является обобщением понятия предела последовательности: изначально, под пределом функции в точке понимали предел последовательности элементов области значений функции, составленной из образов точек последовательности элементов области определения функции, сходящейся к заданной точке (предел в которой рассматривается); если такой предел существует, то говорят, что функция сходится к указанному значению; если такого предела не существует, то говорят, что функция расходится."
В связи с этим я рассуждала так: Если предположить, что предел функции бесконечен,т.е.,он не стремится к какой-то точке,то наверняка и предел интераций будет таким же. Т.е. мы будем итерировать с заданным шагом все новые и новые значения и этот процесс будет бесконечным.
Ни в коем случае не пытаюсь Вас учить,просто попыталась показать ход своих мыслей.
Вообще странно все это,конечно. Из серии сделай то,не знаю что. Сам придумай функцию,а потом еще и разбирайся с ней же... А источник этих работ,просто послал меня разбираться дальше,ничего не объяснив.

Добавлено через 1 час 31 минуту
Я не туда смотрю. Вы мне подали мысль.
У меня же перечислены те методы нахождения минимума,которыми я должна воспользоваться. Они имеют гарантированную сходимость. А пределы всяких там интераций и их сходимость - это вообще не отсюда и вообще неясно о чем. Главное,мне подобрать "хорошую" функцию,что бы все нормально считалось. А там посмотрим. И по поводу сходимости функции вы правы - это тоже, не то,чем голову надо забивать. Ведь там оперируют понятием предела, а обычно вычисляют предел в конкретной точке функции - а такого общего понятие вроде нет(ну вики же..) Не знаю,поняли ли Вы мой переброс мыслей. Вообщем,я буду действовать по такому алгоритму.
1) Возьму функцию.
2) Проверю на условия экстремумов,не досчитывая до конца,ведь для нахождения минимума у меня даны методы.
3) Подсчет вручную по методам.
4) "На excel исследовать зависимость скорости сходимости, точности полученных результатов от входных параметров для каждого алгоритма." - поэкспериментирую с параметрами и точностью.

0

Сообщение от melanisa Вообщем,я буду действовать по такому алгоритму.

Насколько я понял. Речь идет о нахождении минимума функции, которая имеет 1 и 2-ую производную в рассматриваемой области. Я все правильно понял?

Сообщение от melanisa поняли ли Вы мой переброс мыслей

Я понял, что Вы выбросили из головы рассуждения из 12-ого сообщения и половины 14ого сообщения.

0

Евгений М., Да,Вы всё правильно поняли.

Добавлено через 4 часа 28 минут
Вот теперь возник вопрос на 3ем этапе. Дело в том,что сказано:
Функция задана в пространстве. То,что функция в данном моем случае зависит от двух переменных,характеризует ее как поверхность. То бишь она двумерна.

Сообщение от melanisa методы нахождения безусловного минимума скалярной функции , заданной на всем пространстве ."Суть методов заключается в нахождении последовательности векторов,чтобы удовлетворяли условию [LATEX] f(x0)>f(x1) >...>f(x_n)

- Пока искала подходящую функцию,не думала что в методах натолкнусь на трудности подсчета. Вот это например : дана такая формула нахождения значения переменной при дальнейшей интерации: +1 -это к j-стоит как степень. Раз это размерность,значит,я вроде должна подставить цифру 2? И как с производной считать? Ведь производная -формула. Хотя,у меня есть мысли такие. Когда я читала про достаточные условия существования экстремума,там просто причислялось значение без х формульной букве. Например,если d^2f/dx^2 = 6x,т.е. оставался х -то просто подставляли одно число.Это я просто для примера написала. В формуле у меня ,но так как у меня функция от двух переменных,я напишу полную производную,а потом сложу все цифры.
Понимаю,что я уже достала своей бредоматемтикой,но увы,нигде меня больше не "слушают".

Добавлено через 1 час 10 минут
Перепишу правильно часть с производной :

0

Сообщение от melanisa Раз это размерность,значит,я вроде должна подставить цифру 2? И как с производной считать?

j - как-то связана с размерностью. Но это не размерность. j - это номер компонента вектора. Т.е. если вектор представлено как (5,7,8,0), то первая компонента - 5, вторая - 7, третяя - 8, четвертая.
Вектор - в данном случае можно считать как упорядоченный набор переменных.
Насчет f(x_k). Эта функция от многих переменных в данном случае. Обычно пишут так: или так . Некоторые книги пишут просто . Но где-то уговаривается что это функция от многих переменных.

0

Евгений М., Понятно,значит это просто индексация. Просто запись смутила.
А как насчет подсчета производной тогда в контексте формулы? Всё так, как я описала выше? Брать полную производную,а потом сложить цифры,которые там будут фигурировать?

0

Сообщение от melanisa я напишу полную производную,а

Вы про это? Вроде как нужно искать частные производные.

0

Да,полная производная - это производная по всем переменным и вычисляется она обыкновенно,по таблицам производных,с учетом порядка нахождения(если это сложная функция). В общем случае,частные производные не всегда равны частям полной производной,но так как тут производная первого порядка,я думаю тут никакой разницы нет: что я вычислю частные и сложу числа перед иксом и игреком ,что полностью найду -то же самое получится. Почему перед иксом и игреком,потому что я нашла функцию ,которая так и обознается f(x,y),я думаю никакой разницы с теми обозначениями,которые Вы мне привели нет.

0