
В качестве начального приближения выбирается

. По вычисленной на каждой итерации точке xk строится (k + 1)-я точка xk+1:

В качестве

выбирается любое число из

=

, удовлетворяющее неравенству:

Доказана сходимость этого метода при весьма нежестких ограничениях на функцию f (выпуклость) и множество ограничений X (выпуклость и замкнутость).
Обычно считается, что оптимальным является такое возможное решение, которое наиболее полно удовлетворяет желаниям, интересам или целям ЛПР. Стремление ЛПР достичь определенной цели нередко удается в математических терминах выразить в виде максимизации (или минимизации) некоторой числовой функции, заданной на множестве

. Однако в более сложных ситуациях приходится иметь дело не с одной, а сразу с несколькими такими функциями. Так будет, например, когда какое-то явление, объект или процесс рассматривается с различных точек зрения и для формализации каждой точки зрения используется соответствующая функция. Если явление рассматривается в динамике, поэтапно и для оценки каждого этапа приходится вводить отдельную функцию, - в этом случае также приходится учитывать несколько функциональных показателей.
Нижеследующее рассмотрение посвящено ситуации, когда имеется несколько числовых функций

,
³ 
, определенных на множестве

. В зависимости от содержания задачи выбора эти функции называют
критериями оптимальности,
критериями эффективности,
целевыми функциями,
показателями или
критериями качества.
Проиллюстрируем введенные термины, рассмотрев задачу выбора наилучшего проектного решения. В этой задаче множество

состоит из нескольких конкурсных проектов (например, строительства нового предприятия), а критериями оптимальности могут служить стоимость реализации проекта

и величина прибыли

, которую обеспечит данное проектное решение (т.е. построенное предприятие). Если ограничить рассмотрение данной задачи лишь одним критерием оптимальности, практическая значимость решения такой задачи окажется незначительной. В самом деле, при использовании только первого критерия будет выбран самый дешевый проект, но его реализация может привести к недопустимо малой прибыли. С другой стороны, на строительство самого прибыльного проекта, выбранного на основе второго критерия оптимальности, может просто не хватить имеющихся средств. Поэтому в данной задаче необходимо учитывать оба указанных критерия одновременно. Если же дополнительно стараться минимизировать нежелательные экологические последствия строительства и функционирования предприятия, то к двум указанным следует добавить еще один – третий критерий и т.д. Что касается ЛПР, осуществляющего выбор проекта, то в данной задаче таковым является глава администрации района, на территории которого будет построено предприятие, при условии, что это предприятие является государственным. Если же предприятие – частное, то в качестве ЛПР выступает глава соответствующей фирмы.
Указанные выше числовые функции

образуют
векторный критерий 
, (27)
который принимает значения в

-мерном арифметическом пространстве

. Это пространство называют
критериальным пространством или
пространством оценок, а всякое значение

векторного критерия

при определенном

именуют
векторной оценкой возможного решения

. Все векторные оценки образуют в пространстве
множество возможных оценок
при некотором 
.
Задачу выбора, содержащую множество возможных решений

и векторный критерий

, обычно называют
многокритериальной задачей.
Предположим, что данные компоненты задачи выбора сформированы, четко описаны и зафиксированы. Опыт показывает, что в терминах критерия

чаще всего не удается выразить всю гамму «пристрастий», «вкусов» и предпочтений данного ЛПР. С помощью векторного критерия лишь намечаются определенные цели, которые нередко оказываются весьма противоречивыми. Эти цели одновременно, как правило, достигнуты быть не могут, и поэтому требуется определенная дополнительная информация для осуществления компромисса. Иначе говоря, если ограничиться лишь указанными выше двумя компонентами – множеством возможных решений и векторным критерием, то задача выбора оказывается «недоопределенной». Эта «недоопределенность» сказывается затем в слабой логической обоснованности выбора оптимального решения на основе векторного критерия. Многочисленные процедуры выбора (процедуры построения множества

), предлагаемые в литературе по принятию решений, основанные лишь на знании векторного критерия, как правило, содержат элементы эвристики, и потому не имеют строгого логического обоснования.
Для того чтобы осуществить обоснованный выбор, следует помимо векторного критерия располагать какими-то дополнительными сведениями о предпочтениях ЛПР. С этой целью необходимо включить в многокритериальную задачу еще один элемент, который позволил бы выразить и описать эти предпочтения.
Рассмотрим два возможных решения

и

. Предположим, что после предъявления ЛПР этой пары решений, оно выбирает (отдает предпочтение) первому из них. В этом случае пишут

.
Знак

служит для обозначений предпочтений данного ЛПР и называется
отношением строгого предпочтения, или короче –
отношением предпочтения.
Следует отметить, что не всякие два возможных решения

и

связаны соотношением

, либо соотношением

. Иначе говоря, не из любой пары решений ЛПР может сделать окончательный выбор. Вполне могут существовать такие пары, что ЛПР не в состоянии отдать предпочтение какому-то одному решению этой пары, даже если это - пара различных решений.
Описанная ситуация вполне соответствует реальному положению вещей. Более того, если бы от ЛПР требовалась способность в произвольной паре возможных решений уметь определять решение, более предпочтительное по сравнению с другим, то в таком случае теория, построенная на указанном «жестком» требовании к ЛПР не представляла бы практического интереса. Подобные «всемогущие» ЛПР в жизни встречаются крайне редко!
Предположим, что ЛПР в процессе выбора ведет себя «достаточно разумно» и обсудим требования, которым в таком случае должно удовлетворять его отношение предпочтения.
Прежде всего, следует напомнить, что отношение предпочтения

по своей сути является отношением
строгого предпочтения в том смысле, что выполнение соотношения

невозможно ни для какого возможного решения

, поскольку ни одно решение не может быть лучше самого себя.