Оскільки в методі найшвидшого спуску компоненти градієнта мають вигляд
то формула (4) після підстановки цих рівнянь перейде до вигляду
Формула (5) дуже складна оскільки потребує рахування других часних похідних.
На практиці завжди використовується наступний варіант знаходження
Нехай значення Ф (Х) змінюється вздовж напрямку градієнта
Вона буде розраховуватися наступним чином:
Як бачимо, в цьому випадку
Для кожної ітерації метода рахують значення функціонала при
Практика показує, що хоча цей варіант більш громіздкий, так як у порівнянні з формулою (5) доводиться додатково рахувати два значення функції
Інколи характер Ф (Х) такий, що аналітичне рівняння для частних похідних має надто складний вигляд і рахувати їх надто складно.
Також слід відмітити, що якщо в області шуканого рішення є локальні мінімуми, то метод спуска може не привести до шукаємого рішення, а можуть зійтися до одного з цих мінімумів. Практично часто спуск буває дуже повільним навіть при відсутності локальних мінімумів.
Порядок рахування в методі найшвидшого спуска наступний:
знаходиться аналітичне рівняння для градієнта
вибирають початкове приближення вектора невідомих
вираховують координати градієнта
вираховують шаг по градієнту
вираховують уточнений вектор невідомих
Далі процес повторюється з пункту 3 до сходження.
Методом найшвидшого спуска приблизно розрахувати корені системи
розміщенні в області початку координат.
Маємо:
Підставляємо нульове приближення, будемо мати:
по формулам получимо перше приближення
Аналогічно находимо друге приближення
Метод Ньютона-Канторовича, придатний для проведення розрахунків в Excel. Як і в методі Ньтона для нелінійних рівнянь для знаходження кореня системи нелінійних рівнянь необхідно спочатку якимсь чином знайти початкове наближення до цього кореня (тобто вектор
а потім вже використовуються ітераційні формули методу проводиться його уточнення до досягнення заданої точності. Виклад методу (і його використання) зручніше проводити в матричній формі запису. При цьому, окрім векторів,
Розглянемо ці методи для випадку n=2, тобто коли рівнянь в системі два і невідомих теж дві. В цьому випадку
Ідея методу полягає в розкладанні вектор-функції в ряд Тейлора в околиці початкового наближення із збереженням тільки доданків першого ступеня. Позначимо найдене (якимсь чином) початкове приближення до шуканого кореня через
На основі формула (8) будується ітараційна формула. А саме,
Тоді (у загальному вигляді) ітераційна формула матиме вигляд
В методі Ньютона цю ітераційну формулу перетворять до вигляду
У координатному вигляді формула (10) представляє систему з двох рівнянь щодо двох невідомих xi+1 и yi+1.
У матричному вигляді рішення її матиме вигляд
допоміжний вектор-стовпець z, що містить n елементів.
Ітераційна формула методу в матричному записі має наступний вигляд
zj = - A-1 (xj)×F (xj)
xj +1 = xj + zj, (12)
тут j - номер ітерації,
Обчислення даним методом зручно проводити в Excel з використанням функцій матричної алгебри. Результати розрахунків представляються у вигляді таблиці.
Для випадку n=2 система рівнянь найчастіше має такий вигляд: