Численные методы линейной алгебры

3.5. Вариационно-итерационные методы

В параграфе 3.4 рассматривались такие итерационные методы решения СЛАУ

Ax=b, (3.40)
в которых для задания итерационных параметров требовалось знание границы собственных значений матрицы А. Что делать, если такой информации нет? В таком случае можно применять методы, не использующие знания о границах собственных значений матрицы А.
Ниже описываются итерационные методы вида
В + Ax^(k)=b, k=0, 1, 2,…
в которых параметры _k+1 выбираются из других условий.


3.5.1. Метод минимальных невязок

Рассмотрим явную схему метода минимальных невязок [8, 9] заданную формулой с симметричной положительно определенной матрицей А

+ Ax^(k)=b, k=0, 1, 2,… (3.41)
Для невязки R^(k)= Ax^(k)-b из (3.41) получим
+ AR^(k)=0, k=0, 1, 2,…
R^(k+1)=R^(k)-_k+1AR^(k) .
Параметр _k+1 выбираем из условия минимума невязки R^(k+1) по норме


=(_k+1).

Дальше вычислим производную от функции (_k+1) по параметру _k+1 и приравняем нулю

^’(_k+1)= -2(R^(k),AR^(k))+2_k+1 =0
или
, k=0, 1, 2,… (3.42)

При этом значении параметра _k+1 вторая производная ^”(_k+1)>0, следовательно, достигается .

В этом методе переход от k-ой итерации к (k+1)-ой осуществляется следующим образом. По найденному значению x^(k) вычисляется вектор невязки R^(k)= Ax^(k)-b и по формуле (3.42) находится параметр _k+1. Затем по формуле (3.41) вычисляется вектор x^(k+1).
Метод минимальных невязок (3.41), (3.42) сходится с той же скоростью, что и метод простой итерации с оптимальным параметром  .