\textbf{21 билет. Разложение Холесского ($LL^T$-разложение, $LDL^T$-разложение).} \\

Напомним, что квадратная матрица n * n - матрица называется положительно определенной, если {Ax,x} > 0 для любых ненулевых n-векторов x, или, иными словами $x^T Ax > 0$ для любого $x \neq 0$. Ясно, что положительно-определенные матрицы неособенны. \\

\textbf{Теорема 3.6.4} (теорема о разложении Холесского) \textit{Матрица Ф является симметричной положительно определенной тогда и только тогда, когда существует неособенная нижняя треугольная матрица С, такая что A = $CC^T$. При этом матрица С из выписанного представления единственна.} \\

\textbf{Определение 3.6.3} \textit{Представление A = $CC^T$ называется разложением Холесского, а нижняя треугольная матрица С - множителем Холесского для А.} \\

\textbf{Доказательство.} Пусть A = $CC^T$ и С неособенна. Тогда неособенна матрица $C^T$, и для любого ненулевого вектора $x \in R^n$ имеем
$$ \{Ax,x\} = (Ax)^Tx = (CC^Tx)^Tx = x^TCC^Tx = (C^Tx)^T(C^Tx) = || C^Tx||_2^2 > 0 $$

поскольку $C^Tx \neq 0$. Кроме того, Ф симметрична по построению. Таким образом, она является симметричной положительно определенной матрицей. \\

Обратно, пуст матрица А симметрична и положительно определенна. В силу критерия Сильвестера все ее ведущие миноры положительны, а потому на основании Теоремы 3.6.2 о существовании LU- разложения мы можем заключить, что А = LU для некоторых неособенных нижней треугольной матрицы L = $(l_{ij})$ и верхней треугольной матрицы U. Мы дополнительно потребуем, чтобы все диагональные элементы $l_{ii}$ в L были единицами, так что это разложение будет даже однозначно определенным. \\

Так как

$$ LU = A = A^T = (LU)YT = U^TL^T, $$

то
$$ U = L^{-1} U^T L^T \hspace{1cm} (3.80)$$

и далее

$$ U(L^T)^{-1} = L^{-1} U^T $$

Слева в этом равенстве стоит произведение верхних треугольных матриц, а справа - произведение нижних треугольных. Равенство, следовательно, возможно лишь в случае когда левая и правая его части - это диагональная матрица, которую мы обозначим через D, так что

$$ D:= diag \{d_1, d_2, ....., d_n\} = U(L^T)^{-1} = L^{-1} U^T $$

Тогда из (3.80) вытекает

$$ U = L^{-1} U^T L^T = DL^T $$

И потому

$$ A = LU = LDL^T $$



Ясно, что в силу неособенности L и U матрица D так же неособенна, так что по диагонали у нее стоят ненулевые элементы $d_i$, i = 1, 2, ....., n. Более того, мы покажем, что все $d_i$, положительны. \\

Из (3.81) следует, что D = $L^{-1} A (L^T)^{-1} = L^{-1} A (L^{-1})^T$. Следовательно, для любого ненулевого вектора x

$$ \{Dx,x\} = x^T Dx = x^T L^{-1} A (L^{-1})^T x = ((L^{-1})^T x)^T A ((L^{-1})^T x)^T = \{ A (L^{-1})^T x, (L^{-1})^T x \} > 0, $$

так как $(L^{-1})^T x \neq 0$ в силу неособенности матрицы $(L^{-1})^T$. Иными словами, диагональная матрица D положительно определенна одновременно с А. Но тогда ее диагональные элементы обязаны быть положительными. В противном случае, если предположить, что $d_i <= 0$ для некоторого i, то, беря вектор x равным i-му столбцу единичной матрицы, получим

$$ \{Dx, x\} = (Dx)^T x = x^T Dx = d_i <= 0 $$

Это противоречит положительной определенности матрицы D. \\

Как следствие, из диагональных элементов матрицы D можно извлекать квадратные корни. Если обозначить получающуюся при этом диагональную матрицу через \\ $\sqrt{D} := diag \{ \sqrt{d_1}, \sqrt{d_2}, ...., \sqrt{d_n}\}$, то окончательно можем взять C = $L \sqrt{D}$. Это представление для множителя Холесского, в действительности, единственно, так как по А при сделанных нами предположениях единственным образом определяется нижняя треугольная матрица L, а матричные преобразования, приведшие к формуле (3.81) и ее следствиям, обратимы и также дают однозначно определенный результат.