Bi-conjugate Gradient Method | 双共轭梯度法

[李东岳]

双共轭梯度法： 考虑求解下面的线性系统：
\begin{equation}\label{bicg}
\mathbf{A}\cdot\mathbf{x}=\mathbf{b}
\end{equation}
如果\eqref{bicg}满足，即
\begin{equation}\label{bicg1}
\mathbf{A}\cdot\mathbf{x}-\mathbf{b}=0
\end{equation}
则有下面的函数
\begin{equation}\label{bicg2}
f(\mathbf{x})=\frac{1}{2}\mathbf{x}\cdot\mathbf{A}\cdot\mathbf{x}-\mathbf{b}\mathbf{x}
\end{equation}
其值最小。实际上，$f(\mathbf{x})$的梯度即为$\nabla f(\mathbf{x})=\mathbf{A}\cdot\mathbf{x}-\mathbf{b}$。欲求\eqref{bicg}的解，即求$f(\mathbf{x})$的最小值。在共轭梯度法中，要求$\mathbf{A}$对称且正定。