Metodo del gradiente
Ciao,
dalle notazioni il tuo testo mi sembra proprio il Quarteroni.
Per quanto riguarda la prima proprietà ovviamente quello che si deve fare l'hai intuito: derivare la funzione d'energia $\Phi(\mathbf{x})=1/2\mathbf{x}^T\mathbf{Ax}-\mathbf{x}^T\mathbf{b}$.
Tuttavia, per calcolare il valore ottimale di $\alpha_k$ si scrive $\mathbf{x}_{k+1}=\mathbf{x}_{k} + \alpha \mathbf{r}_{k}$, da cui
Derivando rispetto al $\alpha$ e imponendo l'annullamento della derivata
da cui la tesi.
Per il secondo punto sosituendo $\alpha_k$ come dici tu dovrebbe venire, anche perché il testo probabilmente dice "Partendo dalle formule dell'algoritmo [Gradiente], è immediato dimostrare [...]"
dalle notazioni il tuo testo mi sembra proprio il Quarteroni.
Per quanto riguarda la prima proprietà ovviamente quello che si deve fare l'hai intuito: derivare la funzione d'energia $\Phi(\mathbf{x})=1/2\mathbf{x}^T\mathbf{Ax}-\mathbf{x}^T\mathbf{b}$.
Tuttavia, per calcolare il valore ottimale di $\alpha_k$ si scrive $\mathbf{x}_{k+1}=\mathbf{x}_{k} + \alpha \mathbf{r}_{k}$, da cui
$\Phi(\mathbf{x}_{k+1})=\frac{1}{2} (\mathbf{x}_{k} + \alpha \mathbf{r}_{k})^T A (\mathbf{x}_{k} + \alpha \mathbf{r}_{k} ) - (\mathbf{x}_{k} + \alpha \mathbf{r}_{k})^{T} \mathbf{b}$
e questo ultime termine è uguale a $=\frac{1}{2}(\mathbf{r}_{k}^{T} A \mathbf{r}_k)\alpha_{k}^{2} - \mathbf{r}_{k}^{T}(\mathbf{b}-A\mathbf{x}_{k})\alpha_k + \frac{1}{2} \mathbf{x}_{k}^{T} A \mathbf{x}_{k} - \mathbf{x}_{k}^{T} \mathbf{b}$
Derivando rispetto al $\alpha$ e imponendo l'annullamento della derivata
$\frac{d \Phi(\alpha_k)}{d \alpha_k}=(\mathbf{r}_k^{T} A \mathbf{r}_k) \alpha_k - \mathbf{r}_k^{T} \mathbf{r}_k=0$
da cui la tesi.
Per il secondo punto sosituendo $\alpha_k$ come dici tu dovrebbe venire, anche perché il testo probabilmente dice "Partendo dalle formule dell'algoritmo [Gradiente], è immediato dimostrare [...]"
Risposte
Scrivo i prodotti scalari esplicitamente, e ometto il grassetto per indicare i vettori, tanto ormai è chiaro.
Per la seconda basta prendere $\langle r_{k+1},r_{k}\rangle$ e ricordare che $r_{k+1}= b-Ax_{k+1}=b- A (x_k + \alpha_k p_k)=b-A_k - \alpha_k A p_k = r_k - \alpha_k A p_k$.
Perciò $\langle r_{k+1},r_{k}\rangle= \langle r_k - \alpha_k A p_k, r_k\rangle = \langle r_k, r_k\rangle - \alpha_k \langle A p_k,r_k \rangle =0$ per la scelta di $\alpha_k = \frac{\langle r_k, r_k\rangle}{\langle Ap_k,r_k \rangle}= \frac{\langle r_k, p_k\rangle}{\langle A p_k,p_k \rangle}$
Per la seconda basta prendere $\langle r_{k+1},r_{k}\rangle$ e ricordare che $r_{k+1}= b-Ax_{k+1}=b- A (x_k + \alpha_k p_k)=b-A_k - \alpha_k A p_k = r_k - \alpha_k A p_k$.
Perciò $\langle r_{k+1},r_{k}\rangle= \langle r_k - \alpha_k A p_k, r_k\rangle = \langle r_k, r_k\rangle - \alpha_k \langle A p_k,r_k \rangle =0$ per la scelta di $\alpha_k = \frac{\langle r_k, r_k\rangle}{\langle Ap_k,r_k \rangle}= \frac{\langle r_k, p_k\rangle}{\langle A p_k,p_k \rangle}$