Pseudoinverse:

anchored to [[104.00_anchor_math]] builds up on [[104.09_Singulärwertzerlegung_SZW_SVD]]

Overview

Wir möchten eigentlich gerne rechteckige Matrizen auch invertieren können, was aber meist nicht so gut möglich ist bzw nicht funktionert.

Wir führen dafür jetzt das Pseudo-Inverse an, was sich dem Konzept annähern soll und somit eine Struktur für rechteckige Matrizen bieten soll, die selbige Eigenschaften innehaben ( sollten).

| Definition (4.5) | PseudoInverse

Sei hierfür $A=U\Sigma {\overline{V}}^T$ eine Singulärwertzerlegung [[104.09_Singulärwertzerlegung_SZW_SVD|SWZ]] von $A\in M_{m,n}(\mathbb{C})$

Wir nennen jetzt $A^{+}=V{\Sigma }^{+}\cdot {\overline{U}}^T$ die Pseudoinverse oder ( Moore-Penrose-Inverse) von $A$.

Dabei definieren wir folgend: ${\Sigma }^{+}\in M_{n,m}(\mathbb{R})$ aus $\Sigma \in M_{m,n}(\mathbb{R})$, wobei wir jetzt $\Sigma$ transponieren und die Elemente $\ne 0$ invertiert. ( Daher kommt auch, dass ${\Sigma }^{+}\in M_{n,m}$, während $\Sigma \in M_{m,n}$ –> die Dimension ist vertauscht, also transponiert!) Das heißt jetzt, dass wir die Einträgee entsprechend formulieren: $${\Sigma }^{+}=(s_{i,j}^{+}{)}_{i,j},\text{ mit}{s}_{ij}^{+}=\{\begin{array}{ll}\frac{1}{{\sigma }_i}& \text{ fu¨r }i=j,{\sigma }_i\ne 0\\ 0& \text{ sonst, weil Werte =0 nicht invertiert werden!}\end{array}$$ Also etwa: $$\Sigma =\left(\begin{array}{ccc}2& 0& 0\\ 0& 1& 0\end{array}\right)⟹{\Sigma }^{+}\left(\begin{array}{cc}\frac{1}{2}& 0\\ 0& 1\\ 0& 0\end{array}\right)$$ invertieren mit $\frac{1}{{\sigma }_i}$!

| Bemerkung (4.6) | Eigenschaften der Pseudoinverse

Es gelte jetzt folgende EIgenschaften für Pseudoinverse:

[!Definition] Eigenschaften des Pseudoinversen: 1. $(A^{+}{)}^T=(A^T{)}^{+}$

2. Ist $A\in M_n(\mathbb{C})$ invertierbar, dann folgt $A^{-1}=A^{+}$

| Definition (4.7) | Pseudonormallösung |

Intention: Wir möchten das PseudoInverse nutzen, um ein LGS entsprechend lösen zu können. Dafür möchten wir folgend nochmal betrachten, wie es mit quadratischen Matrizen war und funktionierte:

Sei jetzt $A\in M_{m,n}(\mathbb{C})$ mit $b\in {\mathbb{C}}^m$, und folgende Gleichung, die es zu lösen gilt: $$A\cdot x=b,⟶x=??$$

| Rewind | Mathe 2 |

Wir haben in [[math2_Matrizen_LGS#Bemerkung - Lösung mit Zeilenumformungen]] betrachtet, wie wir LGS mit quadratischen Matrizen und einer Inverse berechnen können.

Falls jetzt $A\in M_n(\mathbb{C})$ (also quadratisch), dann können wir folgern: Ist $A$ invertierbar $⟹\exists$ eindeutige Lösung $(x=A^{-1}\cdot b)$ -> sonst gibt es keine Lösung oder unendlich viele [[math2_Matrizen_LGS#Lösungsräume von LGS|siehe lösungsräume]]

| Pseudolösung mittels Pseudoinverse |

Wenn jetzt gilt: $m\ne n\vee m=n$

[!Definition] Definition Pseudonormallösung | Dann können wir die Pseudonormallösung folgend bestimmen: $x^{+}:=A^{+}\cdot b$

und es gilt:

1. Ist das LGS eindeutig lösbar (also $A,\wedge (A,b)$ haben $n$ unabhängige Spalten), dann ist die Lösung $x^{+}$. ( Wir müssen sie wieder entsprechend finden, unter der Anwendung des Lösens eines LGS) Es muss gelten $rang(A)=rang(A,b)$ –> Beispiel $$\left(\begin{array}{cccc}\dots & \dots & \dots & |x\\ \dots & \dots & \dots & |⋮\\ & & & \\ 0& 0& 0& |\ast \end{array}\right)$$ Dieser Fall tritt ein, wenn $Rang(A)=n$, aber $rang(A|b)=n+1$ –> dann kann es keine Lösung gibt! ( das ist der Unterschied, der zm dritten Fall besteht!)

2. Das LGS besitzt keine Lösung, dann gilt folgend: $$\parallel A\cdot x^{+}-b\parallel \le \parallel A\cdot x-b\parallel ,\forall x\in {\mathbb{C}}^n$$ (Das heißt wir berechnen jeweils die Norm aus dem Skalarprodukt) für die Lösung. Intuitiv nähern wir uns mehr oder weniger der tatsächlichen Lösung $\parallel A\cdot x-b\parallel$ an, ( auch wenn sie gar nicht existiert).

Wir möchten ferner noch betrachten, wie man dann anschließend eine mehrdeutige Lösung berechnen bzw. betrachten kann. Hierbei ist wichtig, dass hier wieder eine Menge aufgespannt wird. Das funktioniert dabei ähnlich zu dem, was wir in [[math2_Matrizen_LGS#Lösungsräume von LGS|Mathe 2]] gemacht haben.

[!Important] Vorgang zur Berechnung bei mehrdeutigen Lösungen 3. Ist das LGS mehrdeutig lösbar, ( also wir haben ein unterbestimmtes LGS), dann ist $x^{+}$ eine der Lösungen. Wir beschreiben dann hier die Lösung mit der kleinsten Norm!

Auch hier müssen wir dann den Lösungsraums erzeugen Die Menge aller Lösungen wird dabei folgend beschrieben: $$\begin{gathered} \{x^{+}+(E_n-A^{+}\cdot A)\cdot y|y\in {\mathbb{C}}^n\},⟹(E_n-A^{+}\cdot A)= \\ mathcalO\text{ falls gilt: }Rang(A=n) \end{gathered}$$ $⟹$ wir sehen hier, dass $x^{+}$ die einzige Lösung ist. (( also die minimalste Norm ))

| Definition (4.8) | Definitheit von Matrizen |

Der folgende Abschnitt gilt für $\mathbb{R}$ und auch $\mathbb{C}$.

Sei gegeben: eine quadratische, [[104.04_orthogonale_matrizen#Definition symmetrische Matrizen|symmetrische]] Matrix $A\in M_n(\mathbb{R})$ Wir möchten folgend für $x\in \mathbb{R}$ die quadratische Form beschreiben / betrachten. Sie wird folgend beschrieben: $$x^T\cdot A\cdot x=(=(x|A\cdot x))$$ (Es handelt sich um ein Polynom vom Grad 2, mit den Variablen $x_1,\dots ,x_n$).

[!Important] Definitheit unter Anwendung der quadratischen Form: Je nachdem, wie wir diese quadratische Form jetzt auflösen können, beschreiben wir dann die Matrix definit:

–> Das Ganze muss immer $\forall x\in {\mathbb{R}}^n,x\ne \mathcal{O}$ gelten!

1. positiv definit, wenn gilt: $x^T\cdot A\cdot x>0$

2. positiv semidefinit wenn gilt: $x^T\cdot A\cdot x\ge 0$

3. negativ definit wenn gilt: $x^T\cdot A\cdot x<0$

4. negativ semidefinit wenn gilt: $x^T\cdot A\cdot x\le 0$

[!Attention] Matrix $A$ erfüllt keine der Eigenschaften Sofern wir jetzt die Berechnung durchführen, und die Berechnung anschließend keine der obigen Eigenschaften aufweist, dann nennen wir die Matrix –> indefinit

Dieser Fall tritt ein, wenn $x^{T\cdot }A\cdot x$ je nach gewähltem x einen positiven / negativen Wert annehmen kann. –> Also in seienr Auswertung variiert.

Analog für $\mathbb{C}$ bilden wir das ganze folgend: $A\in M_n(\mathbb{C})$ hermitesch, mit $(x|A\cdot x)={\overline{x}}^T\cdot A\cdot x$ –> also wir nutzen wieder die Adjungte Variante des Vektors [[104.07_matrizen_in_C#Definition unitäre Matrix|siehe hier]]

Beispiel:

Betrachten wir dafür ein Beispiel, dann: $$\begin{array}{rl}& (x_1,x_2,x_3)\cdot \left(\begin{array}{ccc}2& -3& 0\\ -3& 8& 1\\ 0& 1& 5\end{array}\right)\cdot \left(\begin{array}{c}{x}_1\\ x_2\\ x_3\end{array}\right)\\ =& 2\cdot x_1^2+8\cdot x_2^2+5\cdot x_3^2\\ -3\cdot x_1\cdot x_2-3\cdot x_2\cdot x_1+1\cdot x_2\cdot x_3+1\cdot x_3\cdot x_2& \end{array}$$

| Bemerkung (4.9) | Kriterien für Definitheit |

Betrachten wir wieder eine Matrix $A\in M_n)\mathbb{R}\text{ symm}\vee M_n(\mathbb{C})\text{ hermitesch}$

[!Definition] Kriterien der Definitheit in Abhängigkeit der Eigenwerte Wir betrachten folgend in Abhängig der Eigenwerte die Begriffe der Definitheit nochmal. 1. positiv Definitheit $EW>0$

2. negativ Definitheit $EW<0$

3. positiv Semi-Definitheit $EW\ge 0$

4. negativ Semi-Definitheit $EW\le 0$

Der Beweis wird folgend in [[104.85_assignment04]] betrachtet.

• #TODO #refactor nachtragen ab [Date:2023-11-30]