date-created: 2024-05-14 02:18:57 date-modified: 2024-07-15 01:08:44

Maximum Likelihood Estimation

anchored to 116.00_anchor_machine_learning

Wir haben eine erste Betrachtung von MLE bereits Hier betrachtet und somit die Idee eingebracht, MLE eine stochastische Betrachtung schaffen kann.

Overview | Wiederholung

Zuerst benötigen wir hier nochmal wissen über Zufallsvariablen
und ferner auch die Bernoulli-Verteilungb (weil wir hier meist eher binär betrachten!)

Wir wissen hier also, dass $$P(x)=p^x\cdot (1-p{)}^{1-x}$$ ist und somit genau zwei Ergebnisse Eintreten können:

• $x=1$ –> $WSK:p$
• $x=0$ –> $WSK:1-p$

Maximum-Likelihood-Schätzung | Bernoulli

[!Definition]

Unter Betrachtung der Bernoulli-Verteilung möchten wir jetzt ferner die Maximum-Likelihood-Schätzung beschreiben.

Wir möchten also das $p$ finden (unbekannter Parameter!), dass die Daten am besten beschreibt.

Damit können wir dann also auch wieder einen Optimierer $\mathcal{L}(p\mid \mathcal{X})$ definieren.

Wie wird dieser Optimierer beschrieben? Was erhalten wir bei der Ableitung und Gleichstellung zu 0? #card

Die Daten-Likelihood definieren wir folgend: $$\begin{array}{rl}>\mathcal{L}(p\mid \mathcal{X})& =\log \left(\prod _{t=1}^N(p^{(x^t)}\cdot (1-p{)}^{1-x^t})\right)\\ >& =\sum _t{x}^t\cdot \log (p)+\left(N-\sum _t(x^t)\right)\cdot \log (1-p)>\end{array}$$

Leiten wir dass dann ab und setzen $=0$ erhalten wir folgend:

$$\frac{{\partial }^d\mathcal{L}}{\partial p}=0⟺\hat{p}=\frac{\sum _t(x^t)}{N}$$

Damit ist MLE hier von $p$ der Stichprobendurchschnitt!

Univariate Gaußche Verteilung

[!Feedback] Definition | Univariate Gaußche Verteilung

Wir können folgend die Wahrscheinlichkeit zum eintreffen eines Wert $x$, also $p(x)$ auch mit der gaußchen Verteilung Normalverteilung beschreiben.

Wir brauchen hierbei folgende Werte:

• $x\in \mathbb{R}$ eine stetige Zufallsvariable
• $\mu \in \mathbb{R}$ ist die Mittelwert / Erwartungswert
• ${\sigma }^2$ beschreibt die Varianz und weiter $\sigma$ die Standardabweichung, also $\sigma \in {\mathbb{R}}_{>0}$

Wie formulieren wir dann $p(x)$ und ferner wie beschreiben wir dann $P(a\le X\le b)$? #card

Wir beschreiben jetzt $p(x)$ folgend:

$$p(x)=\frac{1}{\sigma \sqrt{2\pi }}\cdot \exp \left(-\frac{1}{2{\sigma }^2}\cdot (x-\mu {)}^2\right)=:\mathcal{N}(x,\mu ,{\sigma }^2)$$ (Also einfache die Beschreibung der Gaußverteilung!)

–> Wir wollen uns dabei ferner noch die Wahrscheinlichkeitsdichten anschauen:

• ${\int }_{\mathbb{R}}p(x)\cdot dx=1\wedge p(x)>0$
• und ferner auch $P(a\le X\le b)=F(b)-F(a)={\int }_a^{b}p(x)dx$
  • Was allgemein nicht möglich ist, weswegen wir meist normalisieren und dann die Tabellen konsultieren!

Visuell also etwa:

Und somit etwa $95\%$-Konfidenzintervall:

• Sagt aus, dass $x$ mit etwa $95.4\%$ WSK innerhalb des Intervalls $[\mu -2\sigma ,\mu +2\sigma ]$ auftritt

Das Ganze kann man auch in höhere Dimensionen übertragen!

Multivariate Gaußsche Verteilungen

[!Definition] Multivariate Gaußsche Verteilung

Wenn wir jetzt etwa multi-dimensionale Daten betrachten, die verschiedene Werte in Dimensionen aufweisen, dann können wir das vorherige Konzept der Wahrscheinlichkeits-Abschätzung auch auf diese hohen Dimensionen anwenden.

Etwa, wenn wir jetzt folgenden Datensatz haben: $[{\eta }_2,{\eta }_3{]}^T$, wobei ${\eta }_2$: Preis Kartoffeln, ${\eta }_3$: Preis Karotten beschreiben. Sei ferner der Mittelwertsvektor $$\mu =[{\mu }_1,{\mu }_2{]}^T=[1.2,3.2{]}^T$$ gegeben

Dann kann man hiermit eine entsprechend Ko-varianzmatrix bilden.

Wie beschreiben wir die Normalverteilung auf höherer Dimension?, wie sieht die Covariance-Matrix aus? #card

Wir beschreiben hoch-dim jetzt: $$\mathcal{N}(x:\mu ,\Sigma )=\frac{1}{{\sqrt{2\pi }}^{\frac{2}{n}}\cdot \mid \Sigma {\mid }^{\frac{1}{2}}}\cdot \exp \left(-\frac{1}{2}\cdot (x-\mu {)}^T\cdot {\Sigma }^{-1}\cdot (x-\mu )\right),x,\mu \in {\mathbb{R}}^D$$ und $\Sigma$ ist positiv definit

Unter der Betrachtung können wir dann etwa folgende Kovarianzmatrix bestimmen:

$$\begin{array}{rl}>\Sigma & =\left[\begin{array}{cc}>cov({\eta }_2,{\eta }_2)& cov({\eta }_2,{\eta }_3)\\ >ov({\eta }_3,{\eta }_2)& cov({\eta }_3,{\eta }_3)>\end{array}\right]=\left[\begin{array}{cc}>1& 0.1\\ 0.1& 0.3>\end{array}\right]>\end{array}$$

Wir sehen hier auch, dass $cov({\eta }_2,{\eta }_3)=cov({\eta }_3,{\eta }_2)$ !

Visualisiert sieht die Gaußverteilung folgend aus:

Gains durch Gauß-Verteilung

[!Tip] Gains durch Gauß-Verteilung

Mit der Gaußverteilung werden uns einige Dinge ermöglicht / erlaubt:

Was können wir über bedingte Verteilungen sagen? Wie bestimmen wir Randverteilungen (betrachte die Grafik)? #card Uns wird jetzt also ermöglicht:

• bedingte Verteilungen zu berechnen: also etwa $P({\eta }_2,{\eta }_3^{\ast })$
• Randverteilungen können bestimmt werden mit $p({\eta }_2,{\eta }_3)$ also auch $p({\eta }_3)$

–> Das ganze kann weiterhin vollständig analytisch umgesetzt werden!

Sofern wir also $p({\mu }_2,{\mu }_3)$ bestimmen wollen, können wir diese beiden Kurven “betrachten” und werden bei jedem Schnitt in dieser Draufsicht dann immer eine Gaußverteilung finden können.

Das heißt man kann da für jeden Punkt in diesem Raum dann immer eine Gaußverteilung finden, die uns dabei hilft ein Maximum zu finden.

Parametrische Diskriminierung

Wir möchten jetzt die Idee von der Verteilungen, in obiger Betrachtung, anwenden, um die Klassifikation damit modellieren und darstellen zu können.

Dabei ziehen wir zuerst einen Vergleich mit dem bereits kennengelernten 116.03_bayes_decision_theory Bayes-Klassifikator und möchten dann die Diskriminative Klassifikatoren beschreiben / definieren.

[!Proposition] Naiver Bayes-Klassifikator | Evaluierung

Wir kennen den Klassifikator, beschrieben mit: $$P(C\mid x_1,\dots ,x_n)=P(C)\cdot \prod _{i=1}^n\cdot P(x_i\mid C)$$

• Wir wissen, dass wir damit die Prior-Wahrscheinlichkeiten, also $\hat{P}(C_i)$ schätzen
• wir schätzen auch die Klassenwahrscheinlichkeiten, also $\hat{p}(x\mid C_i)$

Dieser baut hier auf den Bayeschen Regeln au, um diese Dichten zu berechen / zu bestimmen!

Wir wollen das jetzt mit einer anderen Art von Klassifikator vergleichen und somit Schlüsse ziehen.

Generative vs. diskriminative Klassifikatoren

Wir wollen also zwischen zwei verschiedenen Klassifikatore unterscheiden und ihnen Vor- und Nachteile zuschreiben.

[!Definition] Generative Klassifikatoren

Wie sehen diese aus, Beispiel? Welche Vorteiel sehen wir hier? Was lässt sich über das Lernen dieser Klassifikatoren aussagen? #card

Klassifikatoren sind solche, die durch generative Prozesse eine WSK aufbauen. (etwa durch Abschätzungen)

Sie weißen folgende Form auf: $$p(C\mid x)=\frac{p(C)\cdot p(x\mid C)}{p(x)}$$

(also etwa bayes!)

Vorteile hierbe:

• einfach anzupassen (naive bayes benötigt etwa nur einfaches Zahlen der Durchschnitte)
• fehlende Eingaben können hiermit behandelt / behoben werden
• Man kann hier Klassen separate voneinander betrachten und anpassen
• ubeschriftete Trainingsdaten können gut genutzt werden!

Großer Nachteil: Das lernen von $p(x\mid C)$ ist schwierig! –> siehe Grafik dazu:

Die Testfehler werden aber schneller konvergieren und somit nicht so gut anpassbar / ausbaubar sein

[!Definition] Diskriminativer Klassifikator

Ferner möchten wir noch die andere Art von Klassifikatoren betrachten.

Was benötigt es für diese Art der Klassifikation? Welche Vorteile erzielen wir, welche Nachteile entstehen beim lernen? #card

Wir beschreiben sie mit der Form: $$p(C\mid x)$$ -> also gegeben einer Eingabe, suche die WSK, dass es $C$ als Klasse ist

(etwa mit logistischer Regression umsetzbar!)

Vorteile dabei:

• bedingte Verteilung $p(C\mid x)$ ist oft leichter zu lernen! (und somit womöglich besser als die generative Form?!)
• man kann die Eingaben $x$ schon pre-processen! (etwa verschiedene Basisfunktionen anwenden!)
• es gibt keine Unabhängigkeitsannahmen, die eingehalten werden müssen –> Die Daten können also abhängig sein

Lernen:

Mit dieser Struktur sind wir somit auch viel besser im lernen, weil es einfacher ist, die Parameter zu bestimmen, bzw $p(C\mid x)$ zu berechnen, statt $p(x\mid C)$

Wir werden hier viel bessere (kleiner) Testfehler aufweisen, also beim generativen Ansatz! ( Eben weil wir besser lernen können!)

Diskriminierung zweier Klassen. |

Betrachten wir zwei Klassen: Äpfel und Orangen. Wir wollen jetzt unter Verwendung der gegebenen Daten diese beiden Typen unterscheiden können. Also einfach eine klassische Klassifikation anhand diverser Parameter!

[!Definition]

Wir haben also folgende Parameter bekommen:

Eingaben: typischerweise sind das kontinuierliche Variablen, beschrieben mit $$\hat{x}=[x_1,\dots x_D^T\in {\mathbb{R}}^D]$$

eine binäre Klassifikation: also es gibt zwei Klassen $C=1,C=0$

Ferner möchten wir jetzt eine lineare Diskriminanzfunktion beschreiben:

wie ist sie augabeut, was baut sie auf -> wozu brauchen wir die Gewichte und den Schwellwert w0? #card

Die lineare Diskriminanzfunktion ist dann folgend (als lineare Funktion) definiert: $$g(x)=w^T\cdot x+w_0$$

wobei:

• $w_0$ der Schwellwert ist
• $w={\nabla }_{x}g(x):=\frac{{\partial }^{}g(x)}{\partial x}=$

beschreibt.

Damit erhalten wir eine binäre Entscheidungsregel: $$h(x\mid w)=\{\begin{array}{ll}>C=1& \text{ wenn }g(x)>0\\ >C=0& \text{ sonst}>\end{array}$$

und grafisch könnte das etwa folgend sein:

Gradientenabstieg

Heavyside-Function

[!Tip] Heaviside-Function

Definiert ist sie mit: $$\Theta (x)=\{\begin{array}{ll}>1& \text{ wenn }x>0\\ >0& \text{ sonst}>\end{array}$$

Foreshadow | Wie bestimmen wir die Parameter $w$ ?

Wie soeben erkannt, brauchen wir in der Funktion unserer Regression eine Möglichkeit die Gewichte $w$ möglichst optimal zu wählen, sodass wir dann die richtigen Klassifikationen umsetzen können.

[!Definition]

Betrachten wir jetzt den Loss für eine Klassifikation und möchten ferner dann eine Lösung bestimmen, wie man das sinnvoll lösen kann.

$$\begin{array}{rl}>E(\mathcal{D},w)& =\sum _{t=1}^N(1(h(x^t)\ne r^t))\\ >& =\sum _{t=1}^N(\Theta (g(x^t))\cdot (1-r^t)+\Theta (-g(x^t))(r^t))>\end{array}$$

Hierbei ist $\Theta$ Heavyside-Function

und wir sehen schon, dass ein Minima finden schwer wird!

was wäre jetzt ein Ansatz das zu lösen?! #card

Wir können iterativ eine Lösung zum Minimum finden.

Dafür stellen wir also folgendes auf:

• definiere die Ableitung nach $w$
• Stelle die Ableitung $=0$ um ein Minima zu finden!

Definition

[!Req] Definitiion | Gradientenabstieg

Wir wollen ferner also den Gradientenabstieg als mögliche Lösung für die Bestimmung der Loss-Funktion und somit einer Optimierung betrachten.

Unter Betrachtung der Grafik, was sagt der Gradient aus? was werden wir mit der Information machen? #card

Der Gradient zeigt erstmal immer in Richtung des steilsten Anstiegs, also die Ableitung $$\frac{{\partial }^{}\mathcal{L}(w)}{\partial w}$$

Da wir aber genau ein Minimum wollen, werden wir dann also einfach das Inverse (entgegen der Richtung) entlang “laufen”, um diesen Punkt zu erreichen.

es folgt also: $$w^{\prime }=w-\eta \frac{{\partial }^{}\mathcal{L}(w)}{\partial w}$$

Wobei hier $\eta$ die Lernraet Pro Iteration beschreibt!

Algorithmus für Gradient Descent

[!Example] Beschreibung Algorithmus

wir erhalten folgende Eingaben:

• $D=\{x^t,r^t{\}}_{t=1}^N$ als Eingabe-Daten
• $\eta <1$ ist die Lernrate –> die Quantiät, wie viele Schritte wir pro Iteration in Richtung Gradient-Richtung gehen ( bzw. die entgegengesetzte)
• Präzision $\epsilon \ll 1$

Wie laufen wir jetzt einen möglichen Algorithmus durch. Er baut sich hier aus drei groben Stufen auf #card

Wir können jetzt einen Algorithmus mit folgendem Ablauf beschreiben:

1. Initialisiere die Grundgewichte $w\sim \mathcal{N}(0,0.1)$
2. Berechne den Loss einmalig, also $l_{new}=Loss(\mathcal{D},w)$
3. Wiederhole jetzt folgenden Schritt (bis wir unsere Präzision erreicht haben!)
4. $l=l_{new}$
5. $\Delta w=LossGradient(\mathcal{D},w)$
6. $w=w-\eta \Delta w$ (Update also die Gewichte, wobei hier die Lernrate angibt, wie schnell wir das tun!)
7. $l_{new}=Loss(\mathcal{D},w)$
8. $ifl-l_{new}<\epsilon$ –> dann haben wir unsere Präzision erreicht und brechen ab!

Somit haben wir also durch mehrfaches Wiederholen nach und nach die besten Werte für $w$ bestimmt / bestimmen wollen!

Discussion | Gradient Descent

[!Bsp]

Unter Betrachtung der Darstellung der Idee von Gradient-Descent, möchten wir jetzt einige Eigenschaften / Aspekte festlegen.

_was können wir über die Lernrate aussagen? Was passiert bei Minimas, die wir suchen?!Was passiert bei nicht-diffbaren Loss-Funktionen?

Lernrate:

• Da sie uns Schritt für Schritt angibt, wie nah wir dem Minima treten, muss sie hinreichend klein sein, damit wir da auch ankommen und nicht Divergenz erreichen!
• Es können hierbei viele - je nach Lernrate - Schritte bis zu einer Konvergenz vergehen!
• Sie kann nur ein lokales Minimum finden –> daher schauen wir uns später etwa Momentum an!
• Loss-Funktion muss ebenfalls diffbar sein!

Logistische Regression

Wir möchten uns nun eine bessere Struktur für die Regression anschauen, was uns hilft die lineare Regression etwas anders zu betrachten bzw zu verbessern.

[!Intuition] Logistische Regression | Intuition

Wir möchten die Logistische Regression in 3 Schritten definieren und durchführen:

welche drei Schritte wären das? #card

1. Definieren eines geeigneten Modells
2. Klassifizierung von Daten als Regressionsaufgabe formulieren ( Etwa indem wir schauen, wo / wie die Punkte auf einer Map verteilt sind und dann mit Funktionen bestimmte Bereiche einsperren!)
3. Geeignete Loss-Funktion für den Gradientenabstieg definieren / beschreiben

Beim beschreiben des Modells möchten wir darauf achten, wie viele bzw wie wir bestimmte Klassifikationen o.ä. umsetzen möchten und daran dann Entscheidungsgrenzen formulieren.

1. Definieren des geeigneten Modell

[!Example] Definieren einer logistischen Regression

Wir möchten jetzt das geeignete Modell bestimmen / definieren.

Im Beispiel betrachten wir etwa eine binäre Klassifikation, also $C=1\vee 0$

Dafür werden wir folgende Schritte durchlaufen:

Welche Verteilung können wir für die Klassifikation beschreiben? Was gilt als Entscheidungsgrenze? Wie verfahren wir mit dem Posterior? Was meinen wir mit ogits? #card

Da wir hier eine binäre Klassifikation anschauen, entspricht die WSK-Verteilung einer Bernouill-Verteilung, also $P(1)=1-P(0)=p$

Wir nehmen die Bayes’sche Entscheidungstheorie als Entscheidungsgrenze an!

Ferner können wir somit dem Posterior berechnen, also $y\equiv P(C_1\mid x)$ und entscheiden dann für die wahrscheinlichste Klasse - sofern die Kosten denn gleich sind?!

Das kann man etwa folgend modellieren: $$\begin{aligned} \text{ wähle } $C_{1}$ \text{ wenn } y > 0.5 & \text{sonst } C_{2} \text{ wähle } C_{1} \text{ wenn} \frac{y}{1-y} >1 & \text{ sonst } C_{2} \text{ wähle } C_{1} \text{ wenn } \log \frac{y}{1-y} >0 & \text{ sonst } C_{2} \end{aligned}$$

Und all diese Aussagen sind hier äquivalent!

Man nennt jetzt das Verhältnis von Positiven und Negativen : Odds –> $\log \frac{y}{1-y}$ beschreibt dann die Log-odds oder auch logits - Log-Einheiten genannt

2. Klassifizierung als Regressionsaufgabe formulieren

Nachdem wir jetzt also ein Modell - was sich auf einer bestimmten Verteilung aufbaut - formuliert haben, müssen wir nun den Parameter, den wir mit der Regression anschließend lösen möchten, entsprechend umgestalten, sodass er dann mit einer Funktion bestimmt und später minimiert werden kann!

[!Example] Klassifizierung als Regressionsaufgabe formulieren

Wir möchten jetzt das Beispiel unsere binären Klassifikation - einer Bernoulli-Verteilung - so umformulieren, dass es als Regressionsaufgabe dargestellt und anschließend minimiert werden kann!

Wir möchten jetzt folgend parametisieren: $$y=g(x)=P(C\mid x)$$

Wir betrachten also: $$logit(P(C_1\mid x))=\log \frac{P(C_1\mid x)}{1-P(C_1\mid x)}$$

Wie können wir es jetzt ferner umstrukturieren und daraus eine Funktion beschreiben?! #card

$$\begin{array}{rlr}>logit(P(C_1\mid x))& =\log \frac{P(C_1\mid x)}{1-P(C_1\mid x)}=w^T\cdot x+w_0& \\ >& =\frac{y}{1-y}& =\exp (\underset{w^{T}x+w_0}{\underbrace{z}})\\ >\frac{1-y}{y}& =\frac{1}{y}-1=\exp (-z)& \\ >y& =\frac{1}{1+\exp (-z)}=sigmoid(z)& \\ >P(C\mid x)& =sigmoid(w^{T}x+w_0)>& \end{array}$$

Und somit konnten wir es dann adäquat umformen!

(remember Sigmoid sieht folgend aus):

Definieren einer geeigneten Loss-Funktion für Gradientenabstieg

Nachdem wir jetzt das Modell definiert und die WSK, die wir berechnen wollen, als Regressionsaufgabe formuliert haben, möchten wir jetzt noch die Loss-Funktion definieren, damit wir anschließend entsprechend den Gradientenabstieg durchführen können.

[!Example] definieren einer geeigneten Loss-Funktion

Im Kontext der Bernoulli-Verteilung als binäre Klassifikation haben wir die Klassifikation als Regressions-Funktion folgend aufgeschrieben: $$P(C\mid x)=sigmoid(w^T\cdot x+w_0)$$

Wie können wir jetzt eine Loss-Funktion bestimmen?Was benötigen wir dafür an daten? Welche Annahme setzen wir hier auch? #card

Wir formulieren zuerst ein Datensatz, mit welchem wir arbeiten würden/werden.

Stichprobenset: $\mathcal{D}=\{x^t,r^t\}$ wobei

• $r^t=1$ wenn $x\in C_1$
• $r^t=0$ sonst

Wir haben dann folgende Annahme: $r^t$ ist nach der Bernoulli-Verteilung verteilt, wobei die $y^t$ (also der erwartete Wert für die $t$-te Eingabe) die Wahrscheinlichkeit beschreibt!

damit folgern wir also: $$r^t\sim Ber(y^t),y^t\equiv P(C_1\mid x^t)=sigmoid(w\cdot x^T+w_0)$$ (Wir haben hier die Eingabe $x$ transponiert!)

Wir möchten dann jetzt $w_0$ und $w$ bestimmen -> Weil sie uns die Parameter liefern

Wir beschreiben das durch die folgende Loss-Funktion: $$\mathcal{L}(y^t\mid \mathcal{D})=\mathcal{L}(w,w_0\mid \mathcal{D})=\prod _t(y^t{)}^{r^t}\cdot (1-y^t{)}^{1-r^t}$$

Wir sehen hier schon, dass das Produkt zu bilden, schwierig sein wird.

Wir werden dafür dann die Log-WSK verwenden!

Log-Warscheinlichkeiten für Bernoulli = CROSS-ENTROPY-LOSS

[!Feedback] Log-WSK for bernoulli –> CROSS-ENTROPY-LOSS

Das Produkt von Wahrscheinlichkeiten beschreiben ist meist aufwendig / schwer, weswegen wir das mit einer Log Konversion ganz gut umwandeln können, wodurch die Berechnung einfacher wird.

Wir haben jetzt also für ein Beispiel etwa die Bernoulli-Verteilte WSK und dafür noch die Loss-Funktion beschrieben mit: $$\mathcal{L}(y^t\mid \mathcal{D})=\prod _t(y^t{)}^{r^t}(1-y^t{)}^{1-r^t}$$

wie verändert sie sich unter Anwendung der Log-WSK, warum? Wie beschreiben wir jetzt den Cross-Entropy-Loss? #card

Die Logwahrscheinlichkeit wird den Term folgend anpassen: $$l\mathcal{L}(w,w_0\mid \mathcal{D})-\sum _t^{r^t}(\log (y^t)+(1-r^t)\cdot \log (1-y^t))$$

–> Wir haben damit also den Produktterm verringert.

(Das ist umsetzbar, weil wir hiermit keine Informationen über die Proportionalität der Daten verlieren, also ihre Abhängigkeit weiterhin gleich / erhalten bleibt!)

Wir wollen dann die negative Log-WSK berechnen –> weil wir ja Minimieren möchten!

Ferner folgt damit jetzt der Cross-Entropy-Loss:

$$\begin{array}{rl}>E(w,w_0\mid \mathcal{D})& =-\sum _t(r^t\cdot \log (y^t)+(1-r^t)\cdot \log (1-y^t))\\ y^t& =sigmoid(w^T{x}^t+w_0)=1/(1+\exp (-(w^T{x}^t+w_0))>\end{array}$$

Und damit haben wir jetzt einen Gradientenabstieg ermöglicht!

Gradientenabstieg durchfuhren | Minimieren der Parameter

[!Definition] Gradientenabstieg | Minimierung

Nachdem wir jetzt die geeignete Loss-Funktion für die Bernoulli-Verteilung bestimmt haben ( was dem Cross-Entropy-Loss entspricht), möchten wir dann den Gradientenabstieg umsetzen.

Wir haben damit jetzt also folgende Cross-Entropy-Loss beschrieben: $$E(w,w_0\mid \mathcal{X})=-\sum _t(\log (y^t)+(1-r^t)\cdot \log (1-y^t))$$

Wir benötigen jetzt noch die Ableitung, also $\frac{{\partial }^{}E}{\partial w}=\frac{{\partial }^{}E}{\partial y}\cdot \frac{{\partial }^{}y}{\partial z}\cdot \frac{{\partial }^{}z}{\partial w}$

wie berechnen wir den Gradientenabstieg jetzt? Wie würden wir ihn dann immer aktualisieren? Mit welchem Parameter? #card

$$\begin{array}{rl}>\frac{{\partial }^{}z}{\partial w}& =x\\ >\frac{{\partial }^{}y}{\partial z}& =\frac{{\partial }^{}sigmoid(z)}{\partial z}=y(1-y)\\ >\frac{{\partial }^{}E}{\partial y}& =\sum _t\left(\frac{r^t}{y^t}-\frac{1-r^t}{1-y^t}\right)\\ >\frac{{\partial }^{}E}{\partial w}& =\sum _r\left(\frac{r^t}{y^t}-\frac{1-r^t}{1-y^t}\right)\cdot y^t(1-y^t)x_j^t>\end{array}$$

Und damit haben wir unseren Gradienten erhalten!

Wenn wir ihn jetzt folgend aktualisieren möchten –> Also uns immer mehr zur optimalen Lösung annähern möchten <– gehen wir wie folgt for: $$\Delta w_j=-\eta \cdot \frac{{\partial }^{}E}{\partial w}$$

und unser Initialwert ist: $$\Delta w_0=-\eta \cdot \frac{{\partial }^{}E}{\partial w_0}$$

Wobei $\frac{{\partial }^{}z}{\partial w_0}=1$ ist

Visuell wäre das etwa:

Zusammenfassung

[!Feedback] Lessons Learned

Wir haben jetzt also bestimmte Dinge erreicht / betrachtet:

was konnten wir für den Gradientenabstieg unter Betrachtung eines binären Klassifikations-Modelles lernen? #card

• Wir können ein Klassifikation durch direktes Lernen der Diskriminerungsfunktion umsetzen!
• Der 0-1-Loss erlaubt keine glatte Optimierung
• Wir konnten die bernoulli-Verteilung nutzen, um das Problem in eine Stochastische Frage umzuwandeln!
• Die Sigmoidfunktion hat uns geholfen xd
• Man konnte die Hyperparameter durch den Gradientenabstieg lernen!

Generalisierung

Diese Regression ist nur anwendbar, wenn wir Datenpunkte haben, die man klar durch eine lineare Funktion klassifizieren bzw. halt aufteilen kann!

Eine, die etwa einen Kreis in der Mitte hat und drumherum dann Punkte anderer Klassen sind, werden wir damit nicht wirklich erhalten!

Also etwa:

[!Definition] Generalisierung

Wie können wir das Problem von Daten, die wir hier nicht mit dem Modell klassifizieren können - etwa Kreis mit anderen Punkten drum - dennoch betrachten? Was sind die Schritte dafür? #card

1. Wir “heben” die Eingabewerte $x$ in einen Merkmalsraum mittels Vektor von Basisfunktionen –> also Translatieren in eine andere Darstellung (ohne die Abhängigkeiten etc zu verlieren!). Dafür wenden wir folgende Funktion an: $$\phi(x) = [ \phi_{1}(x), \dots, \pih_{M}(x) ]^{T}\in \mathbb{R}^M$$
2. Wir führen jetzt wieder die logistische Regression mit dem linearen Modell unter Verwendung von nichtlinearen Basisfunktionen durch: $$g(x\mid w,w_0)=w^T\varphi (x)+w_0$$

Also wir transfomieren beispielsweise $x=[x_1,x_2{]}^T$ mit $\varphi (x)=[x_1^2,x_2^2]$ –> wir haben eine Kreisgleichung erhalten, von $x_1^2+x_2^2=radius$

Visuell also:

Mit der richtigen Basis können die abgebildeten Daten im Merkmalsraum mittels linearer Funktionen klassifiziert werden.

(Natürlich wird das nach und nach schwieriger!)

Multiklassen-Klassifikation

Gerade haben wir das Ganze exemplarisch für Binäre-Klassifikation umgesetzt, also nur mit zwei Klassen $C_1,C_2$. Meist haben wir aber mehr Klassen, die wir für diverse Datenpunkte anwenden / zuordnen möchten!

[!Req] Ansätze für Multi-Class-Classification

Wenn wir jetzt $K>2$ Klassen haben, dann benötigen wir also auch $K$ Diskriminanzfunktionen $g_i(x)$ die uns jeweils in verschiedene Klassen einteilen können!

Angenommen wir können diese Klassen durch linear Funktionen trennen, wie würden wir dann vorgehen, um aufzuteilen? #card

Angenommen wir können durch lineare Funktionen trennen, sodass dann: $$g_k(x\mid w_k,w_{k_0})=w_k^T\cdot x+w_{i0}$$ (Wobei ${\nabla }_x{g}_k(x)=w_k$)

Dann könnten wir die Logistische Diskriminierung durchführen:

• Weise $x$ der Klasse $C_k$ zu, wenn $g_k(x)={\max }_j{g}_j(x)$
• also $k=arg{\max }_j{g}_j(x)$

Visuell etwa:

Problem des Ansatzes

[!Attention] Problem des Klassifikators

Wir haben jetzt also eine Funktion definiert, die viele lineare Funktionen konsultiert und anschließend folgend die Klasse zuweist mit: $$k=\arg \underset{j}{\max }{g}_j(x)$$

Welches Problem erhalten wir? Wie können wir dann alternativ parametrisieren? (baye’sche formel!)? #card

Der Operator $\max$ kann nicht differenziert werden und lässt uns somit kein Minima suchen/ finden!

Wir brauchen also wieder eine neue Parametrisierung - und wir beginnen wieder mit der Bayes’schen Formel: $$p(C_k\mid x)=\frac{p(x\mid C_k)p(C_k)}{\sum _j(p(x\mid C_k)\cdot p(C_j))}$$ $$=\frac{\exp (z_k)}{\sum _j(\exp (z_j))}$$

und somit erhalten wir dann die normalisierte Exponentiale.

Ferner beschreibt es die multiklassenverallgemeinerung der logistischen Sigmoidfunktion - wie obig binär beschrieben!

Ferner möchten wir dann $z_k$ definieren mit: $z_k=\ln p(x\mid C_k)\cdot p(C_k)$

und dann werden wir folgend parametrisieren: $$z_k=x\cdot w_k^T+w_{k0}$$ wobei $k$ die Klasse beschreibt!

Softmax-Funktion

Für die weitere Betrachtung benötigen wir das Konzept der Softmax Funktion!

[!Definition]

Wie ist die Softmax-Funktion beschrieben, was macht sie? #card

Wir beschreiben die Softmax-Funktion folgend: $$y_k=softmax(z)=\frac{\exp (z_k)}{\sum _j(\exp (z_j))}$$

Ihre Eigenschaften:

• sie repräsentiert eine geglättete Version der max-Funktion
• wenn $z_k\gg z_j,\forall j\ne k$ m dann ist $y_k\approx 1,y_j\approx 0$
• Sie kann unnormalisierte Werte in Wahrscheinlichkeiten umwandeln (was wir dann benötigen werden, wenn wir also multiple Klassen klassifizieren möchten)

Betrachten wir ein paar Beispiele: Betrachten wir dabei immer einen Logit-Wert (beschrieben mit $z_k$), dann die Transformation unter softmax und danach die WSK ($y_k=P(C_k\mid x)$)

$z_k=2\to softmax(z_k)=\frac{\exp (z_k)}{\sum _j(\exp (z_j))=0.7}$ $z_k=1=\frac{\exp (z_k)}{\sum _j(\exp (z_j))}=0,2$ $z_k=-0,1=\frac{\exp (z_k)}{\sum _j({\exp }_{z_j}}=0.1$

Regression Loss |

Wir haben bereits die Cross-Entropy für binäre Strukturen definiert.

[!Bsp] Definition Loss für multi-class-classification!

Wir haben zuvor bereits unsere Funktion beschrieben mit: $$y_k=softmax(z)=\frac{\exp (z_k)}{\sum _j(\exp (z_j))}$$

Die Cross-Entropy war gegeben mit: $$E(\{w_i,w_{i0}{\}}_i\mid \mathcal{D})=\frac{1}{N}\cdot \sum _j\left(-\sum _k(r_k^t\cdot \log (y_k^t))\right)$$

–> Also wir erweitern Log-Warscheinlichkeiten für Bernoulli = CROSS-ENTROPY-LOSS um die jeweiligen Klassen $k$ und bringen ihre Wichtung mit ein!

Wie leiten wir sie jetzt ab? Wie können wir später weiterhin die Update-Gleichung formulieren (für die Gewichte?)? #card

Die Ableitung der Softmax Funktion wird folgend beschrieben: $$\frac{{\partial }^{}{y}_k}{\partial z_j}=y_k({\delta }_{kj}-y_j)$$

wobei hier: $${\delta }_{kj}=\{\begin{array}{ll}>1& \text{ if}k=1\\ >0& \text{ sonst}>\end{array}$$

Das heißt je nach Klasse, die wir betrachten, ziehen wir dann immer den erwarteten Wert $y$ ab.

Die Update-Gleichung bilden wir dann folgend: $$\begin{array}{rlr}>\Delta w_j& =\eta \sum _t(r_j^t-y_j^t)\cdot x^t& \\ >\Delta w_{j0}& =\eta \sum _t(r_j^t-y_j^t)& \text{ Initialwerte}>\end{array}$$