Theorem von Bayes/Beispiel: Spam Mail filtering

Aus MM*Stat

Wechseln zu: Navigation, Suche

Beispiel: E-Mail filtering

https://de.wikipedia.org/wiki/Satz_von_Bayes Jeder der E-Mail benutzt kennt das Problem: man erhält Tag für Tag Spam-Mails, die meist von der E-Mail-Software in den Junk Ordner verschoben wird. Eine Methode um Spam-Mails zu erkennen ist der Bayes-Filter.

Deutscher Strassenpenner wurde zum Superreichen mit einem Vermögen von 82.000.000 Euro (Mio. Euro) ...und das in nur einem Jahr!

Diese Geschichte ist erst paar Tage alt. Doch schon sehr viele TV-Sender berichteten darüber...

...

Für Anfänger hat er jetzt eine Webseite erstellt, die jedem ganz leicht zeigt wie er es gemacht hat und wie es geht!

1000 Mal möchte er dieses System kostenfrei weitergeben. Danach wird es 1499 Euro kosten. Es ist nur noch für 49 Interessenten kostenfrei erhältlich, danach wird die Seite offline genommen!

Bayes Filter

Der Bayes Filter berechnet die Wahrscheinlichkeit des Ereignisses SPAM = {E-Mail ist SPAM} anhand der Worte, die in der E-Mail verwendet werden.


\begin{align}
P(SPAM|Deutscher\text{ }Strassenpenner..)&=\frac{P(SPAM\cap \{Deutscher\text{ }Strassenpenner...\})}{P(Deutscher\text{ }Strassenpenner...)}\\
&= \frac{P(Deutscher\text{ }Strassenpenner...|SPAM)\cdot P(SPAM)}{P(Deutscher\text{ }Strassenpenner...)}
\end{align}

Wird die totale Wahrscheinlichkeit


\begin{align}
P(Deutscher\text{ }Strassenpenner...)&=P(SPAM\cap \{Deutscher\text{ }Strassenpenner...\})\\
&+P(\overline{SPAM}\cap \{Deutscher\text{ }Strassenpenner...\})\\
&=P(Deutscher\text{ }Strassenpenner...|SPAM)\cdot P(SPAM)\\
&+P(Deutscher\text{ }Strassenpenner...|\overline{SPAM})\cdot P(\overline{SPAM})
\end{align}

weiter aufgelöst, dann sieht man die Anwendung des Theorem von Bayes. Wäre jetzt

P(SPAM|Deutscher\text{ }Strassenpenner..) > c

dann würde eine E-Mail als SPAM Mail klassifiziert und in den Junk Ordner verschoben statt in die Inbox.

Problem: Totale Wahrscheinlichkeit

Um sich die Berechnung der totalen Wahrscheinlichkeit zu ersparen wird stattdessen


\frac{P(SPAM|Deutscher\text{ }Strassenpenner..)}{P(\overline{SPAM}|Deutscher\text{ }Strassenpenner..)}
= \frac{P(Deutscher\text{ }Strassenpenner...|SPAM)\cdot P(SPAM)}{P(Deutscher\text{ }Strassenpenner...|\overline{SPAM})\cdot P(\overline{SPAM})} > c

betrachtet, da sich die totale Wahrscheinlichkeit hier rauskürzt. Man schaut also darauf wie viel wahrscheinlicher ist es, dass eine E-Mail mit dem Text Deutscher Strassenpenner... eine SPAM E-Mail ist im Verhältnis dazu sie keine SPAM E-Mail ist. c liegt meist in einem Bereich von 5 - 10.