Manuelles Schätzen



Aufgabenstellung

Mithilfe der App soll die Funktionsweise des Maximum-Likelihood-Schätzers exemplarisch verdeutlicht werden. Hierzu werden Parameter eines Modells (z.Zt. Exponentialverteilung und Normalverteilung) zufällig aus einem vorher festgelegten Bereich generiert und mit Hilfe der Likelihood geschätzt. Zusätzlich wird die für jede Schätzung berechnete Log-Likelihood Schritt für Schritt dargestellt.

  1. Schätzen Sie den Verteilungsparameter aus den Realisierungen einer Exponentialverteilung.
    1. Hierfür wählen Sie im Drop-Down-Menü links die Exponentialverteilung bei Verteilung aus und belassen die Anzahl Realisierungen bei 20. Klicken Sie auf Generieren.
    2. Schauen Sie sich die generierten Realisierungen im Reiter Plot (oben) an und machen Sie sich mit den Abbildungen vertraut. Erklären Sie mit eigenen Worten was dort dargestellt ist. Klicken sie ggf. wiederholt auf den Generieren-Button um die Änderungen nachzuvollziehen. Nutzen Sie ebenfalls den Reiter Daten (oben) um die generierten Werte einzusehen.
    3. Versuchen Sie nun anhand der gezeigten Abbildungen den Verteilungsparameter der Exponentialverteilung zu schätzen. Geben Sie hierfür im unteren linken Panel ihren Schätzwert für den Parameter ein und klicken auf Likelihood berechnen.
    4. Machen Sie sich mit der Berechnung der Log-Likelihood im Reiter Daten vertraut und versuchen Sie die einzelnen Schritte der Berechnung nachzuvollziehen.
    5. Sie haben nun 9 weitere Versuche zur Verfügung um den optimalen Verteilungsparameter der generierten Realisierungen aus der Exponentialverteilung zu finden. Benutzen Sie hierfür alle vorhandenen Hilfsmittel um eine bestmögliche Schätzung abzugeben. Um einen neuen Schätzversuch zu unternehmen, benutzen Sie wie oben den Likelihood berechnen-Button.
    6. Nach 10 Schätzversuchen erscheint ein Fenster mit der Auswertung der unternommenen Schätzversuche. Wie nah sind Sie den wahren Verteilungsparametern gekommen? Vergleichen Sie mit anderen Studierenden.
  2. Schätzen Sie nun die Verteilungsparameter aus den Realisierungen einer Normalverteilung. Wählen Sie hierfür die Normalverteilung im Drop-Down-Menü Verteilung aus und folgen den Anweisungen aus 1. Sind die Parameter einer Normalverteilung mit 10 Versuchen einfacher zu schätzen als die einer Exponentialverteilung? Begründen sie ihre Antwort.
  3. Variieren Sie darüber hinaus die Anzahl der Realisierungen. Was fällt Ihnen auf? Gibt es Unterschiede bei der Parameterschätzung hinsichtlich der Effizienz (z.B. schneller/einfacher) der Schätzung?
  4. Begründen Sie warum der Absolutbetrag der (negativen) Log-Likelihood bei einer höheren Anzahl N an Realisierungen prinzipiell (bei gleichen wahren Verteilungsparametern) kleiner ist als bei geringeren Anzahlen N.
  5. Überlegen Sie sich Möglichkeiten wie die Parameterschätzung methodisch bzw. systematisch ausgeweitet werden könnte. Wie würden sie dies in R umsetzen (Schematische Herangehensweise)?


1) Verteilung wählen






2) Verteilungsparameter schätzen



Werte der zufällig generierten Realisierungen inkl. der Log-Likelihood

Likelihood:

$$ L(\theta) = \prod_{i=1}^{\text{N}} \ F(x_i;\theta) $$

Log-Likelihood:

$$ l(\theta) = \text{ln}\ L(\theta) = \sum_{i=1}^{\text{N}} \text{ln} \ F(x_i;\theta) $$ $$ \text{mit} \ F(x_i;\theta): \text{Wahrscheinlichkeitsdichte} \ F(x_i) \ \text{an den Realisierungen} \ x_i \ \text{unter den angenommenen Verteilungsparametern} \ \theta $$

Daten:

Werte der zufällig generierten Realisierungen


Daten:

Aufgabenstellung

Mithilfe der App soll die Funktionsweise des Maximum-Likelihood-Schätzers exemplarisch verdeutlicht werden. Hierzu werden Parameter eines Modells (z.Zt. Exponentialverteilung und Normalverteilung) zufällig aus einem vorher festgelegten Bereich generiert und mit Hilfe der Likelihood geschätzt. Zusätzlich wird die für jede Schätzung berechnete Log-Likelihood Schritt für Schritt dargestellt.

  1. Schätzen Sie den Verteilungsparameter aus den Realisierungen einer Exponentialverteilung.
    1. Hierfür wählen Sie im Drop-Down-Menü links die Exponentialverteilung bei Verteilung aus und belassen die Anzahl Realisierungen bei 20. Klicken Sie auf Generieren.
    2. Schauen Sie sich die generierten Realisierungen im Reiter Plot (oben) an und machen Sie sich mit den Abbildungen vertraut. Erklären Sie mit eigenen Worten was dort dargestellt ist. Klicken sie ggf. wiederholt auf den Generieren-Button um die Änderungen nachzuvollziehen. Nutzen Sie ebenfalls den Reiter Daten (oben) um die generierten Werte einzusehen.
    3. Versuchen Sie nun anhand der gezeigten Abbildungen den Verteilungsparameter der Exponentialverteilung zu schätzen. Geben Sie hierfür im unteren linken Panel ihren Schätzwert für den Parameter ein und klicken auf Likelihood berechnen.
    4. Machen Sie sich mit der Berechnung der Log-Likelihood im Reiter Daten vertraut und versuchen Sie die einzelnen Schritte der Berechnung nachzuvollziehen.
    5. Sie haben nun 9 weitere Versuche zur Verfügung um den optimalen Verteilungsparameter der generierten Realisierungen aus der Exponentialverteilung zu finden. Benutzen Sie hierfür alle vorhandenen Hilfsmittel um eine bestmögliche Schätzung abzugeben. Um einen neuen Schätzversuch zu unternehmen, benutzen Sie wie oben den Likelihood berechnen-Button.
    6. Nach 10 Schätzversuchen erscheint ein Fenster mit der Auswertung der unternommenen Schätzversuche. Wie nah sind Sie den wahren Verteilungsparametern gekommen? Vergleichen Sie mit anderen Studierenden.
  2. Schätzen Sie nun die Verteilungsparameter aus den Realisierungen einer Normalverteilung. Wählen Sie hierfür die Normalverteilung im Drop-Down-Menü Verteilung aus und folgen den Anweisungen aus 1. Sind die Parameter einer Normalverteilung mit 10 Versuchen einfacher zu schätzen als die einer Exponentialverteilung? Begründen sie ihre Antwort.
  3. Variieren Sie darüber hinaus die Anzahl der Realisierungen. Was fällt Ihnen auf? Gibt es Unterschiede bei der Parameterschätzung hinsichtlich der Effizienz (z.B. schneller/einfacher) der Schätzung?
  4. Begründen Sie warum der Absolutbetrag der (negativen) Log-Likelihood bei einer höheren Anzahl N an Realisierungen prinzipiell (bei gleichen wahren Verteilungsparametern) kleiner ist als bei geringeren Anzahlen N.
  5. Überlegen Sie sich Möglichkeiten wie die Parameterschätzung methodisch bzw. systematisch ausgeweitet werden könnte. Wie würden sie dies in R umsetzen (Schematische Herangehensweise)?

Anleitung und Hilfe

Hier werden aus verschieden auswählbaren Verteilungen zufällig Realisierungen generiert und die zugehörigen Verteilungsparameter mittels der Log-Likelihood geschätzt.

Eingabe - Linkes Panel

Im linken Panel wird die Art der zugrundeliegenden Verteilung aus der nachfolgend zufällig Werte (Realisierungen x) generiert werden, ausgewählt. Die Anzahl der Realisierungen die generiert werden soll, kann ebenfalls bestimmt werden.

Nachdem der Button Generieren betätigt wird, werden auf Basis der ausgewählten Optionen die einzelnen Realisierungen x zufällig generiert, wobei die Verteilungsparameter aus denen diese Realisieren entstammen, ebenfalls zufällig ausgewählt werden. Die Aufgabe besteht nun darin mithilfe der Log-Likelihood diese Verteilungsparameter manuell zu schätzen. Hierfür kann das untere linke Panel genutzt werden. Dazu zunächst die Verteilungsparameter angeben und mit dem Button Likelihood berechnen bestätigen. Insgesamt stehen 10 Versuche zur Verfügung, um die Verteilungsparameter der zufällig generierten Realisierungen zu schätzen.

Ausgabe - Rechtes Panel

Plot-Reiter

Dargestellt werden zunächst 3 Abbildungen (oberes Panel) nachdem der Generieren-Button betätigt wurde. In der 1. Abbildung (links) werden die zufällig generierten Realisierungen x dargestellt.

Die 2. Abbildung (Mitte) zeigt die Wahrscheinlichkeitsdichte der zufällig generierten Realisierungen x mittels Histogramm an.

In der 3. Abbildung (rechts) wird die Wahrscheinlichkeitsverteilung der zufällig generierten Realisierungen x dargestellt.

Im unteren Panel, welches nach Betätigung des Buttons Likelihood berechnen sichtbar wird, wird die Log-Likelihood auf Basis der geschätzten Verteilungsparameter und den Realisierungen für jeden einzelnen Schätzversuch in der linken Abbildung dargestellt. Zusätzlich wird das Maximum der Log-Likelihood (rot) von allen bisher durchgeführten Schätzungen angezeigt. Neben der Abbildung wird zudem die Log-Likelihood inkl. der verwendeten Verteilungsparameter in der Tabelle rechts aufgelistet.

Daten-Reiter

Nachdem der Button Generieren betätigt wird, werden die Werte aller zufällig generierten Realisierungen in einer Tabelle dargestellt

Sobald der erste Schätzversuch unternommen wurde, wird die Tabelle um die Einträge der Wahrscheinlichkeitsdichte sowie um die Terme der Log-Likelihood auf Basis der aktuellen Schätzung ergänzt.

Aufgaben-Panel

Zusätzlich zum Reiter Aufgabenstellung kann die Aufgabenstellung in einem separaten Fenster dargestellt werden. Dieses Fenster ist frei beweglich und kann mit der Maus (via Drag & Drop) zur gewünschten Position verschoben werden. Ein- bzw. ausgeblendet wird das zusätzliche Fenster im Reiter Aufgabenstellung.

Weitere Informationen



Copyright (C) 2019 Andy Richling