Grundlagen der Statistik

Einführung in die deskriptive und inferentielle Statistik

Prof. Dr. Jörg große Schlarmann

19.06.2025

Creative Commons BY-NC-SA 4.0

Lizenz

Dies ist ein grundlegender Leitfaden der Statistik, der die deskriptive Statistik, Regression, Wahrscheinlichkeit und die Grundlagen der Inferenz abdeckt (Konfidenzintervalle und parametrische Hypothesentests). Grundlage bildet dabei das Werk von Sánchez Alberca et al. (2023)1, dessen Kapitel in der vorliegenden Version umfangreich ergänzt wurden.

Der Quelltext des Buches steht unter https://github.com/produnis/statistics-manual zur Verfügung.

Dieses Werk ist unter der CC BY-NC-SA 4.02 lizensiert.

Sie dürfen:

Teilen — das Material in jedwedem Format oder Medium vervielfältigen und weiterverbreiten.

Bearbeiten — das Material remixen, verändern und darauf aufbauen.

Unter folgenden Bedingungen:

  Namensnennung — Sie müssen angemessene Urheber- und Rechteangaben machen , einen Link zur Lizenz beifügen und angeben, ob Änderungen vorgenommen wurden. Diese Angaben dürfen in jeder angemessenen Art und Weise gemacht werden, allerdings nicht so, dass der Eindruck entsteht, der Lizenzgeber unterstütze gerade Sie oder Ihre Nutzung besonders.

  Nicht kommerziell — Sie dürfen das Material nicht für kommerzielle Zwecke nutzen.

  Weitergabe unter gleichen Bedingungen — Wenn Sie das Material remixen, verändern oder anderweitig direkt darauf aufbauen, dürfen Sie Ihre Beiträge nur unter derselben Lizenz wie das Original verbreiten.

Keine weiteren Einschränkungen — Sie dürfen keine zusätzlichen Klauseln oder technische Verfahren einsetzen, die anderen rechtlich irgendetwas untersagen, was die Lizenz erlaubt.

Zitationsvorschlag

große Schlarmann, J (2025): “Grundlagen der Statistik. Einführung in die deskriptive und inferentielle Statistik”, Hochschule Niederrhein, https://www.produnis.de/manual/

@book{grSchl_exeRcise,
    author = {{große Schlarmann}, Jörg},
    title = {Grundlagen der Statistik. Einführung in die deskriptive und inferentielle Statistik},
    year = {2025},
    publisher = {Hochschule Niederrhein},
    address = {Krefeld},
    copyright = {CC BY-NC-SA 4.0},
    url = {https://www.produnis.de/manual},
    language = {de},
}

1. siehe https://github.com/asalber/statistics-manual

2. siehe https://creativecommons.org/licenses/by-nc-sa/4.0/

1 Einführung

1.1 Was ist Statistik?

Definition “Statistik”

Die Statistik ist ein mathematisches Gebiet, das sich mit der Sammlung, Zusammenfassung, Analyse und Interpretation von Daten befasst. Ihr Zweck besteht darin, Informationen aus Daten zu extrahieren, um Entscheidungen zu treffen.

Die Statistik spielt eine wichtige Rolle in jeder wissenschaftlichen oder technischen Disziplin, die mit Datenarbeit zu tun hat, besonders bei großen Datenvolumen, wie z.B. Physik, Chemie, Medizin, Psychologie, Wirtschaft oder Sozialwissenschaften.

Statistik…

verschafft Überblick.

bringt Ordnung ins Chaos.

gibt Sicherheit.

quantifiziert mögliche Fehler.

ermöglicht Entscheidungen.

1.1.1 Warum ist Statistik notwendig?

Eine sich ändernde Welt: Wissenschaftler versuchen die Welt zu studieren. Die Welt ist hoch variabil, was es erschwert, das Verhalten von Dingen vorherzusagen.

Variabilität: Diese Variabilität ist der Grund, warum Statistik existiert. Sie dient als Brücke zwischen der realen Welt und den mathematischen Modellen, die diese Welt erklären möchten. Die Statistik bietet eine Methode zur Beurteilung der Unterschiede zwischen Realität und theoretischen Modellen.

Evidenzbasierung: wissenschaftliche Beweise (Evidenz) sind mathematische Beweise. Wenn beispielsweise die Überlegenheit von Anwendung A gegenüber Anwendung B gezeigt werden soll, muss dies mathematisch erfolgen. Statistik ist ein Dialekt der Mathematik, der hierfür verwendet werden kann.

1.2 Population und Stichprobe

Definition “Population”

Eine Population ist eine Gruppe von Elementen (z.B. Menschen), die durch eine oder mehrere Eigenschaften definiert sind. Diese Eigenschaften treffen auf jedes Element zu und sind nur bei ihnen vorhanden.

Definition “Grundgesamtheit”

Die Anzahl der Individuen in einer Population wird als Grundgesamtheit bezeichnet und durch NN dargestellt.

Manchmal sind nicht alle Individuen für die Studie erreichbar. Dann unterscheiden wir zwischen:

Theoretischer Grundgesamtheit: Die Individuen, auf die wir die Studienergebnisse übertragen möchten.

Beforschbare Grundgesamtheit: Die Individuen, die wirklich in der Studie erreichbar sind.

1.2.1 Vollerhebung

Wissenschaftlerinnen studieren ein Phänomen in einer Bevölkerungsgruppe, um es zu verstehen, um Wissen über es zu erlangen und es dadurch möglichst zu kontrollieren.

Allerdings ist ein vollständiges Verständnis der Grundgesamtheit nur dann möglich, wenn alle ihre Individuen studiert werden (so genannte “Vollerhebung”). Doch dies ist aus mehreren Gründen nicht immer möglich:

Die Population ist zu groß, um sämtliche Individuen untersuchen zu können.

Die Interventionen, denen die Individuen unterzogen werden, sind gefährlich oder schädlich.

Die Kosten – sowohl in Bezug auf Geld als auch Zeit –, die notwendig wären, um alle Individuen in der Bevölkerung zu studieren, sind unverhältnismäßig hoch.

1.2.2 Stichproben

Wenn es nicht möglich oder zu aufwendig ist, alle Individuen einer Population zu studieren, untersuchen wir nur eine Teilmenge von ihnen.

Definition “Stichprobe”

Eine Stichprobe ist eine Teilmenge der Population.

Definition “Stichprobenumfang”

Die Anzahl der Individuen in einer Stichprobe wird als Stichprobenumfang bezeichnet und mit nn dargestellt.

Definition “Proband”

Probanden sind Menschen, die sich freiwillig dazu bereit erklärt haben, an einer Studie teilzunehmen.

Im Allgemeinen werden Studien anhand von Stichproben, die aus der Grundgesamtheit entnommen wurden, durchgeführt.

Zwar bieten die Ergebnisse einer Stichprobenanalyse nur Annäherungen über die Gegebenheiten in der Grundgesamtheit, doch in den meisten Fällen ist dies ausreichend.

1.2.3 Bestimmung des Stichprobenumfangs

Eine der interessantesten Fragen, die sich stellen, lautet:

Wie viele Probanden werden benötigt, um eine Stichprobe zu ziehen, die annehmbare Aussagen über die Grundgesamtheit zulässt?

Die Antwort hängt von mehreren Faktoren ab, wie z.B. der Variabilität innerhalb der Population oder der gewünschten Zuverlässigkeit für Schlussfolgerungen über die Grundgesamtheit. Im Allgemeinen gilt jedoch:

Je größer die Stichprobe ist, desto zuverlässiger werden die Schlussfolgerungen über die Grundgesamtheit sein, jedoch wird die Studie dadurch länger und teurer werden.

Beispiel

Um zu verstehen, was “ausreichende” Stichprobe bedeutet, können wir ein Beispiel mit einem Bild verwenden. Eine digitale Fotografie besteht aus vielen kleinen Punkten (Pixel), die in einer großen Matrix aus Zeilen und Spalten angeordnet sind. Je mehr Zeilen und Spalten vorhanden sind, desto höher die Auflösung des Bildes. In dieser Analogie entspricht das Bild der Grundgesamtheit und jeder Pixel stellt ein Individuum dar. Im Bild hat jeder Pixel eine Farbe, und es ist die Variabilität dieser Farben, die das Motiv des Bildes bildet.

Wie viele Pixel müssen wir in einer Stichprobe aufnehmen, um das Bild erkennen zu können?

Die Antwort hängt von der Variabilität der Farben im Bild ab. Wenn alle Pixelex im Bild dieselbe Farb haben, reicht nur ein Pixel aus, um das Motiv zu kennen. Wenn es eine hohe Variabilität in den Farben gibt, wird ein größerer Stichprobenumfang benötigt.

Die unten stehende Abbildung enthält eine kleine Stichprobe von Pixeln eines Fotos. Können Sie das Motiv des Bildes erkennen?

Mit einem kleinen Stichprobenumfang ist es schwierig, das Bildmotiv zu ermitteln!

Wahrscheinlich ist es Ihnen schwer gefallen das Motiv zu erkennen, weil die Anzahl der ausgewählten Pixel in der Stichprobe zu gering ist, um die Farbenvielfalt im Bild zu verstehen.

Die nächste Abbildung unten enthält eine größere Stichprobe. Könnten Sie das Motiv des Bildes jetzt erkennen?

Mit einer großen Stichprobe ist es leichter, das Motiv des Bildes zu erkennen!

Der Vollständigkeit halber enthält nachfolgende Abbildung alle Pixeln der Grundgesamtheit.

Originalauflösung

Es ist häufig nicht erforderlich, alle Pixel eines Fotos zu verwenden, um das Motiv zu erkennen!

1.2.4 Typen des logischen Denkens

Deduktive Eigenschaften: Wir schließen vom Allgemeinen auf das Spezifische. Wenn etwas in der Population vorhanden ist, dann ist es auch in der Stichprobe vorhanden. Diese Art des Schlussfolgerns bringt keine wirklich neuen Kenntnisse, sondern verifiziert lediglich die Vorannahmen.

Induktive Eigenschaften: Wir schließen vom Spezifischen auf das Allgemeine. Wenn etwas in der Stichprobe vorhanden ist, muss es zwar nicht zwangsläufig in der Grundgesamtheit vorhanden sein (also vorsichtig mit Extrapolationen). Allerdings ist dies der einzige Weg, um neue Kenntnisse zu generieren.

Die Statistik basiert grundlegend auf der induktiven Schlußweise, weil sie die Informationen, die von Stichproben gewonnen wurden, verwendet, um Rückschlüsse über die Grundgesamtheit zu ziehen.

1.3 Sampling

Definition “Sampling”

Sampling beschreibt den Prozess, wie Elemente der Grundgesamtheit (Probanden) in die Stichprobe aufgenommen werden.

Um zuverlässige Informationen über die Grundgesamtheit zu erhalten, muss die Stichprobe repräsentativ sein (siehe hierzu von der Lippe (2002) (2011)). Das bedeutet, dass die Stichprobe die Variabilität der Grundgesamtheit auf kleinerem Maßstab nachbildet. Das Ziel des Sampling ist es, eine solche Stichprobe zu erhalten (was streng genommen nur bei Zufallsstichproben möglich ist, siehe von der Lippe (2002), (2010))!

1.3.1 Stichprobentypen

Es existieren viele Samplingmethoden, doch diese erzeugen immer eine der beiden nachfolgend genannten Stichprobentypen:

Zufallsstichprobe: Die Individuen der Stichprobe werden zufällig ausgewählt. Jedes Mitglied der Grundgesamtheit hat dabei die selbe Chance, ausgewählt zu werden.

keine Zufallsstichprobe: Die Individuen der Stichprobe werden nicht wirklich zufällig ausgewählt. Einige Mitglieder der Grundgesamtheit haben eine höhere Chance ausgewählt zu werden als andere.

Beispiel “Gelegenheitsstichprobe”

Sie wollen das Durchschnittseinkommen Ihrer Stadt ermitteln. Hierzu begeben Sie sich zum Hauptbahnhof, und befragen dort zufällig 100 Personen. In diesem Fall handelt es sich nicht um eine Zufallsstichprobe, da nicht alle Einwohner Ihrer Stadt (Grundgesamtheit) die selbe Chance hatten, von Ihnen befragt zu werden. Jedes Individuum, das nicht zu Ihrem Befragungszeitraum am Hauptbahnhof war, hatte eine Samplingchance von 0%.

Man spricht in diesem Fall auch von einer Gelegenheitsstichprobe, weil Sie “nur” diejenigen befragt haben, die “gerade da waren”.

Die meisten klinischen Studien sind Gelegenheitsstichproben. Man nimmt die Patienten, die gerade auf Station liegen.

Nur Zufallsstichproben können einer gewissen Repräsentativität nahe kommen.

Nicht-zufällige Stichproben eignen sich nicht zur Generalisierung, da sie wahrscheinlich von den Gegebenheiten in der Grundgesamtheit abweichen. Dennoch gibt es gerade in der klinischen Forschung häufig keine andere Möglichkeit zur Probandenrekrutierung.

1.3.2 Einfache Zufällige Stichprobenentnahme

Die beliebteste zufällige Samplingmethode ist die einfache zufällige Stichprobenentnahme, die folgende Eigenschaften aufweist:

Chancengleichheit: Jedes Individuum in der Grundgesamtheit hat die selbe Chance zur Auswahl.

Ziehen mit Zurücklegen: Die ausgewählten Individuen werden zurück in die Grundgesamtheit gegeben, bevor das nächste Individuum ausgewählt wird. Auf diese Weise bleibt die Population während der gesamten Entnahme unverändert.

Unabhängigkeit: Die Auswahl eines Individuals ist unabhängig von der Auswahl anderer Individuen.

Die einzige Möglichkeit, eine Zufallsstichprobe zu ziehen, besteht darin, jedem Mitglied der Population eine eindeutige Identifikationsnummer zuzuordnen (was einem Zensus entspricht) und danach eine zufällige Auswahl vorzunehmen.

1.4 Statistische Variablen

In jeder statistischen Untersuchung interessieren wir uns für bestimmte Eigenschaften oder Merkmale von Individuen.

Definition “Statistische Variable”

Eine statistische Variable ist eine Eigenschaft oder ein Merkmal, das bei den Individuen einer Population gemessen wird.

Definition “Daten”

Die Daten sind die tatsächlichen Werte oder Ergebnisse, die für eine bestimmte Variable erhoben wurden.

1.4.1 Skalenniveau

Eine Skala dient dazu, irgend etwas einzuteilen, zu ordnen oder zu sortieren. In der Statistik unterscheiden sich die 3 Skalen in ihrem Informationsgehalt und in der Möglichkeit der statistischen Auswertung.

Laut der Art ihrer Werte und ihrem Skalenniveau lassen sich Variablen wie folgt unterscheiden:

Qualitative Variablen: enthalten keine numerischen Werte, sondern Text.

Nominal: Es gibt keine natürliche Reihenfolge zwischen den Werten. Beispiel: Haarfarbe oder Geschlecht.

Ordinal: Es gibt eine natürliche Reihenfolge zwischen den Werten. Beispiel: Die Wochentage oder Schulnoten, oder alphabetisch sortierte Nachnamen.

Quantitative Variablen: messen numerische Werte.

Metrisch: alles, was man messen oder zählen kann.

Diskret: Die Werte sind isolierte Zahlen (häufig ganze Zahlen). Beispiel: Die Anzahl der Kinder oder Autos in einer Familie.

Kontinuierlich: Die Werte können jeden Wert in einem reellen Intervall annehmen. Beispiel: Körpergröße, Gewicht oder Alter eines Menschen.

Qualitative und diskrete Variablen werden auch als kategoriale Variablen bezeichnet, und ihre Werte entsprechen Kategorien.

1.4.2 Nominalskala

Bei einer Nominalskala (lat. Nomen = Name, Bedeutung) entsprechen die erhobenen Werte nur einer Art von Etikett, “man gibt dem Kind einen Namen”, ohne dass irgendeine Wertigkeit oder Reihenfolge zugrunde liegt. Man kann auch sagen, dass Objekte oder Ereignisse in Kategorien eingeteilt werden, die sich gegenseitig ausschließen. Entweder hat ein Objekt ein bestimmtes Merkmal oder nicht.

Beispiele für nominalskalierte Daten

Geschlecht (männlich, weiblich, …\dots)

Augenfarbe (blau, grün, braun, …\dots)

Körperbau (leptosom, pyknisch, athletisch, …\dots)

bestanden (ja, nein)

1.4.3 Ordinalskala

Zusätzlich zu den Eigenschaften der Nominalskala unterliegen Daten einer Ordinalskala (lat. Ordinatus = Ordnung, ordentlich) einer vorgegebenen Reihenfolge oder Rangfolge.

Beispiele für ordinalskalierte Daten

Steigerung (gut, besser, am besten)

Schulnote (sehr gut, gut, befriedigend, ausreichend, mangelhaft, ungenügend)

Siegerehrung (erster, zweiter, dritter)

1.4.4 metrische Skala

Das höchste Niveau besitzt die metrische Skala. Die Werte unterliegen nicht nur einer Reihenfolge, benachbarte Werte weisen auch gleiche Abstände auf.

Beispiele für metrische Daten

Lebensalter in Jahren

Gewicht in kg

Länge in cm

Lohn in Euro

Unterschied zwischen metrisch und ordinal

Die Abstände bei z.B. Schulnoten sind nicht gleich bzw. konstant! Darf man sich beispielsweise für die Note 1 nur drei Fehler erlauben, sind es bei der Note 2 schon sieben, und für die Note 3 schon zwanzig Fehler!

Die Leistungsdifferenz zwischen den Noten ist also nicht konstant!

1.4.5 Wählen der passenden Variablen

Manchmal kann eine Eigenschaft auf verschiedene Arten gemessen werden.

Beispiel Rauchen

Ob ein Mensch raucht oder nicht könnte auf folgende Weise gemessen werden:

Raucht: Ja/Nein. (Nominal)

Rauchstufe: Nichtrauchen/unüblich/mäßig/quasi/heftig. (Ordinal)

Anzahl der Zigaretten pro Tag: 0,1,2,… (Diskret)

In solchen Fällen sind quantitative Variablen gegenüber qualitativen vorzuziehen, kontinuierliche Variablen werden den diskreten vorgezogen und ordinalen Variablen werden nominalen vorgezogen, da sie mehr Information liefern.

Laut ihrer Rolle in der Untersuchung unterscheiden wir:

Unabhängige Variablen: Variablen, die nicht von anderen Variablen abhängig sind. Sie werden im Experiment oft manipuliert, um ihren Einfluss auf eine abhängige Variable zu beobachten. Sie werden auch als Prädiktionsvariablen bezeichnet.

Abhängige Variablen: Variablen, die von anderen Variablen abhängig sind. Sie werden im Experiment nicht manipuliert und werden auch als Ergebnisvariablen bezeichnet.

Beispiel

In einer Studie über das Leistungsniveau von Studierenden in einem Kurs sind die Intelligenz der Schüler und die tägliche Lernzeit unabhängige Variablen, während die Note im Kurs eine abhängige Variable ist.

1.4.6 Arten statistischer Studien

Experimentelle Studien: unabhängige Variablen werden manipuliert, um den Einfluss dieser Änderung auf die abhängigen Variablen zu beobachten.

Beispiel

In einer Studie über das Leistungsniveau von Studierenden bei einer Prüfung manipuliert die Dozentin bestimmte Rahmenbedingungen im Prüfungsraum. Sie bildet zwei oder mehr Gruppen mit unterschiedlichen Rahmenbedingungen (z.B. Kekse und Getränke zur Verfügung stellen) und vergleicht die Ergebnisse beider Gruppen.

Nicht-experimentelle Studien: unabhängige Variablen werden nicht manipuliert. Das bedeutet nicht, dass es unmöglich wäre, sondern dass es entweder praktisch nicht möglich oder ethisch nicht vertretbar wäre.

Beispiel

In einer Studie interessieren sich Forschende für den Einfluss von Rauchen auf Lungenkrebs. Während es möglich ist, Menschen dazu zu bitten, zu rauchen, um den Einfluss dieser Tätigkeit auf ihre Lungen zu studieren, wäre es jedoch ethisch höchst fragwürdig. In diesem Fall können die Forschenden zwei Gruppen von Menschen untersuchen: Raucher und Nichtraucher, und deren Lungenfunktionen und Krebsquoten miteinander vergleichen.

Merke

Experimentelle Studien ermöglichen es, einen kausalen Zusammenhang zwischen Variablen zu identifizieren, während nicht-experimentelle Studien nur Beziehungen oder Verhältnisse zwischen Variablen identifizieren können.

1.4.7 Datentabelle

Die Variablen einer Studie werden bei jedem Individuum der Stichprobe gemessen. Das ergibt eine Datensammlung, die üblicherweise in tabellarischer Form angeordnet wird und als Datenstrom bezeichnet wird.

In dieser Tabelle enthält jede Spalte Informationen zu einer Variablen, während jede Zeile Informationen zu einem Individuum enthält.

Beispiel

Name | Alter | Geschlecht | Gewicht (kg) | Größe (cm)
Anna Tomie | 42 | W | 85 | 179
Bud Zillus | 31 | M | 115 | 173
Dieter Mietenplage | 27 | M | 79 | 181
Hella Scheinwerfer | 29 | W | 60 | 170
Inge Danken | 36 | W | 57 | 158
Jason Zufall | 54 | M | 96 | 174

1.5 Phasen einer statistischen Untersuchung

Eine statistische Untersuchung durchläuft meist die folgenden Phasen:

Die Studie beginnt mit einer vollständigen Planung, in der die Studienziele, die Population, die zu messenden Variablen und der benötigte Stichprobenumfang festgelegt werden.

Anschließend wird eine Stichprobe aus der Population gezogen (Sampling), und die Variablen werden bei den Individuen der Stichprobe gemessen (was die Datentabelle ergibt).

Der nächste Schritt besteht darin, die Informationen der Stichprobe zu beschreiben und zu zusammenzufassen. Das ist die Aufgabe der deskriptiven Statistik.

Anschließend werden die erlangten Informationen auf ein mathematisches Modell projiziert, das beabsichtigt, die Vorgänge innerhalb der Grundgesamtheit zu erklären. Das Modell wird auf seine Gültigkeit überprüft. Dies ist Aufgabe der inferentiellen Statistik.

Schließlich wird das validierte Modell verwendet, um Vorhersagen zu treffen und Schlussfolgerungen für die Grundgesamtheit zu ziehen.

Der statistische Kreislauf

2 Häufigkeitsverteilungen

2.1 Deskriptive Statistik

Die deskriptive Statistik ist der Bereich innerhalb der Statistik, der sich mit dem Darstellen, Analysieren und Zusammenfassen von Informationen in einer Stichprobe beschäftigt. Nach dem Samplingprozess ist dies der nächste Schritt in jeder Studie und besteht meist aus folgenden Teilen:

Ordnen und Klassifizieren der Daten sowie Einteilung in Gruppen.

Tabellarische und grafische Darstellung der Daten nach ihrer Häufigkeit.

Berechnung numerischer Maßzahlen, die die Informationen in der Stichprobe zusammenfassen (Stichprobenstatistiken).

Merke

die Stichprobenstatistik hat kein Inferenzpotential, weshalb keine Verallgemeinerungen auf die Population angewendet werden sollten!

2.2 Häufigkeitsverteilung

2.2.1 Stichprobenklassifizierung

Das Studium einer statistischen Variablen beginnt mit der Messung der Variable bei den Individuen der Stichprobe und der Klassifizierung der Werte. Es gibt zwei Weisen, Daten zu klassifizieren:

Klassifizierung ohne Klassierung: Sortieren der Werte vom kleinsten zum größten (wenn eine Reihenfolge existiert). Diese Methode wird bei qualitativen Variablen und diskreten Variablen mit wenigen eindeutigen Werten verwendet.

Klassifizierung mit Klassierung: Gruppieren der Werte in Intervalle (Klassen) und Sortieren dieser Intervalle vom kleinsten zum größsten. Diese Methode wird bei kontinuierlichen Variablen und diskreten Variablen mit vielen eindeutigen Werten verwendet.

2.2.2 Häufigkeiten

Definition “Häufigkeiten”

Bei einer Stichprobe mit nn Werten der Variable XX können wir für jedes xix_{i} bestimmen:

Absolute Häufigkeit (nin_{i}): ist die Anzahl, mit der ein bestimmter Wert xix_{i} in der Stichprobe auftritt.

Relative Häufigkeit (fif_{i}): ist das Verhältnis der Anzahl eines bestimmten Wertes xix_{i} zur Gesamtanzahl der Beobachtungen in der Stichprobe.
fi=nin f_{i} = \frac{n_{i}}{n}

Kumulative absolute Häufigkeit (NiN_{i}): ist die Gesamtanzahl der Werte in der Stichprobe, die kleiner oder gleich xix_{i} sind

Ni=n1+…+ni N_{i} = n_{1} + \dots + n_{i}

Kumulative relativeHäufigkeit (FiF_{i}): ist das Verhältnis der kumulativen absoluten Häufigkeit zur Gesamtanzahl der Beobachtungen in der Stichprobe.

Fi=Nin F_{i} = \frac{N_{i}}{n}

2.2.3 Häufigkeitstabelle

Die Menge der Werte einer Variablen mit ihren jeweiligen Häufigkeiten nennt man Häufigkeitsverteilung, und sie wird üblicherweise als Häufigkeitstabelle dargestellt.

Tabelle 2.1: Häufigkeitstabelle

Variable X | absolute Häufigkeit | relative Häufigkeit | kumulierte absolute Häufigkeit | kumulierte relative Häufigkeit
x1x_{1} | n1n_{1} | f1f_{1} | N1N_{1} | F1F_{1}
⋮\vdots | ⋮\vdots | ⋮\vdots | ⋮\vdots | ⋮\vdots
xix_{i} | nin_{i} | fif_{i} | NiN_{i} | FiF_{i}
⋮\vdots | ⋮\vdots | ⋮\vdots | ⋮\vdots | ⋮\vdots
xkx_{k} | nkn_{k} | fkf_{k} | NkN_{k} | FkF_{k}

Beispiel: Kinder in Familien

Die Anzahl an Kindern wurde bei 25 Familien wie folgt erhoben:

1, 2, 4, 2, 2, 2, 3, 2, 1, 1, 0, 2, 2, 0, 2, 2, 1, 2, 2, 3, 1, 2, 2, 1, 2

Die Häufigkeitstabelle für die Anzahl an Kindern in der Stichprobe ist

Tabelle 2.2: Kinder in Familien

xix_{i} | nin_{i} | fif_{i} | NiN_{i} | FiF_{i}
0 | 2 | 0.08 | 2 | 0.08
1 | 6 | 0.24 | 8 | 0.32
2 | 14 | 0.56 | 22 | 0.88
3 | 2 | 0.08 | 24 | 0.96
4 | 1 | 0.04 | 25 | 1.00
∑\sum | 25 | 1.00 |  |

2.2.4 Klassierung

Beispiel Körpergröße

Von 30 Studierenden wurde die Körpergröße wie folgt gemessen:

179, 173, 181, 170, 158, 174, 172, 166, 194, 185, 162, 187, 198, 177, 178, 165, 154, 188, 166, 171, 175, 182, 167, 169, 172, 186, 172, 176, 168, 187.

Die dazugehörige Häufigkeitstabelle wäre sehr lang, da sich nur sehr wenige Werte wiederholen. Es ist daher üblich, Werte aus bestimmten Bereichen in so genannten “Klassen” zusammenzufassen.

Definition “Klasse”

Eine Klasse ist die Menge sämtlicher Messwerte, die innerhalb festgelegter Grenzen liegt. Diese festgelegten Klassengrenzen werden durch den kleinsten und den größten Messwert einer Klasse gebildet. Die Klassenmitte ist das arithmetische Mittel aus beiden Klassengrenzen. Die Klassenbreite ist die Differenz der Klassengrenzen.

Bei der Klassierung sollten grundsätzlich folgende Regeln beachtet werden:

die Anzahl der Klassen sollte nicht zu groß und nicht zu klein sein. Als Fausregel kann die Klassenanzahl auf n\sqrt n bzw. log2(n)log_{2}(n) gelegt werden. Für das Beispiel der Körpergrößen von 30 Studierenden gergeben sich 30=5,48≈𝟓\sqrt{30} = 5,48 \approx \mathbf{5} Klassen.

die Klassen dürfen sich nicht überschneiden und müssen den gesamten Wertebereich abdecken. Ob die Intervalle links offen und rechts geschlossen sind oder umgekehrt, spielt keine Rolle.

Der kleinste Wert muss in der ersten Klasse liegen und der größte Wert in der letzten.

Die Klassengrenzen werden mir runde und eckigen Klammer angegeben. Eine eckige Klammer bedeutet, dass der nachstehen Wert in die Klasse eingeschlossen wird, eine runde Klammer schließt die nebenstehende Zahl aus.

( oder ) bedeutet größer oder kleiner als.

[ oder ] bedeutet größer-gleich oder kleiner-gleich.

bei ( und ) gehört der Wert nicht mehr zu der Klasse.

bei [ und ] gehört der Wert zu der Klasse.

Eine Häufigkeitstabelle der klassierten Körpergrößen mit 5 Klassen sieht so aus:

xix_{i} | nin_{i} | fif_{i} | NiN_{i} | FiF_{i}
(150,160] | 2 | 0.07 | 2 | 0.07
(160,170] | 8 | 0.27 | 10 | 0.34
(170,180] | 11 | 0.36 | 21 | 0.70
(180,190] | 7 | 0.23 | 28 | 0.93
(190,200] | 2 | 0.07 | 30 | 1.00
∑ | 30 | 1.00 |  |

2.2.5 Häufigkeitstabellen qualitativer Daten

Beispiel Blutgruppen

Bei 30 Studierenden wurden die Blutgruppen wie folgt bestimmt:

A, B, B, A, AB, 0, 0, A, B, B, A, A, A, A, AB, A, A, A, B, 0, B, B, B, A, A, A, 0, A, AB, 0

Die Häufigkeitstabelle der Blutgruppen ist:

xix_{i} | nin_{i} | fif_{i}
0 | 5 | 0.16
A | 14 | 0.47
B | 8 | 0.27
AB | 3 | 0.10
∑\sum | 30 | 1

Warum gibt es keine kumulativen Werte in der Tabelle?

Da es sich um nominale Werte handelt, gibt es keine natürliche Reihenfolge. Theoretisch gäbe es 24 Kombinationsmöglichkeiten, um eine Reihenfolge zu erzwingen. Diese sind aber alle aussagelos.

2.3 Diagramme

Häufigkeitsverteilungen werden üblicherweise auch grafisch dargestellt. Abhängig von dem Typ der Variablen und ob die Daten klassiert wurden, gibt es verschiedene Arten von Diagrammen:

Säulendiagramm

Histogramm

Liniendiagramm

Kreisdiagramm

2.3.1 Säulendiagramm

Ein Säulendiagramm besteht aus einer Reihe von Balken, einem für jeden Wert oder jede Kategorie der Variablen, die auf einem Koordinatensystem dargestellt sind. Üblicherweise werden die Werte oder Kategorien der Variable auf der xx-Achse und die Häufigkeiten auf der yy-Achse dargestellt. Für jeden Wert oder jede Kategorie der Variablen wird ein Balken in der Höhe seiner Frequenz gezeichnet. Die Breite des Balkens ist nicht wichtig, aber die Balken sollten klar voneinander getrennt sein.

Abhängig von dem Typ der auf der yy-Achse dargestellten Häufigkeit erhalten wir verschiedene Arten von Säulendiagrammen. Manchmal wird ein Polygon, bekannt als Frequenzpolygon, gezeichnet, indem die Spitzen jeder Bar durch gerade Linien verbunden werden.

2.3.2 Histogramm

Ein Histogramm ist ähnlich wie ein Säulendiagramm, aber für klassierte Daten.
Die Klassen oder Gruppierungsintervalle werden üblicherweise auf der xx-Achse dargestellt, und die Häufigkeiten auf der yy-Achse. Für jede Klasse wird ein Balken in der Höhe seiner Frequenz gezeichnet.

Im Gegensatz zu Säulendiagrammen entspricht die Breite eines Balkens der Breite einer Klasse, und es gibt keinen Platz zwischen zwei aufeinanderfolgenden Balken. Abhängig von dem Typ der auf der yy-Achse dargestellten Häufigkeit erhalten wir verschiedene Arten von Histogrammen. Manchmal wird ein Polygon, bekannt als Frequenzpolygon, gezeichnet, indem die Spitzen jeder Bar verbunden werden.

Das kumulative Häufigkeitspolynom (für absolute oder relative Häufigkeiten) wird als Ogive bezeichnet. Beachten Sie, dass in der Ogive die rechte obere Ecke jeder Bar mit der Linien verbunden wird, anstatt des mittleren Punkts, weil wir die akkumulierte Häufigkeit einer Klasse nur am Ende des Intervalls erreichen.

2.3.3 Kreisdiagramm

Ein Kreisdiagramm (auch Tortendiagramm) besteht aus einem Kreis, der in Scheiben geteilt ist, einer für jeden Wert oder jede Kategorie der Variablen. Jede Scheibe wird als Sektion bezeichnet, und ihr Winkel oder Gebiet ist proportional zur Häufigkeit des entsprechenden Wertes.

Tortendiagramme können absolute oder relative Häufigkeiten darstellen, aber nicht kumulative Häufigkeiten, und sie werden bei nominalen Variablen verwendet.

Für ordinal oder quantitative Variablen ist es besser, Säulendiagramme oder Histogramme zu verwenden, weil es einfacher ist, Unterschiede in einer Dimension (Länge der Balken) wahrzunehmen als in zwei Dimensionen (Gebiete der Sektionen).

2.3.4 Verteilungsformen

Wenn wir metrische Daten erheben, wie z.B. die Anzahl der Krankenhausaufenthalte, dann stellen wir diese Daten als Häufigkeitstabelle oder Säulendiagramm dar.

Dabei nehmen die Diagramme häufig typische Formen an.

linksgipflig (rechts-schief)

rechtsgipflig (links-schief)

gleichverteilt

mehrgipflig

2.3.5 Glockenkurven

normalverteilt

normalverteilt

Die Glockenkurvenverteilung tritt so häufig in der Natur auf, dass sie als Normalverteilung oder Gaußsche Verteilung bekannt ist.

2.3.6 Liniendiagramme

Liniendiagramme (auch Polygonzüge) eignen sich, um zeitliche Verläufe darzustellen – und sollten auch nur dafür verwendet werden.

In allen drei Diagrammen sind identische Werte abgetragen. Durch die unterschiedliche Skalierung der yy-Achse entsteht aber ein sehr unterschiedlicher Eindruck.

2.4 Ausreißer

Eines der größten Probleme in Stichproben sind Ausreißer, also Werte, die sehr von den restlichen Werten der Stichprobe abweichen. Es ist wichtig, Ausreißer zu identifizieren, bevor man irgendwelche Analysen durchführt, denn Ausreißer verzerren meistens die Ergebnisse.

Ausreißer tauchen immer am Ende der Verteilung auf und können mit einem Box-und-Whisker-Diagramm leicht identifiziert werden (wie später gezeigt wird).

2.4.1 Ausreißerhandhabung

Bei großen Stichproben haben Ausreißer weniger Bedeutung und können unbeachtet gelassen werden. Bei kleinen Stichproben gibt es mehrere Optionen:

Entferne die Ausreißer, da es sich um fehlerhafte Werte handelt.

Ersetze die Ausreißer durch den kleinsten oder größten Wert in der Verteilung, der selbst kein Ausreißer ist.

Lasse die Ausreißer, und ändere das theoretische Modell, so dass die Ausreißer erklärbar werden.

3 Stichprobenstatistik

Die deskriptive Statistik hat zum Ziel, empirische Daten durch Tabellen und Grafiken übersichtlich darzustellen und zu ordnen, sowie durch geeignete grundlegende Kenngrößen zahlenmäßig zu beschreiben.

Eine Tabelle oder Grafik informiert über die gesamte Verteilung eines Merkmals mit seinen Ausprägungen. Demgegenüber sagen statistische Kenngrößen etwas über spezielle Eigenschaften der Verteilung aus.

Lagekenngrößen: beschreiben Stellen, an denen sich die Daten konzentrieren oder die die Verteilung in gleiche Teile unterteilen.

Streuungskenngrößen: messen die Ausbreitung und Variabilität der Daten.

Formmaße: messen die Symmetrie und den “Schwanz” der Verteilung.

Diese Werte werden auch genannt Stichprobenstatistiken genannt.

Die zahlenmäßige Darstellung durch statistische Kenngrößen beruht auf einer Reduktion der Daten. Die Gesamtheit des Datenmaterials wird hierbei durch typische Vertreter repräsentiert.

3.1 Lagekenngrößen

Es werden zwei Gruppen von Lagekenngrößen unterschieden:

Zentrale Lagewerte messen die Werte, an denen sich die Daten konzentrieren, meist im Zentrum der Verteilung. Diese Werte sind diejenigen, die die Stichprobe am besten darstellen. Die wichtigsten sind:

Arithmetisches Mittel (Mittelwert)

Median

Modal (Modus)

Nicht-zentrale Lagewerte teilen die Stichprobe in gleichgroße Teile. Die wichtigsten sind:

Quartile.

Dezile.

Perzentile.

3.1.1 Arithmetischer Mittelwert

Definition “Arithmetisches Mittel x¯\overline x”

Das arithmetische Mittel (umgangssprachlich Mittelwert) einer Variablen XX ist die Summe der beobachteten Werte in der Stichprobe geteilt durch die Stichprobengröße nn und wird durch das Symbol x¯\overline x (sprich “x quer”) dargestellt.

x¯=∑xin \overline x = \frac{\sum x_{i}}{n}

Er kann wie folgt auch aus der Häufigkeitstabelle berechnet werden:

x¯=∑xi⋅nin=∑xi⋅fi \overline x = \frac{\sum x_{i} \cdot n_{i}}{n} = \sum x_{i} \cdot f_{i}

In den meisten Fällen ist der arithmetische Mittelwert derjenige Wert, der die beobachteten Werte in der Stichprobe am besten darstellt.

Merke

Das arithmetische Mittel kann nur bei metrischen Daten berechnet werden!

Für das Beispiel der Erhebung von Kindern in Familien lautet das arithmetische Mittel:

x¯=1+2+4+2+2+2+3+2+1+1+0+2+225++0+2+2+1+2+2+3+1+2+2+1+225=4425=1.76 Kinder. \begin{aligned} \overline{x} &= \frac{1+2+4+2+2+2+3+2+1+1+0+2+2}{25}+\\ &+\frac{0+2+2+1+2+2+3+1+2+2+1+2}{25} = \frac{44}{25} = 1.76 \mbox{ Kinder}. \end{aligned}

Die Berechnung von x¯\overline x über die Häufigkeitstabelle

xix_{i} | nin_{i} | fif_{i} | xi⋅nix_{i} \cdot n_{i} | xi⋅fix_{i} \cdot f_{i}
0 | 2 | 0.08 | 0 | 0
1 | 6 | 0.24 | 6 | 0.24
2 | 14 | 0.56 | 28 | 1.12
3 | 2 | 0.08 | 6 | 0.24
4 | 1 | 0.04 | 4 | 0.16
∑\sum | 25 | 1 | 44 | 1.76

erfolgt mit:

x¯=∑xi⋅nin=4425=1.76 Kinderx¯=∑xi⋅fi=1.76 Kinder. \overline{x} = \frac{\sum x_{i} \cdot n_i}{n} = \frac{44}{25}= 1.76\mbox{ Kinder} \qquad \overline{x}=\sum{x_{i} \cdot f_i} = 1.76 \mbox{ Kinder}. Dies ist die Anzahl an Kinder, durch welche die Familien in der Stichprobe am besten repräsentiert werden.

Verwenden wir die Daten der Körpergröße von Studierenden, berechnet sich x¯\overline x wie folgt:

x¯=179+173+⋯+18730=175.07 cm. \overline{x} = \frac{179+173+\cdots+187}{30} = 175.07 \mbox{ cm}.

Über die klassierte Häufigkeitstabelle kann x¯\overline x bestimmt werden, indem jeweils die Klassenmitte als xix_i verwendet wird.

X | xix_i | nin_i | fif_i | xi⋅nix_i \cdot n_i | xi⋅fix_i \cdot f_i
(150,160] | 155 | 2 | 0.07 | 310 | 10.33
(160,170] | 165 | 8 | 0.27 | 1320 | 44.00
(170,180] | 175 | 11 | 0.36 | 1925 | 64.17
(180,190] | 185 | 7 | 0.23 | 1295 | 43.17
(190,200] | 195 | 2 | 0.07 | 390 | 13.00
∑ |  | 30 | 1 | 5240 | 174.67

x¯=∑xi⋅nin=524030=174.67 cmx¯=∑xi⋅fi=174.67 cm. \overline{x} = \frac{\sum x_i \cdot n_i}{n} = \frac{5240}{30}= 174.67 \mbox{ cm}\qquad \overline{x}=\sum{x_i \cdot f_i} = 174.67 \mbox{ cm}.

Beachten Sie, dass der Mittelwert, der aus der Tabelle berechnet wird, etwas von dem realen Wert abweicht. Da in den Berechnungen jeweils die Klassenmitten anstelle der tatsächlichen Werte verwendet werden, ergeben sich dadurch leichte Rundungsfehler.

3.1.2 Gewichtetes Mittel

In einigen Fällen haben die Werte der Stichprobe unterschiedlich starke Bedeutungen. In diesem Fall muss das jeweilige Gewicht der Werte berücksichtigt werden, wenn das Mittel berechnet wird.

Definition “Gewichtetes Mittel x¯w\overline{x}_w”

Das gewichtete Mittel der Werte x1,…,xnx_1, \ldots, x_n - wobei jeder Wert xix_i ein Gewicht wiw_i hat - berechnet sich durch die Summe der Produkte jedes Wertes mit seinem Gewicht, dividiert durch die Summe der Gewichtwerte:

x¯w=∑xiwi∑wi \overline{x}_w = \frac{\sum x_i w_i}{\sum w_i}

Aus der Häufigkeitstabelle kann das gewichtete Mittel mit folgender Formel berechnet werden:

x¯w=∑xiwini∑wi \overline{x}_w = \frac{\sum x_i w_i n_i}{\sum w_i}

Ein Student möchte den Punktedurchschnitt seiner Studienleistungen in den folgenden drei Kursen berechnen

Kurs | Credits | Punkte
Mathe | 8 | 15
Wirtschaft | 5 | 10
Chemie | 6 | 12

Das arithmetische Mittel der Punkte beträgt

x¯=∑xin=15+10+123=12,3¯ Punkte. \overline x = \frac{\sum x_i}{n}= \frac{15+10+12}{3}=12,\overline 3 \text{ Punkte}.

Fächer mit mehr Creditpunkten erfordern mehr Arbeit und sollten bei der Berechnung des Durchschnitts ein größeres Gewicht erhalten. In diesem Fall ist es ratsam, das gewichtete Mittel mit den Creditpunkten als Gewichten zu berechnen.

x¯w=∑xiwi∑wi=15⋅8+10⋅5+12⋅68+5+6=24219=12,74Punkte. \overline{x}_w = \frac{\sum x_i w_i}{\sum w_i} = \frac{15\cdot8 + 10\cdot5 + 12\cdot6}{8+5+6} =\frac{242}{19} = 12,74\ \text{Punkte.}

3.1.3 Median

Definition Median

Der Median einer Variablen XX ist der Wert, der in der Mitte der geordneten Stichprobe liegt.

Der Median teilt die Stichprobenwerte in zwei gleich große Teile, das heißt, es gibt dieselbe Anzahl von Werten über und unter dem Median.

ACHTUNG!

Der Median kann nicht für nominale Variablen berechnet werden.

3.1.3.1 Nicht-klassierte Daten

Bei nicht-klassierten Daten gibt es zwei Möglichkeiten:

Gerade Stichprobengröße: Der Median ist der Wert an Position n2\frac{n}{2}.

Ungerade Stichprobengröße: Der Median ist das arithmetische Mittel der Werte an den Positionen n2\frac{n}{2} und n2+1\frac{n}{2}+1.

Verwenden wir die Daten des Beispiels mit der Anzahl an Kindern in Familien. Die Stichprobengröße beträgt 25, was ungerade ist. Daher ist der Median der Wert an Position 25+12=13\frac{25+1}{2} = 13 der sortierten Stichprobe.

$$ 0,0,1,1,1,1,1,1,2,2,2,2,\fbox{2},2,2,2,2,2,2,2,2,2,3,3,4 $$

Der Median liegt also bei 2 Kindern.

Mithilfe der relativen Häufigkeitstabelle ist der Median der kleinste Wert mit einer kumulativen absoluten Häufigkeit NiN_i größer oder gleich 13 bzw. einer kumulativen relativen Häufigkeit FiF_i größer oder gleich 0,5.

$$ \definecolor{color1}{RGB}{24,81,145} \begin{array}{rrrrr} \hline x_i & n_i & f_i & N_i & F_i\\ \hline 0 & 2 & 0.08 & 2 & 0.08\\ 1 & 6 & 0.24 & 8 & 0.32\\ \rowcolor{coral} \color{white}2 & 14 & 0.56 & 22 & 0.88\\ 3 & 2 & 0.08 & 24 & 0.96\\ 4 & 1 & 0.04 & 25 & 1 \\ \hline \sum & 25 & 1 \\ \hline \end{array} $$

3.1.3.2 klassierte Daten

Sind die Werte in Klassen gruppiert, kann die Berechnung des Median geometrisch hergeleitet werden.

Die Werte unseres Beispiels der Körpergrößen liegen als klassierte Häufigkeitstabelle vor:

X | xix_i | nin_i | fif_i | FiF_i |
(150,160] | 155 | 2 | 0.07 | 0.07 |
(160,170] | 165 | 8 | 0.27 | 0.34 |
(170,180] | 175 | 11 | 0.36 | 0.70 |
(180,190] | 185 | 7 | 0.23 | 0.97 |
(190,200] | 195 | 2 | 0.07 | 1 |
∑\sum |  | 30 | 1 |  |

Der Median liegt irgendwo zwischen 170 und 180.

Für die graphische Ermittlung des Medians benötigen wir die kumulierten Prozentwerte FiF_i, aus denen ein Summenpolygon angefertigt wird. Zusätzlich zeichnen wir ein paar Hilfslinien ein.

Der Median entspricht dem gesuchten Wert “???” auf der xx-Achse.

Aus der Mathematik (Strahlensätze) wissen wir, dass das Verhältnis der beiden grünen Strecken auf der xx-Achse dem Verhältnis der orangenen Strecken auf der yy-Achse entspricht. Setzen wir also die Strecke ins Verhältnis, ergibt sich

xMe−xuxo−xu=50−yuyo−y−u \frac{x_Me - x_u}{x_o - x_u} = \frac{50 - y_u}{y_o - y-u} Dabei entspricht

xMex_Me dem Median

xux_u dem unteren Klassengrenze

xox_o der oberen Klassengrenz

yuy_u der kumulierten relativen Häufigkeit der darunter liegenden Klasse

yoy_o der kumulierten relativen Häufigkeit der Klasse

Die Gleichung kann nun nach xMex_Me umgestellt werden.

xMe=xu+(xo−xu)⋅50−yuyo−yu x_{Me} = x_u + (x_o - x_u) \cdot \frac{50 - y_u}{y_o - y_u}

Jetzt können wir unsere Werte einsetzen.

Median=170+(180−170)⋅50−3470−34=170+10⋅49≈174,44 \begin{aligned} \text{Median} &= 170 + (180 - 170) \cdot \frac{50 - 34}{70 - 34}\\ &= 170+ 10\cdot \frac{4}{9} \approx 174,44\\ \end{aligned}

3.1.4 Modus

Definition “Modus”

Der Modus oder Modalwert ist der in einer Verteilung am häufigsten auftretende Wert.

Liegen klassierte Daten vor, entspricht der Modalwert der Klassenmitte der Klasse mit der größten Häufigkeit. Die Kategorie (Gruppe, Klasse, etc.) mit den häufigsten Werten nennt man die Modalklasse. Es ist durchaus denkbar, dass innerhalb einer Verteilung mehrere Modalwerte ermittelt werden können. Sind jedoch die Häufigkeiten der Merkmalsausprägungen annähernd gleich verteilt, macht es keinen Sinn, den Modalwert zu bestimmen. Der Modalwert, bzw. die Modalklasse lässt sich für Daten jeglichen Skalenniveaus angeben. Andererseits bietet er für nominale Merkmale die einzige Möglichkeit, etwas typisches über die Verteilung der Merkmalsausprägungen aufzuzeigen.

3.1.4.1 Modusberechnung

Unter Verwendung der Daten der Stichprobe zur Anzahl an Kindern in Familien ist der Wert mit der höchsten Häufigkeit = 2.

$$ \begin{array}{rr} \hline x_i & n_i \\ \hline 0 & 2 \\ 1 & 6 \\ \rowcolor{coral}\color{white} 2 & 14 \\ 3 & 2 \\ 4 & 1 \\ \hline \end{array} $$

Der Modus beträgt also = 22 Kinder.

Unter Verwendung der Daten der Stichprobe zur Körpergröße von Studenten ist die Klasse mit der höchsten Häufigkeit (170, 180].

$$ \begin{array}{rr} \hline X & n_i \\ \hline (150,160] & 2 \\ (160,170] & 8 \\ \rowcolor{coral} \color{white}(170,180] & 11 \\ (180,190] & 7 \\ (190,200] & 2 \\ \hline \end{array} $$

Das bedeutet, die modale Klasse ist = (170,180](170, 180].

3.1.5 Welchen Lagekennwert soll ich verwenden?

Welche Lagekenngröße hat die größte Aussagekraft bezüglich der Stichprobe? Als Faustregel kann folgende Reihenfolge verwendet werden:

Mittelwert: Der Mittelwert nutzt mehr Information aus der Stichprobe als die anderen Maße, da er die Größenordnung der Daten berücksichtigt.

Median: Der Median nutzt weniger Informationen als der Mittelwert, aber mehr als der Modus, da er die Ordnung der Daten berücksichtigt.

Modus: Der Modus ist das Maß, das am wenigsten Information aus der Stichprobe nimmt, da er nur die absolute Häufigkeit der Werte berücksichtigt.

Achtung, Ausreisser!

Der Mittelwert wird stärker von Ausreißern beeinflusst als der Median!

Stellen wir uns vor, die Befragung zur Anzahl an Kinder in 7 Familien ergäbe folgende Werte

0, 0, 1, 1, 2, 2, 15

Dann wären die Lagekenngrößen

x¯\overline x = 3 Kinder

Median = 1 Kind

In diesem Fall hat der Median die größte Aussagekraft bezüglich der Stichprobe.

3.1.6 nicht-zentrale Lagewerte

Die nichtzentralen Lagewerte (Quantile) teilen die Stichprobenverteilung in gleich große Teile. Die am häufigsten verwendeten sind:

Quartile: Teilen die Verteilung in 4 gleich große Teile. Es gibt 3 Quartile:

Q1Q_1 (25% kumuliert)

Q2Q_2 (50% kumuliert),

Q3Q_3 (75% kumuliert).

Dezile: Teilen die Verteilung in 10 gleich große Teile. Es gibt 9 Dezile:

D1D_1 (10% kumuliert),

⋮\vdots,

D9D_9 (90% kumuliert).

Perzentile: Teilen die Verteilung in 100 gleich große Teile. Es gibt 99 Perzentile:

P1P_1 (1% kumuliert),

⋮\vdots,

P99P_{99} (99% kumuliert).

Beachten Sie, dass es Übereinstimmungen zwischen den Quartilen, Dezilen und Perzentilen gibt es. Zum Beispiel stimmt das erste Quartil mit dem 25. Perzentil überein, und das vierte Dezil stimmt mit dem 40. Perzentil überein.

3.1.6.1 Bestimmung der Quantile

Quantile werden ähnlich wie die Median berechnet. Der einzige Unterschied liegt in der kumulierenden relativen Häufigkeit FiF_i, die jedem Quantil zugeordnet ist.

Die Häufigkeitstabelle der Anzahl an Kindern in Familien ist

xiFi00.0810.3220.8830.9641 \begin{array}{rr} \hline x_i & F_i \\ \hline 0 & 0.08\\ 1 & 0.32\\ 2 & 0.88\\ 3 & 0.96\\ 4 & 1\\ \hline \end{array}

Anhand der Spalte FiF_i kann das gewünschte Perzentil, Dezentil oder Quartil abgelesen werden.

FQ1=0.25⇒Q1=1 Kinder,FQ2=0.5⇒Q2=2 Kinder,FQ3=0.75⇒Q3=2 Kinder,FD4=0.4⇒D4=2 Kinder,FP92=0.92⇒P92=3 Kinder. \begin{aligned} F_{Q_1}=0.25 &\Rightarrow Q_1 = 1 \text{ Kinder},\\ F_{Q_2}=0.5 &\Rightarrow Q_2 = 2 \text{ Kinder},\\ F_{Q_3}=0.75 &\Rightarrow Q_3 = 2 \text{ Kinder},\\ F_{D_4}=0.4 &\Rightarrow D_4 = 2 \text{ Kinder},\\ F_{P_{92}}=0.92 &\Rightarrow P_{92} = 3 \text{ Kinder}.\\ \end{aligned}

Die Bestimmung kann ebenfalls (wie beim Median) geometrisch hergeleitet werden.

3.2 Streuungskenngrößen

Häufigkeitsverteilungen lassen sich nicht nur durch ihre Lage auf der Messwertskala, sonder auch durch ihre Streuung beschreiben.

Streuungskenngrößen sind Maßzahlen zur Bewertung oder Quantifizierung der Variablilität der Messwerte. Es gibt diverse Streuungskenngrößen. Die wichtigsten sind:

Spannweite RR

Quartilsabstand QQ

Varianz s2s^2

Standardabweichung ss

Variationskoeffizient vkvk

3.2.1 Spannweite

Ein besonders einfaches Streuungsmaß ist die Spannweite (auch: Variationsbreite), die mit “RR” (englisch “range”) abgekürzt wird.

Definition “Spannweite”

Die Spannweite RR bestimmt sich aus der Differenz zwischen dem größten und dem kleinsten Messwert.

R=maxxi−minxi R = \max_{x_i} -\min_{x_i}

3.2.2 Interquartilsabstand

Definition “Interquartilsabstand”

Der Interquartilsabstand einer Variablen xx ist der Unterschied zwischen dem dritten und dem ersten Stichproben-Quartil.

IQR=Q3−Q1 IQR = Q_3-Q_1

Der IQR gibt die mittleren 50% der Verteilung an. Daher reagiert er - ähnlich wie der Median - robuster auf Ausreisser.

3.2.3 Boxplot

Die Streuung einer Variablen in einer Stichprobe kann graphisch mit einem Boxplot dargestellt werden. An ihm lassen sich die fünf wichtigsten Kennwerte (Minimum, Quartile und Maximum) ablesen.

Es besteht aus einem Block (Box), der vom ersten bis zum dritten Quartil gezeichnet wird. Dies entspricht dem Interquartilsabstand.

Zusätzlich werden an den Rändern zwei Segmenten, die als untere und obere Antennen (Whisker) bezeichnet werden. Normalerweise wird die Box durch den Median in zwei Teile gesplittet.

Das Boxplot erfreut sich großer Beliebtheit, da es mehrere Funktionen erfüllt:

Es dient zur Einschätzung der Streuung, da es die Spannweite sowie den Interquartilabstand darstellt.

Es dient zum Erkennen von Ausreißern, die außerhalb der Whiskers liegen.

Es dient zur Bestimmung der Symmetrie der Verteilung, indem die Länge der Boxen und Whisker über und unter dem Median verglichen werden.

Um einen Boxplot zu erstellen, folgen Sie den nachfolgenden Schritten:

Berechnen Sie die Quartile.

Zeichnen Sie eine Box vom ersten zum dritten Quartil.

Teilen Sie die Box mit dem Median

Die Whiskers berechnen sich über die Hilfsgrößen f1f_1 und f2f_2 wie folgt:

f1=Q1−1.5IQRf2=Q3+1.5IQR \begin{aligned} f_1&=Q_1-1.5\,\text{IQR}\\ f_2&=Q_3+1.5\,\text{IQR} \end{aligned} Diese Grenzen definieren den Bereich, in dem die Daten als normal betrachtet werden. Jeder Wert außerhalb dieses Bereichs wird als Ausreisser betrachtet. Zeichnen Sie für den unteren Whisker einen Strich vom unteren Quartil zum kleinsten Wert in der Stichprobe, der größer oder gleich f1f_1 ist, und für den oberen Whisker einen Strich vom oberen Quartil zum größten Wert in der Stichprobe, der kleiner oder gleich f2f_2 ist. 5. Zeichnen Sie schließlich je einen Punkt für alle Werte kleiner f1f_1 oder größer f2f_2 (Ausreisser).

3.2.4 Abweichungen zur Mitte

Bei der Abweichungen zur Mitte wird die Entfernung von jedem Wert in der Stichprobe zum Mittelwert gemessen.

Wenn die Abweichungen groß sind, ist der Mittelwert weniger repräsentativ als bei kleinen Abweichungen.

Definition “Summe der quadrierten Abweichungen”

Üblicherweise wird an dieser Stelle die Summe der quadrierten Abweichungen (SQA) bestimmt, indem die Abweichungen quadriert und aufsummiert werden.

SQA=∑(xi−x¯)2 SQA = \sum (x_i - \overline x)^2

3.2.5 Varianz

Definition “Varianz”

Die Varianz s2s^2 ist ein Maß für die Streuung oder Variabilität von Datenwerten. Sie gibt an, wie weit die einzelnen Werte eines Datensatzes im Durchschnitt vom Mittelwert (Durchschnitt) entfernt sind.

s2=SQAn−1=∑(xi−x¯)2n−1 s^2 = \frac{SQA}{n-1} = \frac{\sum (x_i - \overline x)^2}{n-1}

Die Varianz hat die quadrierte Einheiten der Variablen. Um ihre Deutung zu vereinfachen ist es üblich, ihre Wurzel zu berechnen.

3.2.6 Standardabweichung

Definition “Standardabweichung”

Die Standardabweichung ss (auch: σ\sigma oder sd (englisch: standard deviation )) ist das wichtigste und bekannteste Maß für die Streuung der Messwerte um den Mittelwert.

s=s2=∑(xi−x¯)2n−1 s = \sqrt{s^2} = \sqrt{\frac{\sum (x_i - \overline x)^2}{n-1}}

Liegen metrische Messwerte vor, so sind das arithmetische Mittel x¯\overline x und die Standardabweichung ss die wichtigsten Maßwerte, um die Eigenschaften der Messreihe ausreichend zu beschreiben.

3.2.6.1 Interpretation

Varianz und Standardabweichung messen die Ausbreitung der Daten um den Mittelwert herum.

Wenn die Varianz oder die Standardabweichung klein sind, sind die Werte um den Mittelwert herum konzentriert, und der Mittelwert ist ein gutes repräsentatives Maß.

Wenn sie groß sind, sind die Stichprobenwerte weit von der Mitte entfernt, und der Mittelwert ist kein guter Repräsentant der Stichprobe.

Beispiel

Von 2 Studierenden wurden die Modulpunkte von 2 Kursen erhoben.

Welcher Mittelwert beschreibt die Leistung besser?

3.2.7 Variationskoeffizient

Um einschätzen zu können, ob die Standardabweichung eher groß oder klein ist, bietet sich der Variationskoeffizient an (englisch coefficient of variance).

Definition “Variationskoeffizient”

Der Variationskoeffizient setzt die Streuung (Standardabweichung) ins Verhältnis zum Mittelwert (x¯\overline x).

vk=s|x¯| vk = \frac{s}{|\overline x|}

Es entsteht ein dezimaler Prozentwert, der den Anteil der Standardabweichung am Mittelwert wiedergibt. Je größer vkvk ist, umso mehr streuen die Werte um den Mittelwert. Da er keine Einheiten hat, ist der Variationskoeffizient sehr hilfreich, um die Streuung in Verteilungen verschiedener Variablen zu vergleichen (je kleiner der vkvk, desto besser).

Bei der Anzahl an Kindern in Familien lag der Mittelwert bei x¯=1,76\overline x = 1,76 Kindern und die Standardabweichung bei s=0,8616s=0,8616 Kindern. Der Variationskoeffizient beträgt demnach:

vk=1,76Kinder0,8616Kinder=0,49 vk = \frac{1,76\ \text{Kinder}}{0,8616\ \text{Kinder}} = 0,49 Bei der Stichprobe zur Körpergröße lag der Mittelwert bei x¯=174,67\overline x = 174,67 cm und die Standardabweichung bei s=10,1s=10,1 cm. Der Variationskoeffizient beträgt demnach:

vk=174,67cm10,1cm=0,06 vk = \frac{174,67\ \text{cm}}{10,1\ \text{cm}} = 0,06

Das bedeutet, dass die Streuung in der Verteilung der Körpergrößen geringer ist als in der Verteilung der Anzahl an Kindern, und dass daher der Mittelwert der Körpergröße repräsentativer ist als der Mittelwert der Anzahl an Kindern.

3.3 Formmaße

Formmaße sind Maße, die die Form der Verteilung beschreiben. Besonders wichtige Aspekte sind:

Schiefe (skewness): misst die Symmetrie der Verteilung hinsichtlich des Mittels.

Wölbung: (kurtosis) misst die Länge der Verteilungsenden (Schwanz) oder die Spitzigkeit der Verteilung. Das am meisten verwendete

3.3.1 Schiefekoeffizient

Definition “Schiefekoeffizient” (coefficient of skewness)

Der Stichproben-Schiefekoeffizient g1g_1 einer Variablen XX ist der Durchschnitt der hoch drei genommenen Abweichungen der Werte vom Stichprobenmittel, geteilt durch die hoch drei genommene Standardabweichung.

g1=∑(xi−x‾)3ni/ns3=∑(xi−x‾)3fis3 g_1 = \frac{\sum (x_i-\bar x)^3 n_i/n}{s^3} = \frac{\sum (x_i-\bar x)^3 f_i}{s^3}

Skewness misst die Symmetrie der Verteilung, das heißt, wie viele Werte in der Stichprobe über oder unter dem Mittel liegen und wie weit sie von diesem entfernt sind.

3.3.1.1 Interpretation des Schiefekoeffizienten

Je nach Vorzeichen von g1g_1 gilt:

g1=0g_1 = 0 bedeutet, dass es dieselbe Anzahl an Werten im Stichprobenmaterial oberhalb und unterhalb des Mittelwerts gibt und diese gleich weit von ihm entfernt sind. Die Verteilung ist symmetrisch.

g1<0g_1 < 0 bedeutet, dass es mehr Werte oberhalb des Mittelwerts als unterhalb davon gibt, aber die darunter liegenden Werte weiter entfernt sind. Die Verteilung ist links-schiefs (sie hat eine längere Schwanzspitze nach links).

g1>0g_1 > 0 bedeutet, dass es mehr Werte unterhalb des Mittelwerts als oberhalb davon gibt, aber die darüber liegenden Werte weiter entfernt sind. Die Verteilung ist rechts-schiefs (sie hat eine längere Schwanzspitze nach rechts).

Verwenden wir die Daten der Körpergrößen von Studierenden, können wir der Häufigkeitstabelle eine weitere Spalte mit den kubierten Abweichungen vom Mittelwert x¯=174,67\overline x = 174,67 cm hinzufügen:

Xxinixi−x‾(xi−x‾)3⋅ni(150,160]1552−19.67−15221.00(160,170]1658−9.67−7233.85(170,180]175110.330.40(180,190]185710.337716.12(190,200]195220.3316805.14∑302066.81 \begin{array}{rrrrr} \hline {X} & {x_i} & {n_i} & {x_i-\bar x} & {(x_i-\bar x)^3\cdot n_i} \\ \hline (150,160] & 155 & 2 & -19.67 & -15221.00\\ (160,170] & 165 & 8 & -9.67 & -7233.85\\ (170,180] & 175 & 11 & 0.33 & 0.40\\ (180,190] & 185 & 7 & 10.33 & 7716.12\\ (190,200] & 195 & 2 & 20.33 & 16805.14\\ \hline \sum & & 30 & & 2066.81 \\ \hline \end{array}

Die Skewness berechnet sich nun wie folgt:

g1=∑(xi−x‾)3ni/ns3=2066,81/3010,13=0,07. g_1 = \frac{\sum (x_i-\bar x)^3n_i/n}{s^3} = \frac{2066,81/30}{10,1^3} = 0,07.

Der Wert liegt nahe bei 00, was bedeutet, dass die Verteilung nahezu symmetrisch (normalverteilt) ist.

3.3.2 Wölbungskoeffizient

Definition “Wölbungskoeffizient”

Der Wölbungskoeffizient g2g_2 (coefficient of kurtosis) einer Variablen XX ist der Durchschnitt der zur vierten Potenz erhobenen Abweichungen der Werte vom Stichprobenmittelwert, geteilt durch die Standardabweichung hoch vier, und anschließend minus 3.

g2=∑(xi−x‾)4ni/ns4−3=∑(xi−x‾)4fis4−3 g_2 = \frac{\sum (x_i-\bar x)^4 n_i/n}{s^4}-3 = \frac{\sum (x_i-\bar x)^4 f_i}{s^4}-3

Der Koeffizient misst die Konzentration der Werte um die Mitte und die Länge der Schwanzenden der Verteilung. Die Normalverteilung dient als Bezugsgröße.

3.3.2.1 Interpretation des Wölbungskoeffizienten

Je nach Vorzeichen von g1g_1 gilt:

g2=0g_2 = 0 zeigt an, dass die Wölbung normal ist, das heißt, die Konzentration der Werte um den Mittelwert wie bei einer gaußschen Glockenkurve (mesokurtisch).

g2<0g_2 < 0 zeigt an, dass die Wölbung weniger als normal ist, das heißt, die Konzentration der Werte um den Mittelwert ist geringer als bei einer gaußschen Glockenkurve (plattikurtisch).

g2>0g_2 > 0 zeigt an, dass die Kurtosis größer als normal ist, das heißt, die Konzentration der Werte um den Mittelwert ist größer als bei einer gaußschen Glockenkurve (leptokurtisch).

Verwenden wir die die Häufigkeitstabelle der Körpergrößen von Studierenden, können wir eine neue Spalte mit den Abweichungen vom Mittelwert x¯=174,67\overline x = 174,67 cm zur vierten Potenz hinzufügen.

Xxinixi−x‾(xi−x‾)4ni(150,160]1552−19.67299396.99(160,170]1658−9.6769951.31(170,180]175110.330.13(180,190]185710.3379707.53(190,200]195220.33341648.49∑30790704.45 \begin{array}{rrrrr} \hline {X} & {x_i} & {n_i} & {x_i-\bar x} & {(x_i-\bar x)^4 n_i} \\ \hline (150,160] & 155 & 2 & -19.67 & 299396.99\\ (160,170] & 165 & 8 & -9.67 & 69951.31\\ (170,180] & 175 & 11 & 0.33 & 0.13\\ (180,190] & 185 & 7 & 10.33 & 79707.53\\ (190,200] & 195 & 2 & 20.33 & 341648.49\\ \hline \sum & & 30 & & 790704.45 \\ \hline \end{array} Nun kann die Kurtosis wie folgt berechnet werden:

g2=∑(xi−x‾)4ni/ns4−3=790704.45/3010.14−3=−0.47. g_2 = \frac{\sum (x_i-\bar x)^4n_i/n}{s^4} - 3 = \frac{790704.45/30}{10.1^4}-3 = -0.47.

Der Wert ist negativ, aber nahe bei 00. Das bedeutet, dass die Kurve leicht platykurtisch (niedriger als normalverteilt) ist.

Wie wir im Kapitel zur schließenden Statistik sehen werden, können viele statistische Tests nur auf normalverteilte (glockenförmigen) Verteilungen angewendet werden.

Normalverteilungen sind symmetrisch und mesokurtisch, weshalb ihre Symmetriekoeffizienten und Kurtosiskoeffizienten den Wert 0 haben. Daher ist eine Möglichkeit, eine Variable auf Normalverteilung zu testen, die Abweichungen der Skewness- und Kurtosis-Koeffizienten von 0 zu betrachten.

Im Allgemeinen wird die Normaverteilung abgelehnt, wenn g1g_1 oder g2g_2 außerhalb des Intervalls [−2,2][−2, 2] liegen. In diesem Fallist es üblich, eine Transformation anzuwenden, um diese Abweichung zu korrigieren.

3.4 Transformationen

In vielen Fällen werden die rohen Stichprobendaten transformiert, um eine passendere Skala zu erhalten, oder um Daten zu korrigieren, die nicht normalverteilt sind.

Nehmen wir z.B. folgende Werte zur Körpergröße

1.75m,1.65m,1.80m, 1.75m, 1.65m, 1.80m,

Wenn die Werte mit 100100 multipliziert werden, ändert sich die Einheit von Meter in Zentimeter, und aus den Dezimalzahlen werden ganze Zahlen.

175cm,165cm,180cm, 175cm, 165cm, 180cm,

Darüber hinaus ist es möglich, die Größen der Werte durch Subtraktion des kleinsten Wertes in der Stichprobe zu verringern. In unserem Beispiel würden wir von jedem Wert 165165 cm abziehen:

10cm,0cm,15cm 10 cm, 0 cm, 15 cm

Es ist offensichtlich, dass diese Daten leichter zu handhaben sind als die ursprünglichen. Im Grunde haben wir folgende Transformation auf die Daten angewendet:

Y=100⋅X−165 Y= 100\cdot X-165

3.4.1 lineare Transformation

Eine der am häufigsten verwendeten Transformationen ist die lineare Transformation:

Y=a+b⋅X Y=a+b\cdot X

Bei der linearen Transformation veränderen sich das arithmetische Mittel und die Standardabweichung der transformierten Variablen wie folgt:

y‾=a+bx‾,sy=|b|sx \begin{aligned} \bar y &= a+ b\bar x,\\ s_{y} &= |b|s_{x} \end{aligned}

Zudem bleibt der Wölbungskoeffizient (Kurtosis) unverändert, während der Koeffizient der Schieflage (Skewness) nur das Vorzeichen ändert, falls bb negativ ist.

3.4.1.1 Standardisierung und z-Transformation

Definition “Standardisierung”

Die standardisierte Variable ZZ einer Variablen XX ist die Variable, die durch Abzug des Mittelwertes von XX und anschließendes Dividieren durch die Standardabweichung entsteht:

Z=X−x‾sx Z = \frac{X − \bar{x}}{s_x}

Für jeden Wert xix_i der Stichprobe ist der Standardiserungsscore (zz-Wert) der Wert, der durch Anwendung der Standardisierungstransformation entsteht:

zi=xi−x‾sx z_i = \frac{x_i − \bar{x}}{s_x}

Der Standardiserungsscore gibt die Anzahl an Standardabweichungen an, um welche ein Wert über oder unter dem Mittelwert liegt, und ist nützlich, um die Abhängigkeit der Variablen von ihren Maßeinheiten zu vermeiden. Die standardisierte Variable hat immer einen Mittelwert von 00 und eine Standardabweichung von 11.

z‾=0sz=1 \bar z = 0 \qquad s_{z} = 1

Beispiel

Die Leistungspunkte von 5 Studierenden in 2 Fächern sind

$$ \begin{array}{rccccccccc} \mbox{Student:} & Hans & Tina & Kim & Flo & Karl\\\hline Mathe: & 2 & 5 & 4 & \cellcolor{coral} \color{white}\mathbf{8} & 6 & \qquad & \bar x = 5 & \quad s_x = 2\\ Musik: & 1 & 9 &\cellcolor{coral} \color{white} \mathbf{8} & 5 & 2 & \qquad & \bar y = 5 & \quad s_y = 3.16\\ \end{array} $$ Hat Student Flo im Fach Mathe mit 8 Punkten eine bessere Leistung erbracht als Studentin Kim im Fach Musik (ebenfalls 8 Punkte)?

Es mag den Anschein haben, dass Kim und Flo die gleiche Leistung in den Fächern erbracht haben, da sie die gleichen Leistungspunkte erzielen. Aber um die Leistung der Studierenden zum Rest der Gruppe zu bestimmen, müssen wir die Abweichungen der Leitungspunkte in jedem Fach betrachten. Aus diesem Grund ist es besser, die zz-Werte als Maßstab für die Leistungsfähigkeit zu verwenden.

$$ \begin{array}{cccccc} Mathe: & -1.5 & 0 & -0.5 & \cellcolor{coral} \color{white}\mathbf{1.5} & 0.5 \\ Musik: & -1.26 & 1.26 &\cellcolor{coral} \color{white} \mathbf{0.95} & 0 & -0.95\\ \end{array} $$

Nun ist erkennbar, dass Flo mit 8 Punkten im Fach Mathe um 1,5 Standardabweichungen über dem Leistungsdurchschnitt liegt, während Kim mit 8 Punkten im Fach Musik nur um 0,95 Standardabweichungen über dem Leistungsmittelwert liegt. In Relation zu allen Studierenden hat Flo eine bessere Leistung erbracht als Kim.

Beispiel

Fragen wir uns nun, wer der beste Studierende ist.

$$ \begin{array}{rccccc} \mbox{Student:} & Hans & Tina & Kim & Flo & Karl\\\hline Mathe: & 2 & 5 & 4 & 8 & 6 \\ Musik: & 1 & 9 & 8 & 5 & 2 \\ \hline \sum & 3 &\cellcolor{coral} \color{white} \mathbf{14} & 12 & 13 & 8 \end{array} $$

Wenn wir nur den Leistungspunktsummen folgen, ist dies Studentin Tina mit insgesamt 14 Punkten.

Wenn wir allerdings die relative Leistung betrachten und die zz-transformierten Werte aufsummieren…

$$ \begin{array}{rccccc} \mbox{Student:} & Hans & Tina & Kim & Flo & Karl\\\hline Mathe: & -1.5 & 0 & -0.5 & 1.5 & 0.5 \\ Musik: & -1.26 & 1.26 & 0.95 & 0 & -0.95\\ \hline \sum & -2.76 & 1.26 & 0.45 &\cellcolor{coral} \color{white} \mathbf{1.5} & -0.45 \end{array} $$ …ist Student Flo der beste.

3.4.2 nicht-lineare Transformation

Nicht-lineare Transformationen werde verwendet, um die Nicht-Normalität der Verteilungen zu korrigieren.

Die Quadrat-Transformation Y=X2Y = X^2 verringert kleine Werte und verstärkt große Werte. Daher wird sie verwendet, um links-schiefe Verteilungen zu korrigieren.

Die Wurzeltransformation Y=XY = \sqrt{X}, die logarithmische Transformation Y=log(X)Y = \log(X) und die inverse Transformation Y=1XY = \frac{1}{X} verringern große Werte und verstärken kleine Werte. Daher werden sie verwendet, um rechts-schiefe Verteilungen zu korrigieren.

3.4.2.1 Faktoren

Manchmal ist es interessant, die Häufigkeitsverteilung der Stichprobe für verschiedene Teilproben zu beschreiben, die den Kategorien einer anderen Variablen entsprechen (z.B Geschlecht oder Beruf). Solche Klassifikationsvariablen werden als Faktor bezeichnet.

Beispiel

Das Aufteilen der Stichprobe “Körpergrößen” nach der Variable “Geschlecht” ergibt zwei Teilproben.

𝐹𝑟𝑎𝑢𝑒𝑛173,158,174,166,162,177,165,154,166,182,169,172,170,168.𝑀ä𝑛𝑛𝑒𝑟179,181,172,194,185,187,198,178,188,171,175,167,186,172,176,187. \begin{array}{lll} \hline \textit{Frauen} & 173, 158, 174, 166, 162, 177, 165, 154, 166, 182, \\ & 169, 172, 170, 168. \\ \hline \textit{Männer} & 179, 181, 172, 194, 185, 187, 198, 178, 188, 171,\\ & 175, 167, 186, 172, 176, 187. \\ \hline \end{array}

4 Regression und Korrelation

Im vorherigen Kapitel haben wir gelernt, wie man die Verteilung einer einzelnen Variable in einer Stichprobe beschreibt. Allerdings müssen in den meisten Fällen mehrere Variablen beschrieben werden, die oft miteinander verbunden sind. Beispielsweise sollte eine Ernährungsstudie alle Variablen berücksichtigen, die mit dem Gewicht in Zusammenhang stehen könnten, wie z.B. Größe, Alter, Geschlecht, Rauchen, Ernährung und körperliche Betätigung.

Um ein Phänomen zu verstehen, das mehrere Variablen beinhaltet, reicht es nicht aus, jede Variable für sich allein zu studieren. Wir müssen alle Variablen gemeinsam untersuchen, um die Art ihrer Wechselbeziehungen und den Typ der Beziehung zwischen ihnen zu beschreiben.

In der Regel gibt es bei einer Abhängigkeitsstudie eine abhängige Variable YY, die von einem Satz an unabhängigen Variablen X1,…,XnX_1 , \dots , X_n beeinflusst wird. Der einfachste Fall ist eine einfache Abhängigkeitsstudie mit nur einer unabhängigen Variable.

4.1 Gemeinsame Häufigkeiten

Um die Beziehung zwischen zwei Variablen XX und YY zu untersuchen, müssen wir die gemeinsame Verteilung der zweidimensionalen Variable (X,Y)(X, Y) studieren, deren Werte Paare (xi,yj)(x_i, y_j) sind, wobei das erste Element ein Wert von XX und das zweite ein Wert von YY ist.

Definition “gemeinsame Häufigkeiten”

Bei einer Stichprobe mit nn Werten und einer zweidimensionalen Variablen (X,Y)(X, Y), wird für jeden Wert der Variablen (xi,yj)(x_i, y_j) folgendes definiert:

Absolute Häufigkeit nijn_{ij}: Ist die Anzahl der Male, die das Paar (xi,yj)(x_i, y_j) in der Stichprobe vorkommt.

Relative Häufigkeit nijn_{ij}: Ist der Anteil der Male, die das Paar (xi,yj)(x_i, y_j) in der Stichprobe vorkommt. fij=nijn f_{ij}=\frac{n_{ij}}{n}

Achtung!

Für zweidimensionale Variablen ergeben kumulative Häufigkeiten keinen Sinn.

4.1.1 gemeinsame Häufigkeitsverteilung

Die Werte der zweidimensionalen Variablen mit ihren Häufigkeiten werden als gemeinsame Häufigkeitsverteilung bezeichnet und in einer gemeinsamen Häufigkeitstabelle dargestellt.

X∖Yy1⋯yj⋯yqx1n11⋯n1j⋯n1q⋮⋮⋮⋮⋮⋮xini1⋯nij⋯niq⋮⋮⋮⋮⋮⋮xpnp1⋯npj⋯npq \begin{array}{|c|ccccc|} \hline X\backslash Y & y_1 & \cdots & y_j & \cdots & y_q\\ \hline x_1 & n_{11} & \cdots & n_{1j} & \cdots & n_{1q}\\ \vdots & \vdots & \vdots & \vdots & \vdots & \vdots\\ x_i & n_{i1} & \cdots & n_{ij} & \cdots & n_{iq}\\ \vdots & \vdots & \vdots & \vdots & \vdots & \vdots\\ x_p & n_{p1} & \cdots & n_{pj} & \cdots & n_{pq}\\ \hline \end{array}

Beispiel

Von 30 Studierenden wurden Körpergröße (in cm) und Gewicht (in kg) wie folgt gemessen:

(179,85), (173,65), (181,71), (170,65), (158,51), (174,66), (172,62), (166,60), (194,90), (185,75), (162,55), (187,78), (198,109), (177,61), (178,70), (165,58), (154,50), (183,93), (166,51), (171,65), (175,70), (182,60), (167,59), (169,62), (172,70), (186,71), (172,54), (176,68),(168,67), (187,80).

Die gemeinsame Häufigkeitstabelle ist entsprechend:

X/Y[50,60)[60,70)[70,80)[80,90)[90,100)[100,110)(150,160]200000(160,170]440000(170,180]163100(180,190]014110(190,200]000011 \begin{array}{|c||c|c|c|c|c|c|} \hline X/Y & [50,60) & [60,70) & [70,80) & [80,90) & [90,100) & [100,110) \\ \hline\hline (150,160] & 2 & 0 & 0 & 0 & 0 & 0 \\ \hline (160,170] & 4 & 4 & 0 & 0 & 0 & 0 \\ \hline (170,180] & 1 & 6 & 3 & 1 & 0 & 0 \\ \hline (180,190] & 0 & 1 & 4 & 1 & 1 & 0 \\ \hline (190,200] & 0 & 0 & 0 & 0 & 1 & 1 \\ \hline \end{array}

4.1.2 Streudiagramm

Die gemeinsame Häufigkeitsverteilung kann mit einem Streudiagramm (Punktwolke, Scatterplot) graphisch dargestellt werden, wobei die Daten als Sammlung von Punkten in einem XYXY-Koordinatensystem angezeigt werden.

Üblicherweise wird die unabhängige Variable auf der XX-Achse und die abhängige Variable auf der YY-Achse dargestellt. Für jedes Datenpaar (xi,yj)(x_i, y_j) in der Stichprobe wird ein Punkt mit diesen Koordinaten auf der Ebene gezeichnet.

Das Ergebnis ist eine Ansammlung von Punkten, die auch Punktwolke genannt wird.

Die Form der Punktwolke gibt Aufschluss über die Art der Beziehung zwischen den Variablen XX und YY.

4.1.2.1 Häufigkeitsverteilungen an den Rändern

Die Häufigkeitsverteilungen jeder der zweidimensionalen Variablen werden als Randhäufigkeitsverteilungen bezeichnet. Wir können die Randhäufigkeitsverteilungen aus der gemeinsamen Häufigkeitstabelle erhalten, indem wir die Häufigkeiten nach Zeilen und Spalten summieren.

$$ \begin{array}{|c|ccccc|>{\columncolor{blue}}c|} \hline X\backslash Y & y_1 & \cdots & y_j & \cdots & y_q & \cellcolor{skyblue}n_x\\ \hline x_1 & n_{11} & \cdots & n_{1j} & \cdots & n_{1q} & \cellcolor{skyblue}n_{x_1}\\ \vdots & \vdots & \vdots & \cellcolor{coral}+ \downarrow& \vdots & \vdots & \cellcolor{skyblue}\vdots \\ x_i & n_{i1} & \cellcolor{skyblue}+\rightarrow & n_{ij} &\cellcolor{skyblue} +\rightarrow & n_{iq} & \cellcolor{skyblue} n_{x_i}\\ \vdots & \vdots & \vdots & \cellcolor{coral}+\downarrow & \vdots & \vdots & \cellcolor{skyblue}\vdots\\ x_p & n_{p1} & \cdots & n_{pj} & \cdots & n_{pq} & \cellcolor{skyblue}n_{x_p} \\ \hline \rowcolor{coral} n_y & n_{y_1} & \cdots & n_{y_j} & \cdots & n_{y_q} & \cellcolor{white} n\\ \hline \end{array} $$

Die Randhäufigkeitsverteilungen von Körpergröße und Gewicht sind

$$ \begin{array}{|c||c|c|c|c|c|c|>{\columncolor{blue}}c|} \hline X/Y & [50,60) & [60,70) & [70,80) & [80,90) & [90,100) & [100,110) &\cellcolor{skyblue} n_x\\ \hline\hline (150,160] & 2 & 0 & 0 & 0 & 0 & 0 & \cellcolor{skyblue}2\\ \hline (160,170] & 4 & 4 & 0 & 0 & 0 & 0 & \cellcolor{skyblue}8\\ \hline (170,180] & 1 & 6 & 3 & 1 & 0 & 0 & \cellcolor{skyblue}11 \\ \hline (180,190] & 0 & 1 & 4 & 1 & 1 & 0 & \cellcolor{skyblue}7 \\ \hline (190,200] & 0 & 0 & 0 & 0 & 1 & 1 & \cellcolor{skyblue}2\\ \hline \rowcolor{coral} n_y & 7 & 11 & 7 & 2 & 2 & 1 & \cellcolor{white} 30\\ \hline \end{array} $$

mit den den dazugehörigen Stichprobenstatistiken:

x‾=174.67 cmsx2=102.06 cm2sx=10.1 cmy‾=69.67 Kgsy2=164.42 Kg2sy=12.82 Kg \begin{array}{lllll} \bar x = 174.67 \mbox{ cm} & \quad & s^2_x = 102.06 \mbox{ cm}^2 & \quad & s_x = 10.1 \mbox{ cm}\\ \bar y = 69.67 \mbox{ Kg} & & s^2_y = 164.42 \mbox{ Kg}^2 & & s_y = 12.82 \mbox{ Kg} \end{array}

4.2 Kovarianz

4.2.1 Abweichungen von den Mittelwerten

Um die Beziehung zwischen zwei Variablen zu untersuchen, müssen wir ihre gemeinsame Variation analysieren.

Wenn wir das Diagramm der Punktwolke in 4 Quadranten mit dem Mittelpunkt (x‾,y‾)(\bar x, \bar y) unterteilen, so sind die Vorzeichen der Abweichungen vom Mittelwert:

Quadrant(xi−x‾)(yj−y‾)(xi−x‾)(yj−y‾)1+++2−+−3−−+4+−− \begin{array}{cccc} Quadrant & (x_i-\bar x) & (y_j-\bar y) & (x_i-\bar x)(y_j-\bar y)\\ \hline 1 & + & + & \mathbf{+}\\ 2 & - & + & \mathbf{-}\\ 3 & - & - & \mathbf{+}\\ 4 & + & - & \mathbf{-}\\ \hline \end{array}

Wenn zwischen den Variablen eine aufsteigende lineare Beziehung besteht, werden die meisten Punkte in den Quadranten 1 und 3 liegen und die Summe der Produkte der Abweichungen vom Mittelwert wird positiv sein.

∑(xi−x‾)(yj−y‾)>0 \sum(x_i-\bar x)(y_j-\bar y) >0

Wenn zwischen den Variablen eine abnehmende lineare Beziehung besteht, werden die meisten Punkte in den Quadranten 2 und 4 liegen und die Summe der Produkte der Abweichungen vom Mittelwert wird negativ sein.

∑(xi−x‾)(yj−y‾)<0 \sum(x_i-\bar x)(y_j-\bar y) <0

4.2.2 Kovarianz

Definition “Kovarianz”

Die Kovarianz einer zweidimensionalen Variablen (X,Y)(X, Y) ist der Durchschnitt der Produkte der Abweichungen von den jeweiligen Mitteln.

sxy=∑(xi−x‾)(yj−y‾)nijn s_{xy}=\frac{\sum (x_i-\bar x)(y_j-\bar y)n_{ij}}{n}

Sie kann auch unter Verwendung der folgenden Formel berechnet werden:

sxy=∑xiyjnijn−x‾y‾ s_{xy}=\frac{\sum x_iy_jn_{ij}}{n}-\bar x\bar y

Die Kovarianz misst die lineare Beziehung zwischen zwei Variablen:

Wenn sxys_{xy} > 0, besteht eine zunehmende lineare Beziehung.

Wenn sxys_{xy} < 0, besteht eine abnehmende lineare Beziehung.

Wenn sxys_{xy} = 0, gibt es keine lineare Beziehung.

Verwenden wir die Randhäufigkeitsverteilungen von Körpergröße und Gewicht

X/Y[50,60)[60,70)[70,80)[80,90)[90,100)[100,110)nx(150,160]2000002(160,170]4400008(170,180]16310011(180,190]0141107(190,200]0000112ny711722130 \begin{array}{|c||c|c|c|c|c|c|c|} \hline X/Y & [50,60) & [60,70) & [70,80) & [80,90) & [90,100) & [100,110) & n_x\\ \hline\hline (150,160] & 2 & 0 & 0 & 0 & 0 & 0 & 2\\ \hline (160,170] & 4 & 4 & 0 & 0 & 0 & 0 & 8\\ \hline (170,180] & 1 & 6 & 3 & 1 & 0 & 0 & 11 \\ \hline (180,190] & 0 & 1 & 4 & 1 & 1 & 0 & 7 \\ \hline (190,200] & 0 & 0 & 0 & 0 & 1 & 1 & 2\\ \hline n_y & 7 & 11 & 7 & 2 & 2 & 1 & 30\\ \hline \end{array}

…mit den Mittelwerten. x‾=174.67 cmy‾=69.67 Kg \bar x = 174.67 \mbox{ cm} \qquad \bar y = 69.67 \mbox{ Kg}

So lässt sich die Kovarianz wie folgt berechnen:

sxy=∑xiyjnijn−x‾y‾=155⋅55⋅2+165⋅55⋅4+⋯+195⋅105⋅130−174.67⋅69.67==36820030−12169.26=104.07cm⋅Kg \begin{aligned} s_{xy} &=\frac{\sum x_iy_jn_{ij}}{n}-\bar x\bar y \\ & = \frac{155\cdot 55\cdot 2 + 165\cdot 55\cdot 4 + \cdots + 195\cdot 105\cdot 1}{30}-174.67\cdot 69.67 =\\ & = \frac{368200}{30}-12169.26 = 104.07 \text{cm} \cdot \text{Kg} \end{aligned}

Das bedeutet, dass eine positive lineare Beziehung zwischen den Variablen besteht.

4.3 Regression

In den meisten Fällen ist das Ziel einer Abhängigkeitsstudie nicht nur die Detektion einer Beziehung zwischen zwei Variablen, sondern auch die Expression dieser Beziehung mit einer mathematischen Funktion, y=f(x) y=f(x)

um die abhängige Variable yy für jeden Wert der unabhängigen xx vorherzusagen.

Der Teil der Statistik, der sich mit dem Aufbau solch einer Funktion beschäftigt, wird Regression genannt, und die Funktion selbst heißt Regressionsfunktion oder Regressionsmodell.

4.3.1 Einfache Regressionsmodelle

Es gibt viele Arten von Regressionsmodellen. Die häufigsten Modelle sind in der folgenden Tabelle aufgeführt.

𝐌𝐨𝐝𝐞𝐥𝐆𝐥𝐞𝐢𝐜𝐡𝐮𝐧𝐠Lineary=a+bxQuadratischy=a+bx+cx2Kubischy=a+bx+cx2+dx3Potenzy=a⋅xbExponentielly=ea+bxLogarithmischy=a+b⋅log(x)Inversy=a+bxSigmoidaly=ea+bx \begin{array}{ll} \textbf{Model} & \textbf{Gleichung}\\ Linear & y=a+bx\\ Quadratisch & y=a+bx+cx^2\\ Kubisch & y=a+bx+cx^2+dx^3\\ Potenz & y=a\cdot x^b\\ Exponentiell & y=e^{a+bx}\\ Logarithmisch & y=a+b\cdot\log(x)\\ Invers & y = a+\frac{b}{x}\\ Sigmoidal & y= e^{a+\frac{b}{x}}\\ \end{array}

Die Wahl des Modells hängt von der Form der Punktwolke in der Streudiagramm ab.

4.3.2 Vorhersagefehler

Sobald der Typ des Regressionsmodells gewählt wurde, müssen wir entscheiden, welche Funktion dieser Familie die Beziehung zwischen der abhängigen und unabhängigen Variablen am besten erklärt, d.h. welche Funktion die abhängige Variable am besten vorhersagt.

Diese Funktion ist diejenige, die die Abstände von den beobachteten Werten für YY in der Stichprobe zu den vorhergesagten Werten der Regressionsfunktion minimiert. Diese Abstände werden als Restterme, Residuen oder Vorhersagefehler bezeichnet.

Definition Vorhersagefehler:

Gegeben ein Regressionsmodell y=f(x)y = f(x) für eine zweidimensionale Variable (X,Y)(X, Y), ist der Vorhersagefehler für jedes Paar (xi,yj)(x_i, y_j) der Stichprobe die Differenz zwischen dem beobachteten Wert der abhängigen Variablen yjy_j und dem vorhergesagten Wert der Regressionsfunktion für xix_i,

ei,j=yj−f(xi). e_{i,j} = y_j - f(x_i).

4.3.2.1 Methode der kleinsten Quadrate

Um die Regressionsfunktion zu erhalten, kann die Methode der kleinsten Quadrate angewendet werde. Mit ihr wird die Funktion bestimmt, welche die quadrierten Residuen minimiert.

∑eij2. \sum e_{ij}^2.

Für ein lineares Modell f(x)=a+bxf(x) = a + bx hängt die Summe von zwei Parametern ab, dem Schnittpunkt durch die Y-Achse aa und der Steigung der Geraden bb,

θ(a,b)=∑eij2=∑(yj−f(xi))2=∑(yj−a−bxi)2. \theta(a,b) = \sum e_{ij}^2 =\sum (y_j - f(x_i))^2 =\sum (y_j-a-bx_i)^2.

Dies reduziert das Problem darauf, geeignete Werte für aa und bb zu bestimmen.

4.4 Regressionsgerade

Um das Minimierungsproblem zu lösen, müssen wir die partiellen Ableitungen bezüglich aa und bb auf Null setzen.

∂θ(a,b)∂a=∂∑(yj−a−bxi)2∂a=0∂θ(a,b)∂b=∂∑(yj−a−bxi)2∂b=0 \begin{aligned} \frac{\partial \theta(a,b)}{\partial a} &= \frac{\partial \sum (y_j-a-bx_i)^2 }{\partial a} =0\\ \frac{\partial \theta(a,b)}{\partial b} &= \frac{\partial \sum (y_j-a-bx_i)^2 }{\partial b} =0 \end{aligned}

Jetzt können wir das Gleichungssystem lösen zu:

a=y‾−sxysx2x‾b=sxysx2 a= \bar y - \frac{s_{xy}}{s_x^2}\bar x \qquad b=\frac{s_{xy}}{s_x^2} Diese Formeln minimieren die Residuen von YY und ergeben das optimale lineare Modell.

Definition “Regressiongerade”

Für eine Stichprobe mit den zweidimensionalen Variablen (X,Y)(X, Y) ist die Regressionsgerade von YY auf XX:

y=y‾+sxysx2(x−x‾) y = \bar y +\frac{s_{xy}}{s_x^2}(x-\bar x)

Die Regressionsgerade von YY auf XX ist die Gerade, die die Vorhersagefehler von YY minimiert und daher das lineare Regressionsmodell mit den besten Vorhersagen für YY darstellt.

4.4.1 Regressionlinienberechnung

Wir verwenden die Daten der Körpergrößen (XX) und Körpergewichten (YY) mit den folgenden Kennwerten

x‾=174.67 cmsx2=102.06 cm2sx=10.1 cmy‾=69.67 Kgsy2=164.42 Kg2sy=12.82 Kgsxy=104.07 cm⋅ Kg \begin{array}{lllll} \bar x = 174.67 \text{ cm} & \quad & s^2_x = 102.06 \text{ cm}^2 & \quad & s_x = 10.1 \text{ cm}\\ \bar y = 69.67 \text{ Kg} & & s^2_y = 164.42 \text{ Kg}^2 & & s_y = 12.82 \text{ Kg}\\ & & s_{xy} = 104.07 \text{ cm}\cdot \text{ Kg} & & \end{array}

ergibt sich die Regressionsgerade für Körpergröße erklärt durch Gewicht (Größe gegen Gewicht, Größe=f(Gewicht)\text{Größe} = f(\text{Gewicht})) wie folgt:

y=y‾+sxysx2(x−x‾)=69.67+104.07102.06(x−174.67)=−108.49+1.02x y = \bar y +\frac{s_{xy}}{s_x^2}(x-\bar x) = 69.67+\frac{104.07}{102.06}(x-174.67) = -108.49 +1.02 x

Die Regressionsgerade für Gewicht erklärt durch Körpergröße (Gewicht gegen Größe, Gewicht=f(Größe)\text{Gewicht} = f(\text{Größe})) ist

x=x‾+sxysy2(y−y‾)=174.67+104.07164.42(y−69.67)=130.78+0.63y x = \bar x +\frac{s_{xy}}{s_y^2}(y-\bar y) = 174.67+\frac{104.07}{164.42}(y-69.67) = 130.78 + 0.63 y

Beachten Sie, dass die Regressionsgeraden unterschiedlich sind!

Üblicherweise sind die Regressionsgeraden von YY gegen XX und XX gegen YY nicht gleich, aber sie schneiden sich immer im Mittelpunkt (x¯,y¯)(\overline x, \overline y).

Wenn es eine perfekte lineare Beziehung zwischen den Variablen gibt, dann sind beide Regressionsgeraden gleich, da diese Linie sowohl XX-Residuen als auch YY-Residuen auf null setzt.

Wenn es keine lineare Beziehung zwischen den Variablen gibt, dann sind beide Regressionsgeraden konstant und gleich den jeweiligen Mittelwerten y=y‾,x=x‾. y = \bar y, \qquad x = \bar x.

Daher schneiden sie sich senkrecht.

4.4.2 Regressionskoeffizient

Der wichtigste Parameter einer Regressionsgeraden ist die Steigung.

Definition Regressionskoeffizient bxyb_{xy}

Für eine zweidimensionale Variable (X,Y)(X, Y) gibt der Regressionskoeffizient der Regressionsgeraden von YY gegen XX deren Steigung an,

byx=sxysx2 b_{yx} = \frac{s_{xy}}{s_x^2}

Der Regressionskoeffizient hat immer das gleiche Vorzeichen wie die Kovarianz. Er misst, wie sich die abhängige Variable YY in Bezug auf die unabhängige Variable XX gemäß der Regressionsgerade verändert. Insbesondere gibt er an, um wie viele Einheiten die abhängige Variable pro Einheit, die die unabhängige Variable zunimmt, steigt oder fällt.

Beispiel: Körpergrößen und Gewichte

In unserer Stichprobe mit den Variablen Körpergröße und Gewicht war die Regressionsgerade für das Gewicht in Bezug auf die Körpergröße

y=−108.49+1.02x. y=-108.49 +1.02 x.

Daher ist der Regressionskoeffizient für das Gewicht in Bezug auf die Körpergröße

byx=1.02 Kg/cm. b_{yx}= 1.02 \text{ Kg/cm.}

Das bedeutet, dass das Gewicht gemäß der Regressionsgerade in Bezug auf die Körpergröße um 1.02 kg pro Zentimeter zunimmt, wenn die Körpergröße steigt.

4.4.3 Modellvorhersage

Üblicherweise werden Regressionsmodelle verwendet, um die abhängige Variable YY für bestimmte Werte der unabhängigen Variablen XX vorherzusagen.

Denken Sie daran!

Um die besten Vorhersagen einer Variablen zu erhalten, müssen Sie die Regressionsgerade verwenden, bei der diese Variable die abhängige Rolle YY spielt.

Möchten wir das Gewicht einer Person mit einer Körpergröße von 180cm vorhersagen, müssen wir die Regressionsgerade für das Gewicht in Bezug auf die Körpergröße verwenden.

y=−108.49+1.02⋅180=75.11 Kg. y = -108.49 + 1.02 \cdot 180 = 75.11 \text{ Kg}.

Um hingegen die Körpergröße einer Person mit einem Gewicht von 79kg vorherzusagen, müssen wir die Regressionsgerade für die Körpergröße in Bezug auf das Gewicht verwenden,

x=130.78+0.63⋅79=180.55 cm. x = 130.78 + 0.63\cdot 79 = 180.55 \text{ cm}.

Aber wie zuverlässig sind diese Vorhersagen?

4.5 Korrelation

Sobald wir ein Regressionsmodell haben, müssen wir seine Vorhersagefähigkeit bewerten, indem wir die Anpassungsgüte des Modells und die Stärke der Beziehung, die es aufbaut, untersuchen. Dieser Teil der Statistik wird als Korrelation bezeichnet.

Die Korrelationsanalyse untersucht die Residuen eines Regressionsmodells: Je kleiner die Residuen, desto besser passt das Modell und desto stärker ist die Beziehung, die es aufbaut. Um die Anpassungsgüte eines Regressionsmodells zu messen, wird häufig die residuale Varianz verwendet.

Definition “Residuale Varianz sry2s_{ry}^2

Bei einem Regressionsmodell y=f(x)y = f(x) für eine zweidimensionale Variable (X,Y)(X, Y) ist die residuale Varianz die durchschnittliche quadratische Abweichung der Residuen,

sry2=∑eij2nijn=∑(yj−f(xi))2nijn. s_{ry}^2 = \frac{\sum e_{ij}^2n_{ij}}{n} = \frac{\sum (y_j - f(x_i))^2n_{ij}}{n}.

Je größer die Residuen, desto größer die residuale Varianz und desto kleiner die Anpassungsgüte. Wenn die lineare Beziehung perfekt ist, sind die Residuen Null und die residuale Varianz ist ebenfalls Null. Umgekehrt gilt, dass wenn es keine Beziehung gibt, die Residuen mit den Abweichungen vom Mittelwert übereinstimmen und die residuale Varianz gleich der Varianz der abhängigen Variable ist.

0≤sry2≤sy2 0\leq s_{ry}^2\leq s_y^2

4.6 Korrelationskoeffizienten

4.6.1 Bestimmheitsmaß

Es ist möglich, aus der Reststreuung eine andere Korrelationsstatistik zu definieren, die leichter interpretierbar ist.

Definition Bestimmtheitsmaß R2R^2).

Für ein Regressionsmodell y=f(x)y=f(x) einer zweidimensionalen Variablen (X,Y)(X, Y), ist sein Bestimmtheitsmaß

R2=1−sry2sy2 R^2 = 1- \frac{s_{ry}^2}{s_y^2}

Da die Reststreuung von 0 bis sy2s_{y}^2 reicht, gilt:

0≤R2≤1 0\leq R^2\leq 1

Je größer R2R^2 ist, desto besser passt das Regressionsmodell und desto zuverlässiger werden seine Vorhersagen sein.

Wenn R2=0R^2 = 0, gibt es keine Beziehung gemäß dem Regressionsmodell.

Wenn R2=1R^2 = 1, ist die Beziehung gemäß dem Modell perfekt.

4.6.2 Lineares Bestimmtheitsmaß

Wenn das Regressionsmodell linear ist, beträgt die Reststreuung

sry2=∑eij2fij=∑(yj−f(xi))2fij=∑(yj−y‾−sxysx2(xi−x‾))2fij=∑((yj−y‾)2+sxy2sx4(xi−x‾)2−2sxysx2(xi−x‾)(yj−y‾))fij=∑(yj−y‾)2fij+sxy2sx4∑(xi−x‾)2fij−2sxysx2∑(xi−x‾)(yj−y‾)fij=sy2+sxy2sx4sx2−2sxysx2sxy=sy2−sxy2sx2. \begin{aligned} s_{ry}^2 & = \sum e_{ij}^2f_{ij} = \sum (y_j - f(x_i))^2f_{ij} = \sum \left(y_j - \bar y -\frac{s_{xy}}{s_x^2}(x_i-\bar x) \right)^2f_{ij}\\ & = \sum \left((y_j - \bar y)^2 +\frac{s_{xy}^2}{s_x^4}(x_i-\bar x)^2 - 2\frac{s_{xy}}{s_x^2}(x_i-\bar x)(y_j -\bar y)\right)f_{ij} \\ & = \sum (y_j - \bar y)^2f_{ij} +\frac{s_{xy}^2}{s_x^4}\sum (x_i-\bar x)^2f_{ij}- 2\frac{s_{xy}}{s_x^2}\sum (x_i-\bar x)(y_j -\bar y)f_{ij}\\ & = s_y^2 + \frac{s_{xy}^2}{s_x^4}s_x^2 - 2 \frac{s_{xy}}{s_x^2}s_{xy} = s_y^2 - \frac{s_{xy}^2}{s_x^2}. \end{aligned}

… und das Bestimmtheitsmaß ist ….

R2=1−sry2sy2=1−sy2−sxy2sx2sy2=1−1+sxy2sx2sy2=sxy2sx2sy2. \begin{aligned} R^2 &= 1- \frac{s_{ry}^2}{s_y^2} = 1- \frac{s_y^2 - \frac{s_{xy}^2}{s_x^2}}{s_y^2} = 1 - 1 + \frac{s_{xy}^2}{s_x^2s_y^2} = \frac{s_{xy}^2}{s_x^2s_y^2}. \end{aligned}

Beispiel

In der Stichprobe zu Körpergröße und Gewicht gelten folgende Kennwerte:

x‾=174.67 cmsx2=102.06 cm2y‾=69.67 Kgsy2=164.42 Kg2sxy=104.07 cm⋅ Kg \begin{array}{lll} \bar x = 174.67 \text{ cm} & \quad & s^2_x = 102.06 \text{ cm}^2\\ \bar y = 69.67 \text{ Kg} & & s^2_y = 164.42 \text{ Kg}^2\\ s_{xy} = 104.07 \text{ cm}\cdot\text{ Kg} \end{array}

Das Bestimmtheitsmaß errechnet sich also per

R2=sxy2sx2sy2=(104.07 cm⋅Kg)2102.06 cm2⋅164.42 Kg2=0.65. R^2 = \frac{s_{xy}^2}{s_x^2s_y^2} = \frac{(104.07 \text{ cm}\cdot\text{Kg})^2}{102.06 \text{ cm}^2 \cdot 164.42 \text{ Kg}^2} = 0.65.

Das bedeutet, dass das lineare Modell Gewicht erklärt durch Größe 65% der Variation des Gewichts erklärt und das lineare Modell Körpergröße erklärt durch Gewicht ebenfalls 65% der Variation der Körpergröße erklärt.

4.6.3 Korrelationskoeffizient

Definition Korrelationskoeffizient r2r^2

Gegeben eine Stichprobe zweidimensionaler Variablen (X, Y), ist der Korrelationskoeffizient der Stichprobe die Wurzel des linearen Bestimmtheitsmaßes mit dem Vorzeichen der Kovarianz:

r=sxysxsy. r = \dfrac{s_{xy}}{s_xs_y}.

Das Bestimmheitsmaß R2R^2 reicht von 0 bis 1, und rr reicht von -1 bis 1,

−1≤r≤1 -1\leq r\leq 1

Der Korrelationskoeffizient misst nicht nur die Stärke, sondern auch die Richtung (steigend oder fallend) der linearen Beziehung:

Wenn r=0r = 0, gibt es keine lineare Beziehung.

Wenn r=1r = 1, gibt es eine perfekte steigende lineare Beziehung.

Wenn r=−1r = -1, gibt es eine perfekte fallende lineare Beziehung.

Beispiel

In der Stichprobe zu Körpergröße und Gewicht gelten folgende Kennwerte:

x‾=174.67 cmsx2=102.06 cm2y‾=69.67 Kgsy2=164.42 Kg2sxy=104.07 cm⋅ Kg \begin{array}{lll} \bar x = 174.67 \text{ cm} & \quad & s^2_x = 102.06 \text{ cm}^2\\ \bar y = 69.67 \text{ Kg} & & s^2_y = 164.42 \text{ Kg}^2\\ s_{xy} = 104.07 \text{ cm}\cdot\text{ Kg} \end{array}

Der Korrelationskoeffizient kann nun berechnet werden mit:

r=sxysxsy=104.07 cm⋅Kg10.1 cm⋅12.82 Kg=+0.8. r = \frac{s_{xy}}{s_xs_y} = \frac{104.07 \text{ cm}\cdot\text{Kg}}{10.1 \text{ cm} \cdot 12.82 \text{ Kg}} = +0.8.

Dies bedeutet, dass es eine relativ starke steigende lineare Beziehung zwischen Körpergröße und Gewicht gibt.

4.6.4 Zuverlässigkeit von Regressionsvorhersagen

Das Bestimmtheitsmaß erklärt, wie gut ein Regressionsmodell passt, aber andere Faktoren beeinflussen auch die Zuverlässigkeit von Regressionsvorhersagen:

Ein höheres R2R^2 bedeutet eine bessere Passung und zuverlässigere Vorhersagen.

Eine höhere Variabilität der Grundgesamtheit macht Vorhersagen schwieriger und weniger zuverlässig.

Eine größere Stichprobengröße bietet mehr Informationen und ermöglicht zuverlässigere Vorhersagen.

Darüber hinaus muss man beachten, dass ein Regressionsmodell nur für den in der Stichprobe beobachteten Wertebereich gültig ist. Daher sollten keine Vorhersagen für Werte weit außerhalb dieses Bereichs gemacht werden, da wir für diese keine Informationen haben.

4.7 nicht-lineare Regression

Eine nichtlineare Regression kann auch mit der Methode der kleinsten Quadrate durchgeführt werden. Allerdings kann in einigen Fällen die Anpassung eines nichtlinearen Modells durch eine einfache Transformation seiner Variablen auf die Anpassung eines linearen Modells reduziert werden.

4.7.1 Transformationen von nichtlinearen Regressionsmodellen

Logarithmisches Modell: Ein logarithmisches Modell y=a+blogxy = a+b \log x kann durch den Wechsel t=logxt=\log x in ein lineares Modell überführt werden:

y=a+blogx=a+bt y=a+b\log x = a+bt

Exponentielles Modell: Ein exponentielles Modell y=ea+bxy = e^{a+bx} kann durch den Wechsel z=logyz = \log y in ein lineares Modell überführt werden:

z=logy=log(ea+bx)=a+bx z = \log y = \log(e^{a+bx}) = a+bx

Potenzialmodell: Ein Potenzialmodell y=axby = ax^b kann durch die Wechsel t=logxt=\log x und z=logyz=\log y in ein lineares Modell überführt werden:

z=logy=log(axb)=loga+blogx=a′+bt. z = \log y = \log(ax^b) = \log a + b \log x = a^\prime+bt.

Inversmodell: Ein Inversmodell y=a+b/xy = a+b/x kann durch den Wechsel t=1/xt=1/x in ein lineares Modell überführt werden:

y=a+b(1/x)=a+bt y = a + b(1/x) = a+bt

Sigmoidales Modell: Ein sigmoidales Modell y=ea+b/xy = e^{a+b/x} kann durch die Wechsel t=1/xt=1/x und z=logyz=\log y in ein lineares Modell überführt werden:

z=logy=log(ea+b/x)=a+b(1/x)=a+bt z = \log y = \log (e^{a+b/x}) = a+b(1/x) = a+bt

4.7.2 exponentieller Zusammenhang

Die nachfolgende Tabelle zeigt die Anzahl an Bakterien in einer Kultur über mehrere Stunden.

StundenBakterien0251282473654865121619072908362 \begin{array}{c|c} \text{Stunden} & \text{Bakterien}\\ \hline 0 & 25 \\ 1 & 28 \\ 2 & 47\\ 3 & 65 \\ 4 & 86\\ 5 & 121\\ 6 & 190\\ 7 & 290\\ 8 & 362 \end{array}

Das dazugehörige Streudiagramm sieht so aus:

Wenn wir ein lineares Modell erstellen (engl: to fit, auch fitten genannt), erhalten wir

Bakterien=−30,18+41,27Stunden, mit R2=0,85. \text{Bakterien} = -30,18+41,27\,\text{Stunden, mit } R^2=0,85. Die Regressionsgerade sieht so aus:

Ist dies ein gutes Modell?

4.7.2.1 exponentielles Modell

Obwohl das lineare Modell nicht schlecht ist, erscheint ein exponentielles Modell aufgrund der Form des Punktwolken-Clouds des Streuplots geeigneter zu sein.

Um ein exponentielles Modell y=ea+bxy = e^{a+bx} zu konstruieren, können wir die Transformation z=logyz=\log y anwenden, indem wir also eine logarithmische Transformation der abhängigen Variablen durchführen.

StundenBakterienlog(Bakterien)0253.221283.332473.853654.174864.4551214.8061905.2572905.6783625.89 \begin{array}{c|c|c} \text{Stunden} & \text{Bakterien} & \log(Bakterien)\\ \hline 0 & 25 & 3.22\\ 1 & 28 & 3.33\\ 2 & 47 & 3.85\\ 3 & 65 & 4.17\\ 4 & 86 & 4.45\\ 5 & 121 & 4.80\\ 6 & 190 & 5.25\\ 7 & 290 & 5.67\\ 8 & 362 & 5.89 \end{array}

Jetzt bleibt nur noch, die Regressionslinie des Logarithmus der Bakterien über die Stunden zu berechnen:

log(Bakterien)=3.107+0.352 Stunden, \log(Bakterien) = 3.107 + 0.352 \text{ Stunden},

und die Variable abschließend zurückzutransformieren,

Bakterien=e3.107+0.352 Stunden \text{Bakterien} = e^{3.107+0.352 \text{ Stunden}} errechnet sich R2=0,99R^2 = 0,99.

Daher passt das exponentielle Modell deutlich besser als das lineare Modell.

4.7.3 Regressionsrisiken

Es ist wichtig zu beachten, dass jedes Regressionsmodell seinen eigenen Bestimmtheitskoeffizienten hat. Daher bedeutet ein nah an Null liegender Bestimmtheitskoeffizient, dass es keine vom Modell festgelegte Beziehung gibt. Aber das bedeutet nicht, dass die Variablen unabhängig sind, da es eine andere Art von Beziehung geben könnte.

4.7.4 Ausreißer in Regressionsmodellen

In Regressionsstudien sind Ausreißer Punkte, die nicht der Tendenz der restlichen Punkte folgen, auch wenn die Werte des Paares für jede Variable separat keine Ausreißer sind.

Ausreißer in Regressionsstudien können drastische Veränderungen in den Regressionsmodellen hervorrufen.

4.7.5 Simpsons Paradox

Manchmal verschwindet ein Trend oder kehrt sich sogar um, wenn man die Probe nach einer qualitativen Variable aufteilt, die mit der abhängigen Variablen zusammenhängt. Dies wird als Simpsons Paradox bezeichnet.

5 Wahrscheinlichkeit

Die deskriptive Statistik bietet Methoden zur Beschreibung der in der Probe gemessenen Variablen und ihrer Beziehungen, ermöglicht jedoch keine Schlüsse aus dieser Probe auf die Grundgesamtheit.

Jetzt ist es Zeit, von der Stichprobe zur Grundgesamtheit zu gelangen, und die Brücke dafür ist die Wahrscheinlichkeitstheorie.

Bitte beachten Sie, dass die Stichprobe nur begrenzte Informationen über die Grundgesamtheit hat, und um gültige Schlüsse für diese zu ziehen, muss die Probe repräsentativ sein. Dies ist strenggenommen nur bei Zufallsstichproben gegeben.

Die Wahrscheinlichkeitstheorie wird uns Werkzeuge bieten, um den Zufall in der Stichprobenziehung zu kontrollieren und das Vertrauensniveau der aus der Stichprobe gezogenen Schlüsse zu bestimmen.

5.1 Experiment mit zufälligem Ergebnis

Die Untersuchung einer Eigenschaft der Grundgesamtheit erfolgt durch Experimente mit zufälligem Ergebnis.

Definition “Zufallsexperiment”

Ein Zufallsexperiment ist ein Experiment, das zwei Bedingungen erfüllt:

Alle möglichen Ergebnisse sind bekannt.

Es ist unmöglich, das Ergebnis mit absoluter Sicherheit vorherzusagen.

Beispiel: Glücksspiele

Glücksspiele sind typische Beispiele für Experimente mit zufälligem Ergebnis. Zum Beispiel ist das Werfen eines Würfels ein solches Experiment, weil:

Der Satz der möglichen Ergebnisse bekannt ist: {1,2,3,4,5,6}\{1, 2, 3, 4, 5, 6\}.

Bevor der Würfel geworfen wird ist es unmöglich das Ergebnis mit absoluter Sicherheit vorherzusagen.

Ein weiteres Beispiel, das nichts mit Glücksspielen zu tun hat, ist die zufällige Auswahl einer Person aus einer menschlichen Grundgesamtheit und die Bestimmung ihrer Blutgruppe.

Grundsätzlich ist die Ziehung einer Stichprobe mittels einer Zufallsmethode ein Zufallsexperiment.

5.1.1 Wahrscheinlichkeitsraum

Definition “Wahrscheinlichkeitsraum Ω\Omega”

Der Satz Ω\Omega der möglichen Ergebnisse eines Zufallsexperiments wird als Wahrscheinlichkeitsraum (Probabilitätsraum) bezeichnet.

Beispiele für Probabilitätsräume:

Beim Werfen einer Münze ist Ω={Kopf,Zahl}\Omega = \{Kopf, Zahl\}.

Beim Werfen eines Würfels ist Ω={1,2,3,4,5,6}\Omega = \{1, 2, 3, 4, 5, 6 \}.

Beim Blutgruppentest einer zufällig ausgewählten Person ist Ω={0,A,B,AB}\Omega = \{0, A, B, AB \}.

Bei der Körpergröße einer zufällig ausgewählten Person ist Ω=ℝ+\Omega=\mathbb{R}^+.

5.1.2 Baumdiagramme

In Experimenten, bei denen mehr als eine Variable gemessen wird, kann die Bestimmung des Wahrscheinlichkeitsraums schwierig sein. In solchen Fällen ist es ratsam, ein Baumdiagramm zur Konstruktion des Probabilitätsraums zu verwenden.

In einem Baumdiagramm wird jede Variable auf einer Ebene des Baums dargestellt und jeder mögliche Wert der Variablen als Zweig.

5.1.3 Zufallsereignis

Definition Zufallsereignis

Ein zufälliges Ereignis ist jede Teilmenge des Probabilitätsraums Ω\Omega eines Zufallsexperimentes.

Es gibt verschiedene Arten von Ereignissen:

unmögliches Ereignis: Dies ist das Ereignis ohne Elemente ∅\emptyset. Es hat keine Chance einzutreten.

elementare Ereignisse: Dies sind Ereignisse mit nur einem Element.

zusammengesetzte Ereignisse: Dies sind Ereignisse mit zwei oder mehr Elementen.

sicheres Ereignis: Dies ist das Ereignis, das den gesamten Probabilitätsraum Ω\Omega enthält. Es tritt immer ein.

5.2 Mengentheorie

5.2.1 Ereignisraum

Definition 32 Ereignisraum

Gegeben einen Wahrscheinlichkeitsraum Ω\Omega eines Zufallsexperimentes, ist die Ereignismenge von Ω\Omega die Menge aller möglichen Ereignisse von Ω\Omega und wird mit 𝒫(Ω)\mathcal{P}(\Omega) bezeichnet.

Beispiel

Für den Probabilitätsraum Ω={a,b,c}\Omega=\{a,b,c\} ist dessen Ereignismenge:

𝒫(Ω)={∅,{a},{b},{c},{a,b},{a,c},{b,c},{a,b,c}} \mathcal{P}(\Omega)=\left\{\emptyset, \{a\},\{b\},\{c\},\{a,b\},\{a,c\},\{b,c\},\{a,b,c\}\right\}

5.2.2 Ereignisoperationen

Da Ereignisse Teilmengen des Wahrscheinlichkeitsraums sind, haben wir mittels der Mengentheorie folgende Operationen an Ereignissen:

Vereinigung

Schnittmenge

Komplementärmenge

Differenzmenge

5.2.2.1 Vereinigung von Ereignissen

Definition “Vereinigungsereignis”

Gegeben zwei Ereignisse A,B⊆ΩA,B\subseteq \Omega, ist die Vereinigung von AA und BB, bezeichnet mit A∪BA\cup B, das Ereignis aller Elemente, die Mitglieder von AA oder BB oder beiden sind.

A∪B={x|x∈A oder x∈B}. A\cup B = \{x\,|\, x\in A\textrm{ oder }x\in B\}.

Das Vereinigungsereignis A,B⊆ΩA,B\subseteq \Omega tritt ein, wenn AA oder BB eintreten.

5.2.2.2 Schnittereignis

Definition “Schnittereignis”

Angenommen, wir haben zwei Ereignisse AA und BB, die Teilmengen von Ω\Omega sind. Das Schnittereignis (Intersection) von AA und BB, bezeichnet mit A∩BA\cap B, ist das Ereignis aller Elemente, die sowohl zu AA als auch zu BB gehören.

A∩B={x|x∈A und x∈B}. A\cap B = \{x\,|\, x\in A\mbox{ und }x\in B\}.

Das Ereignis A∩BA\cap B tritt ein, wenn sowohl AA als auch BB eintreten. Zwei Ereignisse sind unmöglich, wenn ihr Schnitt leer ist.

5.2.2.3 Komplementärereignis

Definition “Komplementärereignis”

Angenommen, wir haben ein Ereignis AA, das eine Teilmenge von Ω\Omega ist. Das komplementäre oder gegensätzliche Ereignis zu AA, bezeichnet mit A¯\overline A, ist das Ereignis aller Elemente in Ω\Omega außer denjenigen, die zu AA gehören.

A¯={x|x∉A}. \overline A = \{x\,|\, x\not\in A\}.

Das komplementäre Ereignis A¯\overline A tritt ein, wenn AA nicht eintritt.

5.2.2.4 Differenzereignis

Definition “Differenzereignis”

Gegeben sind zwei Ereignisse AA und BB als Teilmengen von Ω\Omega. Die Differenz von AA und BB, bezeichnet mit A−BA-B, ist das Ereignis aller Elemente, die zu AA gehören, aber nicht zu BB.

A−B={x|x∈A und x∉B}=A∩B¯. A-B = \{x\,|\, x\in A\mbox{ und }x\not\in B\} = A \cap \overline B.

Das Differenzereignis A−BA-B tritt ein, wenn AA eintritt, aber BB nicht.

5.2.2.5 Beispiel

Beispiel

Der Ereignisraum beim Würfeln ist Ω={1,2,3,4,5,6}\Omega=\{1,2,3,4,5,6\} und die Ereignisse sind

A={2,4,6}A=\{2,4,6\} und

B={1,2,3,4}B=\{1,2,3,4\},

dann gilt:

Die Vereinigungsmenge von AA und BB ist A∪B={1,2,3,4,6}A\cup B=\{1,2,3,4,6\}.

Die Schnittmenge von AA und BB ist A∩B={2,4}A\cap B=\{2,4\}.

Das Komplement von AA ist A¯={1,3,5}\overline A=\{1,3,5\}

Die Ereignisse AA und A¯\overline A schließen sich gegenseitig aus.

Die Differenz von AA und BB ist A−B={6}A-B=\{6\} und die Differenz von BB und AA ist B−A={1,3}B-A=\{1,3\}

5.2.3 Algebra

Sind die Ereignisse A,B,C⊆ΩA,B,C\subseteq \Omega gegeben, treffen die folgenden algebra’schen Eigenschaften zu:

Idempotenz: A∪A=A,A∩A=AA\cup A=A,\quad A\cap A=A

Kommutativität: A∪B=B∪A,A∩B=B∩AA\cup B=B\cup A,\quad A\cap B = B\cap A

Assoziativität: (A∪B)∪C=A∪(B∪C),(A∩B)∩C=A∩(B∩C)(A\cup B)\cup C = A\cup (B\cup C),\quad (A\cap B)\cap C = A\cap (B\cap C)

Distributivität: (A∪B)∩C=(A∩C)∪(B∩C),(A∩B)∪C=(A∪C)∩(B∪C)(A\cup B)\cap C = (A\cap C)\cup (B\cap C),\quad (A\cap B)\cup C = (A\cup C)\cap (B\cup C)

Neutrales Element: A∪∅=A,A∩Ω=AA\cup \emptyset=A,\quad A\cap \Omega=A

absorbierendes Element: A∪Ω=Ω,A∩∅=∅A\cup \Omega=\Omega,\quad A\cap \emptyset=\emptyset

komplementäres symmetrisches Element A∪A¯=Ω,A∩A¯=∅A\cup \overline A = \Omega,\quad A\cap \overline A= \emptyset

doppelte Negation: A¯¯=A\overline{\overline A} = A

De Morgansche Gesetze: A∪B¯=A¯∩B¯,A∩B¯=A¯∪B¯\overline{A\cup B} = \overline A\cap \overline B,\quad \overline{A\cap B} = \overline A\cup \overline B

5.3 Wahrscheinlichkeit

Defintion “Wahrscheinlichkeit” (nach Laplace)

Für ein Zufallsexperiment mit einem Ereignisraum Ω\Omega, dessen Elemente alle gleich wahrscheinlich sind, ist die Wahrscheinlichkeit eines Ereignisses A⊆ΩA\subseteq \Omega der Quotient zwischen der Anzahl der Elemente von AA und der Anzahl der Elemente von Ω\Omega

P(A)=|A||Ω|=Anzahl gewünschter ErgebnisseAnzahl aller möglichen Ergebnisse P(A) = \frac{|A|}{|\Omega|} = \frac{\mbox{Anzahl gewünschter Ergebnisse}}{\mbox{Anzahl aller möglichen Ergebnisse}}

Diese Definition ist gut bekannt, hat aber wichtige Einschränkungen:

Es wird verlangt, dass alle Elemente des Ereignisraums gleich wahrscheinlich sind (Gleichwahrscheinlichkeit).

Sie kann nicht bei unendlichen großen Ereignisräumen angewendet werden.

Vorsicht!

Diese Bedingungen werden in vielen echten Experimenten nicht erfüllt.

Beispiel

Angenommen, der Ereignisraum beim Werfen eines Würfels ist Ω={1,2,3,4,5,6}\Omega=\{1,2,3,4,5,6\} und das Ereignis A={2,4,6}A=\{2,4,6\}, dann beträgt die Wahrscheinlichkeit von AA

P(A)=|A||Ω|=36=0.5. P(A) = \frac{|A|}{|\Omega|} = \frac{3}{6} = 0.5.

Allerdings ist es beim Ereignisraum der Blutgruppe einer zufällig ausgewählten Person Ω={O,A,B,AB}\Omega=\{O,A,B,AB\} nicht möglich, die klassische Definition zu verwenden, um die Wahrscheinlichkeit für Gruppe AA zu berechnen,

P(A)≠|A||Ω|=14=0.25, P(A) \neq \frac{|A|}{|\Omega|} = \frac{1}{4} = 0.25,

…weil Blutgruppen in der menschlichen Bevölkerung nicht gleich wahrscheinlich sind.

5.3.1 Häufigkeitswahrscheinlichkeit

Definition “Gesetz der großen Zahlen”

Wenn ein zufälliges Experiment eine große Anzahl von Malen wiederholt wird, nähert sich die relative Häufigkeit eines Ereignisses der Wahrscheinlichkeit des Ereignisses an.

Die folgende Definition der Wahrscheinlichkeit basiert auf diesem Satz.

Definition “Frequenzwahrscheinlichkeit”

Gegeben ein Ereignisraum Ω\Omega eines reproduzierbaren zufälligen Experiments, beträgt die Wahrscheinlichkeit eines Ereignisses A⊆ΩA\subseteq \Omega die relative Häufigkeit des Ereignisses AA bei einer unbegrenzten Anzahl von Wiederholungen des Experiments.

P(A)=limn→∞nAn P(A) = lim_{n\rightarrow \infty}\frac{n_A}{n}

Auch diese Definition hat einige Nachteile:

Sie berechnet eine Schätzung der realen Wahrscheinlichkeit.

Die Wiederholung des Experiments muss unter identischen Bedingungen stattfinden.

Beispiel Münzwurf

Gegeben ist der Ereignisraum beim Werfen einer Münze Ω={Kopf,Zahl}\Omega=\{Kopf, Zahl\}. Wenn nach 100100 Würfen 54mal Kopf herauskam, beträgt die Wahrscheinlichkeit von KopfKopf P(Kopf)=nKopfn=54100=0.54. P(Kopf) = \frac{n_{Kopf}}{n} = \frac{54}{100} = 0.54.

Beispiel Blutgruppen

Gegeben ist der Ereignisraum der Blutgruppe einer zufällig ausgewählten Person Ω={O,A,B,AB}\Omega=\{O,A,B,AB\}. Wenn nach einer Zufallsstichprobe von 1.000 Personen 412 mit der Blutgruppe AA dabei waren, beträgt die Wahrscheinlichkeit von AA

P(A)=nAn=4121000=0.412. P(A) = \frac{n_A}{n} = \frac{412}{1000} = 0.412.

5.3.2 Axiomatische Wahrscheinlichkeit

Definition “Wahrscheinlichkeit” (nach Kolmogórov)

Gegeben ein Ereignisraum Ω\Omega eines zufälligen Experiments, ist eine Wahrscheinlichkeitsfunktion eine Funktion, die jeden Ereigniswert A⊆ΩA\subseteq \Omega auf eine reelle Zahl P(A)P(A) (bekannt als Wahrscheinlichkeit von AA), abbildet und folgende Axiome erfüllt:

Die Wahrscheinlichkeit jedes Ereignisses ist nicht negativ, P(A)≥0. P(A)\geq 0.

Die Wahrscheinlichkeit des Ereignisraums beträgt 1, P(Ω)=1 P(\Omega)=1

Die Wahrscheinlichkeit der Vereinigung zweier inkompatibler Ereignisse (A∩B=∅A\cap B=\emptyset) ist die Summe ihrer Wahrscheinlichkeiten P(A∪B)=P(A)+P(B). P(A\cup B) = P(A)+P(B).

5.3.2.1 Eigenschaften der axiomatischen Wahrscheinlichkeit

Aus diesen Axiomen lassen sich einige wichtige Eigenschaften einer Wahrscheinlichkeitsfunktion ableiten. Gegeben ein Ereignisruam Ω\Omega eines zufälligen Experiments und die Ereignisse A,B⊆ΩA,B\subseteq \Omega, gelten folgende Eigenschaften:

P(A¯)=1−P(A)P(\overline A) = 1-P(A).

P(∅)=0P(\emptyset)= 0.

Wenn A⊆B\ A\subseteq B\ dann P(A)≤P(B)\ P(A)\leq P(B).

P(A)≤1P(A) \leq 1\ . Das bedeutet P(A)∈[0,1]\ P(A)\in [0,1].

P(A−B)=P(A)−P(A∩B)P(A-B)=P(A)-P(A\cap B).

P(A∪B)=P(A)+P(B)−P(A∩B)P(A\cup B)= P(A) + P(B) - P(A\cap B).

Wenn A={e1,…,en}\ A=\{e_1,\ldots,e_n\}\ , und ei\ e_i i=1,…,ni=1,\ldots,n\ Elementarereignisse sind, dann gilt P(A)=∑i=1nP(ei). P(A)=\sum_{i=1}^n P(e_i).

5.3.3 Wahrscheinlichkeitsinterpretation

Gemäß den vorherigen Axiomen ist die Wahrscheinlichkeit eines Ereignisses AA eine reelle Zahl P(A)P(A), die stets im Bereich von 0 bis 1 liegt.

Auf gewisse Weise drückt diese Zahl die Glaubwürdigkeit des Ereignisses aus, d.h. die Chancen, dass das Ereignis AA in dem Experiment eintritt. Daher gibt sie auch ein Maß für die Unsicherheit bezüglich des Ereignisses an.

Die maximale Unsicherheit entspricht der Wahrscheinlichkeit P(A)=0,5P(A) = 0,5\quad (AA und A¯\overline A haben die gleiche Chance, einzutreten).

Die minimale Unsicherheit entspricht der Wahrscheinlichkeit P(A)=1P(A) = 1\quad (AA wird mit absoluter Sicherheit eintreten) und P(A)=0P(A) = 0\quad (AA wird mit absoluter Sicherheit nicht eintreten).

Wenn P(A)P(A) näher bei 00 als bei 11 liegt, sind die Chancen, dass AA nicht eintritt, größer als die Chancen, dass AA eintritt.

Im Gegensatz dazu, wenn P(A)P(A) näher bei 11 als bei 00 liegt, sind die Chancen, dass AA eintritt, größer als die Chancen, dass AA nicht eintritt.

5.4 bedingte Wahrscheinlichkeit

Gelegentlich können wir bereits vor der Durchführung eines Experiments einige Informationen darüber erhalten. Üblicherweise wird diese Information als Ereignis BB des gleichen Ereignisraums gegeben, von dem wir wissen, dass es wahr ist, bevor wir das Experiment durchführen.

In einem solchen Fall werden wir sagen, dass BB ein konditionierendes Ereignis ist und die Wahrscheinlichkeit eines anderen Ereignisses AA als bedingte Wahrscheinlichkeit bezeichnen. Diese wird als P(A|B)P(A|B) ausgedrückt.

Dies muss als “Wahrscheinlichkeit von AA unter der Bedingung BB” oder “Wahrscheinlichkeit von AA gegeben BB” gelesen werden.

Beispiel

Konditionierende Ereignisse ändern normalerweise den Ereignisraum und damit die Wahrscheinlichkeiten der Ereignisse. Angenommen, wir haben eine Stichprobe von 100 Frauen und 100 Männern mit den folgenden Häufigkeiten:

$$ \begin{array}{|c|c|c|} & \mbox{Nichtraucher} & \mbox{Raucher} \\ \hline \rowcolor{coral}\color{white} \mbox{Frauen} & \color{white}80 & \color{white}20 \\ \hline \mbox{Männer} & 60 & 40 \\ \hline \end{array} $$

Dann beträgt die Wahrscheinlichkeit, ein Raucher zu sein, basierend auf der gesamten Probe:

P(Raucher)=60200=0.3. P(\mbox{Raucher})= \frac{60}{200}=0.3.

Wenn wir jedoch wissen, dass die Person eine Frau ist, wird die Stichprobe auf die erste Zeile reduziert und die Wahrscheinlichkeit, eine Raucherin zu sein, beträgt:

P(Raucherin|Frau)=20100=0.2. P(\mbox{Raucherin}|\mbox{Frau})=\frac{20}{100}=0.2.

Definition “bedingte Wahrscheinlichkeit”

Gegeben ist ein Ereignisraum Ω\Omega eines zufälligen Experiments und zwei Ereignisse A,B⊆ΩA,B\subseteq \Omega, so ist die Wahrscheinlichkeit von AA unter der Bedingung, dass BB eintritt: P(A|B)=P(A∩B)P(B), P(A|B) = \frac{P(A\cap B)}{P(B)}, solange P(B)≠0P(B)\neq 0.

Diese Definition ermöglicht es, bedingte Wahrscheinlichkeiten zu berechnen, ohne den ursprünglichen Ereignisraum zu ändern.

Beispiel

In dem vorherigen Beispiel ist die bedingte Wahrscheinlichkeit, dass eine Person Raucher und weiblich ist:

P(Raucher|weiblich)=P(Raucher∩weiblich)P(weiblich)=20/200100/200=20100=0.2. P(\mbox{Raucher}|\mbox{weiblich})= \frac{P(\mbox{Raucher}\cap \mbox{weiblich})}{P(\mbox{weiblich})} = \frac{20/200}{100/200}=\frac{20}{100}=0.2.

5.4.1 Wahrscheinlichkeit des Schnittmengen-Ereignisses:

Aus der Definition der bedingten Wahrscheinlichkeit kann die Formel für die Wahrscheinlichkeit der Schnittmenge zweier Ereignisse abgeleitet werden:

P(A∩B)=P(A)P(B|A)=P(B)P(A|B). P(A\cap B) = P(A)P(B|A) = P(B)P(A|B).

Beispiel: Brustkrebs

In einer Bevölkerung gibt es 30 % Raucherinnen und wir wissen, dass 40 % dieser Raucher Krebs haben. Die Wahrscheinlichkeit, dass eine zufällig ausgewählte Person raucht und Krebs hat, beträgt:

P(Raucher∩Krebs)=P(raucher)P(Krebs|Raucher)=0.3×0.4=0.12. P(\mbox{Raucher}\cap \mbox{Krebs})= P(\mbox{raucher})P(\mbox{Krebs}|\mbox{Raucher}) = 0.3\times 0.4 = 0.12.

5.4.2 Unabhängigkeit der Ereignisse

Manchmal ändert das bedingende Ereignis die ursprüngliche Wahrscheinlichkeit des Hauptereignisses nicht.

Definition “Unabhängige Ereignisse”

Gegeben einen Ereignisraum Ω\Omega eines zufälligen Experiments, sind zwei Ereignisse A,B⊆ΩA,B\subseteq \Omega unabhängig, wenn die Wahrscheinlichkeit von AA sich nicht ändert, wenn sie durch BB bedingt ist, und umgekehrt, d.h.,

P(A|B)=P(A)undP(B|A)=P(B), P(A|B) = P(A) \quad \mbox{und} \quad P(B|A)=P(B), wenn P(A)≠0P(A)\neq 0\ und P(B)≠0\ P(B)\neq 0.

Das bedeutet, dass das Eintreten eines Ereignisses keine relevante Information liefert, um die Unsicherheit des anderen Ereignisses zu ändern.

Wenn zwei Ereignisse unabhängig sind, ist die Wahrscheinlichkeit ihrer Schnittmenge gleich dem Produkt ihrer Wahrscheinlichkeiten,

P(A∩B)=P(A)⋅P(B) P(A\cap B) = P(A)\cdot P(B)

Beispiel: Münzwurf

Der Ereignisraum für den doppelten Wurf einer Münze ist Ω={(K,K),(K,Z),(Z,K),(Z,Z)}\Omega=\{(K,K),(K,Z),(Z,K),(Z,Z)\} und alle Elemente sind gleich wahrscheinlich, wenn die Münze fair ist. Daher haben wir durch die klassische Definition der Wahrscheinlichkeit

P((K,K))=14=0.25. P((K,K)) = \frac{1}{4} = 0.25. Wenn wir K1={(K,K),(K,Z)}K_1=\{(K,K),(K,Z)\}, d.h., Kopf beim ersten Wurf, und H2={(K,K),(Z,K)}H_2=\{(K,K),(Z,K)\} nennen, d.h., Kopf beim zweiten Wurf, können wir das gleiche Ergebnis erhalten, indem wir davon ausgehen, dass diese Ereignisse unabhängig sind,

P(K,K)=P(K1∩K2)=P(K1)⋅P(K2)=24⋅24=14=0.25. P(K,K)= P(K_1\cap K_2) = P(K_1)\cdot P(K_2) = \frac{2}{4}\cdot\frac{2}{4}=\frac{1}{4}=0.25.

5.5 Wahrscheinlichkeitsraum

Definition “Wahrscheinlichkeitsraum”

Ein Wahrscheinlichkeitsraum eines zufälligen Experiments ist ein Tripel (Ω,ℱ,P)(\Omega,\mathcal{F},P) wobei

Ω\Omega\ der Ereignisraum des Experiments ist.

ℱ\mathcal{F}\ eine Menge von Ereignissen des Experiments ist.

PP\ eine Wahrscheinlichkeitsfunktion ist.

Wenn wir die Wahrscheinlichkeiten aller Elemente von Ω\Omega kennen, können wir leicht den Wahrscheinlichkeitsraum konstruieren und die Wahrscheinlichkeit jedes Ereignisses in ℱ\mathcal{F} berechnen.

5.5.1 Konstruktion des Wahrscheinlichkeitsraums

Um die Wahrscheinlichkeit jedes möglichen (elementaren) Ereignisses zu berechnen, können wir ein Baumdiagramm verwenden. Dabei gelten folgende Regeln:

Jede Kante im Baum erhält eine Wahrscheinlichkeit. Diese gibt an, wie wahrscheinlich der jeweilige Wert unter der Bedingung der vorherigen Knoten ist.

Die Wahrscheinlichkeit eines vollständigen Pfads (also eines Ereignisses ganz am Ende des Baums) ergibt sich, indem man die Wahrscheinlichkeiten aller Kanten entlang dieses Pfads miteinander multipliziert – vom Start (Wurzel) bis zum Ende (Blatt).

5.5.2 Wahrscheinlichkeitsbaum mit abhängigen Variablen

Beispiel: Rauchen und Krebs:

In einer Population gibt es 30 % Raucher und wir wissen, dass 40 % der Raucher Krebs haben, während nur 10 % der Nichtraucher an Krebs erkrankt sind. Der Wahrscheinlichkeitsbaum des Wahrscheinlichkeitsraums des zufälligen Experiments, das darin besteht, eine zufällig ausgewählte Person auszuwählen und die Variablen Rauchen und Brustkrebs zu messen, ist unten dargestellt.

5.5.3 Wahrscheinlichkeitsbaum mit unabhängigen Variablen

Beispiel Münzwurf

Der Wahrscheinlichkeitsbaum für das Zufallsexperiment zwei Münzen zu werfen ist:

Beispiel mit 3 Variablen

In einer Population gibt es 40% Männer und 60% Frauen. Der Wahrscheinlichkeitsbaum für das Ziehen einer zufälligen Stichprobe von drei Personen ist unten dargestellt.

5.6 Satz von der vollständigen Wahrscheinlichkeit:

Definition “Aufteilung des Wahrscheinlichkeitsraums”

Eine Menge von Ereignissen A1,A2,…,AnA_1,A_2,\ldots,A_n aus demselben Ereignisraum Ω\Omega heißt eine Aufteilung des Wahrscheinlichkeitsraums, wenn sie die folgenden Bedingungen erfüllt:

Die Vereinigung der Ereignisse ist der Ereignisraum, das heißt, A1∪⋯∪An=ΩA_1\cup \cdots\cup A_n =\Omega

Alle Ereignisse sind paarweise ausschließend, das heißt Ai∩Aj=∅A_i\cap A_j = \emptyset ∀i≠j\forall i\neq j.

Üblicherweise ist es einfach, eine Aufteilung des Wahrscheinlichkeitsraums zu erhalten, indem man eine Population entsprechend einer kategorischen Variable aufteilt, wie beispielsweise Geschlecht oder Blutgruppe usw.

Wenn wir eine Aufteilung des Ereignisraums haben, können wir sie verwenden, um die Wahrscheinlichkeiten anderer Ereignisse in demselben Wahrscheinlichkeitsraum zu berechnen.

Definition “Gesamtwahrscheinlichkeit”

Gegeben eine Aufteilung A1,…,AnA_1,\ldots,A_n eines Wahrscheinlichkeitsraums Ω\Omega, kann die Wahrscheinlichkeit jedes anderen Ereignisses BB des selben Wahrscheinlichkeitsraums mit der folgenden Formel berechnet werden:

P(B)=∑i=1nP(Ai∩B)=∑i=1nP(Ai)P(B|Ai). P(B) = \sum_{i=1}^n P(A_i\cap B) = \sum_{i=1}^n P(A_i)P(B|A_i).

Beweis

Der Beweis dieses Satzes ist recht einfach. Da A1,…,AnA_1,\ldots,A_n eine Aufteilung von Ω\Omega ist, haben wir:

B=B∩Ω=B∩(A1∪⋯∪An)=(B∩A1)∪⋯∪(B∩An). B = B\cap \Omega = B\cap (A_1\cup \cdots \cup A_n) = (B\cap A_1)\cup \cdots \cup (B\cap A_n).

Und alle Ereignisse dieser Vereinigung sind paarweise ausschließend, da A1,…,AnA_1,\ldots,A_n. Daher gilt:

P(B)=P((B∩A1)∪⋯∪(B∩An))=P(B∩A1)+⋯+P(B∩An)==P(A1)P(B|A1)+⋯+P(An)P(B|An)=∑i=1nP(Ai)P(B|Ai). \begin{aligned} P(B) &= P((B\cap A_1)\cup \cdots \cup (B\cap A_n)) = P(B\cap A_1)+\cdots + P(B\cap A_n) =\\ &= P(A_1)P(B|A_1)+\cdots + P(A_n)P(B|A_n) = \sum_{i=1}^n P(A_i)P(B|A_i). \end{aligned}

Beispiel: Diagnose

Ein Symptom SS kann durch eine Krankheit KK verursacht werden, kann aber auch bei Personen ohne die Krankheit auftreten. In einer Population beträgt der Anteil der Menschen mit der Krankheit 0,2. Es ist bekannt, dass 90 % der Personen mit der Krankheit das Symptom aufweisen, während nur 40 % der Personen ohne die Krankheit es haben.

Wie groß ist die Wahrscheinlichkeit, dass eine zufällig ausgewählte Person aus der Bevölkerung das Symptom hat?

Um diese Frage zu beantworten, können wir den Satz von der vollständigen Wahrscheinlichkeit unter Verwendung der Aufteilung {K,K¯}\{K,\overline K\} anwenden:

P(S)=P(K)P(S|K)+P(K¯)P(S|K¯)=0.2⋅0.9+0.8⋅0.4=0.5. P(S) = P(K)P(S|K)+P(\overline K)P(S|\overline K) = 0.2\cdot 0.9 + 0.8\cdot 0.4 = 0.5. Das heißt, die Hälfte der Bevölkerung hat das Symptom.

Tatsächlich handelt es sich um einen gewichteten Mittelwert der Wahrscheinlichkeiten!

Beispiel Wahrscheinlichkeitsbaum

Das Ergebnis der vorherigen Frage wird durch den Wahrscheinlichkeitsbaum des Wahrscheinlichkeitsraums noch klarer:

P(S)=P(K∩S)+P(K¯∩S)=P(K)⋅P(S|K)+P(K¯)⋅P(S|K¯)=0.2⋅0.9+0.8⋅0.4=0.18+0.32=0.5. \begin{aligned} P(S) &= P(K\cap S) + P(\overline K\cap S) = P(K)\cdot P(S|K)+P(\overline K)\cdot P(S|\overline K)\\ & = 0.2\cdot 0.9+ 0.8\cdot 0.4 = 0.18 + 0.32 = 0.5. \end{aligned}

5.7 Satz von Bayes

Eine Teilmenge eines Ereignisraums A1,⋯,AnA_1,\cdots,A_n kann auch als eine Menge von möglichen Hypothesen für ein Ereignis BB interpretiert werden. In solchen Fällen kann es hilfreich sein, die posteriori Wahrscheinlichkeit P(Ai|B)P(A_i|B) jeder Hypothese zu berechnen.

Satz von Bayes

Gegeben eine Partition A1,⋯,AnA_1,\cdots,A_n eines Ereignisraums Ω\Omega und ein weiteres Ereignis BB desselben Mengenraums, kann die bedingte Wahrscheinlichkeit jedes Ereignisses AiA_i i=1,…,ni=1,\ldots,n unter BB mit der folgenden Formel berechnet werden:

P(Ai|B)=P(Ai∩B)P(B)=P(Ai)P(B|Ai)∑i=1nP(Ai)P(B|Ai). P(A_i|B) = \frac{P(A_i\cap B)}{P(B)} = \frac{P(A_i)P(B|A_i)}{\sum_{i=1}^n P(A_i)P(B|A_i)}.

In dem vorherigen Beispiel sollte die Diagnose für eine Person mit Symptomen gestellt werden.

In diesem Fall können wir KK und K¯\overline K als die beiden möglichen Hypothesen für das Symptom SS interpretieren. Die vorab Wahrscheinlichkeiten dafür sind P(K)=0.2P(K)=0.2 und P(K¯)=0.8P(\overline{K})=0.8. Das bedeutet, dass wenn wir keine Informationen über das Symptom haben, die Diagnose nicht gestellt werden kann.

Allerdings ändert sich diese Unsicherheit bezüglich der Hypothese, wenn wir das Symptom beobachten. Dann müssen wir die posteriori Wahrscheinlichkeiten berechnen, um zu diagnostizieren, d.h.

P(K|S) und P(K¯|S) P(K|S) \mbox{ und } P(\overline{K}|S) Zur Berechnung nutzen wir den Satz von Bayes:

P(D|S)=P(D)P(S|D)P(D)P(S|D)+P(D¯)P(S|D¯)=0.2⋅0.90.2⋅0.9+0.8⋅0.4=0.180.5=0.36,P(D¯|S)=P(D¯)P(S|D¯)P(D)P(S|D)+P(D¯)P(S|D¯)=0.8⋅0.40.2⋅0.9+0.8⋅0.4=0.320.5=0.64. \begin{aligned} P(D|S) &= \frac{P(D)P(S|D)}{P(D)P(S|D)+P(\overline{D})P(S|\overline{D})} = \frac{0.2\cdot 0.9}{0.2\cdot 0.9 + 0.8\cdot 0.4} = \frac{0.18}{0.5}=0.36,\\ P(\overline{D}|S) &= \frac{P(\overline{D})P(S|\overline{D})}{P(D)P(S|D)+P(\overline{D})P(S|\overline{D})} = \frac{0.8\cdot 0.4}{0.2\cdot 0.9 + 0.8\cdot 0.4} = \frac{0.32}{0.5}=0.64. \end{aligned}

Wie wir sehen können, hat sich die Wahrscheinlichkeit, die Krankheit zu haben, erhöht. Trotzdem ist die Wahrscheinlichkeit, sie nicht zu haben, immer noch größer als die Wahrscheinlichkeit, sie zu haben. Aus diesem Grund lautet die Diagnose, dass die Person die Krankheit nicht hat.

In diesem Fall wird gesagt, dass das Symptom SS nicht entscheidend ist, um die Krankheit zu diagnostizieren.

5.8 Epidemiologie

Einzelne Zweige der Medizin, die eine intensive Nutzung von Wahrscheinlichkeiten vornehmen, sind Epidemiologie und Präventionsmedizin.

Die Epidemiologie untersucht die Häufigkeit und Ursachen von Krankheiten in Populationen, indem sie Risikofaktoren für Krankheiten und Ziele zur präventiven Gesundheitsversorgung identifiziert.

In der Epidemiologie ist man daran interessiert, wie häufig ein medizinisches Ereignis 𝐷 (typischerweise eine Krankheit wie Grippe, ein Risikofaktor wie Rauchen oder ein Schutzfaktor wie eine Impfung) auftritt, das als nominale Variable mit zwei Kategorien (das Eintreten oder Nicht-Eintreten des Ereignisses) gemessen wird.

Es gibt verschiedene Messgrößen zur Häufigkeit eines medizinischen Ereignisses. Die wichtigsten sind:

Prävalenz

Inzidenz

Relatives Risiko

Odds Ratio

5.8.1 Prävalenz

Definition “Prävalenz”

Die Prävalenz eines medizinischen Ereignisses KK ist der Anteil einer bestimmten Bevölkerung, der von diesem medizinischen Ereignis betroffen ist.

Prävalenz(K)=Anzahl von K betroffenerGröße der Bevölkerung \mbox{Prävalenz}(K) = \frac{\mbox{Anzahl von } K \text{ betroffener}}{\mbox{Größe der Bevölkerung}}

Die Prävalenz wird häufig anhand einer Stichprobe geschätzt, indem man den relativen Anteil der Menschen berechnet, die in der Stichprobe von dem Ereignis betroffen sind. Es ist auch üblich, diesen Anteil als Prozentangabe auszudrücken.

Beispiel

Um die Prävalenz von Grippe zu schätzen, wurde eine Stichprobe von 1.000 Personen untersucht und 150 davon hatten Grippe. Daher beträgt die Prävalenz der Grippe etwa 150/1000=0,15150/1000 = 0,15\ oder 15%.

5.8.2 Inzidenz

Die Inzidenz misst die Wahrscheinlichkeit des Auftretens eines medizinischen Ereignisses in einer Bevölkerung innerhalb eines bestimmten Zeitraums. Die Inzidenz kann als kumulative Anteilszahl oder als Rate gemessen werden.

Definition “kumulative Inzidenz”

Die kumulative Inzidenz eines medizinischen Ereignisses KK ist der Anteil der Menschen, die das Ereignis in einem bestimmten Zeitraum erlitten haben, d.h. die Anzahl der neuen Fälle mit dem Ereignis in diesem Zeitraum geteilt durch die Größe der Risikobevölkerung. Anzahl neuer Fälle mit KK

R(K)=Anzahl NeuerkrankungenGröße der Risikobevölkerung R(K)=\frac{\mbox{Anzahl Neuerkrankungen}}{\mbox{Größe der Risikobevölkerung}}

Beispiel

Eine Bevölkerung enthält zu Beginn 1.000 Personen ohne Grippe und nach zweijähriger Beobachtungszeit hatten 160 davon die Grippe. Die Anteilszahl der Grippe-Inzidenz berechnet sich mit

R(K)=1601.000=0,16 R(K) = \frac{160}{1.000} = 0,16

Die kumulative Inzidenz liegt also beo 16% für zwei Jahre.

Definition “Inzidenzrate” (Absolutes Risiko)

Die Inzidenzrate oder das absolute Risiko eines medizinischen Ereignisse KK ist die Anzahl neuer Erkrankungen geteilt durch die Größe der Risikobevölkerung und die Anzahl der Zeiteinheiten in einem bestimmten Zeitraum.

R(K)=Anzahl NeuerkrankungenGröße der Risikobevölkerung×Anzahl Zeiteinheiten R(K)=\frac{\mbox{Anzahl Neuerkrankungen}}{\mbox{Größe der Risikobevölkerung}\times \mbox{Anzahl Zeiteinheiten}}

Beispiel

Eine Bevölkerung enthält zu Beginn 1.000 Personen ohne Grippe und nach zweijähriger Beobachtungszeit hatten 160 davon die Grippe. Wenn man das Jahr als Zeiteinheit betrachtet, beträgt die Inzidenzrate der Grippe

R(K)=1601.000⋅2=0,08 R(K) = \frac{160}{1.000 \cdot 2} =0,08 Die Inzidenzrate liegt also bei 8% Personen pro Jahr.

5.8.3 Prävlenz oder Inzidenz

Die Prävalenz zeigt an, wie verbreitet ein medizinisches Ereignis ist und ist eher ein Maß für die Belastung des Ereignisses für die Gesellschaft ohne Berücksichtigung der gefährdeten Zeit oder wann Personen möglicherweise einem möglichen Risikofaktor ausgesetzt waren

Die Inzidenz liefert Informationen über das Risiko, von dem Ereignis betroffen zu sein.

Die Prävalenz kann in Querschnittsstudien zu einem bestimmten Zeitpunkt gemessen werden, während zur Messung der Inzidenz eine Längsschnittstudie erforderlich ist, bei der die Individuen über einen bestimmten Zeitraum beobachtet werden.

Beim Verständnis der Ereignis-Ätiologie ist die Inzidenz nützlicher als die Prävalenz: wenn sich beispielsweise die Inzidenz einer Krankheit in einer Bevölkerung erhöht, dann gibt es einen Risikofaktor, der dies fördert.

Wenn die Inzidenz für die Dauer des Ereignisses ungefähr konstant ist, ist die Prävalenz ungefähr das Produkt aus Ereignis-Inzidenz und durchschnittlicher Ereignisdauer.

Prävalenz=Inzidenz⋅Dauer \text{Prävalenz} = \text{Inzidenz} \cdot \text{Dauer}

5.8.4 Risiko-Vergleich

Um zu bestimmen, ob ein Faktor oder eine Eigenschaft mit dem medizinischen Ereignis verbunden ist, müssen wir das Risiko des medizinischen Ereignisses in zwei Populationen vergleichen, von denen die eine dem Faktor ausgesetzt ist und die andere nicht. Die Gruppe von Menschen, die dem Faktor ausgesetzt sind, wird als Interventionsgruppe oder experimentelle Gruppe bezeichnet und die Gruppe von Menschen, die nicht ausgesetzt sind, als Kontrollgruppe.

In der Regel werden die beobachteten Fälle für jede Gruppe in einer 2x2-Tabelle wie der folgenden dargestellt.

$$ \begin{array}{|c|c|c|} \hline & \text{erkrankt}\ K & \text{gesund}\ \overline{K}\\ \hline \text{Interventionsgruppe}\newline (exponiert) & a & b\\ \hline \text{Kontrollgruppe}\newline (nicht\ exponiert) & c & d\\ \hline \end{array} $$

5.8.5 Zurechenbares Risiko

Definition “zurechendbares Risiko” (Risikodifferenz)

Das zurechenbare Risiko (attributales Risiko oder Risikodifferenz) eines medizinischen Ereignisses KK für Personen, die einem Faktor (Exposition) ausgesetzt sind, ist der Unterschied zwischen den absoluten Risiken der Interventionsgruppe und der Kontrollgruppe.

AR(K)=RIntervention(K)−RKontrolle(K)=aa+b−cc+d. AR(K)=R_{Intervention}(K)-R_{Kontrolle}(K)=\frac{a}{a+b}-\frac{c}{c+d}.

Das zurechenbare Risiko ist das Risiko eines Ereignisses, das spezifisch auf den Einflussfaktor von Interesse zurückzuführen ist. Beachten Sie, dass das zurechenbare Risiko positiv sein kann, wenn das Risiko der Interventionsgruppe größer als das Risiko der Kontrollgruppe ist, und umgekehrt.

Beispiel Impfung

Um die Wirksamkeit eines Impfstoffs gegen Grippe zu bestimmen, wurde zu Beginn des Jahres eine Stichprobe von 1.000 Personen ohne Grippe ausgewählt. Die Hälfte von ihnen wurde geimpft (Interventionsgruppe) und der Rest erhielt ein Placebo (Kontrollgruppe). Die folgende Tabelle fasst die Ergebnisse am Ende des Jahres zusammen.

$$ \begin{array}{|c|c|c|} \hline & \text{Grippe}\ K & \text{keine Grippe}\ \overline{K}\\ \hline \text{Interventionsgruppe}\newline (geimpft) & 20 & 480\\ \hline \text{Kontrollgruppe}\newline (nicht\ geimpft) & 80 & 420\\ \hline \end{array} $$

Für geimpfte Personen liegt das zurechenbare Risiko an Grippe zu erkranken bei

AR(K)=2020+480−8080+420=−0.12. AR(K) = \frac{20}{20+480}-\frac{80}{80+420} = -0.12. Das bedeutet, dass das Risiko an Grippe zu erkranken in der Gruppe der Geimpften 12% geringer ist als in der Gruppe der Ungeimpften.

5.8.6 Relatives Risiko

Definition “relatives Risiko”

Das relative Risiko eines medizinischen Ereignisses KK für Personen, die einer Exposition ausgesetzt sind, ist es der Quotient zwischen den Inzidenzen der Behandlungs- und Kontrollgruppe.

RR(K)=Risiko der InterventionsgruppeRisiko der Kontrollgruppe=RI(K)RK(K)=a/(a+b)c/(c+d) RR(K)=\frac{\mbox{Risiko der Interventionsgruppe}}{\mbox{Risiko der Kontrollgruppe}}=\frac{R_I(K)}{R_K(K)}=\frac{a/(a+b)}{c/(c+d)}

Das relative Risiko vergleicht das Risiko eines medizinischen Ereignisses zwischen der Behandlungs- und Kontrollgruppe.

RR=1→RR = 1\ \ \rightarrow Es gibt keine Verbindung zwischen dem Ereignis und der Exposition.

RR<1→RR < 1\ \ \rightarrow Die Exposition verringert das Risiko des Ereignisses.

RR>1→RR > 1\ \ \rightarrow Die Exposition erhöht das Risiko des Ereignisses.

Je weiter entfern RRRR von 1 ist, desto stärker die Verbindung.

Beispiel Impfung

Um die Wirksamkeit eines Impfstoffs gegen Grippe zu bestimmen, wurde zu Beginn des Jahres eine Stichprobe von 1.000 Personen ohne Grippe ausgewählt. Die Hälfte von ihnen wurde geimpft (Behandlungsgruppe) und der Rest erhielt ein Placebo (Kontrollgruppe). Die folgende Tabelle fasst die Ergebnisse am Ende des Jahres zusammen.

$$ \begin{array}{|c|c|c|} \hline & \text{Grippe}\ K & \text{keine Grippe}\ \overline{K}\\ \hline \text{Interventionsgruppe}\newline (geimpft) & 20 & 480\\ \hline \text{Kontrollgruppe}\newline (nicht\ geimpft) & 80 & 420\\ \hline \end{array} $$

Das relative Risiko für geimpfte Personen an Grippe zu erkranken ist:

RR(K)=20/(20+480)80/(80+420)=0,25. RR(K) = \frac{20/(20+480)}{80/(80+420)} = 0,25.

Das bedeutet, dass geimpfte Personen im Vergleich zu ungeimpften nur ein Viertel des Risikos haben die Grippe bekommen. Das bedeutet, der Impfstoff verringerte das Risiko einer Grippe um 75%.

5.8.7 Odds

efinition “Odds”

Die Odds eines medizinischen Ereignisses KK in einer Bevölkerung ist der Quotient zwischen den Personen, die das Ereignis erlitten haben und den Personen, die es nicht in einem bestimmten Zeitraum erlitten haben.

ODDS(K)=Neue Fälle mitKFälle ohneK=P(K)P(K¯) ODDS(K)=\frac{\mbox{Neue Fälle mit}\ K}{\mbox{Fälle ohne}\ K}=\frac{P(K)}{P(\overline K)}

Im Gegensatz zur Inzidenz, die ein Anteil von weniger als oder gleich 1 ist, kann das Odds größer als 1 sein. Es ist jedoch möglich, das Odds in eine Wahrscheinlichkeit umzuwandeln, indem man folgende Formel verwendet:

P(K)=ODDS(K)ODDS(K)+1 P(K) = \frac{ODDS(K)}{ODDS(K)+1}

Beispiel

Eine Bevölkerung enthält initial 1.000 Personen ohne Grippe und nach einem Jahr haben 160 von ihnen die Grippe bekommen. Das Odds der Grippe ist somit ODDS(Grippe)=160840=0,1905. ODDS(\text{Grippe}) = \frac{160}{840} = 0,1905.

Beachten Sie, dass die Inzidenz $160/1000 =0,16 $ beträgt.

5.8.8 Odds Ratio

Definition “Odds Ratio”

Die Odds Ratio eines medizinischen Ereignisses KK für Personen, die einer Exposition ausgesetzt sind, ist der Quotient zwischen dem Odds des Ereignisses in der Behandlungs- und Kontrollgruppe.

OR(K)=Odds in InterventionsgruppeOdds in Kontrollgruppe=a/bc/d=adbc OR(K)=\frac{\mbox{Odds in Interventionsgruppe}}{\mbox{Odds in Kontrollgruppe}}=\frac{a/b}{c/d}=\frac{ad}{bc}

Die Odds Ratio vergleicht die Odds eines medizinischen Ereignisses zwischen der Behandlungs- und Kontrollgruppe. Die Interpretation ist ähnlich wie beim relativen Risiko.

OR=1OR=1 ⇒\Rightarrow Es gibt keine Verbindung zwischen dem Ereignis und der Exposition.

OR<1OR<1 ⇒\Rightarrow Die Exposition verringert das Risiko des Ereignisses.

OR>1OR>1 ⇒\Rightarrow Die Exposition erhöht das Risiko des Ereignisses.

Je weiter OROR weg von 1 ist, desto stärker ist die Verbindung.

Beispiel Impfung

Um die Wirksamkeit eines Impfstoffs gegen Grippe zu bestimmen, wurde zu Beginn des Jahres eine Stichprobe von 1.000 Personen ohne Grippe ausgewählt. Die Hälfte von ihnen wurde geimpft (Interventionsgruppe) und der Rest erhielt ein Placebo (Kontrollgruppe). Die folgende Tabelle fasst die Ergebnisse am Ende des Jahres zusammen.

$$ \begin{array}{|c|c|c|} \hline & \text{Grippe}\ K & \text{keine Grippe}\ \overline{K}\\ \hline \text{Interventionsgruppe}\newline (geimpft) & 20 & 480\\ \hline \text{Kontrollgruppe}\newline (nicht\ geimpft) & 80 & 420\\ \hline \end{array} $$

Die Odds Ratio der Grippe für geimpfte Personen ist:

OR(K)=20/48080/420=0,21875. OR(K) = \frac{20/480}{80/420} = 0,21875.

Das bedeutet, dass die Chancen, an Grippe zu erkranken (im Vergleich dazu, nicht zu erkranken), bei geimpften Personen fast ein Fünftel derer bei ungeimpften Personen betragen. Das heißt: Auf etwa 22 geimpfte Personen mit Grippe kommen etwa 100 ungeimpfte Personen mit Grippe.

5.8.9 Relatives Risiko vs Odds ratio

Relatives Risiko und Odds Ratio sind zwei Kennzahlen, aber ihre Interpretation unterscheidet sich leicht. Während das Relative Risiko einen Vergleich der Risiken zwischen den Behandlungs- und Kontrollgruppen ausdrückt, beschreibt die Odds Ratio einen Vergleich der Chancen, was nicht dasselbe wie das Risiko ist. Daher bedeutet ein Odds Ratio von 2 nicht, dass die Behandlungsgruppe das doppelte Risiko hat, das medizinische Ereignis zu erwerben.

Die Interpretation des Odds Ratio ist komplizierter, da sie kontrarfaktisch ist und uns angibt, wie viele Male das Ereignis in der Behandlungsgruppe häufiger ist im Vergleich zur Kontrollgruppe unter der Annahme, dass in der Kontrollgruppe das Ereignis so häufig wie das Nicht-Ereignis ist.

Der Vorteil des Odds Ratio besteht darin, dass sie nicht von der Prävalenz oder der Inzidenz des Ereignisses abhängt und notwendigerweise verwendet werden muss, wenn die Anzahl der Menschen mit dem medizinischen Ereignis in beiden Gruppen willkürlich ausgewählt wird, wie z.B. bei Fall-Kontroll-Studien.

Beispiel Rauchen und Lungenkrebs

Um die Assoziation zwischen Lungenkrebs und Rauchen zu bestimmen, wurden zwei Proben ausgewählt (die zweite mit der doppelten Anzahl von Nicht-Krebs-Individuen), wobei folgende Ergebnisse erzielt wurden:

Krebskein KrebsRaucher6080Nichtraucher40320 \begin{array}{|c|c|c|} \hline & \text{Krebs} & \text{kein Krebs}\\ \hline \text{Raucher} & 60 & 80\\ \hline \text{Nichtraucher} & 40 & 320\\ \hline \end{array}

RR(K)=60/(60+80)40/(40+320)=3.86.OR(K)=60/8040/320=6. \begin{aligned} RR(K) &= \frac{60/(60+80)}{40/(40+320)} = 3.86.\\ OR(K) &= \frac{60/80}{40/320} = 6. \end{aligned}

Krebskein KrebsRaucher60160Nichtraucher40640 \begin{array}{|c|c|c|} \hline & \text{Krebs} & \text{kein Krebs}\\ \hline \text{Raucher} & 60 & 160\\ \hline \text{Nichtraucher} & 40 & 640\\ \hline \end{array}

RR(K)=60/(60+160)40/(40+640)=4.64.OR(K)=60/16040/640=6. \begin{aligned} RR(K) &= \frac{60/(60+160)}{40/(40+640)} = 4.64.\\ OR(K) &= \frac{60/160}{40/640} = 6. \end{aligned}

Das Relative Risiko verändert sich, wenn wir die Inzidenz oder Prävalenz des Ereignisses (Lungenkrebs) ändern, während sich die Odds Ratio nicht verändert.

Die Beziehung zwischen dem Relative Risiko und dem Odds Ratio wird durch die folgende Formel gegeben:

RR=OR1−RKontrolle+RKontrolle⋅OR=OR⋅1−RIntervention1−RKontrolle RR = \frac{OR}{1-R_{Kontrolle}+R_{Kontrolle}\cdot OR}=OR \cdot \frac{1-R_{Intervention}}{1-R_{Kontrolle}} Die Odds Ratio überschätzt stets das Relative Risiko, wenn es größer als 1 ist, und unterschätzt es, wenn es kleiner als 1 ist. Allerdings sind Relatives Risiko und Odds Ratio für seltene medizinische Ereignisse (mit sehr kleiner Prävalenz oder Inzidenz) fast gleich.

5.9 Diagnosetests

In der Epidemiologie ist es üblich, diagnostische Tests zur Diagnose von Krankheiten zu verwenden. Im Allgemeinen sind diese jedoch nicht vollständig zuverlässig und haben ein gewisses Risiko einer Fehldiagnose, wie in der folgenden Tabelle dargestellt:

$$ \begin{array}{|c|c|c|} \hline & \text{krank}\ K & \text{gesund}\ \overline K\\ \hline \text{Testergebnis} & \textcolor{green}{\text{richtig positiv}} & \textcolor{red}{\text{falsch positiv}} \\ positiv \mathbf{+} & (RP) & (FP) \\ \hline \text{Testergebnis} & \textcolor{red}{\text{falsch negativ}} & \textcolor{green}{\text{richtig negativ}} \\ negativ \mathbf{-} & (FN) & (RN)\\\hline \end{array} $$

Die Leistung eines diagnostischen Tests hängt von den folgenden beiden Wahrscheinlichkeiten ab:

Sensitivität und

Spezifität

5.9.1 Sensitivität und Spezifität

Definition “Sensitivität”

Die Sensitivität eines diagnostischen Tests ist der Anteil positiver Ergebnisse bei erkrankten Personen.

P(+|K)=RPRP+FN P(+|K)=\frac{RP}{RP+FN}

Definition “Spezifität”

Die Spezifität eines diagnostischen Tests ist der Anteil negativer Ergebnisse bei gesunden Personen.

P(−|K¯)=RNRN+FP P(-|\overline{K})=\frac{RN}{RN+FP}

Ein Test mit hoher Sensitivität wird die Krankheit bei den meisten erkrankten Personen erkennen, jedoch auch mehr falsche Positive produzieren als ein weniger empfindlicher Test. Daher ist ein positives Ergebnis eines Tests mit hoher Sensitivität nicht nützlich zur Bestätigung der Krankheit, aber ein negatives Ergebnis ist nützlich zum Ausschluss der Krankheit, da es selten bei erkrankten Personen zu falsch-negativen Ergebnissen kommt.

Andererseits wird ein Test mit hoher Spezifität die Krankheit bei den meisten gesunden Personen ausschließen, jedoch auch mehr falsche Negative produzieren als ein weniger spezifischer Test. Daher ist ein negatives Ergebnis eines Tests mit hoher Spezifität nicht nützlich zum Ausschluss der Krankheit. Aber ein positives Ergebnis ist nützlich zur Bestätigung der Krankheit, da es selten bei gesunden Personen zu falsch-positiven Ergebnissen kommt.

Die Entscheidung für einen Test mit größerer Sensitivität oder einen Test mit größerer Spezifität hängt von Art der Krankheit und dem Ziel des Tests ab. Im Allgemeinen werden wir einen sensitiven Test verwenden, wenn:

die Krankheit ernst ist und es wichtig ist, sie zu erkennen.

die Krankheit behandelbar ist.

Falsch-positive Ergebnisse keine schweren Schäden verursachen.

Und wir werden einen spezifischen Test verwenden, wenn:

die Krankheit ernst ist, aber schwierig oder unmöglich zu behandeln ist.

falsch-positive Ergebnisse schwerwiegende Schäden verursachen.

die Behandlung von falsch-positiven Fällen gefährliche Folgen haben kann.

5.9.2 prädiktive Werte

Der wichtigste Aspekt eines diagnostischen Tests ist jedoch seine Vorhersagekraft, die mit den folgenden beiden posterioren Wahrscheinlichkeiten gemessen wird:

positiv prädiktiver Wert und

negativ prädiktiver Wert

Definition “positiv prädiktiver Wert

Der positiv prädiktive Wert eines diagnostischen Tests ist der Anteil von Personen mit der Krankheit unter allen Personen mit einem positiven Ergebnis.

P(K|+)=RPRP+FP P(K|+) = \frac{RP}{RP+FP}

Definition “Negativ prädiktiver Wert”

Der negativ prädiktive Wert eines diagnostischen Tests ist der Anteil von Personen ohne die Krankheit unter allen Personen mit einem negativen Ergebnis.

P(K¯|−)=RNRN+FN P(\overline{K}|-) = \frac{RN}{RN+FN}

Positiv und negativ prädiktive Werte ermöglichen es, die Krankheit zu bestätigen oder auszuschließen, besonders, wenn sie mindestens einen Schwellenwert von 0,5 erreichen.

PPW>0.5⇒PPW>0.5 \ \Rightarrow\ Hinweis auf das Vorliegen der Krankheit

PPV<0.5⇒PPV<0.5 \ \Rightarrow\ Hinweis auf das Nichtvorliegen der Krankheit

Diese Wahrscheinlichkeiten hängen jedoch von der Häufigkeit der Krankheit P(K)P(K) ab und können aus der Sensitivität und Spezifität des diagnostischen Tests unter Verwendung des Satzes von Bayes berechnet werden.

PPW=P(K|+)=P(K)P(+|K)P(K)P(+|K)+P(K¯)P(+|K¯)NPW=P(K¯|−)=P(K¯)P(−|K¯)P(K)P(−|K)+P(K¯)P(−|K¯) \begin{aligned} PPW=P(K|+) &= \frac{P(K)P(+|K)}{P(K)P(+|K)+P(\overline{K})P(+|\overline{K})}\\ NPW=P(\overline{K}|-) &= \frac{P(\overline{K})P(-|\overline{K})}{P(K)P(-|K)+P(\overline{K})P(-|\overline{K})} \end{aligned}

Daher steigt der positiv prädiktive Wert bei häufigen Krankheiten und der negativ prädiktive Wert bei seltenen Krankheiten.

Beispiel

Bei 1.000 Personen wurde ein Grippetest durchgeführt. Die Ergebnisse sind in der Tabelle dargestellt.

GrippeKkeine GrippeK¯Testergebnis+9590Testergebnis−5810 \begin{array}{|c|c|c|} \hline & \text{Grippe}\ K & \text{keine Grippe}\ \overline K\\ \hline \text{Testergebnis} + & 95 & 90 \\ \hline \text{Testergebnis} - & 5 & 810\\\hline \end{array}

Die Prävalenz der Grippe ist P(K)=95+51000=0,1P(K) = \frac{95+5}{1000} = 0,1.

Die Sensitivität des Tests ist P(+|K)=9595+5=0,95P(+|K) = \frac{95}{95+5}= 0,95.

Die Spezifität des Tests ist P(−|K¯)=81090+810=0,9P(-|\overline{K}) = \frac{810}{90+810}=0,9.

Der positiv prädiktive Wert ist PPW=P(K|+)=9595+90=0,5135PPW = P(K|+) = \frac{95}{95+90} = 0,5135. Da dieser Wert über 0,5 liegt, bedeutet dies, dass wir bei einem positiven Testergebnis wahrscheinlich wirklich Grippe gefunden haben. Allerdings wird das Vertrauen in diesesehr gering, da der Wert sehr nahe an 0,5 liegt.

Der negativ prädiktive Wert ist NPW=P(K¯|−)=8105+810=0,9939NPW = P(\overline{K}|-) = \frac{810}{5+810} = 0,9939. Da dieser Wert fast 1 ist, bedeutet dies, dass es fast sicher ist, dass eine Person keine Grippe hat, wenn sie ein negatives Testergebnis erhält.

Daher ist dieser Test sehr leistungsfähig, um die Grippe auszuschließen, aber nicht so leistungsfähig, um sie zu bestätigen.

5.9.3 Likelihood Ratio

Die folgenden Maße werden normalerweise aus Sensitivität und Spezifität abgeleitet.

Definition “Positive Likelihood Ratio”

Die positive Likelihood Ratio eines diagnostischen Tests ist das Verhältnis zwischen der Wahrscheinlichkeit positiver Ergebnisse bei Personen mit der Krankheit und gesunden Personen.

LR+=P(+|K)P(+|K¯)=Sensitivität1−Spezifität LR+=\frac{P(+|K)}{P(+|\overline{K})} = \frac{\mbox{Sensitivität}}{1-\mbox{Spezifität}}

Definition “Negative Likelihood Ratio”

Die negative Likelihood Ratio eines diagnostischen Tests ist das Verhältnis zwischen der Wahrscheinlichkeit negativer Ergebnisse bei Personen mit der Krankheit und gesunden Personen.

LR−=P(−|K)P(−|K¯)=1−SensitivitätSpezifität LR-=\frac{P(-|K)}{P(-|\overline{K})} = \frac{1-\mbox{Sensitivität}}{\mbox{Spezifität}}

Die positive Likelihood Ratio kann als die Anzahl interpretiert werden, wie oft ein positives Ergebnis bei Personen mit der Krankheit gegenüber Personen ohne sie wahrscheinlicher ist.

Andererseits kann die negative Likelihood Ratio als die Anzahl interpretiert werden, wie oft ein negatives Ergebnis bei Personen mit der Krankheit gegenüber Personen ohne sie wahrscheinlicher ist.

Post-Test-Wahrscheinlichkeiten können durch Likelihood Ratio aus Pre-Test-Wahrscheinlichkeiten berechnet werden.

P(K|+)=P(K)P(+|K)P(K)P(+|K)+P(K¯)P(+|K¯)=P(K)LR+1−P(K)+P(K)LR+ P(K|+) = \frac{P(K)P(+|K)}{P(K)P(+|K)+P(\overline{K})P(+|\overline{K})} = \frac{P(K)LR+}{1-P(K)+P(K)LR+}

Daher gilt:

Eine Likelihood Ratio größer als 1 erhöht die Wahrscheinlichkeit der Erkrankung.

Eine Likelihood Ratio kleiner als 1 verringert die Wahrscheinlichkeit der Erkrankung.

Eine Likelihood Ratio von 1 ändert die Pre-Test-Wahrscheinlichkeit nicht.

6 Diskrete Zufallsvariablen

6.1 Zufallsvariable

Das Ziehen einer Probe auf zufällige Weise ist ein Zufallsexperiment und jede Variable, die in der Probe gemessen wird, ist eine Zufallsvariable, da die Werte, die die Variable bei den Individuen der Probe annimmt, dem Zufall unterliegen.

Definition “Zufallsvariable”

Eine Zufallsvariable XX ist eine Funktion, die jedes Element einer Zufallsstichprobe auf eine reelle Zahl abbildet.

X:Ω→ℝ X:\Omega \rightarrow \mathbb{R}

Der Satz von Werten, den die Variable annehmen kann, wird Reichweite (range) genannt und durch Ran(X)Ran(X) dargestellt.

Im Grunde genommen ist eine Zufallsvariable eine Variable, deren Werte aus einem Zufallsexperiment stammen und jeder Wert hat eine bestimmte Wahrscheinlichkeit für das Auftreten.

Beispiel Würfel

Die Variable XX, die das Ergebnis des Würfelns misst, ist eine Zufallsvariable und ihre Reichweite ist

Ran(X)={1,2,3,4,5,6} \mbox{Ran}(X)=\{1,2,3,4,5,6\}

6.1.1 Arten von Zufallsvariablen

Es gibt zwei Arten von Zufallsvariablen:

Diskret: Sie nehmen isolierte Werte an und ihre Reichweite ist abzählbar, zum Beispiel Anzahl der Kinder einer Familie, Anzahl gerauchter Zigaretten, Anzahl bestandener Prüfungen usw.

Kontinuierlich: Sie können jeden Wert in einem echten Intervall annehmen und ihre Reichweite ist nicht abzählbar, z.B. Beispiel Gewicht, Größe, Alter, Cholesterinspiegel usw.

Die Art der Modellierung ist für jede Art von Variable unterschiedlich. In diesem Kapitel werden wir untersuchen, wie diskrete Zufallsvariablen modelliert werden.

6.2 Wahrscheinlichkeitsverteilung diskreter Zufallsvariablen

Da die Werte einer diskreten Zufallsvariablen mit den elementaren Ereignissen eines Zufallsexperiments verknüpft sind, hat jeder Wert eine Wahrscheinlichkeit.

Definition “Wahrscheinlichkeitsfunktion”

Die Wahrscheinlichkeitsfunktion einer diskreten Zufallsvariablen XX ist die Funktion f(x)f(x), die jeden Wert xix_i der Variablen auf seine Wahrscheinlichkeit abbildet,

f(xi)=P(X=xi). f(x_i) = P(X=x_i).

Wir können auch Wahrscheinlichkeiten auf die gleiche Weise kumulieren wie wir Häufigkeiten in der Stichprobe kumuliert haben.

Definition “Verteilungsfunktion”

Die Verteilungsfunktion einer diskreten Zufallsvariablen XX ist die Funktion F(x)F(x), die jeden Wert xix_i der Variablen auf die Wahrscheinlichkeit abbildet, einen Wert kleiner oder gleich xix_i zu haben,

F(xi)=P(X≤xi)=f(x1)+⋯+f(xi). F(x_i) = P(X\leq x_i) = f(x_1)+\cdots +f(x_i).

Der Bereich einer diskreten Zufallsvariablen und ihre Wahrscheinlichkeitsfunktion wird als Wahrscheinlichkeitsverteilung der Variablen bezeichnet und normalerweise in einer Tabelle dargestellt:

Xx1x2⋯xn∑f(x)f(x1)f(x2)⋯f(xn)1F(x)F(x1)F(x2)⋯F(xn)=1 \begin{array}{|c|cccc|c|} \hline X & x_1 & x_2 & \cdots & x_n & \sum\\ \hline f(x) & f(x_1) & f(x_2) & \cdots & f(x_n) & 1\\ \hline F(x) & F(x_1) & F(x_2) & \cdots & F(x_n) =1 & \\\hline \end{array}

Auf die gleiche Weise, wie die Tabelle der Häufigkeiten in der Stichprobe die Verteilung der Werte einer Variablen in der Stichprobe zeigt, zeigt die Wahrscheinlichkeitsverteilung einer diskreten Zufallsvariablen die Verteilung der Werte in der Gesamtpopulation.

Beispiel Münzenwurf

Sei XX die diskrete Zufallsvariable, die die Anzahl der Köpfe nach dem Werfen von zwei Münzen misst. Der Wahrscheinlichkeitbaum des Wahrscheinlichkeitsraums des Zufallsexperiments ist wie folgt dargestellt.

Die Wahrscheinlichkeitsverteilung ist daher

X012f(x)0.250.50.25F(x)0.250.751F(x)={0wenn x<00,25wenn 0≤x<10,75wenn 1≤x<21wenn x≥2 \begin{array}{|c|ccc|} \hline X & 0 & 1 & 2\\ \hline f(x) & 0.25 & 0.5 & 0.25\\ \hline F(x) & 0.25 & 0.75 & 1 \\ \hline \end{array} \qquad F(x) = \left\{ \begin{array}{ll} 0 & \text{wenn } x < 0 \\ 0{,}25 & \text{wenn } 0 \leq x < 1 \\ 0{,}75 & \text{wenn } 1 \leq x < 2 \\ 1 & \text{wenn } x \geq 2 \end{array} \right.

6.2.1 Populationsstatistik

Auf die gleiche Weise, wie wir Stichprobestatistiken verwenden, um die Häufigkeitsverteilung einer Variablen in der Stichprobe zu beschreiben, verwenden wir Populationsstatistiken, um die Wahrscheinlichkeitsverteilung einer Zufallsvariablen in der Gesamtpopulation zu beschreiben.

Die Definition von Populationsstatistiken entspricht analog der Definition von Stichprobestatistiken, jedoch unter Verwendung von Wahrscheinlichkeiten anstelle von relativen Häufigkeiten.

Die wichtigsten sind:

Mittelwert: μ=E(X)=∑i=1nxif(xi)\quad\mu = E(X) = \sum_{i=1}^n x_i f(x_i)

Varianz: σ2=Var(X)=∑i=1nxi2f(xi)−μ2\quad \sigma^2 = Var(X) = \sum_{i=1}^n x_i^2 f(x_i) -\mu^2

Standardabweichung: σ=+σ2\quad \sigma = +\sqrt{\sigma^2}

Um sie besser von Stichprobenkennwerten zu unterscheiden, werden für die Populationsstatistiken griechische Buchstaben verwendet,

Beispiel Münzwurf

Aus einem Zufallsexperiment, bei dem 2 Münzen geworfen wurden, ergab sich folgende Wahrscheinlichkeitsverteilung

X012f(x)0.250.50.25F(x)0.250.751 \begin{array}{|c|ccc|} \hline X & 0 & 1 & 2\\ \hline f(x) & 0.25 & 0.5 & 0.25\\ \hline F(x) & 0.25 & 0.75 & 1 \\ \hline \end{array}

Daraus ergeben sich folgende Populationskennwerte:

μ=∑i=1nxif(xi)=0⋅0.25+1⋅0.5+2⋅0.25=1 Kopf,σ2=∑i=1nxi2f(xi)−μ2=(00⋅0.25+12⋅0.5+22⋅0.25)−12=0.5 Kopf2,σ=+0.5=0.71 Kopf. \begin{aligned} \mu &= \sum_{i=1}^n x_i f(x_i) = 0\cdot 0.25 + 1\cdot 0.5 + 2\cdot 0.25 = 1 \mbox{ Kopf},\\ \sigma^2 &= \sum_{i=1}^n x_i^2 f(x_i) -\mu^2 = (0^0\cdot 0.25 + 1^2\cdot 0.5 + 2^2\cdot 0.25) - 1^2 = 0.5 \mbox{ Kopf}^2,\\ \sigma &= +\sqrt{0.5} = 0.71 \mbox{ Kopf}. \end{aligned}

6.2.2 Diskrete Wahrscheinlichkeitsverteilungsmodelle

Je nach Art des Experiments, bei dem die Zufallsvariable gemessen wird, gibt es verschiedene Wahrscheinlichkeitsverteilungsmodelle. Die wichtigsten sind:

Diskrete Gleichverteilung

Binomialverteilung

Poissonverteilung

6.3 Diskrete Gleichverteilung

Wenn alle Werte einer zufälligen Variablen XX die gleiche Wahrscheinlichkeit haben, ist die Wahrscheinlichkeitsverteilung von XX gleichförmig.

Definition 63 “Diskrete Gleichverteilung U(a, B)”

Eine diskrete Zufallsvariable XX folgt einem diskreten Gleichverteilungsmodell mit Parametern aa und bb, notiert als X∼U(a,b)X\sim U(a,b), wenn ihr Bereich Ran(X)={a,a+1,…,b}\mbox{Ran}(X) = \{a, a+1, \ldots,b\} ist und ihre Wahrscheinlichkeitsfunktion

f(x)=1b−a+1. f(x)=\frac{1}{b-a+1}.

Beachten Sie, dass aa und bb das Minimum bzw. das Maximum des Bereichs sind.

Der Mittelwert (Erwartungswert) und die Varianz sind

μ=∑i=0b−aa+ib−a+1=a+b2σ2=∑i=0b−a(a+i−μ)2b−a+1=(b−a+1)2−112 \mu = \sum_{i=0}^{b-a}\frac{a+i}{b-a+1}=\frac{a+b}{2} \qquad \sigma^2 =\sum_{i=0}^{b-a}\frac{(a+i-\mu)^2}{b-a+1}= \frac{(b-a+1)^2-1}{12}

Beispiel Würfeln

Die Variable, die das Ergebnis beim Würfeln misst, folgt einem diskreten Gleichverteilungsmodell U(1,6)U(1, 6).

6.4 Binomialverteilung

Die Binomialverteilung entspricht in der Regel einer Variablen, die in einem zufälligen Experiment mit den folgenden Merkmalen gemessen wird:

Das Experiment besteht aus einer Sequenz von nn Wiederholungen desselben Versuchs.

Jeder Versuch wird unter identischen Bedingungen wiederholt und produziert zwei mögliche Ergebnisse namens Erfolg oder Misserfolg.

Die Versuche sind unabhängig voneinander.

Die Wahrscheinlichkeit für einen Erfolg ist in allen Versuchen gleich und beträgt P(Erfolg)=pP(\text{Erfolg}) = p.

Unter diesen Bedingungen folgt die diskrete Zufallsvariable XX, die die Anzahl der Erfolge bei den nn Versuchen misst, einem Binomialverteilungsmodell mit Parametern nn und pp.

Definition “Binomialverteilung (B(n,p)(B(n, p)”

Eine diskrete Zufallsvariable XX folgt einem binomialen Verteilungsmodell mit Parametern nn und pp, notiert als X∼B(n,p)X\sim B(n,p), wenn ihr Bereich Ran(X)={0,1,…,n}\mbox{Ran}(X) = \{0,1,\ldots,n\} ist und ihre Wahrscheinlichkeitsfunktion

f(x)=(nx)px(1−p)n−x=n!x!(n−x)!px(1−p)n−x f(x) = \binom{n}{x}p^x(1-p)^{n-x} = \frac{n!}{x!(n-x)!}p^x(1-p)^{n-x}

ist.

Beachten Sie, dass nn als die Anzahl der Wiederholungen eines Versuchs bekannt ist und pp als die Wahrscheinlichkeit für einen Erfolg bei jeder Wiederholung.

Der Erwartungswert und die Varianz sind:

μ=n⋅pσ2=n⋅p⋅(1−p). \mu = n\cdot p \qquad \sigma^2 = n\cdot p\cdot (1-p).

Beispiel: Werfen von 10 Münzen:

Die Variable, die die Anzahl der Köpfe nach dem Werfen von 10 Münzen misst, folgt einem binomialen Verteilungsmodell B(10,0.5)B(10,\ 0.5).

Wenn X∼B(10,0.5)X\sim B(10,\,0.5) die zufällige Variable ist, die die Anzahl der Köpfe nach dem Werfen von 10 Münzen misst, dann ist:

die Wahrscheinlichkeit, 4 mal Kopf zu werfen: f(4)=(104)0.54(1−0.5)10−4=10!4!6!0.540.56=210⋅0.510=0.2051. f(4) = \binom{10}{4}0.5^4 (1-0.5)^{10-4} = \frac{10!}{4!6!}0.5^40.5^6 = 210\cdot 0.5^{10} = 0.2051.

die Wahrscheinlichkeit, 2 mal oder weniger Kopf zu werfen: F(2)=f(0)+f(1)+f(2)==(100)0.50(1−0.5)10−0+(101)0.51(1−0.5)10−1+(102)0.52(1−0.5)10−2==0.0547. \begin{aligned} F(2) &= f(0) +f(1) + f(2) =\\ &= \binom{10}{0}0.5^0 (1-0.5)^{10-0} + \binom{10}{1}0.5^1 (1-0.5)^{10-1} + \binom{10}{2}0.5^2 (1-0.5)^{10-2} =\\ &= 0.0547. \end{aligned}

der erwartete Wert für die Anzahl an Kopfwürfen: μ=10⋅0.5=5 mal Kopf. \mu = 10\cdot 0.5 = 5 \mbox{ mal Kopf}.

Beispiel für eine zufällige Stichprobe mit Zurücklegen:

In einer Population gibt es 40% Raucher. Die Variable XX, die die Anzahl der Raucher in einer zufälligen Stichprobe mit Zurücklegen von 3 Personen misst, folgt einem binomialen Verteilungsmodell X∼B(3,0.4)X\sim B(3,\,0.4).

f(0)=(30)0.40(1−0.4)3−0=0.63,f(1)=(31)0.41(1−0.4)3−1=3⋅0.4⋅0.62,f(2)=(32)0.42(1−0.4)3−2=3⋅0.42⋅0.6,f(3)=(33)0.43(1−0.4)3−3=0.43. \begin{array}{lll} f(0)=\binom{3}{0}0.4^0(1-0.4)^{3-0}= 0.6^3, & \quad & f(1)=\binom{3}{1}0.4^1(1-0.4)^{3-1}= 3\cdot 0.4\cdot 0.6^2,\\ f(2)=\binom{3}{2}0.4^2(1-0.4)^{3-2}= 3\cdot 0.4^2\cdot 0.6, & & f(3)=\binom{3}{3}0.4^3(1-0.4)^{3-3}= 0.4^3. \end{array}

6.5 Poissonverteilung

Die Poisson-Verteilung entspricht in der Regel einer Variablen, die in einem zufälligen Experiment gemessen wird, für welches folgenden Merkmalen gelten:

Das Experiment besteht darin, die Anzahl der Ereignisse zu beobachten, die in einem festgelegten Zeit- oder Raumintervall auftreten, zum Beispiel: Anzahl der Geburten in einem Monat, Anzahl der E-Mails in einer Stunde, Anzahl der roten Blutkörperchen in einem Blutvolumen usw.

Die Ereignisse treten unabhängig voneinander auf.

Das Experiment produziert dieselbe durchschnittliche Ereignisrate λ\lambda für jedes Intervall.

Unter diesen Bedingungen folgt die diskrete Zufallsvariable XX, die die Anzahl der Ereignisse in einem Intervall misst, einem Poisson-Verteilungsmodell mit dem Parameter λ\lambda.

Definition “Poisson-Verteilung” P(λ)P(\lambda)

Eine diskrete Zufallsvariable XX folgt einem Poisson-Verteilungsmodell mit dem Parameter λ\lambda, notiert als X∼P(λ)X\sim P(\lambda), wenn ihr Bereich Ran(X)={0,1,…,∞}\mbox{Ran}(X) = \{0,1,\ldots,\infty\} ist und ihre Wahrscheinlichkeitsfunktion

f(x)=e−λλxx! f(x) = e^{-\lambda}\frac{\lambda^x}{x!}

ist.

Beachten Sie, dass λ\lambda die durchschnittliche Ereignisrate für ein Intervall ist und sich ändern wird, wenn das Intervall verändert wird.

Der Erwartungswert und die Varianz sind:

μ=λσ2=λ. \mu = \lambda \qquad \sigma^2 = \lambda.

Beispiel: Anzahl der Geburten in einer Stadt

In einer Stadt gibt es durchschnittlich 4 Geburten pro Tag. Die Zufallsvariable XX, die die Anzahl der Geburten an einem Tag in der Stadt misst, folgt einem Poisson-Verteilungsmodell X∼P(4)X\sim P(4).

Wenn X∼P(4)X\sim P(4) die Zufallsvariable ist, die die Anzahl der Geburten in der Stadt misst, dann ist:

die Wahrscheinlichkeit, dass es 5 Geburten an einem Tag gibt: f(5)=e−4455!=0.1563. f(5) = e^{-4}\frac{4^5}{5!} = 0.1563.

die Wahrscheinlichkeit, dass es weniger als 2 Geburten an einem Tag gibt: F(1)=f(0)+f(1)=e−4400!+e−4411!=5e−4=0.0916. F(1) = f(0)+f(1) = e^{-4}\frac{4^0}{0!} + e^{-4}\frac{4^1}{1!} = 5e^{-4} = 0.0916.

die Wahrscheinlichkeit, dass es mehr als 1 Geburt an einem Tag gibt: P(X>1)=1−P(X≤1)=1−F(1)=1−0.0916=0.9084. P(X>1) = 1-P(X\leq 1) = 1-F(1) = 1-0.0916 = 0.9084.

6.5.1 Annäherung an die Binomialverteilung durch die Poisson-Verteilung

Die Poisson-Verteilung kann aus der Binomialverteilung erhalten werden, wenn die Anzahl der Versuche gegen unendlich geht und die Wahrscheinlichkeit für den Erfolg gegen Null tendiert.

Gesetz der seltenen Ereignisse

Die BinomialverteilungX∼B(n,p)X\sim B(n,p) tendiert gegen die Poisson-Verteilung P(λ)P(\lambda), mit λ=n⋅p\lambda=n\cdot p, wenn nn gegen unendlich geht und pp gegen Null geht, d.h.:

limn→∞,p→0(nx)px(1−p)n−x=e−λλxx!. \lim_{n\rightarrow \infty, p\rightarrow 0}\binom{n}{x}p^x(1-p)^{n-x} = e^{-\lambda}\frac{\lambda^x}{x!}.

In der Praxis kann diese Annäherung für n≥30n\geq 30 und p≤0.1p\leq 0.1 verwendet werden.

Beispiel

Ein Impfstoff löst in 4% der Fälle eine unerwünschte Reaktion aus. Wenn 50 Personen geimpft werden, was ist die Wahrscheinlichkeit, dass mehr als 2 Personen eine unerwünschte Reaktion haben?

Die Zufallsvariable, die die Anzahl der Personen mit einer unerwünschten Reaktion im Sample misst, folgt einem Binomialverteilungsmodell X∼B(50,0.04)X\sim B(50,0.04). Da aber n=50>30n=50>30 und p=0.04<0.1p=0.04<0.1 sind, können wir das Gesetz der seltenen Ereignisse anwenden und das Poisson-Verteilungsmodell P(50⋅0.04)=P(2)P(50\cdot 0.04)=P(2) verwenden, um die Berechnungen durchzuführen.

P(X>2)=1−P(X≤2)=1−f(0)−f(1)−f(2)==1−e−2200!−e−2211!−e−2222!==1−5e−2=0.3233. \begin{aligned} P(X>2) &= 1-P(X\leq 2) = 1-f(0)-f(1)-f(2) =\\ &= 1-e^{-2}\frac{2^0}{0!}-e^{-2}\frac{2^1}{1!}-e^{-2}\frac{2^2}{2!} =\\ &= 1-5e^{-2} = 0.3233. \end{aligned}

7 Kontinuierliche Zufallsvariablen

Kontinuierliche Zufallsvariablen können im Gegensatz zu diskreten Zufallsvariablen jeden Wert in einem echten Intervall annehmen. Daher ist der Bereich einer kontinuierlichen Zufallsvariablen unendlich und nicht abzählbar. Diese Vielzahl von Werten macht es unmöglich, die Wahrscheinlichkeit für jeden einzelnen zu berechnen, wodurch es nicht möglich ist, ein Wahrscheinlichkeitsmodell über eine Wahrscheinlichkeitsfunktion wie bei diskreten Zufallsvariablen zu definieren.

Darüber hinaus wird die Messung einer kontinuierlichen Zufallsvariablen in der Regel durch die Genauigkeit des Messinstruments begrenzt. Zum Beispiel beträgt die wahre Größe einer Person, für die unser Messinstrument 1,68 Meter groß sagt, nicht genau 1,68 Meter, da die Genauigkeit des Messinstruments nur auf zwei Dezimalstellen cm (Zentimeter) beträgt. Dies bedeutet, dass die wahre Größe dieser Person zwischen 1,675 und 1,685 Metern liegt.

Daher ist es für kontinuierliche Variablen unsinnig, die Wahrscheinlichkeit eines einzelnen Werts zu berechnen, und wir werden Wahrscheinlichkeiten für Intervalle berechnen.

7.1 Verteilungsfunktion einer kontinuierlichen Zufallsvariablen

Um die Verteilungsfunktion einer kontinuierlichen Zufallsvariablen zu modellieren, wird eine Wahrscheinlichkeitsdichtefunktion verwendet.

Definition “Wahrscheinlichkeitsdichtefunktion”

Die Wahrscheinlichkeitsdichtefunktion einer kontinuierlichen Zufallsvariablen XX ist eine Funktion f(x)f(x), die folgende Bedingungen erfüllt:

Sie ist nicht-negativ: f(x)≥0f(x)\geq 0 ∀x∈ℝ\forall x\in \mathbb{R}.

Der von der Kurve der Dichtefunktion und der x-Achse begrenzte Bereich beträgt gleich 1, d.h.: ∫−∞∞f(x)dx=1. \int_{-\infty}^{\infty} f(x)\; dx = 1.

Die Wahrscheinlichkeit, dass XX einen Wert zwischen aa und bb annimmt, entspricht dem von der Dichtefunktion begrenzten Bereich unter aa und bb, d.h.:

P(a≤X≤b)=∫abf(x)dx P(a\leq X\leq b) = \int_a^b f(x)\; dx

Die Wahrscheinlichkeitsdichtefunktion misst die relative Wahrscheinlichkeit jedes Werts, jedoch ist f(x)f(x) nicht die Wahrscheinlichkeit von xx, da P(X=x)=0P(X=x) = 0 für jeden Wert xx gilt.

7.1.1 Verteilungsfunktion

Genauso wie bei diskreten Zufallsvariablen macht es auch bei kontinuierlichen Zufallsvariablen Sinn, kumulative Wahrscheinlichkeiten zu berechnen.

Definition “Verteilungsfunktion”

Die Verteilungsfunktion einer kontinuierlichen Zufallsvariablen XX ist eine Funktion F(x)F(x), die jeden Wert aa auf die Wahrscheinlichkeit abbildet, dass XX einen Wert kleiner oder gleich aa annimmt, d.h.:

F(a)=P(X≤a)=∫−∞af(x)dx. F(a) = P(X\leq a) = \int_{-\infty}^{a} f(x)\; dx.

7.1.2 Wahrscheinlichkeitsbereiche

P(a≤X≤b)=∫abf(x)dx=F(b)−F(a) \displaystyle P(a\leq X\leq b) = \int_a^b f(x)\, dx = F(b)-F(a)

Beispiel

Gegeben ist die folgende Funktion:

f(x)={0bei x<0e−xbei x≥0 f(x) = \left\{ \begin{array}{ll} 0 & \text{bei } x < 0 \\ e^{-x} & \text{bei } x \geq 0 \end{array} \right. Überprüfen wir, ob es sich um eine Dichtefunktion handelt.

Da diese Funktion klarerweise nicht-negativ ist, müssen wir prüfen, dass der Gesamtbereich, der durch die Kurve und die x-Achse begrenzt wird, gleich 1 beträgt:

∫−∞∞f(x)dx=∫−∞0f(x)dx+∫0∞f(x)dx=∫−∞00dx+∫0∞e−xdx==[−e−x]0∞=−e−∞+e0=1. \begin{aligned} \int_{-\infty}^\infty f(x)\;dx &= \int_{-\infty}^0 f(x)\;dx +\int_0^\infty f(x)\;dx = \int_{-\infty}^0 0\;dx +\int_0^\infty e^{-x}\;dx =\\ &= \left[-e^{-x}\right]_0^{\infty} = -e^{-\infty}+e^0 = 1. \end{aligned}

Nun berechnen wir die Wahrscheinlichkeit, dass XX einen Wert zwischen 0 und 2 annimmt:

P(0≤X≤2)=∫02f(x)dx=∫02e−xdx=[−e−x]02=−e−2+e0=0.8646. \begin{aligned} P(0\leq X\leq 2) &= \int_0^2 f(x)\;dx = \int_0^2 e^{-x}\;dx = \left[-e^{-x}\right]_0^2 = -e^{-2}+e^0 = 0.8646. \end{aligned}

7.1.3 Populationsstatistik

Die Berechnung der Populationsstatistik erfolgt ähnlich wie im Fall diskreter Variabler, jedoch mit der Dichtefunktion anstelle der Wahrscheinlichkeitsfunktion und durch Ersetzen der diskreten Summe durch das Integral.

Die wichtigsten sind:

Mittelwert: μ=E(X)=∫−∞∞xf(x)dx\mu = E(X) = \int_{-\infty}^\infty x f(x)\; dx

Varianz: σ2=Var(X)=∫−∞∞x2f(x)dx−μ2\sigma^2 = Var(X) = \int_{-\infty}^\infty x^2f(x)\; dx -\mu^2

Standardabweichung: σ=+σ2\sigma = +\sqrt{\sigma^2}

Beispiel

Gegeben ist die Variable XX mit der folgenden Wahrscheinlichkeitsdichtefunktion:

f(x)={0bei x<0e−xbei x≥0 f(x) = \left\{ \begin{array}{ll} 0 & \text{bei } x < 0 \\ e^{-x} & \text{bei } x \geq 0 \end{array} \right.

Der Mittelwert beträgt:

μ=∫−∞∞xf(x)dx=∫−∞0xf(x)dx+∫0∞xf(x)dx=∫−∞00dx+∫0∞xe−xdx==[−e−x(1+x)]0∞=1. \begin{aligned} \mu &= \int_{-\infty}^\infty xf(x)\;dx = \int_{-\infty}^0 xf(x)\;dx +\int_0^\infty xf(x)\;dx = \int_{-\infty}^0 0\;dx +\int_0^\infty xe^{-x}\;dx =\\ &= \left[-e^{-x}(1+x)\right]_0^{\infty} = 1. \end{aligned}

Die Varianz beträgt:

σ2=∫−∞∞x2f(x)dx−μ2=∫−∞0x2f(x)dx+∫0∞x2f(x)dx−μ2==∫−∞00dx+∫0∞x2e−xdx−μ2=[−e−x(x2+2x+2)]0∞−12=2e0−1=1. \begin{aligned} \sigma^2 &= \int_{-\infty}^\infty x^2f(x)\;dx -\mu^2 = \int_{-\infty}^0 x^2f(x)\;dx +\int_0^\infty x^2f(x)\;dx -\mu^2 = \\ &= \int_{-\infty}^0 0\;dx +\int_0^\infty x^2e^{-x}\;dx -\mu^2= \left[-e^{-x}(x^2+2x+2)\right]_0^{\infty} - 1^2= 2e^0-1 = 1. \end{aligned}

Die wichtigsten kontinuierlichen Wahrscheinlichkeitsverteilungsmodelle sind:

Gleichverteilung

Normalverteilung

Student’s t-Verteilung

Chi-Quadrat-Verteilung

7.2 stetige Gleichverteilung

Wenn alle Werte einer Zufallsvariablen XX dieselbe Wahrscheinlichkeit haben, dann ist die Wahrscheinlichkeitsverteilung von XX gleichverteilt.

Definition “Kontinuierliche gleichverteilte Verteilung” U(a,b)U(a,b))

Eine kontinuierliche Zufallsvariable XX folgt dem Wahrscheinlichkeitsverteilungsmodell der Gleichverteilung mit den Parametern aa und bb, notiert als X∼U(a,b)X\sim U(a,b), wenn ihr Bereich Ran(X)=[a,b]\mbox{Ran}(X) = [a,b] ist und ihre Dichtefunktion

f(x)=1b−a∀x∈[a,b] f(x)= \frac{1}{b-a}\quad \forall x\in [a,b]

ist.

Dabei sind aa und bb der minimale bzw. maximale Wert des Bereichs, und die Dichtefunktion ist konstant.

Der Erwartungswert und die Varianz sind:

μ=a+b2σ2=(b−a)212. \mu = \frac{a+b}{2}\qquad \sigma^2=\frac{(b-a)^2}{12}.

Beispiel

Die Generierung einer Zufallszahl zwischen 0 und 1 folgt der kontinuierlichen gleichverteilten Verteilung U(0,1)U(0, 1).

Da die Dichtefunktion konstant ist, wächst die Verteilungsfunktion linear.

Beispiel: Wartezeit für einen Bus

Ein Bus hat eine Frequenz von 15 Minuten. Angenommen, eine Person kann zu jeder Zeit an der Bushaltestelle ankommen. Wie groß ist die Wahrscheinlichkeit, dass man auf den Bus zwischen 5 und 10 Minuten wartet?

In diesem Fall folgt die Variable XX, welche die Wartezeit misst, einer kontinuierlichen gleichverteilten Verteilung U(0,15)U(0, 15), da jede Wartezeit zwischen 00 und 1515 gleich wahrscheinlich ist.

Die Wahrscheinlichkeit, zwischen 55 und 1010 Minuten auf den Bus zu warten, beträgt:

P(5≤X≤10)=∫510115dx=[x15]510==1015−515=13. \begin{aligned} P(5\leq X\leq 10) &= \int_{5}^{10} \frac{1}{15}\;dx = \left[\frac{x}{15}\right]_5^{10} = \\ &= \frac{10}{15}-\frac{5}{15} =\frac{1}{3}. \end{aligned}

Die erwarete (durchschnittliche) Wartezeit ist μ=0+152=7.5\mu=\frac{0+15}{2}=7.5 Minuten.

7.3 Normalverteilung

Das Normalverteilungsmodell ist ohne Zweifel das wichtigste Modell für kontinuierliche Verteilungen und das häufigste in der Natur.

Definition “Normalverteilung” N(μ,σ)N(\mu, \sigma)

Eine stetige Zufallsvariable XX folgt dem Normalverteilungsmodell N(μ,σ)N(\mu, \sigma), wenn ihr Wertebereich Ran(X)=(−∞,∞)\mbox{Ran}(X) = (-\infty,\infty) ist und ihre Dichtefunktion

f(x)=1σ2πe−(x−μ)22σ2. f(x)= \frac{1}{\sigma\sqrt{2\pi}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}.

Die beiden Parameter μ\mu und σ\sigma sind der Mittelwert (Erwartungswert) bzw. die Standardabweichung der Population.

7.3.1 Dichtefunktion der Normalverteilung

Der Graph der Wahrscheinlichkeitsdichtefunktion einer Normalverteilung N(μ,σ)N(\mu, \sigma) ist glockenförmig und wird auch als Gauß-Glocke bezeichnet.

Die Glockenform hängt vom Mittelwert μ\mu und der Standardabweichung σ\sigma ab.

Der Mittelwert μ\mu legt die Mitte der Glocke fest.

Die Standardabweichung σ\sigma legt die Breite der Glocke fest.

7.3.2 Verteilungsfunktion

Die Verteilungsfunktion der Normalverteilung ist S-förmig

7.3.3 Eigenschaften der Normalverteilung

Sie ist symmetrisch bezüglich der Mitte, sodass Schiefe null ist: g1=0g_1=0.

Sie ist mesokurtisch, da die Dichtefunktion glockenförmig ist und der Kurtosiskoeffizient daher null beträgt: g2=0g_2=0.

Mittelwert, Median und Modalwert sind gleich: μ=Me=Mo\mu = Me = Mo.

Sie nähert sich asymptotisch Null an, wenn xx gegen ±∞\pm \infty geht.

P(μ−σ≤X≤μ+σ)=0.68P(μ−2σ≤X≤μ+2σ)=0.95P(μ−3σ≤X≤μ+3σ)=0.99 \begin{aligned} P(\mu-\sigma \leq X \leq \mu+\sigma) = 0.68\\ P(\mu-2\sigma \leq X \leq \mu+2\sigma) = 0.95\\ P(\mu-3\sigma \leq X \leq \mu+3\sigma) = 0.99 \end{aligned}

Beispiel Cholesterin

Es ist bekannt, dass die Cholesterinwerte von Frauen im Alter zwischen 40 und 50 Jahren einer Normalverteilung mit μ=210\mu=210mg/dl und σ=20\sigma=20mg/dl folgen.

Durch die Eigenschaften der Glockenkurve wissen wir, dass

68% der Frauen einen Cholesterinwert von 210±20210\pm 20 mg/dl aufweisen, also Werte zwischen 190 und 230 mg/dl.

95% der Frauen einen Cholesterinwert von 210±2⋅20210\pm 2\cdot20 mg/dl aufweisen, also Werte zwischen 170 und 250 mg/dl.

99% der Frauen einen Cholesterinwert von 210±3⋅20210\pm 3\cdot20 mg/dl aufweisen, also Werte zwischen 150 und 270 mg/dl.

Beispiel Blutanalyse

Bei der Blutanalyse wird häufig das Intervall $verwendet, um mögliche Pathologien zu erkennen. Im Fall des Cholesterins liegt dieses Intervall bei [170 mg/dl,250 mg/dl][170\text{ mg/dl}, 250\text{ mg/dl}].

Somit wird eine Frau im Alter zwischen 40 und 50 Jahren mit einem Cholesteringehalt außerhalb dieses Intervalls häufig auf eine mögliche Erkrankung untersucht. Allerdings könnte diese Person gesund sein, obwohl die Wahrscheinlichkeit dafür nur 5 % beträgt.

7.3.4 Der Zentrale Grenzwertsatz

Dieses Verhalten ist bei vielen physikalischen und biologischen Variablen in der Natur zu beobachten.

Wenn man zum Beispiel an die Verteilung der Körpergröße denkt, kann man feststellen, dass die meisten Menschen in der Bevölkerung eine Körpergröße um den Mittelwert haben. Allerdings gibt es immer weniger Menschen mit Körpergrößen, je weiter sie vom Mittelwert entfernt sind - sowohl darunter als auch darüber. Die Erklärung für dieses Verhalten ist der Zentrale Grenzwertsatz, auf den wir im nächsten Kapitel zurückkommen werden. Er besagt, dass eine stetige Zufallsvariable, deren Werte von einer großen Anzahl unabhängiger Faktoren abhängen, die ihre Effekte addieren, immer einer Normalverteilung folgt.

7.3.5 Standardnormalverteilung

Die wichtigste Normalverteilung hat einen Mittelwert μ=0\mu=0 und eine Standardabweichung σ=1\sigma=1.

Sie wird als Standardnormalverteilung bezeichnet und üblicherweise mit Z∼N(0,1)Z\sim N(0,1) dargestellt.

7.3.6 Berechnung von Wahrscheinlichkeiten

Um die Integration der normalen Dichtefunktion zu vermeiden, ist es üblich, die Verteilungsfunktion zu verwenden, die in Tabellenform wie unten angegeben ist.

Beispiel: Werte aus Tabellen ablesen

Bestimmung von P(Z≤0.52)P(Z\leq 0.52)

→\rightarrow Reihe 0.50.5 + Spalte 0.020.02 →\rightarrow 0,6985 ist der gesuchte Wert.

𝐳0.000.010.02⋯0.00.50000.50400.5080⋯0.10.53980.54380.5478⋯0.20.57930.58320.5871⋯0.30.61790.62170.6255⋯0.40.65540.65910.6628⋯0.50.69150.69500.6985⋯⋮⋮⋮⋮⋱ \begin{array}{|r||r|r|r|r|} \hline \mathbf{z} & \mathbf{0.00} & \mathbf{0.01} & \color{red}{\mathbf{0.02}} & \mathbf{\cdots} \\ \hline\hline \mathbf{0.0} & 0.5000 & 0.5040 & 0.5080 & \cdots \\ \hline \mathbf{0.1} & 0.5398 & 0.5438 & 0.5478 & \cdots \\ \hline \mathbf{0.2} & 0.5793 & 0.5832 & 0.5871 & \cdots \\ \hline \mathbf{0.3} & 0.6179 & 0.6217 & 0.6255 & \cdots \\ \hline \mathbf{0.4} & 0.6554 & 0.6591 & 0.6628 & \cdots \\ \hline \color{red}{\mathbf{0.5}} & 0.6915 & 0.6950 & \color{blue}{\color{red}{\mathbf{0.6985}}} & \cdots \\ \hline \mathbf{\vdots} & \vdots & \vdots & \vdots & \ddots \\ \hline \end{array}

Um kumulative Wahrscheinlichkeiten für Werte rechts von einem Wert zu berechnen, kann die Regel für komplementäre Ereignisse angewendet werden, beispielsweise:

P(Z>0.52)=1−P(Z≤0.52)=1−F(0.52)=1−0.6985=0.3015. P(Z>0.52) =1-P(Z\leq 0.52) = 1-F(0.52) = 1 - 0.6985 = 0.3015.

7.3.7 Standardisierung

Wir haben gelernt, wie wir die Tabelle der Standardnormalverteilungsfunktion verwenden können, um Wahrscheinlichkeiten zu berechnen. Aber was tun wir, wenn es sich nicht um die Standardnormalverteilung handelt?

In diesem Fall können wir Standardisierung anwenden, um jede Normalverteilung in eine Standardnormalverteilung umzuwandeln.

Definition “Standardisierung”

Wenn XX eine stetige Zufallsvariable ist, die einer Normalverteilungsfunktion mit Mittelwert μ\mu und Standardabweichung σ\sigma folgt, X∼N(μ,σ)X\sim N(\mu,\sigma), dann folgt die Variable, die durch Subtrahieren von μ\mu und Dividieren durch σ\sigma erhalten wird, einer Standardnormalverteilung:

X∼N(μ,σ)⇒Z=X−μσ∼N(0,1). X\sim N(\mu,\sigma) \Rightarrow Z=\frac{X-\mu}{\sigma}\sim N(0,1).

Um daher Wahrscheinlichkeiten mit einer nicht-standardmäßigen Normalverteilung zu berechnen, müssen wir die Variable zuerst standardisieren, bevor wir die Tabelle der Standardnormalverteilungsfunktion verwenden.

Beispiel

Angenommen, die Note XX eines Examens folgt einer normalen Wahrscheinlichkeitsverteilungsfunktion N(μ=6,σ=1.5)N(\mu=6,\sigma=1.5). Welcher Prozentsatz der Schüler hat das Examen nicht bestanden?

Da XX einer nicht-standardmäßigen Normalverteilung folgt, müssen wir zuerst standardisieren,

Z=X−μσ=X−61.5 Z=\displaystyle \frac{X-\mu}{\sigma} = \frac{X-6}{1.5}

P(X<5)=P(X−61.5<5−61.5)=P(Z<−0.67). P(X<5) = P\left(\frac{X-6}{1.5}<\frac{5-6}{1.5}\right) = P(Z<-0.67). Jetzt können wir die Tabelle der Standardnormalverteilungsfunktion verwenden:

P(Z<−0.67)=F(−0.67)=0.2514. P(Z<-0.67) = F(-0.67) = 0.2514.

Demnach haben 25,14% der Schüler das Examen nicht bestanden.

7.4 Chi-Quadrat-Verteilung

Definition “Chi-Quadrat-Verteilung Χ2(n)\Chi^2(n)

Gegeben nn unabhängige Zufallsvariablen Z1,…,ZnZ_1,\ldots,Z_n, die alle einer Standardnormalverteilung folgen, folgt die Variable

χ2(n)=Z12+⋯+Zn2, \chi^2(n) = Z_1^2+\cdots +Z_n^2,

einer Chi-Quadrat-Verteilung mit nn Freiheitsgraden. Ihr Bereich ist ℝ+\mathbb{R}^+, und ihr Mittelwert und ihre Varianz sind:

μ=n,σ2=2n. \mu = n, \qquad \sigma^2 = 2n.

Die Chi-Quadrat-Verteilung spielt eine wichtige Rolle bei der Schätzung der Populationsvarianz und beim Studium von Beziehungen zwischen qualitativen Variablen.

Eigenschaften der Chi-Quadrat-Verteilung

Die Spannweite ist nicht-negativ.

Wenn X∼χ2(n)X\sim \chi^2(n) and Y∼χ2(m)Y\sim \chi^2(m), dann gilt X+Y∼χ2(n+m)X+Y \sim \chi^2(n+m).

Sie nähert sich asymptotisch einer normalen Verteilung an, wenn die Anzahl an Freiheitsgraden zunimmt.

7.5 Student’s t-Verteilung

Definition “Student’s t-Verteilung” T(n)T(n)

Gegeben eine Variable ZZ, die einer Standardnormalverteilung folgt, Z∼N(0,1)Z\sim N(0,1), und eine Variable XX, die einer Chi-Quadrat-Verteilung mit nn Freiheitsgraden folgt, X∼χ2(n)X\sim \chi^2(n), dann folgt die Variable

T=ZX/n, T = \frac{Z}{\sqrt{X/n}},

einer Student’s t-Verteilung mit nn Freiheitsgraden. Ihr Bereich ist ℝ\mathbb{R} , und ihr Mittelwert und ihre Varianz sind:

μ=0,σ2=nn−2 wenn n>2. \mu = 0, \qquad \sigma^2 = \frac{n}{n-2}\ \mbox{ wenn } n>2.

Die t-Verteilung spielt eine wichtige Rolle bei der Schätzung des Populationsmittelwerts.

Eigenschaften der Student’s t-Verteilung:

Der Mittelwert, der Median und der Modus sind gleich, μ=Me=Mo\mu=Me=Mo.

Sie ist symmetrisch, g1=0g_1=0.

Sie nähert sich asymptotisch einer Standardnormalverteilung an, wenn die Anzahl der Freiheitsgrade abnimmt. In der Praxis gilt für n ≥ 30, dass beide Verteilungen annähernd gleich sind.

T(n)≈n→∞N(0,1). T(n)\stackrel{n\rightarrow \infty}{\approx}N(0,1).

7.6 Fisher-Snedecor-Verteilung

Definition “Fisher-Snedecor-Verteilung” F(m,n)F(m,n)

Gegeben zwei unabhängige Variablen XX und YY, die jeweils einer Chi-Quadrat-Verteilung mit mm bzw. nn Freiheitsgraden folgen, X∼χ2(m)X\sim \chi^2(m) and Y∼χ2(n)Y\sim \chi^2(n), folgt die Variable

F=X/mY/n, F = \frac{X/m}{Y/n},

einer Fisher-Snedecor-Verteilung mit mm und nn Freiheitsgraden. Ihr Bereich ist ℝ+\mathbb{R}^+, und ihr Mittelwert und ihre Varianz sind:

μ=nn−2,σ2=2n2(m+n−2)m(n−2)2(n−4) wenn n>4. \mu = \frac{n}{n-2}, \qquad \sigma^2 =\frac{2n^2(m+n−2)}{m(n-2)^2(n-4)}\ \mbox{ wenn } n>4.

Die Fisher-Snedecor-Verteilung spielt eine wichtige Rolle beim Vergleich von Populationsvarianzen und bei der ANOVA-Analyse (Analysis of Variance).

Eigenschaften der Fisher-Snedecor-Verteilung:

Der Bereich ist nicht-negativ.

Sie erfüllt die Beziehung F(m,n)=1F(n,m). F(m,n) =\frac{1}{F(n,m)}.

Dies bedeutet, dass wenn wir den Wert f(m,n)pf(m,n)_p definieren als den Wert, der die Gleichung P(F(m,n)≤f(m,n)p)=pP(F(m,n)\leq f(m,n)_p)=p erfüllt, dann gilt:

f(m,n)p=1f(n,m)1−p f(m,n)_p =\frac{1}{f(n,m)_{1-p}}

Dies ist hilfreich beim Berechnen von Wahrscheinlichkeiten mithilfe der Verteilungsfunktionstabelle.

8 Schätzen der Populationsparameter

Die Wahrscheinlichkeitsverteilungsmodelle, die im vorherigen Abschnitt behandelt wurden, erklären das Verhalten von Zufallsvariablen. Hierfür muss bekannt sein, welchem Verteilungsmodell eine bestimmte Variable folgt. Dies ist der erste Schritt der inferenziellen Statistik.

Um das Verteilungsmodell einer Variable genau zu bestimmen, müssen die charakteristischen Merkmale aller Individuen in der Population bekannt sein, was in den meisten Fällen nicht möglich ist (wirtschaftliche, körperliche, zeitliche Unmöglichkeit usw.).

Um diese Nachteile zu vermeiden, wird auf die Untersuchung einer Stichprobe zurückgegriffen, mit dem Ziel, das Verteilungsmodell der Variable in der Population ungefähr zu bestimmen.

Die Untersuchung einer kleineren Anzahl von Individuen aus einer Stichprobe statt der gesamten Population (Vollerhebung) hat eindeutige Vorteile:

geringere Kosten.

größere Schnelligkeit.

größere Leichtigkeit.

Es hat jedoch auch einige Nachteile:

Notwendigkeit, eine repräsentative (siehe hierzu von der Lippe (2002, 2010, 2011; 2002)) Stichprobe zu erhalten.

Gefahr, Verzerrungen zu erhalten.

Im Idealfall können diese Nachteile überwunden werden:

Die Repräsentativität der Stichprobe wird durch angemessene Samplingmethoden erreicht (Zufallsstichprobe);

Fehler können nicht vermieden werden, aber es wird versucht, sie so weit wie möglich zu reduzieren und einzuschränken.

8.1 Stichprobenverteilungen

Eine Stichprobe der Größe nn aus einer Zufallsvariable XX kann als Realisation einer nn-dimensionalen Zufallsvariablen X=(X1,…,Xn)X=(X_1, \dots, X_n) aufgefasst werden.

Definition “Stichprobe unabhängiger identisch verteilter Zufallsvariablen” (i.i.d.)

Eine Stichprobe unabhängiger identisch verteilter Zufallsvariablen (abgekürzt i.i.d., von independent and identically distributed) einer Zufallsvariable XX, die in einer Population untersucht wird, ist eine Sammlung von nn Zufallsvariablen X1,…,XnX_1,\ldots,X_n, die folgende Eigenschaften erfüllen:

Jede der Zufallsvariablen XiX_i folgt derselben Wahrscheinlichkeitsverteilung wie die Variable XX in der Population.

Alle Zufallsvariablen XiX_i sind voneinander unabhängig.

Die möglichen Werte dieser nn-dimensionalen Zufallsvariablen entsprechen allen denkbaren Stichproben der Größe nn, die aus der Population gezogen werden können.

Die drei grundlegenden Merkmale der Stichproben-Zufallsvariable sind:

Homogenität: Die Variablen, die die Stichproben-Zufallsvariable bilden, folgen der gleichen Verteilung.

Unabhängigkeit: Die Variablen sind voneinander unabhängig.

Verteilungsmodell: Das Verteilungsmodell, dem die nn Variablen folgen.

Die ersten beiden Punkte können gelöst werden, wenn eine einfache Zufallsstichprobe zur Erhebung der Daten verwendet wird. Beim dritten Punkt müssen wiederum zwei Fragen beantwortet werden:

Welches Verteilungsmodell passt am besten zu unserem Datensatz? Dies wird teilweise durch den Einsatz nichtparametrischer Methoden geklärt.

Sobald das passendste Verteilungsmodell ausgewählt wurde: Welcher Parameter des Modells ist von Interesse, und wie kann sein Wert bestimmt werden? Damit befasst sich der Teil der statistischen Inferenz, der als Parameterschätzung bekannt ist.

In diesem Abschnitt wird die zweite Frage behandelt, d. h., unter der Annahme, dass das Verteilungsmodell einer Grundgesamtheit bekannt ist, werden die wichtigsten Parameter geschätzt, die es beschreiben. Zum Beispiel sind die zentralen Parameter, die die im vorherigen Thema behandelten Verteilungen definieren:

Verteilung | Parameter
Binomial | n,pn,p
Poisson | λ\lambda
Uniform | a,ba,b
Normal | μ,σ\mu,\sigma
Chi-Quadrat | nn
T-Student | nn
F-Fisher | m,nm,n

Die Wahrscheinlichkeitsverteilung der Werte der Stichprobenvariablen hängt eindeutig von der Wahrscheinlichkeitsverteilung der Werte in der Grundgesamtheit ab.

Beispiel: Kinder in Familien

Betrachten wir eine Grundgesamtheit, in der ein Viertel der Familien keine Kinder hat, die Hälfte der Familien ein Kind besitzt und der Rest zwei Kinder hat.

Verteilung in der PopulationVerteilung in den StichprobenXP(x)00,2510,5020,25→Stichproben vom Umfang 2(X1,X2)P(x1,x2)(0,0)0,0625(0,1)0,1250(0,2)0,0625(1,0)0,1250(1,1)0,2500(1,2)0,1250(2,0)0,0625(2,1)0,1250(2,2)0,0625 \begin{array}{ccc} \text{Verteilung in der Population} & & \text{Verteilung in den Stichproben} \\ \begin{array}{|c|c|}\hline X & P(x) \\\hline 0 & 0,25 \\\hline 1 & 0,50 \\\hline 2 & 0,25 \\\hline \end{array} & \xrightarrow{\text{Stichproben vom Umfang 2}} & \begin{array}{|c|c|}\hline (X_1, X_2) & P(x_1, x_2) \\\hline (0,0) & 0,0625 \\\hline (0,1) & 0,1250 \\\hline (0,2) & 0,0625 \\\hline (1,0) & 0,1250 \\\hline (1,1) & 0,2500 \\\hline (1,2) & 0,1250 \\\hline (2,0) & 0,0625 \\\hline (2,1) & 0,1250 \\\hline (2,2) & 0,0625 \\\hline \end{array} \end{array}

Da ein Statistikergebnis eine Funktion einer Zufallsvariable ist, stellt es selbst ebenfalls eine Zufallsvariable dar. Somit hängt seine Wahrscheinlichkeitsverteilung ebenfalls von der Verteilung der Grundgesamtheit und den sie bestimmenden Parametern ab (μ\mu, σ\sigma, pp, …).

Beispiel: Mittelwert

Wird der Stichprobenmittelwert X‾\bar X aus Stichproben der Größe 2 (gemäß vorherigem Beispiel) berechnet, ergibt sich folgende Wahrscheinlichkeitsverteilung:

$$ \begin{array}{ccc} \text{Verteilung in den Stichproben} & & \text{Verteilung von}\ \overline x \\ \begin{array}{|c|c|}\hline (X_1, X_2) & P(x_1, x_2) \\\hline (0,0) & 0,0625 \\\hline (0,1) & 0,1250 \\\hline (0,2) & 0,0625 \\\hline (1,0) & 0,1225 \\\hline (1,1) & 0,2500 \\\hline (1,2) & 0,1225 \\\hline (2,0) & 0,0625 \\\hline (2,1) & 0,1250 \\\hline (2,2) & 0,0625 \\\hline \end{array} & \Large\xrightarrow{\overline x = \frac{X_1+X_2}{2}} & \begin{array}{|c|c|}\hline \overline{X} & P(x) \\\hline 0 & 0,0625 \\\hline 0,5 & 0,2500 \\\hline 1 & 0,3750 \\\hline 1,5 & 0,2500 \\\hline 2 & 0,0625 \\\hline \end{array} \end{array} $$

Wie hoch ist die Wahrscheinlichkeit, einen Stichprobenmittelwert zu erhalten, der den wahren Populationsmittelwert mit einem maximalen Fehler von 0,5 approximiert?

Wie wir gesehen haben, ist für die Bestimmung der Verteilung einer Stichprobenkennfunktion die Kenntnis der Populationsverteilung erforderlich, was jedoch nicht immer möglich ist. Glücklicherweise lässt sich für große Stichproben die Verteilung bestimmter Kennfunktionen wie des Mittelwerts näherungsweise bestimmen, dank des folgenden Theorems:

Zentraler Grenzwertsatz

Wenn X1,…,XnX_1,\ldots, X_n unabhängige Zufallsvariablen (n≥30n\geq 30) mit Erwartungswerten μi=E(Xi)\mu_i=E(X_i) und Varianzen σi2=Var(Xi)\sigma^2_i=Var(X_i) (für i=1,…,ni=1,\ldots,n) sind, dann folgt die Zufallsvariable X=X1+⋯+XnX=X_1+\cdots+X_n annähernd einer Normalverteilung.

X=X1+⋯+Xn∼n≥30N(∑i=1nμi,∑i=1nσi2) X=X_1+\cdots+X_n\stackrel{n\geq 30} \sim N\left(\sum_{i=1}^n \mu_i, \sqrt{\sum_{i=1}^n \sigma^2_i}\right)

Der zentrale Grenzwertsatz erklärt auch, warum die meisten biologischen Variablen einer Normalverteilung folgen: Sie entstehen typischerweise durch das Zusammenspiel zahlreicher Faktoren, deren Effekte sich unabhängig voneinander addieren.

8.1.1 Verteilung des Stichprobenmittels für große Stichproben (n≥30n\geq 30)

Das Stichprobenmittel einer Zufallsstichprobe vom Umfang nn ist die Summe von nn unabhängigen, identisch verteilten Zufallsvariablen:

X‾=X1+⋯+Xnn=X1n+⋯+Xnn \bar X = \frac{X_1+\cdots+X_n}{n} = \frac{X_1}{n}+\cdots+\frac{X_n}{n}

Gemäß den Eigenschaften linearer Transformationen sind Erwartungswert und Varianz jeder dieser Variablen:

E(Xin)=μnundVar(Xin)=σ2n2 E\left(\frac{X_i}{n}\right) =\frac{\mu}{n} \quad \mbox{und} \quad Var\left(\frac{X_i}{n}\right) = \frac{\sigma^2}{n^2}

wobei μ\mu und σ2\sigma^2 den Erwartungswert und die Varianz der zugrundeliegenden Population darstellen.

Somit folgt für große Stichprobenumfänge (n≥30n\geq 30) nach dem zentralen Grenzwertsatz, dass die Verteilung des Stichprobenmittels normal ist:

X‾∼N(∑i=1nμn,∑i=1nσ2n2)=N(μ,σn). \bar X \sim N\left(\sum_{i=1}^n \frac{\mu}{n},\sqrt{\sum_{i=1}^n \frac{\sigma^2}{n^2}} \right) = N\left(\mu,\frac{\sigma}{\sqrt{n}} \right).

Beispiel für große Stichproben (n ≥ 30)

Angenommen, man möchte die durchschnittliche Kinderzahl in einer Population schätzen, wobei der wahre Mittelwert μ=2\mu=2 Kinder und die Standardabweichung σ=1\sigma=1 Kind beträgt.

Wie hoch ist die Wahrscheinlichkeit, μ\mu mittels x‾\bar x̅ mit einem Fehler von weniger als 0,2 zu schätzen?

Gemäß dem zentralen Grenzwertsatz gilt:

Für n=30n=30 ist x‾∼N(2,1/30)\bar x\sim N(2,1/\sqrt{30}) und

P(1.8<x‾<2.2)=0.7267. P(1.8<\bar x<2.2) = 0.7267.

Für n=100n=100 ist x‾∼N(2,1/100)\bar x\sim N(2,1/\sqrt{100}) und

P(1.8<x‾<2.2)=0.9545. P(1.8<\bar x<2.2) = 0.9545.

8.1.2 Verteilung einer Stichprobenproportion für große Stichproben (n ≥ 30)

Eine Populationsproportion pp kann als Mittelwert einer dichotomen (0,1)(0,1)-Variable berechnet werden. Diese Variable wird als Bernoulli-Variable B(p)B(p) bezeichnet, ein Spezialfall der Binomialverteilung für n=1n=1.

Für eine Zufallsstichprobe vom Umfang nn lässt sich die Stichprobenproportion p̂\hat p somit als Summe von nn unabhängigen, identisch verteilten Zufallsvariablen darstellen:

p̂=X‾=X1+⋯+Xnn=X1n+⋯+Xnn, mit Xi∼B(p) \hat p = \bar X = \frac{X_1+\cdots+X_n}{n} = \frac{X_1}{n}+\cdots+\frac{X_n}{n}, \mbox{ mit } X_i\sim B(p)

mit Erwartungswert und Varianz

E(Xin)=pnundVar(Xin)=p(1−p)n2 E\left(\frac{X_i}{n}\right) =\frac{p}{n} \quad \mbox{und} \quad Var\left(\frac{X_i}{n}\right) = \frac{p(1-p)}{n^2}

Für große Stichprobenumfänge (n≥30n\geq 30) folgt nach dem zentralen Grenzwertsatz, dass die Verteilung der Stichprobenproportion ebenfalls normalverteilt ist:

p̂∼N(∑i=1npn,∑i=1np(1−p)n2)=N(p,p(1−p)n). \hat p \sim N\left(\sum_{i=1}^n \frac{p}{n},\sqrt{\sum_{i=1}^n \frac{p(1-p)}{n^2}} \right) = N\left(p,\sqrt{\frac{p(1-p)}{n}} \right).

8.2 Schätzer

Stichprobenstatistiken können zur Approximation von Populationsparametern verwendet werden. Wenn ein Kennwert zu diesem Zweck eingesetzt wird, bezeichnet man ihn als Schätzer für den Parameter.

Definition “Schätzer und Schätzwert”

Ein Schätzer ist eine Funktion der Stichproben-Zufallsvariablen:

θ̂=F(X1,…,Xn). \hat \theta = F(X_1,\ldots,X_n).

Für eine konkrete Stichprobe (x1,…,xn)(x_1,\ldots,x_n) wird der Wert des Schätzers, angewendet auf diese Stichprobe, als Schätzwert bezeichnet:

θ̂0=F(x1,…,xn). \hat \theta_0 = F(x_1,\ldots,x_n).

Da es sich um eine Funktion der Stichproben-Zufallsvariablen handelt, ist ein Schätzer selbst wieder eine Zufallsvariable, deren Verteilung von der zugrundeliegenden Population abhängt.

Während der Schätzer als Funktion eindeutig ist, ist der Schätzwert nicht eindeutig, sondern hängt von der gezogenen Stichprobe ab.

Beispiel Raucher

Angenommen, man möchte den Anteil pp der Raucher in einer Stadt ermitteln. In diesem Fall folgt die dichotome Variable, die misst, ob eine Person raucht (1)(1) oder nicht (0)(0), einer Bernoulli-Verteilung B(p)B(p).

Wenn eine Zufallsstichprobe vom Umfang 5, (X1,X2,X3,X4,X5)(X_1,X_2,X_3,X_4,X_5), aus dieser Grundgesamtheit gezogen wird, kann der Anteil der Raucher in der Stichprobe als Schätzer für den Anteil der Raucher in der Grundgesamtheit verwendet werden:

p̂=∑i=15Xi5 \hat p = \frac{\sum_{i=1}^5 X_i}{5}

Dieser Schätzer ist eine Zufallsvariable, die folgendermaßen verteilt ist:

p̂∼1nB(p,p(1−p)n). \hat p\sim \frac{1}{n}B\left(p,\sqrt{\frac{p(1-p)}{n}}\right).

Wenn verschiedene Stichproben gezogen werden, erhält man unterschiedliche Schätzwerte:

StichprobeSchätzwert(1,0,0,1,1)3/5(1,0,0,0,0)1/5(0,1,0,0,1)2/5⋯⋯ \begin{array}{|c|c|} \hline \mbox{Stichprobe} & \mbox{Schätzwert}\\ \hline\hline (1, 0, 0, 1, 1) & 3/5\\ \hline (1, 0, 0, 0, 0) & 1/5\\ \hline (0, 1, 0, 0, 1) & 2/5\\ \hline \cdots & \cdots\\ \hline \end{array}

Die Parameterschätzung kann auf zwei Arten durchgeführt werden:

Punktschätzung: Es wird ein einzelner Schätzer verwendet, der einen Wert oder eine Näherung für den Parameter liefert. Der Hauptnachteil dieser Schätzmethode besteht darin, dass die Genauigkeit der Schätzung nicht angegeben wird.

Intervallschätzung: Hier werden zwei Schätzer verwendet, die die Grenzen eines Intervalls liefern, in dem der wahre Wert des Parameters mit einer bestimmten Sicherheit vermutet wird. Diese Schätzmethode ermöglicht es, den Schätzfehler zu kontrollieren.

8.3 Punktschätzung

Die Punktschätzung verwendet einen einzelnen Schätzer, um den Wert eines unbekannten Parameters der Grundgesamtheit zu schätzen.

Theoretisch können verschiedene Schätzer für denselben Parameter verwendet werden. Zum Beispiel hätte man zur Schätzung des Raucheranteils in einer Stadt neben dem Stichprobenanteil auch andere mögliche Schätzer verwenden können, wie:

θ̂1=X1X2X3X4X55θ̂2=X1+X52θ̂3=X1⋯ \begin{aligned} \hat \theta_1 &= \sqrt[5]{X_1X_2X_3X_4X_5} \ \hat \theta_2 &= \frac{X_1 + X_5}{2} \ \hat \theta_3 &= X_1 \cdots \end{aligned}

Welcher Schätzer ist der beste?

Die Antwort hängt von den Eigenschaften der einzelnen Schätzer ab.

Obwohl die Punktschätzung keine direkte Aussage über die Genauigkeit der Schätzung liefert, gibt es verschiedene Eigenschaften, die diese Qualität sicherstellen.

Die wünschenswertesten Eigenschaften eines Schätzers sind:

Erwartungstreue (Unverzerrtheit)

Effizienz

Konsistenz

Asymptotische Normalverteilung

Vollständigkeit

Definition “Erwartungstreuer Schätzer” (unverzerrter Schätzer)

Ein Schätzer θ̂\hat \theta heißt erwartungstreu (oder unverzerrt) für einen Parameter θ\theta, wenn sein Erwartungswert genau θ\theta entspricht, d. h.,

E(θ̂)=θ. E(\hat \theta)=\theta.

Wenn ein Schätzer nicht erwartungstreu ist, wird die Differenz zwischen seinem Erwartungswert und dem wahren Parameterwert θ\theta als Verzerrung (Bias) bezeichnet:

Bias(θ̂)=E(θ̂)−θ. \text{Bias}(\hat \theta) = E(\hat \theta)-\theta.

Je kleiner die Verzerrung eines Schätzers ist, desto näher liegen seine Schätzwerte am tatsächlichen Parameterwert.

Definition “Konsistenter Schätzer”

Ein Schätzer θ̂n\hat \theta_n für Stichproben des Umfangs nn heißt konsistent für einen Parameter θ\theta, wenn für jedes beliebige ϵ>0\epsilon > 0 gilt:

limn→∞P(|θ̂n−θ|<ϵ)=1. \lim_{n\rightarrow \infty} P(|\hat \theta_n-\theta|<\epsilon)=1.

Ein Schätzer ist konsistent, wenn folgende Bedingungen erfüllt sind:

Bias(θ̂n)=0\text{Bias}(\hat \theta_n) = 0 oder limn→∞Bias(θ̂n)=0\lim_{n\rightarrow \infty}\text{Bias}(\hat \theta_n) = 0

limn→∞Var(θ̂n)=0\lim_{n\rightarrow \infty}\text{Var}(\hat \theta_n) = 0

Wenn also sowohl die Varianz als auch die Verzerrung mit wachsendem Stichprobenumfang abnehmen, ist der Schätzer konsistent.

Definition “Effizienter Schätzer”

Ein Schätzer θ̂\hat \theta für einen Parameter θ\theta heißt effizient, wenn er den mittleren quadratischen Fehler (MSE) minimiert:

MSE(θ̂)=Bias(θ̂)2+Var(θ). \text{MSE}(\hat \theta) = \text{Bias}(\hat \theta)^2+Var(\theta).

Definition “Asymptotisch normalverteilter Schätzer”

Ein Schätzer θ̂\hat \theta heißt asymptotisch normalverteilt, wenn – unabhängig von der Verteilung der Zufallsvariablen in der Stichprobe – seine Verteilung bei hinreichend großem Stichprobenumfang einer Normalverteilung folgt.

Wie wir später sehen werden, ist diese Eigenschaft besonders wichtig für die Parameterschätzung mittels Konfidenzintervallen.

Definition “Suffizienter Schätzer”

Ein Schätzer θ̂\hat \theta heißt suffizient (erschöpfend) für einen Parameter θ\theta, wenn die bedingte Verteilung der Stichprobenvariablen gegeben den Schätzwert θ̂=θ̂0\hat \theta = \hat \theta_0 nicht mehr von θ\theta abhängt.

Dies bedeutet, dass nach Erhalt der Schätzung alle weiteren Informationen über die Stichprobe für θ\theta irrelevant werden.

Der übliche Schätzer für den Erwartungswert ist das Stichprobenmittel:

Für Stichproben vom Umfang nn ergibt sich die Zufallsvariable:

X‾=X1+⋯+Xnn \bar X = \frac{X_1+\cdots+X_n}{n} Wenn die Grundgesamtheit den Mittelwert μ\mu und Varianz σ2\sigma^2 besitzt, gilt:

E(X‾)=μundVar(X‾)=σ2n E(\bar X) = \mu \quad \mbox{und} \quad Var(\bar X)=\frac{\sigma^2}{n}

Somit ist das Stichprobenmittel:

ein erwartungstreuer Schätzer

konsistent (da die Varianz mit wachsendem nn gegen 00 geht)

effizient

Die Stichprobenvarianz:

S2=∑i=1n(Xi−X‾)2n S^2 = \frac{\sum_{i=1}^n (X_i-\bar X)^2}{n}

ist jedoch ein verzerrter Schätzer für die Populationsvarianz, denn:

E(S2)=n−1nσ2. E(S^2)= \frac{n-1}{n}\sigma^2.

Diese Verzerrung lässt sich leicht korrigieren, um einen erwartungstreuen Schätzer zu erhalten.

Definition “Stichproben-Quasivarianz”

Für eine Stichprobe vom Umfang nn einer Zufallsvariablen XX wird die Stichproben-Quasivarianz definiert als:

Ŝ2=∑i=1n(Xi−X‾)2n−1=nn−1S2. \hat{S}^2 = \frac{\sum_{i=1}^n (X_i-\bar X)^2}{n-1} = \frac{n}{n-1}S^2.

8.4 Intervallschätzer

Das Hauptproblem der Punktschätzung besteht darin, dass nach Auswahl der Stichprobe und Berechnung der Schätzung der tatsächliche Fehler unbekannt bleibt.

Um den Schätzfehler kontrollieren zu können, ist die Intervallschätzung die bessere Methode.

Bei der Intervallschätzung wird versucht, ausgehend von der Stichprobe ein Intervall zu konstruieren, in dem der zu schätzende Parameter mit einer bestimmten Konfidenzwahrscheinlichkeit vermutet wird. Hierzu werden zwei Schätzer verwendet - einer für die untere und einer für die obere Intervallgrenze.

Definition “Konfidenzintervall”

Gegeben zwei Schätzer l̂i(X1,…,Xn)\hat l_i(X_1,\ldots,X_n) und l̂s(X1,…,Xn)\hat l_s(X_1,\ldots,X_n) sowie deren jeweilige Schätzwerte l1l_1 und l2l_2 für eine konkrete Stichprobe, heißt das Intervall I=[l1,l2]I=[l_1,l_2] Konfidenzintervall für einen Populationsparameter θ\theta zum Konfidenzniveau 1−α1-\alpha (oder Signifikanzniveau α\alpha), wenn gilt:

P(l̂i(X1,…,Xn)≤θ≤l̂s(X1,…,Xn))=1−α. P(\hat l_i(X_1,\ldots,X_n)\leq \theta \leq \hat l_s(X_1,\ldots,X_n))= 1-\alpha.

Wichtige Anmerkungen zu Konfidenzintervallen:

Ein Konfidenzintervall garantiert niemals mit absoluter Sicherheit, dass der Parameter darin enthalten ist.

Man kann nicht sagen, die Wahrscheinlichkeit, dass der Parameter im Intervall liegt, betrage 1−α1-\alpha - denn nach Berechnung des Intervalls haben die Zufallsvariablen feste Werte angenommen.

Die korrekte Interpretation ist: (1−α)(1-\alpha)% aller möglichen Stichprobenintervalle enthalten den wahren Parameter.

Daher spricht man von Konfidenz (Vertrauen), nicht von Wahrscheinlichkeit.

Typische Konfidenzniveaus in der Praxis:

1−α=0.90(α=0.10)1−α=0.95(α=0.05)(am häufigsten verwendet)1−α=0.99(α=0.01)(für kritische Anwendungen) \begin{aligned} 1-\alpha &= 0.90 \quad (\alpha=0.10) \\ 1-\alpha &= 0.95 \quad (\alpha=0.05) \quad \text{(am häufigsten verwendet)} \\ 1-\alpha &= 0.99 \quad (\alpha=0.01) \quad \text{(für kritische Anwendungen)} \end{aligned}

Theoretisch enthalten bei einem Konfidenzniveau von 1−α=0,951-\alpha = 0,95\ etwa 95 von 100 berechneten Intervallen den wahren Parameter θ\theta, während etwa 5 Intervalle ihn nicht enthalten.

8.4.1 Schätzfehler

Ein weiterer zentraler Aspekt von Konfidenzintervallen ist ihre Fehlerspanne.

Definition “Fehlerspanne”

Die Fehlerspanne oder Ungenauigkeit eines Konfidenzintervalls [li,ls][l_i,l_s] wird durch seine Breite bestimmt:

A=ls−li. A=l_s-l_i.

Damit ein Intervall praktisch nutzbar ist, darf diese Ungenauigkeit nicht zu groß sein.

Grundsätzlich hängt die Präzision eines Intervalls von drei Faktoren ab:

Streuung der Grundgesamtheit: Je größer die Streuung, desto ungenauer das Intervall.

Konfidenzniveau: Höhere Konfidenzniveaus führen zu weniger präzisen Intervallen.

Stichprobenumfang: Größere Stichproben erhöhen die Präzision.

Wenn Konfidenz und Präzision im Konflikt stehen - wie kann man dann Präzision gewinnen ohne Konfidenz zu verlieren?

In der Praxis geht man typischerweise wie folgt vor:

Man beginnt mit einem Punktschätzer, dessen Stichprobenverteilung bekannt ist.

Auf Basis dieser Verteilung bestimmt man die Intervallgrenzen so, dass sie eine Wahrscheinlichkeit von 1−α1-\alpha einschließen.

Üblicherweise wählt man die Grenzen symmetrisch:

Die untere Grenze schließt α/2\alpha/2 der Wahrscheinlichkeit aus

Die obere Grenze schließt ebenfalls α/2\alpha/2 aus

8.5 Konfidenzintervalle für eine Grundgesamtheit

Im Folgenden werden Konfidenzintervalle zur Schätzung von Parametern einer Grundgesamtheit dargestellt:

Konfidenzintervall für den Mittelwert einer normalverteilten Grundgesamtheit mit bekannter Varianz

Konfidenzintervall für den Mittelwert einer normalverteilten Grundgesamtheit mit unbekannter Varianz

Konfidenzintervall für den Mittelwert einer Grundgesamtheit mit unbekannter Varianz bei großen Stichproben

Konfidenzintervall für die Varianz einer normalverteilten Grundgesamtheit

Konfidenzintervall für einen Anteilswert einer Grundgesamtheit

8.5.1 Konfidenzintervall für den Mittelwert einer normalverteilten Grundgesamtheit mit bekannter Varianz

Sei XX eine Zufallsvariable, die folgende Annahmen erfüllt:

Sie ist normalverteilt: X∼N(μ,σ)X\sim N(\mu,\sigma)

Der Mittelwert μ\mu ist unbekannt, aber die Varianz σ2\sigma^2 ist bekannt

Unter diesen Annahmen folgt der Stichprobenmittelwert für Stichproben des Umfangs nn ebenfalls einer Normalverteilung:

X‾∼N(μ,σn) \bar X \sim N\left(\mu,\frac{\sigma}{\sqrt n}\right)

Durch Standardisierung der Variable erhält man:

Z=X‾−μσ/n∼N(0,1) Z=\frac{\bar X-\mu}{\sigma/\sqrt n} \sim N(0,1)

Auf dieser Verteilung lassen sich einfach die Werte ziz_i und zsz_s berechnen, so dass gilt:

P(zi≤Z≤zs)=1−α. P(z_i\leq Z \leq z_s) = 1-\alpha.

Da die Standardnormalverteilung symmetrisch um 00 ist, wählt man am besten entgegengesetzte Werte −zα/2-z_{\alpha/2} und zα/2z_{\alpha/2} , die jeweils α/2\alpha/2 der Wahrscheinlichkeit in den Rändern lassen.

Ausgehend von der Standardisierung lässt sich durch Umformung einfach zu den Schätzern für die Grenzen des Konfidenzintervalls gelangen:

1−α=P(−zα/2≤Z≤zα/2)=P(−zα/2≤X‾−μσ/n≤zα/2)==P(−zα/2σn≤X‾−μ≤zα/2σn)==P(−X‾−zα/2σn≤−μ≤−X‾+zα/2σn)==P(X‾−zα/2σn≤μ≤X‾+zα/2σn). \begin{aligned} 1-\alpha &= P(-z_{\alpha/2}\leq Z \leq z_{\alpha/2}) = P\left(-z_{\alpha/2}\leq \frac{\bar X -\mu}{\sigma/\sqrt{n}} \leq z_{\alpha/2}\right) =\\ &= P\left(-z_{\alpha/2}\frac{\sigma}{\sqrt{n}}\leq \bar X -\mu \leq z_{\alpha/2}\frac{\sigma}{\sqrt{n}}\right)=\\ &= P\left(-\bar{X}-z_{\alpha/2}\frac{\sigma}{\sqrt{n}}\leq -\mu \leq -\bar{X}+z_{\alpha/2}\frac{\sigma}{\sqrt{n}}\right)= \\ &= P\left(\bar{X}-z_{\alpha/2}\frac{\sigma}{\sqrt{n}}\leq \mu \leq \bar{X}+z_{\alpha/2}\frac{\sigma}{\sqrt{n}}\right). \end{aligned}

Konfidenzintervall für den Mittelwert einer Normalverteilung mit bekannter Varianz

Falls X∼N(μ,σ)X\sim N(\mu, \sigma) mit bekannter Standardabweichung σ\sigma, dann lautet das Konfidenzintervall für den Mittelwert μ\mu zum Konfidenzniveau 1−α1-\alpha:

[X‾−zα/2σn,X‾+zα/2σn] \left[\bar{X}-z_{\alpha/2}\frac{\sigma}{\sqrt{n}},\bar{X}+z_{\alpha/2}\frac{\sigma}{\sqrt{n}}\right]

alternativ geschrieben als:

X‾±zα/2σn \bar{X}\pm z_{\alpha/2}\frac{\sigma}{\sqrt{n}}

Aus der Intervallformel

X‾±zα/2σn \bar{X}\pm z_{\alpha/2}\frac{\sigma}{\sqrt{n}}

ergeben sich folgende Charakteristika:

Das Intervall ist zentriert um den Stichprobenmittelwert X‾\bar X, den besten Schätzer für den Populationsmittelwert.

Die Breite (Ungenauigkeit) des Intervalls beträgt: A=2zα/2σn A= 2 z_{\alpha/2}\frac{\sigma}{\sqrt{n}}

Diese hängt ab von:

σ:\sigma:\quad Je größer die Populationsvarianz, desto ungenauer das Intervall

zα/2:z_{\alpha/2 :\quad} Abhängig vom Konfidenzniveau - höhere Konfidenzniveaus (1−α1-\alpha) führen zu größeren Intervallen

n:n:\quad Größere Stichproben verringern die Ungenauigkeit

Die einzige Möglichkeit, die Intervallgenauigkeit bei gleichbleibendem Konfidenzniveau zu verbessern, besteht folglich in der Erhöhung des Stichprobenumfangs.

8.5.1.1 Berechnung des Stichprobenumfangs zur Schätzung des Mittelwerts einer Normalverteilung mit bekannter Varianz

Unter Berücksichtigung der Breite (Ungenauigkeit) des Konfidenzintervalls für den Mittelwert einer Normalverteilung mit bekannter Varianz:

A=2zα/2σn A= 2 z_{\alpha/2}\frac{\sigma}{\sqrt{n}}

kann der erforderliche Stichprobenumfang zur Erzielung einer Intervallbreite AA mit Konfidenzniveau 1−α1-\alpha leicht berechnet werden:

A=2zα/2σn⇔n=2zα/2σA, A= 2 z_{\alpha/2}\frac{\sigma}{\sqrt{n}} \Leftrightarrow \sqrt{n}= 2 z_{\alpha/2}\frac{\sigma}{A},

woraus folgt:

n=4zα/22σ2A2 {n = 4 z_{\alpha/2}^2\frac{\sigma^2}{A^2}}

Beispiel

Betrachten wir eine Studentenpopulation, deren Prüfungsergebnisse einer Normalverteilung X∼N(μ,σ=1.5)X\sim N(\mu,\sigma=1.5) folgen.

Zur Schätzung der Durchschnittsnote μ\mu wird eine Stichprobe von 10 Studenten gezogen:

4−6−8−7−7−6−5−2−5−3 4 - 6 - 8 - 7 - 7 - 6 - 5 - 2 - 5 - 3

Daraus berechnen wir das 95%-Konfidenzintervall (α=0.05\alpha=0.05) für μ\mu:

X‾=4+⋯+310=5310=5.3\bar X = \frac{4+\cdots+3}{10}= \frac{53}{10} = 5.3 Punkte

zα/2=z0.025≈1.96z_{\alpha/2}=z_{0.025} \approx 1.96 (Standardnormalverteilung)

Einsetzen in die Intervallformel ergibt:

X‾±zα/2σn=5.3±1.961.510=5.3±0.93=[4.37,6.23]. \bar{X}\pm z_{\alpha/2}\frac{\sigma}{\sqrt{n}} = 5.3\pm 1.96\frac{1.5}{\sqrt{10}} = 5.3\pm 0.93 = \left[4.37,\,6.23\right].

Mit 95%iger Sicherheit liegt μ\mu somit zwischen 4.37 und 6.23 Punkten.

Beispiel

Die Ungenauigkeit dieses Intervalls beträgt ±0.93\pm 0.93 Punkte.

Für eine höhere Präzision von ±0.5\pm 0.5 Punkten berechnet sich der erforderliche Stichprobenumfang zu:

n=4zα/22σ2A2=4⋅1.9621.52(2⋅0.5)2=34.57. n = 4 z_{\alpha/2}^2\frac{\sigma^2}{A^2} = 4\cdot 1.96^2\frac{1.5^2}{(2\cdot 0.5)^2} = 34.57.

Es wird daher eine Stichprobe von mindestens 35 Studenten benötigt, um ein 95%-Konfidenzintervall mit ±0,5\pm 0,5 Punkten Genauigkeit zu erhalten.

8.5.2 Konfidenzintervall für den Mittelwert einer Normalverteilung mit unbekannter Varianz

Gegeben sei eine Zufallsvariable XX, die folgende Annahmen erfüllt:

Normalverteilung:X∼N(μ,σ)X\sim N(\mu,\sigma)

Sowohl der Mittelwert μ\mu als auch die Varianz σ2\sigma^2 sind unbekannt

Wenn die Populationsvarianz unbekannt ist, wird sie typischerweise durch die korrigierte Stichprobenvarianz Ŝ2\hat{S}^2 geschätzt. Dadurch folgt der Referenzschätzer nicht mehr einer Normalverteilung (wie bei bekannter Varianz), sondern einer tt-Verteilung mit n−1n-1 Freiheitsgraden:

X‾∼N(μ,σn)(n−1)Ŝ2σ2∼χ2(n−1)}⇒X‾−μŜ/n∼T(n−1), \left. \begin{array}{l} \bar X \sim N\left(\mu,\frac{\sigma}{\sqrt{n}}\right)\\ \displaystyle\frac{(n-1)\hat{S}^2}{\sigma^2}\sim \chi^2(n-1) \end{array} \right\} \Rightarrow \frac{\bar X -\mu}{\hat{S}/\sqrt{n}}\sim T(n-1),

Da die t-Verteilung (wie die Normalverteilung) symmetrisch um 00 ist, können zwei entgegengesetzte Werte −tα/2n−1-t^{n-1}_{\alpha/2} und tα/2n−1t^{n-1}_{\alpha/2} gewählt werden, sodass gilt:

1−α=P(−tα/2n−1≤X‾−μŜ/n≤tα/2n−1)=P(−tα/2n−1Ŝn≤X‾−μ≤tα/2n−1Ŝn)=P(X‾−tα/2n−1Ŝn≤μ≤X‾tα/2n−1Ŝn) \begin{aligned} 1-\alpha &= P\left(-t^{n-1}_{\alpha/2}\leq \frac{\bar X -\mu}{\hat{S}/\sqrt{n}} \leq t^{n-1}_{\alpha/2}\right)\\ &= P\left(-t^{n-1}_{\alpha/2}\frac{\hat{S}}{\sqrt{n}}\leq \bar X -\mu \leq t^{n-1}_{\alpha/2}\frac{\hat{S}}{\sqrt{n}}\right)\\ &= P\left(\bar X-t^{n-1}_{\alpha/2}\frac{\hat{S}}{\sqrt{n}}\leq \mu \leq \bar X t^{n-1}_{\alpha/2}\frac{\hat{S}}{\sqrt{n}}\right) \end{aligned}

Konfidenzintervall für den Mittelwert einer Normalverteilung mit unbekannter Varianz

Falls X∼N(μ,σ)X\sim N(\mu, \sigma) mit unbekannter Standardabweichung σ\sigma, dann lautet das Konfidenzintervall für den Mittelwert μ\mu zum Konfidenzniveau 1−α1-\alpha:

[X‾−tα/2n−1Ŝn,X‾+tα/2n−1Ŝn] \left[\bar{X}-t^{n-1}_{\alpha/2}\frac{\hat{S}}{\sqrt{n}},\bar{X}+t^{n-1}_{\alpha/2}\frac{\hat{S}}{\sqrt{n}}\right]

alternativ geschrieben als:

X‾±tα/2n−1Ŝn \bar{X}\pm t^{n-1}_{\alpha/2}\frac{\hat{S}}{\sqrt{n}}

8.5.2.1 Berechnung des Stichprobenumfangs zur Schätzung des Mittelwerts einer Normalverteilung mit unbekannter Varianz

Analog zum vorherigen Fall ergibt sich die Breite (Ungenauigkeit) des Konfidenzintervalls für den Mittelwert bei unbekannter Varianz zu:

A=2tα/2n−1Ŝn A= 2 t^{n-1}_{\alpha/2}\frac{\hat{S}}{\sqrt{n}}

Daraus lässt sich der benötigte Stichprobenumfang für eine gewünschte Intervallbreite AA mit Konfidenzniveau 1−α1-\alpha ableiten:

A=2tα/2n−1Ŝn⇔n=2tα/2n−1ŜA, A= 2 t^{n-1}_{\alpha/2}\frac{\hat{S}}{\sqrt{n}} \Leftrightarrow \sqrt{n}= 2 t^{n-1}_{\alpha/2}\frac{\hat{S}}{A},

was zu folgender Formel führt:

n=4(tα/2n−1)2Ŝ2A2 {n = 4 (t^{n-1}_{\alpha/2})^2\frac{\hat{S}^2}{A^2}}

Der entscheidende Unterschied zum Fall mit bekannter Varianz besteht darin, dass Ŝ\hat{S} bekannt sein muss. Daher wird typischerweise wie folgt vorgegangen:

Eine kleine Vorstichprobe wird gezogen, um Ŝ\hat{S} zu schätzen

Der tt-Wert kann für größere Stichproben durch den zz-Wert der Normalverteilung approximiert werden: tα/2n−1≈zα/2t^{n-1}_{\alpha/2}\approx z_{\alpha/2}

Beispiel

Angenommen, im vorherigen Beispiel sei die Populationsvarianz der Prüfungsergebnisse unbekannt.

Mit derselben Stichprobe von 10 Studenten:

4−6−8−7−7−6−5−2−5−3 4 - 6 - 8 - 7 - 7 - 6 - 5 - 2 - 5 - 3

ergibt sich das 95%-Konfidenzintervall (α=0.05\alpha=0.05) für μ\mu wie folgt:

X‾=5310=5.3\bar X = \frac{53}{10} = 5.3 Punkte

Ŝ2=∑(xi−x‾)29=3.5667\hat{S}^2= \frac{\sum(x_i-\bar x)^2}{9} = 3.5667 und Ŝ=1.8886\hat{S}=1.8886 Punkte

tα/2n−1=t0.0259=2.2622t^{n-1}_{\alpha/2}=t^9_{0.025} = 2.2622 (tt-Verteilung mit 9 Freiheitsgraden)

Das Konfidenzintervall berechnet sich zu:

X‾±tα/2n−1Ŝn=5.3±2.26221.888610=5.3±1.351=[3.949,6.651]. \bar{X}\pm t^{n-1}_{\alpha/2}\frac{\hat{S}}{\sqrt{n}} = 5.3\pm 2.2622\frac{1.8886}{\sqrt{10}} = 5.3\pm 1.351 = \left[3.949,\,6.651\right].

Beispiel

Die Ungenauigkeit des Intervalls (±1,8886\pm 1,8886 Punkte) ist deutlich größer als bei bekannter Varianz - dies erklärt sich durch die zusätzliche Unsicherheit bei der Schätzung der Populationsvarianz.

Der benötigte Stichprobenumfang für eine Genauigkeit von ±0,5\pm 0,5 Punkten beträgt:

n=4(zα/2)2Ŝ2A2=4⋅1.9623.5667(2⋅0.5)2=54.81. n = 4 (z_{\alpha/2})^2\frac{\hat{S}^2}{A^2} = 4\cdot 1.96^2\frac{3.5667}{(2\cdot 0.5)^2} = 54.81.

Somit sind mindestens 55 Studenten nötig, um bei unbekannter Varianz ein 95%-Konfidenzintervall mit ±0,5\pm 0,5 Punkten Genauigkeit zu erhalten.

8.5.3 Konfidenzintervall für den Mittelwert einer nicht-normalverteilten Grundgesamtheit

Gegeben sei eine Zufallsvariable XX mit folgenden Eigenschaften:

Ihre Verteilung ist nicht normal

Sowohl der Mittelwert μ\mu als auch die Varianz σ2\sigma^2 sind unbekannt

Bei nicht-normalverteilten Grundgesamtheiten ändern sich die Verteilungen der Referenzschätzer, sodass die bisherigen Intervalle nicht anwendbar sind.

Für große Stichproben (n≥30n\geq 30) gilt jedoch nach dem zentralen Grenzwertsatz, dass sich die Verteilung des Stichprobenmittelwerts einer Normalverteilung annähert:

X‾∼N(μ,σn) \bar X \sim N\left(\mu,\frac{\sigma}{\sqrt{n}}\right)

Somit bleibt das zuvor beschriebene Intervall gültig.

Konfidenzintervall für den Mittelwert einer nicht-normalverteilten Grundgesamtheit bei großen Stichproben

Für eine nicht-normalverteilte Variable XX mit n≥30n\geq 30 lautet das (1−α1-\alpha)-Konfidenzintervall für μ\mu:

X‾±tα/2n−1Ŝn \bar{X}\pm t^{n-1}_{\alpha/2}\frac{\hat{S}}{\sqrt{n}}

8.5.4 Konfidenzintervall für die Varianz einer normalverteilten Grundgesamtheit

Voraussetzungen:

XX ist normalverteilt: X∼N(μ,σ)X\sim N(\mu,\sigma)

Sowohl μ\mu als auch σ2\sigma^2 sind unbekannt

Als Ausgangspunkt dient der Referenzschätzer:

nS2σ2=(n−1)Ŝ2σ2∼χ2(n−1), \frac{nS^2}{\sigma^2} = \frac{(n-1)\hat{S}^2}{\sigma^2}\sim \chi^2(n-1),

der einer Chi-Quadrat-Verteilung mit n−1n-1 Freiheitsgraden folgt.

Es müssen die Werte χi\chi_i und χs\chi_s bestimmt werden, für die gilt:

P(χi≤χ2(n−1)≤χs)=1−α. P(\chi_i\leq \chi^2(n-1) \leq \chi_s) = 1-\alpha.

Da die Chi-Quadrat-Verteilung nicht symmetrisch ist, werden die Quantile χα/2n−1\chi^{n-1}_{\alpha/2} und χ1−α/2n−1\chi^{n-1}_{1-\alpha/2} verwendet.

Somit ergibt sich

1−α=P(χα/2n−1≤nS2σ2≤χ1−α/2n−1)=P(1χα/2n−1≥σ2nS2≥1χ1−α/2n−1)==P(1χ1−α/2n−1≤σ2nS2≤1χα/2n−1)=P(nS2χ1−α/2n−1≤σ2≤nS2χα/2n−1). \begin{aligned} 1-\alpha &= P\left(\chi^{n-1}_{\alpha/2}\leq \frac{nS^2}{\sigma^2} \leq \chi^{n-1}_{1-\alpha/2}\right) = P\left(\frac{1}{\chi^{n-1}_{\alpha/2}}\geq \frac{\sigma^2}{nS^2} \geq \frac{1}{\chi^{n-1}_{1-\alpha/2}}\right)=\\ &= P\left(\frac{1}{\chi^{n-1}_{1-\alpha/2}}\leq \frac{\sigma^2}{nS^2} \leq \frac{1}{\chi^{n-1}_{\alpha/2}}\right) = P\left(\frac{nS^2}{\chi^{n-1}_{1-\alpha/2}}\leq \sigma^2 \leq \frac{nS^2}{\chi^{n-1}_{\alpha/2}}\right). \end{aligned}

Daher lautet das Konfidenzintervall für die Varianz einer normalverteilten Population:

Konfidenzintervall für die Varianz einer normalverteilten Grundgesamtheit

Für X∼N(μ,σ)X\sim N(\mu, \sigma) lautet das (1−α1-\alpha)-Konfidenzintervall für σ\sigma :

[nS2χ1−α/2n−1,nS2χα/2n−1] \left[\frac{nS^2}{\chi^{n-1}_{1-\alpha/2}},\frac{nS^2}{\chi^{n-1}_{\alpha/2}}\right]

Beispiel

Fortsetzung des Prüfungsbeispiels mit der Stichprobe:

4−6−8−7−7−6−5−2−5−3 4 - 6 - 8 - 7 - 7 - 6 - 5 - 2 - 5 - 3

Das Konfidenzintervall für σ2\sigma^2 bei einem Vertrauensniveau von 95% (α=0,05\alpha=0,05) lautet:

S2=(4−5.3)2+⋯+(3−5.3)210=3.21S^2= \frac{(4-5.3)^2+\cdots+(3-5.3)^2}{10} = 3.21 Punkte2^2.

χα/2n−1=χ0.0259\chi^{n-1}_{\alpha/2}=\chi^9_{0.025} ist der Wert der Chi-Quadrat-Verteilung mit 99 Freiheitsgraden, der eine kumulative Wahrscheinlichkeit von 0,0250,025 unterschreitet, und beträgt 2,72,7.

χ1−α/2n−1=χ0.9759\chi^{n-1}_{1-\alpha/2}=\chi^9_{0.975} ist der Wert der Chi-Quadrat-Verteilung mit 99 Freiheitsgraden, der eine kumulative Wahrscheinlichkeit von 0,9750,975 unterschreitet, und beträgt 1919.

Das Intervall berechnet sich zu:

[nS2χ1−α/2n−1,nS2χα/2n−1]=[10⋅3.2119,10⋅3.212.7]=[1.69,11.89] Punkte2. \left[\frac{nS^2}{\chi^{n-1}_{1-\alpha/2}},\frac{nS^2}{\chi^{n-1}_{\alpha/2}}\right] = \left[\frac{10\cdot 3.21}{19},\frac{10\cdot 3.21}{2.7}\right] = [1.69,\,11.89] \text{ Punkte}^2.

8.5.5 Konfidenzintervall für einen Anteilswert

Zur Schätzung des Anteils p einer Grundgesamtheit mit einer bestimmten Eigenschaft geht man von der Zufallsvariablen X aus, die die Anzahl der Individuen mit dieser Eigenschaft in einer Stichprobe vom Umfang n zählt. Diese Variable folgt einer Binomialverteilung:

X∼B(n,p) X\sim B(n,p)

Für ausreichend große Stichproben (genauer: wenn np≥5np\geq 5 und n(1−p)≥5n(1-p)\geq 5) gilt) besagt der zentrale Grenzwertsatz, dass XX approximativ normalverteilt ist:

X∼N(np,np(1−p)). X\sim N(np,\sqrt{np(1-p)}).

Folglich ist auch der Stichprobenanteil p̂=X/n\hat{p}=X/n approximativ normalverteilt:

p̂=Xn∼N(p,p(1−p)n), \hat{p}=\frac{X}{n} \sim N\left(p,\sqrt{\frac{p(1-p)}{n}}\right),

Dies dient als Referenzschätzer. Durch Standardisierung erhält man:

p̂∼N(p,p(1−p)n) \hat p\sim N\left(p,\sqrt{\frac{p(1-p)}{n}}\right)

Nach der Standardisierung lassen sich – genauso wie zuvor – leicht die Werte −zα/2-z_{\alpha/2} und zα/2z_{\alpha/2} finden, die erfüllen:

P(−zα/2≤p̂−pp(1−p)/n≤zα/2)=1−α. P\left(-z_{\alpha/2}\leq \frac{\hat p-p}{\sqrt{p(1-p)/n}}\leq z_{\alpha/2} \right) = 1-\alpha.

Somit erhält man, indem man die Standardisierung rückgängig macht und analog zum vorherigen Vorgehen argumentiert:

1−α=P(−zα/2≤p̂−pp(1−p)/n≤zα/2)=P(−zα/2p(1−p)n≤p̂−p≤zα/2p(1−p)n)=P(p̂−zα/2p(1−p)n≤p≤p̂+zα/2p(1−p)n) \begin{aligned} 1-\alpha &= P\left(-z_{\alpha/2}\leq \frac{\hat p-p}{\sqrt{p(1-p)/n}}\leq z_{\alpha/2} \right) \\ &= P\left(-z_{\alpha/2}\frac{\sqrt{p(1-p)}}{n}\leq \hat p-p\leq z_{\alpha/2}\frac{\sqrt{p(1-p)}}{n} \right) \\ &= P\left(\hat{p}-z_{\alpha/2}\frac{\sqrt{p(1-p)}}{n}\leq p\leq \hat{p}+z_{\alpha/2}\frac{\sqrt{p(1-p)}}{n} \right) \end{aligned}

Durch Umformung ergibt sich das Konfidenzintervall:

Konfidenzintervall für einen Anteilswert

Für X∼B(n,p)X\sim B(n,p) mit np≥5np\geq 5 und n(1−p)≥5n(1-p)\geq 5 lautet das (1−α1-\alpha)-Konfidenzintervall für pp:

[p̂−zα/2p̂(1−p̂)n,p̂+zα/2p̂(1−p̂)n] \left[\hat{p}-z_{\alpha/2}\sqrt{\frac{\hat{p}(1-\hat{p})}{n}},\hat{p}+z_{\alpha/2}\sqrt{\frac{\hat{p}(1-\hat{p})}{n}}\right]

oder alternativ:

p̂±zα/2p̂(1−p̂)n \hat{p}\pm z_{\alpha/2}\sqrt{\frac{\hat{p}(1-\hat{p})}{n}}

8.5.5.1 Berechnung des Stichprobenumfangs zur Schätzung eines Anteils

Die Breite oder Ungenauigkeit des Konfidenzintervalls für einen Anteil in einer Population beträgt

A=2zα/2p̂(1−p̂)n A= 2 z_{\alpha/2}\sqrt{\frac{\hat{p}(1-\hat{p})}{n}}

Daher lässt sich der erforderliche Stichprobenumfang leicht berechnen, um ein Intervall mit der Breite AA und einem Konfidenzniveau von 1−α1-\alpha zu erhalten:

A=2zα/2p̂(1−p̂)n⇔A2=4zα/22p̂(1−p̂)n, A= 2 z_{\alpha/2}\sqrt{\frac{\hat{p}(1-\hat{p})}{n}} \Leftrightarrow A^2= 4 z_{\alpha/2}^2\frac{\hat{p}(1-\hat{p})}{n},

woraus sich ableiten lässt:

n=4zα/22p̂(1−p̂)A2 {n= 4 z_{\alpha/2}^2\frac{\hat{p}(1-\hat{p})}{A^2}}

Für die Berechnung wird eine Schätzung des Anteils p̂\hat{p} benötigt. Daher wird üblicherweise eine kleine Vorstichprobe gezogen, um diesen Wert zu ermitteln. Im schlimmsten Fall, wenn keine Vorstichprobe verfügbar ist, kann p̂=0.5\hat{p}=0.5 angenommen werden.

Beispiel

Angenommen, es soll der Anteil der Raucher in einer bestimmten Population geschätzt werden. Dazu wird eine Stichprobe von 20 Personen gezogen, und es wird erfasst, ob sie rauchen (1)(1) oder nicht (0)(0):

0−1−1−0−0−0−1−0−0−1−0−0−0−1−1−0−1−1−0−0 0 - 1 - 1 - 0 - 0 - 0 - 1 - 0 - 0 - 1 - 0 - 0 - 0 - 1 - 1- 0 - 1 - 1 - 0 - 0

Daraus ergibt sich:

p̂=820=0.4\hat p=\frac{8}{20}=0.4. Somit gilt np=20⋅0.4=8≥5np=20\cdot 0.4 = 8\geq 5 und n(1−p)=20⋅0.6=12≥5n(1-p)=20\cdot 0.6= 12\geq 5.

zα/2=z0.025z_{\alpha/2}=z_{0.025} ist der Wert der Standardnormalverteilung, der eine obere kumulative Wahrscheinlichkeit von 0.0250.025 aufweist und ungefähr 1.961.96 beträgt.

Durch Einsetzen dieser Werte in die Formel für das Konfidenzintervall ergibt sich:

p̂±zα/2p̂(1−p̂)n=0.4±1.960.4⋅0.610=0.4±0.3=[0.1,0.7]. \hat{p}\pm z_{\alpha/2}\sqrt{\frac{\hat{p}(1-\hat{p})}{n}} = 0.4\pm 1.96\sqrt{\frac{0.4\cdot 0.6}{10}} = 0.4\pm 0.3 = \left[0.1,\,0.7\right].

Das bedeutet, mit einer 95%igen Konfidenz liegt der wahre Anteil pp zwischen 0.10.1 und 0.70.7.

Beispiel

Wie zu erkennen ist, beträgt die Ungenauigkeit des obigen Intervalls ±0.215\pm 0.215, was angesichts eines Anteils sehr groß ist.

Um präzise Konfidenzintervalle für Anteilsschätzungen zu erhalten, sind relativ große Stichprobenumfänge erforderlich. Wenn beispielsweise eine Genauigkeit von ±0,05\pm 0,05 gewünscht wird, wäre der erforderliche Stichprobenumfang:

n=4zα/22p̂(1−p̂)A2=4⋅1.9620.4⋅0.6(2⋅0.05)2=368.79. n= 4 z_{\alpha/2}^2\frac{\hat{p}(1-\hat{p})}{A^2}=4\cdot 1.96^2\frac{0.4\cdot 0.6}{(2\cdot0.05)^2}= 368.79. Das heißt, es wären mindestens 369 Personen notwendig, um ein 95%-Konfidenzintervall für den Anteil mit einer Genauigkeit von ±0,05\pm 0,05 zu erhalten.

8.6 Konfidenzintervalle für den Vergleich zweier Populationen

In vielen Studien besteht das eigentliche Ziel nicht darin, den Wert eines Parameters zu ermitteln, sondern ihn mit dem einer anderen Population zu vergleichen.

Beispielsweise könnte man untersuchen, ob ein bestimmter Parameter in der männlichen und der weiblichen Population denselben Wert aufweist.

In solchen Fällen geht es nicht primär um die separate Schätzung der beiden Parameter, sondern um eine Schätzung, die ihren Vergleich ermöglicht.

Es werden drei Fälle betrachtet:

Vergleich von Mittelwerten: Schätzung der Differenz der Mittelwerte μ1−μ2\mu_1-\mu_2.

Vergleich von Varianzen: Schätzung des Verhältnisses der Varianzen σ12σ22\displaystyle \frac{\sigma^2_1}{\sigma^2_2}.

Vergleich von Anteilen: Schätzung der Differenz der Anteile p̂1−p̂2\hat p_1-\hat p_2.

Im Folgenden werden die folgenden Konfidenzintervalle für den Vergleich zweier Populationen vorgestellt:

Intervall für die Differenz der Mittelwerte zweier normalverteilter Populationen mit bekannten Varianzen.

Intervall für die Differenz der Mittelwerte zweier normalverteilter Populationen mit unbekannten, aber gleichen Varianzen.

Intervall für die Differenz der Mittelwerte zweier normalverteilter Populationen mit unbekannten und ungleichen Varianzen.

Intervall für das Verhältnis der Varianzen zweier normalverteilter Populationen.

Intervall für die Differenz der Anteile zweier Populationen.

8.6.1 Konfidenzintervall für die Differenz der Mittelwerte normalverteilter Populationen mit bekannten Varianzen

Seien X1X_1 und X2X_2 zwei Zufallsvariablen, die folgende Annahmen erfüllen:

Sie sind normalverteilt: X1∼N(μ1,σ1)X_1\sim N(\mu_1,\sigma_1) und X2∼N(μ2,σ2)X_2\sim N(\mu_2,\sigma_2).

Ihre Mittelwerte μ1\mu_1 und μ2\mu_2 sind unbekannt, aber ihre Varianzen σ12\sigma^2_1 und σ22\sigma^2_2 sind bekannt.

Unter diesen Annahmen folgt die Differenz der Stichprobenmittelwerte aus zwei unabhängigen Stichproben der Größen n1n_1 bzw. n2n_2 einer Normalverteilung:

X‾1∼N(μ1,σ1n1)X‾2∼N(μ2,σ2n2)}⇒X‾1−X‾2∼N(μ1−μ2,σ12n1+σ22n2). \left. \begin{array}{l} \bar{X}_1\sim N\left(\mu_1,\frac{\sigma_1}{\sqrt{n_1}} \right)\\ \bar{X}_2\sim N\left(\mu_2,\frac{\sigma_2}{\sqrt{n_2}} \right) \end{array} \right\} \Rightarrow \bar{X}_1-\bar{X}_2 \sim N\left(\mu_1-\mu_2,\sqrt{\frac{\sigma^2_1}{n_1}+\frac{\sigma^2_2}{n_2}}\right).

Durch Standardisierung ergeben sich die Werte der Standardnormalverteilung −zα/2-z_{\alpha/2} und zα/2z_{\alpha/2}, die folgende Bedingung erfüllen:

P(−zα/2≤(X‾1−X‾2)−(μ1−μ2)σ12n1+σ22n2≤zα/2)=1−α. P\left(-z_{\alpha/2}\leq \frac{(\bar{X}_1-\bar{X}_2)-(\mu_1-\mu_2)}{\sqrt{\frac{\sigma^2_1}{n_1}+\frac{\sigma^2_2}{n_2}}} \leq z_{\alpha/2}\right) = 1-\alpha.

Durch Rückgängigmachen der Standardisierung erhält man:

1−α=P(−zα/2≤(X‾1−X‾2)−(μ1−μ2)σ12n1+σ22n2≤zα/2)=P(−zα/2σ12n1+σ22n2≤(X‾1−X‾2)−(μ1−μ2)≤zα/2σ12n1+σ22n2)=P(X‾1−X‾2−zα/2σ12n1+σ22n2≤μ1−μ2≤X‾1−X‾2+zα/2σ12n1+σ22n2) \begin{aligned} 1-\alpha &= P\left(-z_{\alpha/2}\leq \frac{(\bar{X}_1-\bar{X}_2)-(\mu_1-\mu_2)}{\sqrt{\frac{\sigma^2_1}{n_1}+\frac{\sigma^2_2}{n_2}}} \leq z_{\alpha/2}\right) \\ &= P\left(-z_{\alpha/2}\sqrt{\frac{\sigma^2_1}{n_1}+\frac{\sigma^2_2}{n_2}}\leq (\bar{X}_1-\bar{X}_2)-(\mu_1-\mu_2)\leq z_{\alpha/2}\sqrt{\frac{\sigma^2_1}{n_1}+\frac{\sigma^2_2}{n_2}}\right) \\ &= P\left(\bar{X}_1-\bar{X}_2 - z_{\alpha/2}\sqrt{\frac{\sigma^2_1}{n_1}+\frac{\sigma^2_2}{n_2}}\leq \mu_1-\mu_2\leq \bar{X}_1-\bar{X}_2 + z_{\alpha/2}\sqrt{\frac{\sigma^2_1}{n_1}+\frac{\sigma^2_2}{n_2}}\right) \end{aligned}

Somit lautet das Konfidenzintervall für die Differenz der Mittelwerte:

Konfidenzintervall für die Differenz der Mittelwerte normalverteilter Populationen mit bekannten Varianzen

Falls X1∼N(μ1,σ1)X_1\sim N(\mu_1,\sigma_1) und X2∼N(μ2,σ2)X_2\sim N(\mu_2,\sigma_2) mit bekannten σ1\sigma_1 und σ2\sigma_2, dann ist das Konfidenzintervall für die Differenz der Mittelwerte μ1−μ2\mu_1-\mu_2 zum Konfidenzniveau 1−α1-\alpha gegeben durch:

[X‾1−X‾2−zα/2σ12n1+σ22n2,X‾1−X‾2+zα/2σ12n1+σ22n2] \left[\bar{X}_1-\bar{X}_2-z_{\alpha/2}\sqrt{\frac{\sigma^2_1}{n_1}+\frac{\sigma^2_2}{n_2}},\bar{X}_1-\bar{X}_2+z_{\alpha/2}\sqrt{\frac{\sigma^2_1}{n_1}+\frac{\sigma^2_2}{n_2}}\right]

oder alternativ:

X‾1−X‾2±zα/2σ12n1+σ22n2 \bar{X}_1-\bar{X}_2\pm z_{\alpha/2}\sqrt{\frac{\sigma^2_1}{n_1}+\frac{\sigma^2_2}{n_2}}

8.6.2 Konfidenzintervall für die Differenz der Mittelwerte zweier normalverteilter Populationen mit unbekannten, aber gleichen Varianzen

Seien X1X_1 und X2X_2 zwei Zufallsvariablen, die folgende Annahmen erfüllen:

Sie sind normalverteilt: X1∼N(μ1,σ1)X_1\sim N(\mu_1,\sigma_1) und X2∼N(μ2,σ2)X_2\sim N(\mu_2,\sigma_2)

Ihre Mittelwerte μ1\mu_1 und μ2\mu_2 sind unbekannt und ihre Varianzen ebenfalls, aber sie sind gleich: σ12=σ22=σ2\sigma^2_1=\sigma^2_2=\sigma^2

Wenn die Populationsvarianz unbekannt ist, kann sie aus Stichproben der Größen n1n_1 und n2n_2 beider Populationen mittels der gewichteten Stichprobenvarianz (gepoolte Varianz) geschätzt werden:

Ŝp2=n1S12+n2S22n1+n2−2. \hat{S}^2_p = \frac{n_1S^2_1+n_2S^2_2}{n_1+n_2-2}.

Die Teststatistik folgt in diesem Fall einer t-Verteilung:

X‾1−X‾2∼N(μ1−μ2,σn1+n2n1n2)n1S12+n2S22σ2∼χ2(n1+n2−2)}⇒(X‾1−X‾2)−(μ1−μ2)Ŝpn1+n2n1n2∼T(n1+n2−2). \left. \begin{array}{l} \bar{X}_1-\bar{X}_2\sim N\left(\mu_1-\mu_2,\sigma\sqrt{\frac{n_1+n_2}{n_1n_2}} \right)\\ \displaystyle \frac{n_1S_1^2+n_2S_2^2}{\sigma^2} \sim \chi^2(n_1+n_2-2) \end{array} \right\} \Rightarrow \frac{(\bar{X}_1-\bar{X}_2)-(\mu_1-\mu_2)}{\hat{S}_p\sqrt{\frac{n_1+n_2}{n_1n_2}}} \sim T(n_1+n_2-2).

Daraus lassen sich die kritischen Werte −tn1+n2−2α/2-t^{n_1+n_2-2}{\alpha/2} und tn1+n2−2α/2t^{n_1+n_2-2}{\alpha/2} der t-Verteilung bestimmen, die folgende Bedingung erfüllen:

P(−tα/2n1+n2−2≤(X‾1−X‾2)−(μ1−μ2)Ŝpn1+n2n1n2≤tα/2n1+n2−2)=1−α. P\left(-t^{n_1+n_2-2}_{\alpha/2}\leq \frac{(\bar{X}_1-\bar{X}_2)-(\mu_1-\mu_2)}{\hat{S}_p\sqrt{\frac{n_1+n_2}{n_1n_2}}} \leq t^{n_1+n_2-2}_{\alpha/2}\right) = 1-\alpha.

Und durch Rücktransformation ergibt sich

1−α=P(−tα/2n1+n2−2≤(X‾1−X‾2)−(μ1−μ2)Ŝpn1+n2n1n2≤tα/2n1+n2−2)=P(−tα/2n1+n2−2Ŝpn1+n2n1n2≤(X‾1−X‾2)−(μ1−μ2)≤tα/2n1+n2−2Ŝpn1+n2n1n2)=P(X‾1−X‾2−tα/2n1+n2−2Ŝpn1+n2n1n2≤μ1−μ2≤X‾1−X‾2+tα/2n1+n2−2Ŝpn1+n2n1n2). \begin{aligned} 1-\alpha &= P\left(-t^{n_1+n_2-2}_{\alpha/2}\leq \frac{(\bar{X}_1-\bar{X}_2)-(\mu_1-\mu_2)}{\hat{S}_p\sqrt{\frac{n_1+n_2}{n_1n_2}}} \leq t^{n_1+n_2-2}_{\alpha/2}\right) \\ &= P\left(-t^{n_1+n_2-2}_{\alpha/2}\hat{S}_p\sqrt{\frac{n_1+n_2}{n_1n_2}}\leq (\bar{X}_1-\bar{X}_2)-(\mu_1-\mu_2) \leq t^{n_1+n_2-2}_{\alpha/2}\hat{S}_p\sqrt{\frac{n_1+n_2}{n_1n_2}}\right) \\ &= P\left(\bar{X}_1-\bar{X}_2 - t^{n_1+n_2-2}_{\alpha/2}\hat{S}_p\sqrt{\frac{n_1+n_2}{n_1n_2}}\leq \mu_1-\mu_2 \leq \bar{X}_1-\bar{X}_2 + t^{n_1+n_2-2}_{\alpha/2}\hat{S}_p\sqrt{\frac{n_1+n_2}{n_1n_2}}\right). \end{aligned}

Durch weitere Umformung erhält man das Konfidenzintervall:

Konfidenzintervall für die Differenz der Mittelwerte normalverteilter Populationen mit unbekannten, aber gleichen Varianzen

Wenn X1∼N(μ1,σ1)X_1\sim N(\mu_1,\sigma_1) und X2∼N(μ2,σ2)X_2\sim N(\mu_2,\sigma_2) mit unbekannten, aber gleichen Varianzen σ1=σ2\sigma_1 = \sigma_2, dann ist das Konfidenzintervall für die Mittelwertdifferenz μ1−μ2\mu_1-\mu_2 zum Konfidenzniveau 1−α1-\alpha gegeben durch:

[X‾1−X‾2−tα/2n1+n2−2Ŝpn1+n2n1n2,X‾1−X‾2+tα/2n1+n2−2Ŝpn1+n2n1n2] \left[\bar{X}_1-\bar{X}_2-t^{n_1+n_2-2}_{\alpha/2}\hat{S}_p\sqrt{\frac{n_1+n_2}{n_1n_2}},\bar{X}_1-\bar{X}_2+t^{n_1+n_2-2}_{\alpha/2}\hat{S}_p\sqrt{\frac{n_1+n_2}{n_1n_2}}\right]

oder alternativ:

X‾1−X‾2±tα/2n1+n2−2Ŝpn1+n2n1n2 \bar{X}_1-\bar{X}_2\pm t^{n_1+n_2-2}_{\alpha/2}\hat{S}_p\sqrt{\frac{n_1+n_2}{n_1n_2}}

Wenn [li,ls][l_i,l_s] ein Konfidenzintervall mit dem Niveau 1−α1-\alpha für die Differenz der Mittelwerte μ1−μ2\mu_1-\mu_2 ist, dann gilt

μ1−μ2∈[li,ls] \mu_1-\mu_2 \in [l_i,l_s]

Interpretation des Konfidenzintervalls [li,ls][l_i,l_s] für μ1−μ2\mu_1-\mu_2:

Wenn das Intervall vollständig negativ ist (ls<0l_s < 0), dann gilt mit (1−α)(1-\alpha)% Konfidenz, dass μ1<μ2\mu_1 < \mu_2

Wenn das Intervall vollständig positiv ist (li>0l_i > 0), dann gilt mit (1−α)(1-\alpha)% Konfidenz, dass μ1>μ2\mu_1 > \mu_2

Wenn das Intervall die Null enthält, gibt es keinen statistisch signifikanten Unterschied zwischen den Mittelwerten

In den ersten beiden Fällen spricht man von statistisch signifikanten Unterschieden zwischen den Mittelwerten.

Beispiel

Vergleich der akademischen Leistungen zweier Schülergruppen (10 bzw. 12 Schüler) mit unterschiedlichen Lehrmethoden:

X1:4−6−8−7−7−6−5−2−5−3X2:8−9−5−3−8−7−8−6−8−7−5−7 \begin{aligned} X_1 &: 4 - 6 - 8 - 7 - 7 - 6 - 5 - 2 - 5 - 3 \\ X_2 &: 8 - 9 - 5 - 3 - 8 - 7 - 8 - 6 - 8 - 7 - 5 - 7 \end{aligned} Unter der Annahme, dass beide Variablen dieselbe Varianz besitzen, ergibt sich

X‾1=4+⋯+310=5.3\bar{X}_1 = \frac{4+\cdots +3}{10}=5.3 und X‾2=8+⋯+712=6.75\bar{X}_2=\frac{8+\cdots +7}{12}=6.75 Punkte.

S12=42+⋯+3210−5.32=3.21S_1^2= \frac{4^2+\cdots + 3^2}{10}-5.3^2=3.21 und S22=82+⋯+3212−6.752=2.6875S_2^2= \frac{8^2+\cdots +3^2}{12}-6.75^2=2.6875 Punkte2^2.

Ŝp2=10⋅3.21+12⋅2.687510+12−2=3.2175\hat{S}_p^2 = \frac{10\cdot 3.21+12\cdot 2.6875}{10+12-2}= 3.2175 Punkte2^2, und Ŝp=1.7937\hat S_p=1.7937.

tα/2n1+n2−2=t0.02520t^{n_1+n_2-2}_{\alpha/2}=t^{20}_{0.025} ist der Wert der Student-t-Verteilung mit 20 Freiheitsgraden, der eine obere kumulierte Wahrscheinlichkeit von 0,0250,025 abbildet, und beträgt ungefähr 2,092,09.

Das 95%-Konfidenzintervall für die Leistungsdifferenz beträgt:

5.3−6.75±2.086⋅1.793710+1210⋅12=−1.45±1.6021=[−3.0521,0.1521] Punkte. 5.3-6.75 \pm 2.086\cdot 1.7937\sqrt{\frac{10+12}{10\cdot 12}} = -1.45\pm 1.6021 = [-3.0521,\,0.1521] \text{ Punkte}.

Das heißt, die Differenz der durchschnittlichen Werte μ1−μ2\mu_1-\mu_2 liegt mit einer Konfidenz von 95% zwischen −3.0521-3.0521 und 0.15210.1521 Punkten.

Angesichts dieses Intervalls kann man folgern, dass, da das Intervall sowohl positive als auch negative Werte enthält und somit auch die 00 einschließt, nicht festgestellt werden kann, dass eine der Mittelwerte größer ist als die andere. Daher wird angenommen, dass sie gleich sind, und es kann nicht gesagt werden, dass es signifikante Unterschiede zwischen den Gruppen gibt.

8.6.3 Konfidenzintervall für die Differenz der Mittelwerte zweier normalverteilter Populationen mit unbekannten und ungleichen Varianzen

Seien X1X_1 und X2X_2 zwei Zufallsvariablen, die folgende Annahmen erfüllen:

Ihre Verteilung ist normal: X1∼N(μ1,σ1)X_1\sim N(\mu_1,\sigma_1) und X2∼N(μ2,σ2)X_2\sim N(\mu_2,\sigma_2).

Ihre Mittelwerte μ1\mu_1, μ2\mu_2 und Varianzen σ12\sigma_1^2, σ22\sigma_2^2 sind unbekannt, aber es gilt σ12≠σ22\sigma^2_1\neq \sigma^2_2.

In diesem Fall folgt die Teststatistik einer t-Verteilung:

(X‾1−X‾2)−(μ1−μ2)Ŝ12n1+Ŝ22n2∼T(g), \frac{(\bar{X}_1-\bar{X}_2)-(\mu_1-\mu_2)}{\sqrt{\frac{\hat{S}^2_1}{n_1}+\frac{\hat{S}^2_2}{n_2}}} \sim T(g),

wobei die Anzahl der Freiheitsgrade g=n1+n2−2−Δg=n_1+n_2-2-\Delta beträgt, mit

Δ=(n2−1n1Ŝ12−n1−1n2Ŝ22)2n2−1n12Ŝ14+n1−1n22Ŝ24. \Delta = \frac{(\frac{n_2-1}{n_1}\hat{S}_1^2-\frac{n_1-1}{n_2}\hat{S}_2^2)^2}{\frac{n_2-1}{n_1^2}\hat{S}_1^4+\frac{n_1-1}{n_2^2}\hat{S}_2^4}.

Daraus lassen sich die kritischen Werte der t-Verteilung −tgα/2-t^{g}{\alpha/2} und tgα/2t^{g}{\alpha/2} bestimmen, die folgende Bedingung erfüllen:

P(−tα/2g≤(X‾1−X‾2)−(μ1−μ2)Ŝ12n1+Ŝ22n2≤tα/2g)=1−α. P\left(-t^{g}_{\alpha/2}\leq \frac{(\bar{X}_1-\bar{X}_2)-(\mu_1-\mu_2)}{\sqrt{\frac{\hat{S}^2_1}{n_1}+\frac{\hat{S}^2_2}{n_2}}} \leq t^{g}_{\alpha/2}\right) = 1-\alpha.

Durch Umstellung erhält man:

1−α=P(−tα/2g≤(X‾1−X‾2)−(μ1−μ2)Ŝ12n1+Ŝ22n2≤tα/2g)=P(−tα/2gŜ12n1+Ŝ22n2≤(X‾1−X‾2)−(μ1−μ2)≤tα/2gŜ12n1+Ŝ22n2)=P(X‾1−X‾2−tα/2gŜ12n1+Ŝ22n2≤μ1−μ2≤X‾1−X‾2+tα/2gŜ12n1+Ŝ22n2) \begin{aligned} 1-\alpha &= P\left(-t^{g}_{\alpha/2}\leq \frac{(\bar{X}_1-\bar{X}_2)-(\mu_1-\mu_2)}{\sqrt{\frac{\hat{S}^2_1}{n_1}+\frac{\hat{S}^2_2}{n_2}}} \leq t^{g}_{\alpha/2}\right) \\ &= P\left(-t^{g}_{\alpha/2}\sqrt{\frac{\hat{S}^2_1}{n_1}+\frac{\hat{S}^2_2}{n_2}}\leq (\bar{X}_1-\bar{X}_2)-(\mu_1-\mu_2) \leq t^{g}_{\alpha/2}\sqrt{\frac{\hat{S}^2_1}{n_1}+\frac{\hat{S}^2_2}{n_2}}\right) \\ &= P\left(\bar{X}_1-\bar{X}_2 - t^{g}_{\alpha/2}\sqrt{\frac{\hat{S}^2_1}{n_1}+\frac{\hat{S}^2_2}{n_2}}\leq\mu_1-\mu_2 \leq \bar{X}_1-\bar{X}_2 + t^{g}_{\alpha/2}\sqrt{\frac{\hat{S}^2_1}{n_1}+\frac{\hat{S}^2_2}{n_2}}\right) \\ \end{aligned}

Somit ergibt sich das Konfidenzintervall für die Differenz der Mittelwerte:

Konfidenzintervall für die Differenz der Mittelwerte normalverteilter Populationen mit unbekannten und ungleichen Varianzen

Wenn X1∼N(μ1,σ1)X_1\sim N(\mu_1,\sigma_1) und X2∼N(μ2,σ2)X_2\sim N(\mu_2,\sigma_2) mit unbekannten und ungleichen Varianzen σ1≠σ2\sigma_1 \neq \sigma_2, dann ist das Konfidenzintervall für die Mittelwertdifferenz μ1−μ2\mu_1-\mu_2 zum Konfidenzniveau 1−α1-\alpha gegeben durch:

[X‾1−X‾2−tα/2gŜ12n1+Ŝ22n2,X‾1−X‾2−tα/2gŜ12n1+Ŝ22n2] \left[\bar{X}_1-\bar{X}_2-t^{g}_{\alpha/2}\sqrt{\frac{\hat{S}^2_1}{n_1}+\frac{\hat{S}^2_2}{n_2}},\bar{X}_1-\bar{X}_2-t^{g}_{\alpha/2}\sqrt{\frac{\hat{S}^2_1}{n_1}+\frac{\hat{S}^2_2}{n_2}}\right]

oder alternativ:

X‾1−X‾2±tα/2gŜ12n1+Ŝ22n2 \bar{X}_1-\bar{X}_2\pm t^{g}_{\alpha/2}\sqrt{\frac{\hat{S}^2_1}{n_1}+\frac{\hat{S}^2_2}{n_2}}

Wie wir gesehen haben, gibt es zwei mögliche Konfidenzintervalle zur Schätzung der Mittelwertdifferenz: eines für den Fall gleicher Populationsvarianzen und eines für ungleiche Varianzen.

Doch wenn die Populationsvarianzen unbekannt sind,

wie lässt sich entscheiden, welches Intervall verwendet werden soll?

Die Antwort liefert das nächste Konfidenzintervall, das wir betrachten werden. Es ermöglicht die Schätzung des Varianzverhältnisses σ22σ12\frac{\sigma_2^2}{\sigma_1^2} und somit deren Vergleich.

Daher ist es notwendig, bevor man das Konfidenzintervall für den Mittelwertvergleich berechnet (wenn die Populationsvarianzen unbekannt sind), zuerst das Konfidenzintervall für das Varianzverhältnis zu bestimmen. Auf Grundlage dieses Intervalls kann dann die geeignete Methode für den Mittelwertvergleich ausgewählt werden.

8.6.4 Konfidenzintervall für das Verhältnis von Varianzen

Seien X1X_1 und X2X_2 zwei Zufallsvariablen, die folgende Annahmen erfüllen:

Ihre Verteilung ist normal: X1∼N(μ1,σ1)X_1\sim N(\mu_1,\sigma_1) und X2∼N(μ2,σ2)X_2\sim N(\mu_2,\sigma_2).

Ihre Mittelwerte μ1\mu_1, μ2\mu_2 und Varianzen σ12\sigma_1^2, σ22\sigma_2^2 sind unbekannt.

In diesem Fall folgt die Teststatistik für Stichproben der Größen n1n_1 und n2n_2 einer F-Verteilung nach Fisher-Snedecor:

(n1−1)Ŝ12σ12∼χ2(n1−1)(n2−1)Ŝ22σ22∼χ2(n2−1)}⇒(n2−1)Ŝ22σ22n2−1(n1−1)Ŝ12σ12n1−1=σ12σ22Ŝ22Ŝ12∼F(n2−1,n1−1). \left. \begin{array}{l} \displaystyle \frac{(n_1-1)\hat{S}_1^2}{\sigma_1^2}\sim \chi^2(n_1-1) \\ \displaystyle \frac{(n_2-1)\hat{S}_2^2}{\sigma_2^2}\sim \chi^2(n_2-1) \end{array} \right\} \Rightarrow \frac{\frac{\frac{(n_2-1)\hat{S}_2^2}{\sigma_2^2}}{n_2-1}}{\frac{\frac{(n_1-1)\hat{S}_1^2}{\sigma_1^2}}{n_1-1}} = \frac{\sigma_1^2}{\sigma_2^2}\frac{\hat{S}_2^2}{\hat{S}_1^2}\sim F(n_2-1,n_1-1).

Da die F-Verteilung nicht symmetrisch ist, werden zwei kritische Werte fn2−1,n1−1α/2f^{n_2-1,n_1-1}{\alpha/2} und fn2−1,n1−11−α/2f^{n_2-1,n_1-1}{1-\alpha/2} verwendet, die jeweils untere Wahrscheinlichkeiten von α/2\alpha/2 und 1−α/21-\alpha/2 begrenzen.

Somit ergibt sich:

1−α=P(fα/2n2−1,n1−1≤σ12σ22Ŝ22Ŝ12≤f1−α/2n2−1,n1−1)==P(fα/2n2−1,n1−1Ŝ12Ŝ22≤σ12σ22≤f1−α/2n2−1,n1−1Ŝ12Ŝ22) \begin{aligned} 1-\alpha &= P\left(f^{n_2-1,n_1-1}_{\alpha/2}\leq \frac{\sigma_1^2}{\sigma_2^2}\frac{\hat{S}_2^2}{\hat{S}_1^2} \leq f^{n_2-1,n_1-1}_{1-\alpha/2}\right) = \\ &= P\left(f^{n_2-1,n_1-1}_{\alpha/2}\frac{\hat{S}_1^2}{\hat{S}_2^2} \leq \frac{\sigma_1^2}{\sigma_2^2} \leq f^{n_2-1,n_1-1}_{1-\alpha/2}\frac{\hat{S}_1^2}{\hat{S}_2^2}\right) \end{aligned}

Daher lautet das Konfidenzintervall für den Vergleich von Varianzen zweier normalverteilter Populationen:

Konfidenzintervall für das Verhältnis von Varianzen normalverteilter Populationen

Wenn X1∼N(μ1,σ1)X_1\sim N(\mu_1,\sigma_1) und X2∼N(μ2,σ2)X_2\sim N(\mu_2,\sigma_2), dann ist das Konfidenzintervall für das Varianzverhältnis σ1/σ2\sigma_1/\sigma_2 zum Konfidenzniveau 1−α1-\alpha gegeben durch:

[fα/2n2−1,n1−1Ŝ12Ŝ22,f1−α/2n2−1,n1−1Ŝ12Ŝ22] \left[f^{n_2-1,n_1-1}_{\alpha/2}\frac{\hat{S}_1^2}{\hat{S}_2^2},f^{n_2-1,n_1-1}_{1-\alpha/2}\frac{\hat{S}_1^2}{\hat{S}_2^2}\right]

Das Verhältnis der Varianzen σ12σ22\frac{\sigma_1^2}{\sigma_2^2} liegt mit einer Konfidenz von 1−α1-\alpha im Intervall [li,ls][l_i,l_s].

σ12σ22∈[li,ls] \frac{\sigma_1^2}{\sigma_2^2} \in [l_i,l_s]

Interpretation des Konfidenzintervalls [li,ls][l_i,l_s] für σ12σ22\frac{\sigma_1^2}{\sigma_2^2}:

Wenn alle Werte des Intervalls kleiner als 1 sind (ls<1)(l_s<1), kann geschlossen werden, dass σ12<σ22\sigma_1^2<\sigma_2^2

Wenn alle Werte des Intervalls größer als 1 sind (li>1)(l_i>1), kann geschlossen werden, dass σ12>σ22\sigma_1^2>\sigma_2^2

Wenn das Intervall sowohl Werte unter als auch über 11 enthält (also 11 im Intervall liegt), kann keine Aussage über die Größenverhältnisse der Varianzen gemacht werden. In diesem Fall wird normalerweise die Hypothese gleicher Varianzen σ12=σ22\sigma_1^2=\sigma_2^2 angenommen.

Beispiel

Fortsetzung des Beispiels mit den Punktzahlen zweier Gruppen:

X1:4−6−8−7−7−6−5−2−5−3X2:8−9−5−3−8−7−8−6−8−7−5−7 \begin{aligned} X_1 &: 4 - 6 - 8 - 7 - 7 - 6 - 5 - 2 - 5 - 3 \\ X_2 &: 8 - 9 - 5 - 3 - 8 - 7 - 8 - 6 - 8 - 7 - 5 - 7 \end{aligned}

Zur Berechnung des Konfidenzintervalls für das Varianzverhältnis bei einem Konfidenzniveau von 95% gilt:

X‾1=5.3\bar{X}_1 = 5.3 Punkte und X‾2=6.75\bar{X}_2=6.75 Punkte

Ŝ12=3.5667\hat{S}_1^2= 3.5667 Punkte2^2 und Ŝ22=2.9318\hat{S}_2^2= 2.9318 Punkte2^2

f0.02511,9≈0.2787f^{11,9}_{0.025} \approx 0.2787 (unterer kritischer F-Wert)

f0.97511,9≈3.9121f^{11,9}_{0.975} \approx 3.9121 (oberer kritischer F-Wert)

Einsetzen in die Formel ergibt das Intervall:

[0.27873.56672.9318,3.91213.56672.9318]=[0.3391,4.7591] Punkte2. \left[0.2787\frac{3.5667}{2.9318},\, 3.9121\frac{3.5667}{2.9318}\right] = [0.3391,\, 4.7591] \text{ Punkte}^2.

Das bedeutet, das Varianzverhältnis σ12σ22\frac{\sigma_1^2}{\sigma_2^2} liegt mit 95% Konfidenz zwischen 0,33910,3391 und 4,75914,7591.

Da das Intervall sowohl Werte unter als auch über 11 enthält, kann keine signifikante Unterschiedlichkeit der Varianzen angenommen werden. Für den Mittelwertvergleich wäre daher das Verfahren mit der Annahme gleicher Varianzen zu verwenden - genau die Methode, die wir bereits zuvor angewendet haben.

8.6.5 Konfidenzintervall für die Differenz von Proportionen

Um die Proportionen p1p_1 und p2p_2 von Individuen, die eine bestimmte Eigenschaft in zwei unabhängigen Populationen aufweisen, zu vergleichen, wird ihre Differenz p1−p2p_1-p_2 geschätzt.

Wenn aus jeder Population eine Stichprobe mit den Umfängen n1n_1 und n2n_2 gezogen wird, folgen die Variablen, die die Anzahl der Individuen mit der Eigenschaft in jeder Stichprobe messen, den Verteilungen

X1∼B(n1,p1)yX2∼B(n2,p2) X_1\sim B(n_1,p_1)\quad \mbox{y}\quad X_2\sim B(n_2,p_2)

Wenn die Stichprobenumfänge groß sind (tatsächlich reicht es aus, dass n1p1≥5n_1p_1\geq 5, n1(1−p1)≥5n_1(1-p_1)\geq 5, n2p2≥5n_2p_2\geq 5 und n2(1−p2)≥5n_2(1-p_2)\geq 5 erfüllt sind), sichert der zentrale Grenzwertsatz, dass X1X_1 und X2X_2 Normalverteilungen folgen

X1∼N(n1p1,n1p1(1−p1))undX2∼N(n2p2,n2p2(1−p2)), X_1\sim N(n_1p_1,\sqrt{n_1p_1(1-p_1)}) \quad \mbox{und}\quad X_2\sim N(n_2p_2,\sqrt{n_2p_2(1-p_2)}),

und die Stichprobenproportionen

p̂1=X1n1∼N(p1,p1(1−p1)n1)undp̂2=X2n2∼N(p2,p2(1−p2)n2) \hat{p}_1=\frac{X_1}{n_1} \sim N\left(p_1,\sqrt{\frac{p_1(1-p_1)}{n_1}}\right) \quad \mbox{und}\quad \hat{p}_2=\frac{X_2}{n_2} \sim N\left(p_2,\sqrt{\frac{p_2(1-p_2)}{n_2}}\right)

Aus den Stichprobenproportionen wird der Referenzschätzer konstruiert

p̂1−p̂2∼N(p1−p2,p1(1−p1)n1+p2(1−p2)n2). \hat{p}_1-\hat{p}_2\sim N\left(p_1-p_2,\sqrt{\frac{p_1(1-p_1)}{n_1}+\frac{p_2(1-p_2)}{n_2}}\right).

Durch Standardisierung werden Werte −zα/2-z_{\alpha/2} und zα/2z_{\alpha/2} gesucht, die erfüllen

P(−zα/2≤(p̂1−p2̂)−(p1−p2)p1(1−p1)n1+p2(1−p2)n2≤zα/2)=1−α. P\left(-z_{\alpha/2}\leq \frac{(\hat{p}_1-\hat{p_2})-(p_1-p_2)}{\sqrt{\frac{p_1(1-p_1)}{n_1}+\frac{p_2(1-p_2)}{n_2}}}\leq z_{\alpha/2} \right) = 1-\alpha.

Und durch Rückgängigmachen der Standardisierung ergibt sich

1−α=P(−zα/2≤(p̂1−p2̂)−(p1−p2)p1(1−p1)n1+p2(1−p2)n2≤zα/2)=P(−zα/2p1(1−p1)n1+p2(1−p2)n2≤(p̂1−p2̂)−(p1−p2)≤zα/2p1(1−p1)n1+p2(1−p2)n2)=P(p̂1−p2̂−zα/2p1(1−p1)n1+p2(1−p2)n2≤p̂1−p2̂+p1−p2≤zα/2p1(1−p1)n1+p2(1−p2)n2) \begin{aligned} 1-\alpha &= P\left(-z_{\alpha/2}\leq \frac{(\hat{p}_1-\hat{p_2})-(p_1-p_2)}{\sqrt{\frac{p_1(1-p_1)}{n_1}+\frac{p_2(1-p_2)}{n_2}}}\leq z_{\alpha/2} \right) \\ &= P\left(-z_{\alpha/2}\sqrt{\frac{p_1(1-p_1)}{n_1}+\frac{p_2(1-p_2)}{n_2}}\leq (\hat{p}_1-\hat{p_2})-(p_1-p_2)\leq z_{\alpha/2}\sqrt{\frac{p_1(1-p_1)}{n_1}+\frac{p_2(1-p_2)}{n_2}} \right) \\ &= P\left(\hat{p}_1-\hat{p_2} -z_{\alpha/2}\sqrt{\frac{p_1(1-p_1)}{n_1}+\frac{p_2(1-p_2)}{n_2}}\leq \hat{p}_1-\hat{p_2} + p_1-p_2\leq z_{\alpha/2}\sqrt{\frac{p_1(1-p_1)}{n_1}+\frac{p_2(1-p_2)}{n_2}} \right) \end{aligned}

Somit ist das Konfidenzintervall für die Differenz der Proportionen

Konfidenzintervall für die Differenz von Proportionen

Wenn X1∼B(n1,p1)X_1\sim B(n_1,p_1) und X2∼B(n2,p2)X_2\sim B(n_2,p_2), mit n1p1≥5n_1p_1\geq 5, n1(1−p1)≥5n_1(1-p_1)\geq 5, n2p2≥5n_2p_2\geq 5 und n2(1−p2)≥5n_2(1-p_2)\geq 5, dann ist das Konfidenzintervall für die Differenz der Proportionen p1−p2p_1-p_2 mit dem Konfidenzniveau 1−α1-\alpha

p̂1−p̂2±zα/2p̂1(1−p̂1)n1+p̂2(1−p̂2)n2 \hat{p}_1-\hat{p}_2\pm z_{\alpha/2}\sqrt{\frac{\hat{p}_1(1-\hat{p}_1)}{n_1}+\frac{\hat{p}_2(1-\hat{p}_2)}{n_2}}

Beispiel

Angenommen, es sollen die Proportionen oder Prozentsätze der bestandenen Prüfungen in zwei Gruppen verglichen werden, die unterschiedliche Methoden verfolgt haben. In der ersten Gruppe haben 24 von 40 Schülern bestanden, während in der zweiten Gruppe 48 von 60 Schülern bestanden haben.

Um das Konfidenzintervall für die Differenz der Proportionen mit einem Konfidenzniveau von 95% zu berechnen, gilt:

p̂1=24/40=0.6\hat{p}_1=24/40= 0.6\ und

p̂2=48/60=0.8\hat{p}_2=48/60=0.8, sodass die Hypothesen

n1p̂1=40⋅0.6=24≥5n_1\hat{p}_1=40\cdot 0.6=24\geq 5,

n1(1−p̂1)=40(1−0.6)=26≥5n_1(1-\hat{p}_1)=40(1-0.6)=26\geq 5,

n2p̂2=60⋅0.8=48≥5n_2\hat{p}_2=60\cdot 0.8 =48\geq 5 und

n2(1−p̂2)=60(1−0.8)=12≥5n_2(1-\hat{p}_2)=60(1-0.8)=12\geq 5 erfüllt sind.

zα/2=z0.025=1.96z_{\alpha/2}=z_{0.025}= 1.96.

Durch Einsetzen in die Formel des Intervalls ergibt sich

0.6−0.8±1.960.6(1−0.6)40+0.8(1−0.8)60=−0.2±0.17=[−0.37,−0.03]. 0.6-0.8\pm 1.96 \sqrt{\frac{0.6(1-0.6)}{40}+\frac{0.8(1-0.8)}{60}} = -0.2\pm 0.17 = [-0.37,\, -0.03].

Da das Intervall negativ ist, gilt p1−p2<0⇒p1<p2p_1-p_2<0\Rightarrow p_1<p_2, und es kann geschlossen werden, dass es signifikante Unterschiede in den Bestehensquoten gibt.

9 Parametrische Hypothesentests

9.1 Statistische Hypothese und Arten von Tests

In vielen statistischen Studien besteht das Ziel eher darin, die Richtigkeit einer über die untersuchte Population aufgestellten Hypothese zu überprüfen, als den Wert eines unbekannten Parameters in der Population zu schätzen.

Der Forscher hat aufgrund seiner Erfahrung oder früherer Studien oft Vermutungen über die untersuchte Population, die er in Form von Hypothesen formuliert.

Definition “Statistische Hypothese”

Eine statistische Hypothese ist jede Aussage oder Vermutung, die die Verteilung einer oder mehrerer Variablen in der Population ganz oder teilweise bestimmt.

Beispiel

Um die akademische Leistung einer Studierendengruppe in einem bestimmten Fach zu überprüfen, könnten wir die Hypothese aufstellen, ob die Bestehensquote über 50% liegt.

9.1.1 Hypothesentest

Im Allgemeinen wird man nie mit absoluter Sicherheit wissen, ob eine statistische Hypothese wahr oder falsch ist, da hierfür alle Individuen der Population untersucht werden müssten.

Um die Richtigkeit oder Falschheit dieser Hypothesen zu überprüfen, müssen sie mit den empirischen Ergebnissen der Stichproben verglichen werden. Wenn die beobachteten Ergebnisse der Stichproben – innerhalb der durch den Zufall bedingten Fehlertoleranz – mit dem übereinstimmen, was bei Gültigkeit der Hypothese zu erwarten wäre, wird die Hypothese als wahr akzeptiert. Andernfalls wird sie als falsch verworfen, und es werden neue Hypothesen gesucht, die die beobachteten Daten erklären können.

Da Stichproben zufällig gezogen werden, wird die Entscheidung, eine statistische Hypothese anzunehmen oder abzulehnen, auf probabilistischer Basis getroffen.

Die Methodik, die sich mit der Überprüfung der Richtigkeit statistischer Hypothesen befasst, wird als Hypothesentest bezeichnet.

9.1.2 Arten von Hypothesentests

Anpassungstests (Goodness-of-Fit-Tests): Ziel ist die Überprüfung einer Hypothese über die Verteilungsform der Population. Beispiel: Testen, ob die Noten einer Schülergruppe einer Normalverteilung folgen.

Verträglichkeitstests (Konformitätstests): Ziel ist die Überprüfung einer Hypothese über einen Parameter der Population. Beispiel: Testen, ob der Notendurchschnitt einer Schülergruppe gleich 2 ist.

Homogenitätstests: Ziel ist der Vergleich zweier Populationen hinsichtlich bestimmter Parameter. Beispiel: Testen, ob die Leistung zweier Schülergruppen gleich ist, indem ihre Durchschnittsnoten verglichen werden.

Unabhängigkeitstests: Ziel ist die Überprüfung, ob ein Zusammenhang zwischen zwei Variablen der Population besteht. Beispiel: Testen, ob ein Zusammenhang zwischen den Noten zweier unterschiedlicher Fächer besteht.

Wenn Hypothesen über Parameter der Population aufgestellt werden, spricht man auch von parametrischen Tests.

9.1.3 Nullhypothese und Alternativhypothese

In den meisten Fällen geht es bei einem Hypothesentest darum, eine Entscheidung zwischen zwei gegensätzlichen Hypothesen zu treffen:

Nullhypothese: Dies ist die konservative Hypothese, die beibehalten wird, solange die Stichprobendaten ihre Falschheit nicht eindeutig belegen. Sie wird als H0H_0 bezeichnet.

Alternativhypothese: Sie stellt die Verneinung der Nullhypothese dar und entspricht in der Regel der Aussage, die nachgewiesen werden soll. Sie wird als H1H_1 bezeichnet.

Die Wahl beider Hypothesen folgt dem Prinzip der wissenschaftlichen Einfachheit (Ockhams Rasiermesser):

“Ein einfaches Modell sollte nur dann durch ein komplexeres ersetzt werden, wenn es starke Beweise für das komplexere Modell gibt.”

Ein Beispiel aus der Rechtsprechung: Wenn ein Richter entscheiden muss, ob ein Angeklagter schuldig oder unschuldig ist, sollten die Hypothesen wie folgt lauten:

H0: UnschuldigH1: Schuldig \begin{aligned} H_0:\ & \text{ Unschuldig} \\ H_1:\ & \text{ Schuldig} \end{aligned}

Denn Unschuld wird angenommen, während Schuld bewiesen werden muss.

Entsprechend würde der Richter die Alternativhypothese nur dann akzeptieren, wenn es signifikante Beweise für die Schuld des Angeklagten gibt.

Der Forscher übernimmt in diesem Vergleich die Rolle des Anklägers, da sein Ziel darin besteht, die Nullhypothese zu widerlegen – also die Schuld des Angeklagten nachzuweisen.

Achtung

Diese Methodik begünstigt immer die Nullhypothese!

9.1.4 Parametrische Hypothesentests

Bei vielen Tests, insbesondere bei Konformitäts- und Homogenitätstests, beziehen sich die Hypothesen auf unbekannte Parameter der Grundgesamtheit wie den Mittelwert, die Varianz oder einen Anteilswert.

In diesem Fall weist die Nullhypothese dem Parameter stets einen konkreten Wert zu, während die Alternativhypothese meist eine offene Aussage darstellt, die zwar der Nullhypothese widerspricht, aber keinen festen Wert für den Parameter vorgibt.

Daraus ergeben sich drei Arten von Tests:

Zweiseitig | Einsitig (links) | Einseitig (rechts)
H0:θ=θ0H_0:\ \theta = \theta_0 | H0:θ=θ0H_0:\ \theta = \theta_0 | H0:θ=θ0H_0:\ \theta = \theta_0
H1:θ≠θ0H_1:\ \theta \neq \theta_0 | H1:θ<θ0H_1:\ \theta < \theta_0 | H1:θ>θ0H_1:\ \theta > \theta_0

Beispiel

Angenommen, es besteht der Verdacht, dass in einer Population weniger Männer als Frauen vorhanden sind.

Welche Art von Test sollte durchgeführt werden, um diesen Verdacht zu bestätigen oder zu widerlegen?

Der Verdacht bezieht sich auf den Anteilswert pp der Männer in der Population, es handelt sich also um einen parametrischen Test.

Das Ziel ist die Überprüfung des Werts von pp, daher handelt es sich um einen Konformitätstest. In der Nullhypothese wird pp auf 0.50.5 festgesetzt, da gemäß den Gesetzen der Genetik in der Population gleich viele Männer wie Frauen zu erwarten wären.

Schließlich besteht der Verdacht, dass der Männeranteil geringer ist als der Frauenanteil, daher lautet die Alternativhypothese p<0.5p<0.5.

Somit sollte folgender Test durchgeführt werden:

H0:p=0,5H1:p<0,5 \begin{aligned} H_0:\ & p=0,5 \\ H_1:\ & p<0,5 \end{aligned}

9.2 Methodik zur Durchführung eines Hypothesentests

9.2.1 Teststatistik

Die Annahme oder Ablehnung der Nullhypothese hängt letztlich von den Beobachtungen in der Stichprobe ab.

Die Entscheidung wird basierend auf dem Wert einer Stichprobenstatistik getroffen, die mit dem zu testenden Parameter oder Merkmal in Zusammenhang steht. Die Wahrscheinlichkeitsverteilung dieser Statistik muss unter der Annahme der Nullhypothese und bei festgelegtem Stichprobenumfang bekannt sein. Diese Statistik wird als Teststatistik bezeichnet.

Für jede Stichprobe liefert die Teststatistik eine Schätzung, auf deren Grundlage die Entscheidung getroffen wird: Wenn die Schätzung zu stark vom unter H0H_0 erwarteten Wert abweicht, wird die Nullhypothese verworfen, andernfalls wird sie beibehalten.

Die zugrundeliegende Logik folgt dem Prinzip, die Nullhypothese beizubehalten, es sei denn, die Stichprobe liefert eindeutige Beweise gegen sie. In Analogie zum Gerichtsverfahren würde dies bedeuten, die Unschuldsvermutung aufrechtzuerhalten, solange keine klaren Schuldbeweise vorliegen.

Beispiel

Kehren wir zum Beispiel des Tests über den Männeranteil in einer Population zurück:

H0:p=0,5H1:p<0,5 \begin{aligned} H_0:\ & p=0,5 \\ H_1:\ & p<0,5 \end{aligned}

Wenn für den Test eine Zufallsstichprobe von 10 Personen gezogen wird, könnte die Anzahl der Männer in der Stichprobe XX als Teststatistik gewählt werden.

Unter der Annahme, dass die Nullhypothese zutrifft, folgt die Teststatistik einer Binomialverteilung X∼B(10,0.5)X\sim B(10,\,0.5), sodass die erwartete Anzahl von Männern in der Stichprobe 5 beträgt.

Daher ist es logisch, die Nullhypothese zu akzeptieren, wenn die Stichprobe eine Anzahl von Männern in der Nähe von 5 ergibt, und sie zu verwerfen, wenn die Anzahl deutlich unter 5 liegt.

Doch wo genau sollte die Grenze zwischen den X-Werten gezogen werden, die zur Annahme bzw. zur Ablehnung führen?

9.2.2 Annahme- und Ablehnungsbereich

Nach Auswahl der Teststatistik gilt es festzulegen, für welche Werte dieser Statistik die Nullhypothese angenommen bzw. verworfen wird. Dadurch wird der Wertebereich der Statistik in zwei Regionen unterteilt:

Annahmebereich: Die Menge der Werte der Teststatistik, für die die Nullhypothese angenommen wird.

Ablehnungsbereich: Die Menge der Werte der Teststatistik, für die die Nullhypothese verworfen und folglich die Alternativhypothese angenommen wird.

Abhängig von der Art des Tests (einseitig/zweiseitig) befindet sich der Ablehnungsbereich entweder links, rechts oder auf beiden Seiten des unter der Nullhypothese erwarteten Werts der Teststatistik.

Zweiseitiger Hypothesentest H0:θ=θ0H1:θ≠θ0 \begin{aligned} H_0:\ \theta=\theta_{0}\\ H_1:\ \theta\neq\theta_0 \end{aligned}

Einseitiger Test (linksseitig) H0:θ=θ0H1:θ<θ0 \begin{aligned} H_0:\ \theta = \theta_0\\ H_1:\ \theta < \theta_0 \end{aligned}

Einseitiger Test (rechtsseitig) H0:θ=θ0H1:θ>θ0 \begin{aligned} H_0:\ \theta=\theta_{0}\\ H_1:\ \theta > \theta_{0} \end{aligned}

Beispiel

Im fortgesetzten Beispiel des Hypothesentests zum Bevölkerungsanteil von Männern

H0:p=0,5H1:p<0,5 \begin{aligned} H_0:\ & p=0,5 \\ H_1:\ & p<0,5 \end{aligned}

folgt die Teststatistik bei gültiger Nullhypothese einer B(10,0.5)B(10,0.5)-Verteilung. Ihr Wertebereich reicht somit von 0 bis 10 bei einem Erwartungswert von 5. Da ein linksseitiger Test vorliegt (H1:p<0,5H_1:\ p < 0,5), konzentriert sich der Ablehnungsbereich auf die Werte deutlich unter 5. Die entscheidende Frage bleibt jedoch:

An welchem kritischen Wert soll die Trennlinie zwischen Annahme und Verwerfung der Nullhypothese festgelegt werden?

9.2.3 Fehler bei einem Hypothesentest

Wir haben gesehen, dass ein Hypothesentest auf einer Entscheidungsregel basiert, die je nach Wert der Teststatistik die Annahme oder Ablehnung der Nullhypothese ermöglicht.

Letztlich führt der Test zu einer Entscheidung gemäß dieser Regel. Das Problem ist, dass man niemals mit absoluter Sicherheit weiß, ob eine Hypothese wahr oder falsch ist. Daher besteht bei jeder Entscheidung - ob Annahme oder Ablehnung - die Möglichkeit eines Fehlers.

Bei einem Hypothesentest können zwei Arten von Fehlern auftreten:

Fehler 1. Art (α\alpha-Fehler): Tritt auf, wenn die Nullhypothese abgelehnt wird, obwohl sie wahr ist.

Fehler 2. Art (β\beta-Fehler): Tritt auf, wenn die Nullhypothese angenommen wird, obwohl sie falsch ist.

EntscheidungH0 giltH1 giltH0 annehmenkorrekte EntscheidungFehler 2. Art (β)H0 ablehnenFehler 1. Art (α)korrekte Entscheidung \begin{array}{|c|c|c|} \hline \mbox{Entscheidung} & H_0 \mbox{ gilt} & H_1 \mbox{ gilt} \\ \hline H_0 \mbox{ annehmen} & \color{green}{\mbox{korrekte Entscheidung}} & \color{red}{\mbox{Fehler 2. Art } (\beta)} \\ \hline H_0 \mbox{ ablehnen}& \color{red}{\mbox{Fehler 1. Art } (\alpha)} & \color{green}{\mbox{korrekte Entscheidung}} \\ \hline \end{array}

9.2.4 Fehlerrisiko von Hypothesentests

Die Risiken der beiden Fehlerarten werden durch Wahrscheinlichkeiten quantifiziert:

Definition “Alpha- und Betarisiko”

Bei einem Hypothesentest wird das α\alpha-Risiko definiert als die maximale Wahrscheinlichkeit, einen Fehler 1. Art zu begehen, d.h.

P(Ablehnung H0|H0)≤α, P(\mbox{Ablehnung }H_0|H_0) \leq \alpha,

und das β\beta-Risiko als die maximale Wahrscheinlichkeit, einen Fehler 2. Art zu begehen, also

P(Annahme H0|H1)≤β. P(\mbox{Annahme }H_0|H_1) \leq \beta.

Vorsicht

Da diese Methodik grundsätzlich die Nullhypothese begünstigt, gilt der Fehler 1. Art als gravierender als der Fehler 2. Art. Daher wird das α\alpha-Risiko üblicherweise auf niedrige Werte von 0,10,1, 0,050,05 oder 0,010,01 festgelegt, wobei 0,050,05 der gebräuchlichste Wert ist.

Bei der Interpretation des α\alpha-Risikos ist Vorsicht geboten, da es sich um eine bedingte Wahrscheinlichkeit unter der Annahme handelt, dass die Nullhypothese wahr ist. Wenn man die Nullhypothese mit einem α\alpha-Risiko von 0,050,05 verwirft, ist die Aussage “in 5 von 100 Fällen liegen wir falsch” nur dann korrekt, wenn die Nullhypothese tatsächlich immer wahr wäre.

Ebenso wenig sinnvoll ist es, nach einer konkreten Testentscheidung von der “Wahrscheinlichkeit eines Fehlers” zu sprechen - denn für die getroffene Entscheidung gilt:

Entweder man hat richtig entschieden (Fehlerwahrscheinlichkeit 0)

oder falsch (Fehlerwahrscheinlichkeit 1).

9.2.5 Festlegung von Annahme- und Ablehnungsbereich basierend auf dem α\alpha-Risiko

Nach Festlegung des tolerierbaren α\alpha-Risikos können die Regionen für Annahme und Ablehnung der Nullhypothese so bestimmt werden, dass die kumulierte Wahrscheinlichkeit des Ablehnungsbereichs unter der Annahme der Nullhypothese genau α\alpha beträgt.

Beispiel: Fortsetzung des Tests zum Männeranteil in einer Population

Wird die Nullhypothese verworfen, wenn höchstens 2 Männer in der Stichprobe sind, ergibt sich unter X∼B(10,0.5)X\sim B(10,0.5) eine Fehlerwahrscheinlichkeit 1. Art von:

P(X≤2)=f(0)+f(1)+f(2)=0.0010+0.0098+0.0439=0.0547. P(X\leq 2)= f(0)+f(1)+f(2)= 0.0010 + 0.0098 + 0.0439 = 0.0547.

Wenn die maximal tolerierbare Wahrscheinlichkeit für einen Fehler 1. Art auf α=0,05\alpha=0,05 festgelegt ist, für welche Werte der Teststatistik darf dann die Nullhypothese verworfen werden?

P(X≤1)=f(0)+f(1)=0.0010+0.0098=0.0107. P(X\leq 1)= f(0)+f(1) = 0.0010 + 0.0098 = 0.0107.

Das bedeutet, die Nullhypothese könnte nur verworfen werden, wenn die Stichprobe 0 oder 1 Mann enthält.

9.2.6 Betarisiko und Effektgröße

Obwohl der Fehler 2. Art weniger gravierend erscheinen mag, ist es dennoch wünschenswert, das β\beta-Risiko gering zu halten. Andernfalls wird es schwierig sein, die Nullhypothese zu verwerfen (was meist das Ziel ist), selbst wenn es deutliche Anzeichen für ihre Falschheit gibt.

Das Problem bei parametrischen Tests besteht darin, dass die Alternativhypothese eine offene Hypothese ist, die keinen festen Wert für den zu testenden Parameter vorgibt. Um das β\beta-Risiko berechnen zu können, muss daher ein spezifischer Parameterwert angenommen werden.

Üblicherweise wird der Parameterwert auf die kleinste praktisch oder klinisch relevante Differenz festgelegt. Diese minimal als bedeutsam erachtete Differenz wird als Effektgröße bezeichnet und mit δ\delta (Delta) symbolisiert.

9.2.7 Teststärke (Power) eines Hypothesentests

Da das Forschungsziel meist in der Ablehnung der Nullhypothese besteht, ist oft besonders interessant, wie gut ein Test in der Lage ist, die Falschheit der Nullhypothese zu erkennen, wenn tatsächlich eine Differenz größer als δ\delta zwischen dem wahren Parameterwert und dem unter der Nullhypothese angenommenen Wert besteht.

Definition “Teststärke (Power)”

Die Teststärke (Power) eines Hypothesentests ist definiert als

Teststärke=P(Ablehnung H0|H1)=1−P(Annahme H0|H1)=1−β. \mbox{Teststärke} = P(\mbox{Ablehnung }H_0|H_1) = 1 - P(\mbox{Annahme }H_0|H_1) = 1-\beta.

Somit führt eine Verringerung des β\beta-Risikos zu einer Erhöhung der Teststärke.

Ein Test mit geringer Power ist meist wenig aussagekräftig, da er die Nullhypothese selbst dann nicht verwerfen kann, wenn es deutliche gegen sie sprechende Evidenzen gibt.

9.2.8 Berechnung des Betarisikos und der Teststärke 1−β1-\beta

Angenommen, beim Test des Männeranteils wird eine Abweichung von weniger als 10% vom Wert der Nullhypothese als nicht signifikant betrachtet, d.h. δ=0.1\delta=0.1.

Dies ermöglicht die Festlegung der Alternativhypothese:

H1:p=0,5−0,1=0,4. H_1:\ p=0,5-0,1=0,4.

Unter der Annahme, dass diese Hypothese zutrifft, folgt die Teststatistik einer Binomialverteilung X∼B(10,,0.4)X\sim B(10,,0.4).

In diesem Fall beträgt das β-Risiko für die zuvor definierten Annahme- und Ablehnungsbereiche:

β=P(Annahme H0|H1)=P(X≥2)=1−P(X<2)=1−0,0464=0,9536. \beta = P(\mbox{Annahme }H_0|H_1) = P(X\geq 2) = 1 - P(X<2) = 1-0,0464 = 0,9536.

Wie zu erkennen ist, handelt es sich um ein sehr hohes β\beta-Risiko, sodass die Teststärke nur:

1−β=1−0,9536=0,0464 1-\beta = 1-0,9536 = 0,0464

beträgt. Dies zeigt, dass dieser Test ungeeignet wäre, um Unterschiede von 10% im Parameterwert zu erkennen.

9.2.9 Zusammenhang zwischen β\beta-Risiko und Effektgröße δ\delta

Das β\beta-Risiko hängt direkt von der minimalen Differenz δ\delta ab, die im Vergleich zum unter der Nullhypothese angenommenen Parameterwert erkannt werden soll.

Beispiel

Wenn beim Test des Männeranteils eine Abweichung von mindestens 20% vom Wert der Nullhypothese erkannt werden soll, also δ=0.2\delta=0.2, dann würde die Alternativhypothese auf

H1:p=0.5−0.2=0.3 H_1:\ p=0.5-0.2=0.3

festgelegt werden.

Unter dieser Annahme folgt die Teststatistik einer Binomialverteilung X∼B(10,,0.3)X\sim B(10,,0.3).

In diesem Fall beträgt das β\beta-Risiko für die zuvor definierten Annahme- und Ablehnungsbereiche:

β=P(Annahme H0|H1)=P(X≥2)=1−P(X<2)=1−0,1493=0,8507 \beta = P(\mbox{Annahme }H_0|H_1) = P(X\geq 2) = 1 - P(X<2) = 1-0,1493 = 0,8507

sodass das β\beta-Risiko sinkt und die Teststärke steigt:

1−β=1−0,8507=0,1493 1-\beta = 1-0,8507 = 0,1493 wobei der Test damit immer noch eine geringe Power aufweist.

9.2.10 Beziehung zwischen α\alpha- und β\beta-Fehlern

Die Fehlerwahrscheinlichkeiten α\alpha und β\beta stehen in einem Spannungsverhältnis: Wenn die eine steigt, sinkt in der Regel die andere – und umgekehrt.

Beispiel

Wenn beim Test des Männeranteils ein Risiko von α=0.1\alpha=0.1 festgelegt wird, dann wäre der Ablehnungsbereich X≤2X\leq 2, da unter der Annahme der Nullhypothese X∼B(10,0.5)X\sim B(10, 0.5) gilt und

P(X≤2)=0.0547≤0.1=α. P(X\leq 2) = 0.0547 \leq 0.1=\alpha.

Für eine minimale Differenz von δ=0.1\delta=0.1 und unter Annahme der Alternativhypothese X∼B(10,0.4)X\sim B(10, 0.4) beträgt das β\beta-Risiko dann:

β=P(Annahme H0|H1)=P(X≥3)=1−P(X<3)=1−0,1673=0,8327 \beta = P(\mbox{Annahme }H_0|H_1) = P(X\geq 3) = 1- P(X<3) = 1-0,1673 = 0,8327

sodass die Teststärke nun auf

1−β=1−0,8327=0,1673 1-\beta = 1-0,8327 = 0,1673

angestiegen ist.

9.2.11 Zusammenhang zwischen Fehlerrisiken und Stichprobenumfang

Die Fehlerrisiken hängen ebenfalls vom Stichprobenumfang ab, denn mit zunehmender Stichprobengröße verringert sich die Streuung der Teststatistik und damit auch die Fehlerrisiken.

Beispiel

Wenn für den Test des Männeranteils eine Stichprobe des Umfangs 100 (statt 10) verwendet worden wäre, würde die Teststatistik unter Gültigkeit der Nullhypothese einer Binomialverteilung B(100,0.5)B(100 ,0.5) folgen. In diesem Fall wäre der Ablehnungsbereich X≤41X\leq 41, da

P(X≤41)=0,0443≤0,05=α. P(X\leq 41) = 0,0443 \leq 0,05 =\alpha.

Für δ=0.1\delta=0.1 und unter Annahme der Alternativhypothese X∼B(100,,0.4)X\sim B(100,,0.4) würde das β\beta-Risiko dann

β=P(Annahme H0|H1)=P(X≥42)=0.3775 \beta = P(\mbox{Annahme }H_0|H_1) = P(X\geq 42) = 0.3775

betragen, und die Teststärke hätte sich deutlich erhöht auf

1−β=1−0,3775=0,6225. 1-\beta = 1-0,3775 = 0,6225.

Dieser Test wäre wesentlich besser geeignet, um eine Abweichung von mindestens 10% vom unter der Nullhypothese angenommenen Parameterwert zu erkennen.

9.3 Power-Kurve

Die Teststärke (Power) eines Hypothesentests hängt vom unter der Alternativhypothese angenommenen Parameterwert ab und ist somit eine Funktion dieses Parameters:

Power(x)=P(Ablehnung H0|θ=x). \mbox{Power}(x)= P(\mbox{Ablehnung }H_0|\theta=x).

Diese Funktion gibt die Wahrscheinlichkeit an, die Nullhypothese für jeden möglichen Parameterwert zu verwerfen und wird als Power-Kurve oder Trennschärfekurve bezeichnet.

Wenn der genaue Parameterwert der Alternativhypothese nicht festgelegt werden kann, ist die Darstellung dieser Kurve besonders nützlich, um die Güte des Tests bei Nicht-Ablehnung der Nullhypothese zu beurteilen. Ebenso hilfreich ist sie, wenn nur eine begrenzte Stichprobengröße verfügbar ist, um die Sinnhaftigkeit der Untersuchung einzuschätzen.

Die Qualität eines Tests ist umso höher, je größer die Fläche unter der Power-Kurve ist.

Beispiel

Die zugehörige Power-Kurve des Tests zur Prüfung des Männeranteils in der Bevölkerung ist die folgende:

9.3.1 Der p-Wert eines Hypothesentests

Grundsätzlich wird die Nullhypothese verworfen, wenn die Schätzung der Teststatistik in den Ablehnungsbereich fällt. Jedoch haben wir deutlich mehr Vertrauen in die Ablehnung, wenn die Schätzung weit vom Annahmebereich entfernt liegt, als wenn sie nahe an der Grenze zwischen Annahme- und Ablehnungsbereich liegt.

Aus diesem Grund wird bei der Durchführung eines Tests zusätzlich die Wahrscheinlichkeit berechnet, mit der eine Abweichung auftritt, die mindestens so groß ist wie die beobachtete Differenz zwischen der Schätzung der Teststatistik und ihrem erwarteten Wert gemäß der Nullhypothese.

Definition “p-Wert”

In einem Hypothesentest wird für jede Schätzung x0x_0 der Teststatistik XX - abhängig von der Art des Tests - der pp-Wert definiert als:

zweiseitiger Test:2P(X≥x0|H0)einseitiger Test (links):P(X≤x0|H0)einseitiger Test (links):P(X≥x0|H0) \begin{array}{lc} \mbox{zweiseitiger Test}: & 2P(X\geq x_0|H_0) \\ \mbox{einseitiger Test (links)}: & P(X\leq x_0|H_0) \\ \mbox{einseitiger Test (links)}: & P(X\geq x_0|H_0) \end{array}

In gewisser Weise drückt der pp-Wert das Vertrauen in die Entscheidung aus, die Nullhypothese abzulehnen. Je näher der pp-Wert bei 11 liegt, desto größer ist das Vertrauen in die Annahme der Nullhypothese, und je näher er bei 00 liegt, desto größer ist das Vertrauen in ihre Ablehnung.

9.3.2 Entscheidungsregel eines Tests

Nach Festlegung des Risikos α\alpha kann die Entscheidungsregel für einen Test auch wie folgt formuliert werden:

Entscheidungsregel

Wenn p≤α→Ablehnung von H0Wenn p>α→Annehmen von H0. \begin{array}{ccc} \mbox{Wenn } p\leq \alpha & \rightarrow & \mbox{Ablehnung von } H_0 \\ \mbox{Wenn } p>\alpha & \rightarrow & \mbox{Annehmen von } H_0. \end{array}

Somit gibt der pp-Wert Auskunft darüber, bei welchen Signifikanzniveaus die Nullhypothese verworfen werden kann und bei welchen nicht.

Beispiel

Wenn beim Test des Männeranteils eine Stichprobe der Größe 10 gezogen wird und 1 Mann beobachtet wird, dann beträgt der p-Wert unter Annahme der Nullhypothese X∼B(10,,0.5)X\sim B(10,, 0.5):

p=P(X≤1)=0,0107 p = P(X\leq 1)= 0,0107

während bei einer Beobachtung von 0 Männern der p-Wert:

p=P(X≤0)=0,001 p = P(X\leq 0)= 0,001

beträgt. Im ersten Fall würde die Nullhypothese für ein Risiko α=0.05\alpha=0.05 verworfen werden, aber nicht für α=0.01\alpha=0.01, während sie im zweiten Fall auch für α=0.01\alpha=0.01 verworfen würde. Offensichtlich würde im zweiten Fall die Entscheidung zur Ablehnung der Nullhypothese mit größerer Sicherheit getroffen werden.

9.3.3 Vorgehensweise bei der Durchführung eines Hypothesentests

Formulierung der Nullhypothese H0H_0 und Alternativhypothese H1H_1

Festlegung der gewünschten Risiken α\alpha und β\beta

Auswahl der geeigneten Teststatistik

Bestimmung der klinisch relevanten Mindestdifferenz (Effektgröße) δ\delta

Berechnung des erforderlichen Stichprobenumfangs nn

Abgrenzung von Annahme- und Ablehnungsbereich

Ziehung einer Stichprobe des Umfangs nn

Berechnung der Teststatistik für die Stichprobe

Ablehnung der Nullhypothese, wenn der Schätzwert in den Ablehnungsbereich fällt oder der pp-Wert kleiner als α\alpha ist; andernfalls Beibehaltung der Nullhypothese

9.4 Wichtigste parametrische Tests

Anpassungstests (Goodness-of-Fit-Tests):

Test für den Mittelwert einer Normalverteilung mit bekannter Varianz

Test für den Mittelwert einer Normalverteilung mit unbekannter Varianz

Test für den Mittelwert einer Population mit unbekannter Varianz bei großen Stichproben

Test für die Varianz einer normalverteilten Population

Test für einen Anteilswert in einer Population

Homogenitätstests:

Vergleichstest für Mittelwerte zweier Normalverteilungen mit bekannten Varianzen

Vergleichstest für Mittelwerte zweier Normalverteilungen mit unbekannten, aber gleichen Varianzen

Vergleichstest für Mittelwerte zweier Normalverteilungen mit unbekannten und ungleichen Varianzen

Vergleichstest für Varianzen zweier Normalverteilungen

Vergleichstest für Anteilswerte zweier Populationen

9.5 Test für den Mittelwert einer Normalverteilung mit bekannter Varianz

Gegeben sei eine Zufallsvariable XX mit folgenden Eigenschaften:

Normalverteilung X∼N(μ,σ)X\sim N(\mu,\sigma)

Unbekannter Mittelwert μ\mu, aber bekannte Varianz σ2\sigma^2

Testproblem:

H0:μ=μ0H1:μ≠μ0 \begin{aligned} H_0 &: \mu=\mu_0 \\ H_1 &: \mu\neq \mu_0 \end{aligned}

Teststatistik:

x‾∼N(μ0,σn)⇒Z=x‾−μ0σ/n∼N(0,1). \bar x\sim N\left(\mu_0,\frac{\sigma}{\sqrt{n}}\right) \Rightarrow Z=\frac{\bar x-\mu_0}{\sigma/\sqrt{n}}\sim N(0,1).

Annahmebereich: zα/2<Z<z1−α/2z_{\alpha/2}< Z < z_{1-\alpha/2}

Ablehnungsbereich: Z≤zα/2Z\leq z_{\alpha/2} oder Z≥z1−α/2Z\geq z_{1-\alpha/2}

9.6 Test für den Mittelwert einer normalverteilten Grundgesamtheit mit unbekannter Varianz

Sei XX eine Zufallsvariable, die die folgenden Bedingungen erfüllt:

Ihre Verteilung ist normal X∼N(μ,σ)X\sim N(\mu,\sigma).

Sowohl ihr Mittelwert μ\mu als auch ihre Varianz σ2\sigma^2 sind unbekannt.

Testproblem:

H0:μ=μ0H1:μ≠μ0 \begin{aligned} H_0 &: \mu=\mu_0 \\ H_1 &: \mu\neq \mu_0 \end{aligned}

Teststatistik: Unter Verwendung der Stichprobenvarianz als Schätzer der Populationsvarianz ergibt sich

x‾∼N(μ0,σn)⇒T=x‾−μ0ŝ/n∼T(n−1). \bar x\sim N\left(\mu_0,\frac{\sigma}{\sqrt{n}}\right) \Rightarrow T=\frac{\bar x-\mu_0}{\hat s/\sqrt{n}}\sim T(n-1).

Annahmebereich: tn−1α/2<T<tn−11−α/2t^{n-1}{\alpha/2} < T < t^{n-1}{1-\alpha/2}.

Ablehnungsbereich: T≤tn−1α/2T\leq t^{n-1}{\alpha/2} und T≥tn−11−α/2T\geq t^{n-1}{1-\alpha/2}.

Beispiel

In einer Gruppe von Studierenden soll getestet werden, ob die durchschnittliche Note in Statistik höher als 5 Punkte ist. Dazu wird die folgende Stichprobe entnommen:

6,3−5,4−4,1−5,0−8,2−7,6−6,4−5,6−4,3−5,2 6,3 - 5,4 - 4,1 - 5,0 - 8,2 - 7,6 - 6,4 - 5,6 - 4,3 - 5,2

Der formulierte Test lautet:

H0:μ=5H1:μ>5 H_0:\ \mu=5 \quad H_1:\ \mu>5

Für die Durchführung des Test ergibt sich:

x‾=6.3+⋯+5.210=58.110=5.81\bar x = \frac{6.3+\cdots+5.2}{10}=\frac{58.1}{10}=5.81 Punkte.

ŝ2=(6.3−5.81)2+⋯+(5.2−5.81)29=15.9499=1.7721\hat s^2 = \frac{(6.3-5.81)^2+\cdots+(5.2-5.81)^2}{9} = \frac{15.949}{9}=1.7721 Punkte2^2, und ŝ=1.3312\hat s=1.3312 Punkte.

Die Teststatistik beträgt

T=x‾−μ0ŝ/n=5,81−51,3312/10=1,9246. T=\frac{\bar x-\mu_0}{\hat s/\sqrt{n}} = \frac{5,81-5}{1,3312/\sqrt{10}}= 1,9246.

Der pp-Wert des Tests ist P(T(9)≥1,9246)=0,04323P(T(9)\geq 1,9246) = 0,04323, was bedeutet, dass die Nullhypothese für α=0.05\alpha=0.05 abgelehnt würde.

Der Ablehnungsbereich ist

T=x‾−51,3312/10≥t0,959=1,8331⇔x‾≥5+1,83311,331210=5,7717 T=\frac{\bar x-5}{1,3312/\sqrt{10}} \geq t^9_{0,95} = 1,8331 \Leftrightarrow \bar x \geq 5+1,8331\frac{1,3312}{\sqrt 10} = 5,7717 sodass die Nullhypothese abgelehnt wird, wenn der Stichprobenmittelwert größer als 5,77175,7717 ist, andernfalls wird sie angenommen.

Unter der Annahme, dass in der Praxis ein minimaler wichtiger Unterschied in der Durchschnittsnote ein Punkt δ=1\delta=1 wäre, dann unter der Alternativhypothese H1:μ=6H_1:\mu=6, wenn die Nullhypothese abgelehnt würde, wäre das Risiko β\beta

β=P(T(9)≤5,7717−61,331210)=P(T(9)≤−0,5424)=0,3004 \beta = P\left(T(9)\leq \frac{5,7717-6}{1,3312\sqrt 10}\right) = P(T(9)\leq -0,5424) = 0,3004

sodass die Teststärke zur Erkennung einer Differenz von δ=1\delta=1 Punkt 1−β=1−0,3004=0,69961-\beta=1-0,3004 = 0,6996 beträgt.

9.6.1 Bestimmung des Stichprobenumfangs für einen Test des Mittelwerts

Es wurde gezeigt, dass für ein Risiko α\alpha der Ablehnungsbereich

T=x‾−μ0ŝ/n≥t1−αn−1≈z1−α für n≥30. T=\frac{\bar x-\mu_0}{\hat s/\sqrt{n}} \geq t^{n-1}_{1-\alpha} \approx z_{1-\alpha}\quad \mbox{ für } n\geq 30.

oder äquivalent

x‾≥μ0+z1−αŝn. \bar x \geq \mu_0+z_{1-\alpha}\frac{\hat s}{\sqrt n}.

Wenn die Effektgröße δ\delta beträgt, ergibt sich für eine Alternativhypothese H1:μ=μ0+δH_1:\mu=\mu_0+\delta das Risiko β\beta zu

β=P(Z<μ0+z1−αŝn−(μ0+δ)ŝn)=P(Z<z1−αŝn−δŝn). \beta = P\left(Z< \frac{\mu_0+z_{1-\alpha}\frac{\hat s}{\sqrt n}-(\mu_0+\delta)}{\frac{\hat s}{\sqrt n}} \right) = P\left(Z< \frac{z_{1-\alpha}\frac{\hat s}{\sqrt n}-\delta}{\frac{\hat s}{\sqrt n}} \right).

sodass

zβ=z1−αŝn−δŝn⇔δ=(z1−α−zβ)ŝn⇔n=(z1−α−zβ)2ŝ2δ2=(zα+zβ)2ŝ2δ2. z_\beta = \frac{z_{1-\alpha}\frac{\hat s}{\sqrt n}-\delta}{\frac{\hat s}{\sqrt n}} \Leftrightarrow \delta = (z_{1-\alpha}-z_\beta)\frac{\hat s}{\sqrt n} \Leftrightarrow n = (z_{1-\alpha}-z_\beta)^2\frac{\hat s^2}{\delta^2} = (z_\alpha+z_\beta)^2\frac{\hat s^2}{\delta^2}.

Beispiel

Im vorherigen Beispiel wurde gezeigt, dass die Teststärke zur Erkennung einer Differenz in der Durchschnittsnote von 1 Punkt bei 69,9669,96% lag.

Um die Teststärke auf 9090% zu erhöhen, wie viele Schüler müssten in die Stichprobe aufgenommen werden?

Da eine Teststärke von 1−β=0,91-\beta=0,9 gewünscht ist, beträgt das Risiko β=0.1\beta=0.1 und aus der Tabelle der Standardnormalverteilung ergibt sich zβ=z0,1=1,2816z_\beta = z_{0,1}=1,2816.

Unter Anwendung der obigen Formel zur Bestimmung des erforderlichen Stichprobenumfangs ergibt sich

n=(zα+zβ)2ŝ2δ2=(1,6449+1,2816)21,772112=15,18, n = (z_\alpha+z_\beta)^2\frac{\hat s^2}{\delta^2} = (1,6449+1,2816)^2\frac{1,7721}{1^2} = 15,18,

sodass mindestens 16 Schüler hätten untersucht werden müssen.

9.7 Test für den Mittelwert einer Grundgesamtheit mit unbekannter Varianz und großen Stichproben

Sei XX eine Zufallsvariable, die die folgenden Bedingungen erfüllt:

Ihre Verteilung kann beliebig sein.

Sowohl ihr Mittelwert μ\mu als auch ihre Varianz σ2\sigma^2 sind unbekannt.

Testproblem:

H0:μ=μ0H1:μ≠μ0 \begin{aligned} H_0 &: \mu=\mu_0 \\ H_1 &: \mu\neq \mu_0 \end{aligned}

Teststatistik: Unter Verwendung der Stichprobenvarianz als Schätzer der Populationsvarianz und dank des zentralen Grenzwertsatzes (da große Stichproben n≥30n\geq 30 vorliegen) gilt:

x‾∼N(μ0,σn)⇒Z=x‾−μ0ŝ/n∼N(0,1). \bar x\sim N\left(\mu_0,\frac{\sigma}{\sqrt{n}}\right) \Rightarrow Z=\frac{\bar x-\mu_0}{\hat s/\sqrt{n}}\sim N(0,1).

Annahmebereich: −zα/2<Z<zα/2-z_{\alpha/2}< Z < z_{\alpha/2}.

Ablehnungsbereich: Z≤−zα/2Z\leq -z_{\alpha/2} y Z≥zα/2Z\geq z_{\alpha/2}.

9.8 Test für die Varianz einer normalverteilten Grundgesamtheit

Sei XX eine Zufallsvariable, die folgende Annahmen erfüllt:

Ihre Verteilung ist normal

Sowohl ihr Mittelwert μ\mu als auch ihre Varianz σ2\sigma^2 sind unbekannt

Testproblem:

H0:σ2=σ02H1:σ2≠σ02 \begin{aligned} H_0 &: \sigma^2 = \sigma_0^2 \\ H_1 &: \sigma^2 \neq \sigma_0^2 \end{aligned}

Teststatistik: Ausgehend von der Stichprobenvarianz als Schätzer für die Populationsvarianz gilt:

J=nS2σ02=(n−1)Ŝ2σ02∼χ2(n−1), J=\frac{nS^2}{\sigma_0^2} = \frac{(n-1)\hat{S}^2}{\sigma_0^2}\sim \chi^2(n-1),

die einer Chi-Quadrat-Verteilung mit n−1n-1 Freiheitsgraden folgt.

Annahmebereich: χα/2n−1<J<χ1−α/2n−1\chi_{\alpha/2}^{n-1} < J < \chi_{1-\alpha/2}^{n-1}

Ablehnungsbereich: J≤χα/2n−1J\leq \chi_{\alpha/2}^{n-1} oder J≥χ1−α/2n−1J\geq \chi_{1-\alpha/2}^{n-1}

Beispiel

In einer Schülergruppe soll getestet werden, ob die Standardabweichung der Noten größer als 1 Punkt ist. Dazu wird folgende Stichprobe erhoben:

6,3−5,4−4,1−5,0−8,2−7,6−6,4−5,6−4,3−5,2 6,3 - 5,4 - 4,1 - 5,0 - 8,2 - 7,6 - 6,4 - 5,6 - 4,3 - 5,2

Es wird folgender Test durchgeführt:

H0:σ=1H1:σ>1 H_0: \sigma=1 \quad H_1: \sigma>1

Für die Testdurchführung ergibt sich:

x‾=6.3+⋯+5,210=58,110=5,81\bar x = \frac{6.3+\cdots+5,2}{10}=\frac{58,1}{10}=5,81 Punkte

ŝ2=(6,3−5,81)2+⋯+(5,2−5,81)29=15,9499=1,7721\hat s^2 = \frac{(6,3-5,81)^2+\cdots+(5,2-5,81)^2}{9} = \frac{15,949}{9}=1,7721 Punkte2^2

Die Teststatistik beträgt:

J=(n−1)Ŝ2σ02=9⋅1,772112=15,949, J= \frac{(n-1)\hat{S}^2}{\sigma_0^2} = \frac{9\cdot1,7721}{1^2} = 15,949,

und der pp-Wert des Tests ist P(χ(9)≥15,949)=0,068P(\chi(9)\geq 15,949) = 0,068, sodass die Nullhypothese für α=0.05\alpha=0.05 nicht verworfen werden kann.

9.9 Test für einen Anteilswert in einer Grundgesamtheit

Sei pp der Anteil von Individuen in einer Population, die eine bestimmte Eigenschaft aufweisen.

Testproblem:

H0:p=p0H1:p≠p0 \begin{aligned} H_0 &: p=p_0 \\ H_1 &: p\neq p_0 \end{aligned}

Teststatistik: Die Zufallsvariable, die die Anzahl der Individuen mit der Eigenschaft in einer Zufallsstichprobe des Umfangs nn zählt, folgt einer Binomialverteilung X∼B(n,p0)X\sim B(n,p_0). Gemäß dem zentralen Grenzwertsatz gilt für große Stichproben (np≥5np\geq 5 und n(1−p)≥5n(1-p)\geq 5) die Approximation X∼N(np0,np0(1−p0))X\sim N(np_0,\sqrt{np_0(1-p_0)}), und somit:

p̂=Xn∼N(p0,p0(1−p0)n)⇒Z=p̂−p0p0(1−p0)/n∼N(0,1). \hat{p}=\frac{X}{n} \sim N\left(p_0,\sqrt{\frac{p_0(1-p_0)}{n}}\right) \Rightarrow Z = \frac{\hat p-p_0}{\sqrt{p_0(1-p_0)/n}}\sim N(0,1).

Annahmebereich: zα/2<Z<z1−α/2z_{\alpha/2}< Z < z_{1-\alpha/2}.

Ablehnungsbereich: Z≤zα/2Z\leq z_{\alpha/2} oder Z≥z1−α/2Z\geq z_{1-\alpha/2}.

Beispiel

In einer Gruppe von Studierenden soll untersucht werden, ob die Durchfallquote über 50% liegt. Dazu wird eine Stichprobe von 80 Studierenden gezogen, von denen 50 bestanden haben.

Das Testproblem lautet:

H0:p=0.5H1:p>0.5 \begin{aligned} H_0\ &: p=0.5 \\ H_1\ &: p>0.5 \end{aligned}

Für die Testdurchführung ergibt sich p̂=50/80=0,625\hat p= 50/80 = 0,625. Da die Approximationsbedingungen np̂=80⋅0,625=50≥5n\hat p=80\cdot 0,625 = 50\geq 5 und n(1−p̂)=80(1−0,625)=30≥5n(1-\hat p)=80(1-0,625)=30\geq 5 erfüllt sind, berechnet sich die Teststatistik zu:

Z=p̂−p0p0(1−p0)/n=0,625−0.50,5(1−0,5)/80=2,2361. Z = \frac{\hat p-p_0}{\sqrt{p_0(1-p_0)/n}} = \frac{0,625-0.5}{\sqrt{0,5(1-0,5)/80}} = 2,2361.

Der p-Wert des Tests beträgt P(Z≥2,2361)=0,0127P(Z\geq 2,2361)=0,0127, sodass die Nullhypothese für α=0,05\alpha=0,05 verworfen werden kann. Es lässt sich schließen, dass die Bestehensquote signifikant über 50% liegt.

9.10 Vergleichstest für Mittelwerte zweier Normalverteilungen mit bekannten Varianzen

Seien X1X_1 und X2X_2 zwei Zufallsvariablen, die folgende Bedingungen erfüllen:

Ihre Verteilung ist normal: X1∼N(μ1,σ1)X_1\sim N(\mu_1,\sigma_1) und X2∼N(μ2,σ2)X_2\sim N(\mu_2,\sigma_2)

Ihre Mittelwerte μ1\mu_1 und μ2\mu_2 sind unbekannt, aber ihre Varianzen σ12\sigma^2_1 und σ22\sigma^2_2 sind bekannt.

Testproblem:

H0:μ1=μ2H1:μ1≠μ2 \begin{aligned} H_0 &:\ \mu_1=\mu_2 \\ H_1 &:\ \mu_1\neq \mu_2 \end{aligned}

Teststatistik:

X‾1∼N(μ1,σ1n1)X‾2∼N(μ2,σ2n2)}⇒ \left. \begin{array}{l} \bar{X}_1\sim N\left(\mu_1,\frac{\sigma_1}{\sqrt{n_1}} \right) \\ \bar{X}_2\sim N\left(\mu_2,\frac{\sigma_2}{\sqrt{n_2}} \right) \end{array} \right\} \Rightarrow

⇒X‾1−X‾2∼N(μ1−μ2,σ12n1+σ22n2)⇒Z=X‾1−X‾2σ12n1+σ22n2∼N(0,1). \Rightarrow \bar{X}_1-\bar{X}_2 \sim N\left(\mu_1-\mu_2,\sqrt{\frac{\sigma^2_1}{n_1}+\frac{\sigma^2_2}{n_2}}\right) \Rightarrow Z= \frac{\bar{X}_1-\bar{X}_2}{\sqrt{\frac{\sigma^2_1}{n_1}+\frac{\sigma^2_2}{n_2}}}\sim N(0,1).

Annahmebereich: −zα/2<Z<zα/2-z_{\alpha/2}< Z < z_{\alpha/2}

Ablehnungsbereich: Z≤−zα/2Z\leq -z_{\alpha/2} oder Z≥zα/2Z\geq z_{\alpha/2}

9.11 Vergleichstest für Mittelwerte zweier Normalverteilungen mit unbekannten aber gleichen Varianzen

Seien X1X_1 und X2X_2 zwei Zufallsvariablen, die folgende Bedingungen erfüllen:

Ihre Verteilung ist normal: X1∼N(μ1,σ1)X_1\sim N(\mu_1,\sigma_1) und X2∼N(μ2,σ2)X_2\sim N(\mu_2,\sigma_2)

Ihre Mittelwerte μ1\mu_1 und μ2\mu_2 sind unbekannt und ihre Varianzen ebenfalls, aber sie sind gleich: σ12=σ22=σ2\sigma^2_1=\sigma^2_2=\sigma^2

Testproblem:

H0:μ1=μ2H1:μ1≠μ2 \begin{aligned} H_0 &:\ \mu_1=\mu_2 \\ H_1 &:\ \mu_1\neq \mu_2 \end{aligned}

Teststatistik:

X‾1−X‾2∼N(μ1−μ2,σn1+n2n1n2)n1S12+n2S22σ2∼χ2(n1+n2−2)}⇒T=X‾1−X‾2Ŝpn1+n2n1n2∼T(n1+n2−2). \left. \begin{array}{l} \bar{X}_1-\bar{X}_2\sim N\left(\mu_1-\mu_2,\sigma\sqrt{\frac{n_1+n_2}{n_1n_2}} \right) \\ \displaystyle \frac{n_1S_1^2+n_2S_2^2}{\sigma^2} \sim \chi^2(n_1+n_2-2) \end{array} \right\} \Rightarrow T=\frac{\bar{X}_1-\bar{X}_2}{\hat{S}_p\sqrt{\frac{n_1+n_2}{n_1n_2}}} \sim T(n_1+n_2-2).

Annahmebereich: −tα/2n1+n2−2<T<tα/2n1+n2−2-t_{\alpha/2}^{n_1+n_2-2} < T < t_{\alpha/2}^{n_1+n_2-2}

Ablehnungsbereich: T≤−tα/2n1+n2−2T\leq -t_{\alpha/2}^{n_1+n_2-2} oder T≥tα/2n1+n2−2T\geq t_{\alpha/2}^{n_1+n_2-2}

Beispiel

Es soll die akademische Leistung zweier Schülergruppen (10 bzw. 12 Schüler) mit unterschiedlichen Lehrmethoden verglichen werden. Dazu werden folgende Prüfungsergebnisse erzielt:

X1:4−6−8−7−7−6−5−2−5−3X2:8−9−5−3−8−7−8−6−8−7−5−7 \begin{aligned} X_1 &: 4 - 6 - 8 - 7 - 7 - 6 - 5 - 2 - 5 - 3 \\ X_2 &: 8 - 9 - 5 - 3 - 8 - 7 - 8 - 6 - 8 - 7 - 5 - 7 \end{aligned}

Das Testproblem lautet:

H0:μ1=μ2H1:μ1≠μ2 H_0: \mu_1=\mu_2\qquad H_1: \mu_1\neq \mu_2

Für die Testdurchführung ergibt sich:

X‾1=4+⋯+310=5.3\bar{X}_1 = \frac{4+\cdots +3}{10}=5.3 Punkte und X‾2=8+⋯+712=6.75\bar{X}_2=\frac{8+\cdots +7}{12}=6.75 Punkte

S12=42+⋯+3210−5.32=3.21S_1^2= \frac{4^2+\cdots + 3^2}{10}-5.3^2=3.21 Punkte2^2 und S22=82+⋯+3212−6.752=2.69S_2^2= \frac{8^2+\cdots +3^2}{12}-6.75^2=2.69 Punkte2^2

Ŝp2=10⋅3.21+12⋅2.687510+12−2=3.2175\hat{S}_p^2 = \frac{10\cdot 3.21+12\cdot 2.6875}{10+12-2}= 3.2175 Punkte2^2, und Ŝp=1.7937\hat S_p=1.7937

Unter Annahme gleicher Varianzen beträgt die Teststatistik:

T=X‾1−X‾2Ŝpn1+n2n1n2=5,3−6,751,793710+1210⋅12=−1,8879 T=\frac{\bar{X}_1-\bar{X}_2}{\hat{S}_p\sqrt{\frac{n_1+n_2}{n_1n_2}}} = \frac{5,3-6,75}{1,7937\sqrt{\frac{10+12}{10\cdot 12}}} = -1,8879

Der pp-Wert des Tests ist 2P(T(20)≤−1,8879)=0,07362P(T(20)\leq -1,8879) = 0,0736, sodass die Nullhypothese nicht verworfen werden kann. Es gibt keine signifikanten Unterschiede zwischen den Durchschnittsnoten der Gruppen.

9.12 Vergleichstest für Mittelwerte zweier Normalverteilungen mit unbekannten und ungleichen Varianzen

Seien X1X_1 und X2X_2 zwei Zufallsvariablen, die folgende Bedingungen erfüllen:

Ihre Verteilung ist normal: X1∼N(μ1,σ1)X_1\sim N(\mu_1,\sigma_1) und X2∼N(μ2,σ2)X_2\sim N(\mu_2,\sigma_2)

Ihre Mittelwerte μ1\mu_1, μ2\mu_2 und Varianzen σ12\sigma_1^2, σ22\sigma_2^2 sind unbekannt, wobei σ12≠σ22\sigma^2_1 \neq \sigma^2_2

Testproblem:

H0:μ1=μ2H1:μ1≠μ2 \begin{aligned} H_0 &:\ \mu_1=\mu_2 \\ H_1 &:\ \mu_1\neq \mu_2 \end{aligned}

Teststatistik:

T=(X‾1−X‾2)−(μ1−μ2)Ŝ12n1+Ŝ22n2∼T(g), T=\frac{(\bar{X}_1-\bar{X}_2)-(\mu_1-\mu_2)}{\sqrt{\frac{\hat{S}^2_1}{n_1}+\frac{\hat{S}^2_2}{n_2}}} \sim T(g),

mit g=n1+n2−2−Δg=n_1+n_2-2-\Delta und

Δ=(n2−1n1Ŝ12−n1−1n2Ŝ22)2n2−1n12Ŝ14+n1−1n22Ŝ24. \Delta = \frac{(\frac{n_2-1}{n_1}\hat{S}_1^2-\frac{n_1-1}{n_2}\hat{S}_2^2)^2}{\frac{n_2-1}{n_1^2}\hat{S}_1^4+\frac{n_1-1}{n_2^2}\hat{S}_2^4}.

Annahmebereich: −tα/2g<T<tα/2g-t_{\alpha/2}^{g} < T < t_{\alpha/2}^{g}

Ablehnungsbereich: T≤−tα/2gT\leq -t_{\alpha/2}^{g} oder T≥tα/2gT\geq t_{\alpha/2}^{g}

9.13 Vergleichstest für Varianzen zweier Normalverteilungen

Seien X1X_1 und X2X_2 zwei Zufallsvariablen mit:

Normalverteilung: X1∼N(μ1,σ1)X_1\sim N(\mu_1,\sigma_1) und X2∼N(μ2,σ2)X_2\sim N(\mu_2,\sigma_2)

Unbekannten Mittelwerten μ1\mu_1, μ2\mu_2 und Varianzen σ12\sigma_1^2, σ22\sigma_2^2

Testproblem:

H0:σ1=σ2H1:σ1≠σ2 \begin{aligned} H_0 &: \sigma_1=\sigma_2 \\ H_1 &: \sigma_1\neq \sigma_2 \end{aligned}

Teststatistik:

(n1−1)Ŝ12σ12∼χ2(n1−1)(n2−1)Ŝ22σ22∼χ2(n2−1)}⇒F=(n1−1)Ŝ12σ12n1−1(n2−1)Ŝ22σ22n2−1=σ22σ12Ŝ12Ŝ22∼F(n1−1,n2−1). \left. \begin{array}{l} \displaystyle \frac{(n_1-1)\hat{S}_1^2}{\sigma_1^2}\sim \chi^2(n_1-1) \\ \displaystyle \frac{(n_2-1)\hat{S}_2^2}{\sigma_2^2}\sim \chi^2(n_2-1) \end{array} \right\} \Rightarrow F= \frac{\frac{\frac{(n_1-1)\hat{S}_1^2}{\sigma_1^2}}{n_1-1}}{\frac{\frac{(n_2-1)\hat{S}_2^2}{\sigma_2^2}}{n_2-1}} = \frac{\sigma_2^2}{\sigma_1^2}\frac{\hat{S}_1^2}{\hat{S}_2^2}\sim F(n_1-1,n_2-1).

Annahmebereich: Fα/2n1−1,n2−1<F<F1−α/2n1−1,n2−1F_{\alpha/2}^{n_1-1,n_2-1} < F < F_{1-\alpha/2}^{n_1-1,n_2-1}

Ablehnungsbereich: F≤Fα/2n1−1,n2−1F\leq F_{\alpha/2}^{n_1-1,n_2-1} oder F≥F1−α/2n1−1,n2−1F\geq F_{1-\alpha/2}^{n_1-1,n_2-1}

Beispiel

Fortsetzung des Beispiels mit den Punktzahlen zweier Gruppen:

X1:4−6−8−7−7−6−5−2−5−3X2:8−9−5−3−8−7−8−6−8−7−5−7 \begin{aligned} X_1 &: 4 - 6 - 8 - 7 - 7 - 6 - 5 - 2 - 5 - 3 \\ X_2 &: 8 - 9 - 5 - 3 - 8 - 7 - 8 - 6 - 8 - 7 - 5 - 7 \end{aligned}

Für den Varianzvergleich lautet das Testproblem:

H0:σ1=σ2H1:σ1≠σ2 H_0: \sigma_1=\sigma_2\qquad H_1: \sigma_1\neq \sigma_2

Berechnungen:

X‾1=4+⋯+310=5,3\bar{X}_1 = \frac{4+\cdots +3}{10}=5,3 Punkte

X‾2=8+⋯+712=6,75\bar{X}_2=\frac{8+\cdots +7}{12}=6,75 Punkte

Ŝ12=(4−5,3)2+⋯+(3−5,3)29=3,5667\hat{S}_1^2= \frac{(4-5,3)^2+\cdots + (3-5,3)^2}{9}=3,5667 Punkte2^2

Ŝ22=(8−6,75)2+⋯+(3−6,75)211=2,9318\hat{S}_2^2= \frac{(8-6,75)^2+\cdots + (3-6,75)^2}{11}=2,9318 Punkte2^2

Teststatistik:

F=Ŝ12Ŝ22=3,56672,9318=1,2165 F = \frac{\hat{S}_1^2}{\hat{S}_2^2} = \frac{3,5667}{2,9318}=1,2165

Der p-Wert beträgt 2P(F(9,11)≤1.2165)=0.74682P(F(9,11)\leq 1.2165)=0.7468, sodass die Nullhypothese gleicher Varianzen beibehalten wird.

9.14 Vergleichstest von Anteilen zweier Populationen

Seien p1p_1 und p2p_2 die jeweiligen Anteile von Individuen, die ein bestimmtes Merkmal in zwei Populationen aufweisen.

Testproblem:

H0:p1=p2H1:p1≠p2 H_0: p_1=p_2\qquad H_1: p_1\neq p_2

Teststatistik: Die Zufallsvariablen, die die Anzahl der Individuen mit dem Merkmal in zwei unabhängigen Stichproben der Größen n1n_1 und n2n_2 messen, folgen binomialverteilten Zufallsvariablen X1∼B(n1,p1)X_1\sim B(n_1,p_1) und X2∼B(n2,p2)X_2\sim B(n_2,p_2). Wenn die Stichproben groß sind (nipi≥5n_ip_i\geq 5 und ni(1−pi)≥5n_i(1-p_i)\geq 5), folgt gemäß dem zentralen Grenzwertsatz:

X1∼N(np1,np1(1−p1))undX2∼N(np2,np2(1−p2)) X_1\sim N(np_1,\sqrt{np_1(1-p_1)})\quad \text{und} \quad X_2\sim N(np_2,\sqrt{np_2(1-p_2)})

und es gilt:

p̂1=X1n1∼N(p1,p1(1−p1)n1)p̂2=X2n2∼N(p2,p2(1−p2)n2)}⇒Z=p̂1−p2̂p1(1−p1)n1+p2(1−p2)n2∼N(0,1) \left. \begin{array}{l} \hat{p}_1=\frac{X_1}{n_1} \sim N\left(p_1,\sqrt{\frac{p_1(1-p_1)}{n_1}}\right) \\ \hat{p}_2=\frac{X_2}{n_2} \sim N\left(p_2,\sqrt{\frac{p_2(1-p_2)}{n_2}}\right) \end{array} \right\} \Rightarrow Z = \frac{\hat{p}_1-\hat{p_2}}{\sqrt{\frac{p_1(1-p_1)}{n_1}+\frac{p_2(1-p_2)}{n_2}}}\sim N(0,1)

Annahmebereich: zα/2<Z<z1−α/2z_{\alpha/2}< Z < z_{1-\alpha/2}

Ablehnungsbereich: z≤zα/2z\leq z_{\alpha/2} und z≥z1−α/2z\geq z_{1-\alpha/2}

Beispiel

Es soll geprüft werden, ob sich die Bestehensquoten zweier Gruppen unterscheiden, die unterschiedliche Lehrmethoden durchlaufen haben. In der ersten Gruppe haben 24 von insgesamt 40 Schülern bestanden, in der zweiten Gruppe 48 von 60.

Der formulierte Test lautet:

H0:p1=p2H1:p1≠p2 H_0:\ p_1=p_2\qquad H_1:\ p_1\neq p_2

Für den Test ergibt sich: p̂1=24/40=0.6\hat{p}_1=24/40= 0.6 und p̂2=48/60=0.8\hat{p}_2=48/60=0.8. Damit sind die Voraussetzungen erfüllt:

n1p̂1=40⋅0.6=24≥5n_1\hat{p}_1=40\cdot 0.6=24\geq 5,

n1(1−p̂1)=40(1−0.6)=16≥5n_1(1-\hat{p}_1)=40(1-0.6)=16\geq 5,

n2p̂2=60⋅0.8=48≥5n_2\hat{p}_2=60\cdot 0.8=48\geq 5 und

n2(1−p̂2)=60(1−0.8)=12≥5n_2(1-\hat{p}_2)=60(1-0.8)=12\geq 5.

Die Teststatistik ergibt:

Z=p̂1−p2̂p1(1−p1)n1+p2(1−p2)n2=0,6−0,80,6(1−0,6)40+0,8(1−0,8)60=−2,1483 Z = \frac{\hat{p}_1-\hat{p_2}}{\sqrt{\frac{p_1(1-p_1)}{n_1}+\frac{p_2(1-p_2)}{n_2}}} = \frac{0,6-0,8}{\sqrt{\frac{0,6(1-0,6)}{40}+\frac{0,8(1-0,8)}{60}}} = -2,1483

und der pp-Wert des Tests ist 2P(Z≤−2,1483)=0,03172P(Z\leq -2,1483)= 0,0317, sodass die Nullhypothese bei einem Signifikanzniveau von α=0,05\alpha=0,05 verworfen wird. Es wird also geschlossen, dass es einen Unterschied zwischen den Gruppen gibt.

9.15 Durchführung von Tests mittels Konfidenzintervallen

Eine interessante Alternative zur Durchführung eines Hypothesentests

H0:θ=θ0H1:θ≠θ0 H_0:\ \theta=\theta_0\qquad H_1:\ \theta\neq \theta_0

mit einem Signifikanzniveau α\alpha ist die Berechnung eines Konfidenzintervalls für θ\theta mit einem Vertrauensniveau von 1−α1-\alpha. Dieses Intervall kann als die Menge akzeptabler Hypothesen für θ\theta interpretiert werden. Befindet sich θ0\theta_0 außerhalb des Intervalls, erscheint die Nullhypothese wenig glaubwürdig und kann verworfen werden. Befindet sich θ0\theta_0 hingegen innerhalb des Intervalls, wird die Hypothese als plausibel betrachtet und beibehalten.

Bei einem einseitigen Test mit der Alternativhypothese “kleiner” wird θ0\theta_0 mit der oberen Grenze eines Konfidenzintervalls für θ\theta mit einem Vertrauensniveau von 1−2α1-2\alpha verglichen. Ist der Test einseitig mit der Alternativhypothese “größer”, so wird θ0\theta_0 mit der unteren Grenze des Intervalls verglichen.

Testart | Konfidenzintervall | Entscheidung
Zweiseitig | [li,ls][l_i,l_s] mit Vertrauensniveau 1−α1-\alpha | Verwerfe H0H_0 wenn θ0∉[li,ls]\theta_0\not \in [l_i,l_s]
Einseitig (kleiner) | [−∞,ls][-\infty,l_s] mit Vertrauensniveau 1−2α1-2\alpha | Verwerfe H0H_0 wenn θ0≥ls\theta_0\geq l_s
Einseitig (größer) | [li,∞][l_i,\infty] mit Vertrauensniveau 1−2α1-2\alpha | Verwerfe H0H_0 wenn θ0≤li\theta_0\leq l_i

Beispiel

Zurück zum Test, der den schulischen Erfolg zweier Schülergruppen vergleicht. Diese haben folgende Punktzahlen erreicht:

X1:4−6−8−7−7−6−5−2−5−3X2:8−9−5−3−8−7−8−6−8−7−5−7 \begin{aligned} X_1 &: 4 - 6 - 8 - 7 - 7 - 6 - 5 - 2 - 5 - 3 \\ X_2 &: 8 - 9 - 5 - 3 - 8 - 7 - 8 - 6 - 8 - 7 - 5 - 7 \end{aligned}

Der getestete Hypothesensatz lautete:

H0:μ1=μ2H1:μ1≠μ2 H_0:\ \mu_1=\mu_2\qquad H_1:\ \mu_1\neq \mu_2

Da es sich um einen zweiseitigen Test handelt, ergibt sich das Konfidenzintervall für die Differenz der Mittelwerte μ1−μ2\mu_1-\mu_2 bei einem Vertrauensniveau von 1−α=0,951-\alpha=0,95 (unter der Annahme gleicher Varianzen) zu [−3,0521|0,1521][-3{,}0521\ |\ 0{,}1521] Punkten.

Da unter der Nullhypothese μ1−μ2=0\mu_1 - \mu_2 = 0 gilt und 0 innerhalb dieses Intervalls liegt, wird die Nullhypothese beibehalten.

Der Vorteil eines Konfidenzintervalls besteht darin, dass es uns nicht nur erlaubt, einen Test durchzuführen, sondern auch eine Vorstellung von der Größenordnung der Differenz zwischen den Gruppenmittelwerten vermittelt.

10 Varianzanalysen

10.1 Varianzanalyse mit einem Faktor

Die Varianzanalyse mit einem Faktor (im Englischen ANOVA für Analysis of Variance) ist eine statistische Hypothesentest-Methode, die dazu dient, die Mittelwerte einer quantitativen Variablen – üblicherweise als abhängige Variable oder Antwortvariable bezeichnet – zwischen verschiedenen Gruppen oder Stichproben zu vergleichen. Diese Gruppen werden durch eine qualitative Variable definiert, die als unabhängige Variable oder Faktor bezeichnet wird. Die verschiedenen Ausprägungen des Faktors, die die zu vergleichenden Gruppen darstellen, nennt man Stufen oder Behandlungen des Faktors.

Es handelt sich dabei um eine Verallgemeinerung des t-Tests zum Vergleich der Mittelwerte zweier unabhängiger Stichproben für Versuchsanordnungen mit mehr als zwei Gruppen. Der Hauptunterschied zu einer einfachen Regressionsanalyse – bei der sowohl die abhängige als auch die unabhängige Variable quantitativ sind – besteht darin, dass beim einfaktoriellen Varianzanalysedesign die unabhängige Variable bzw. der Faktor eine qualitative Variable ist. Wie wir später bei den Regressionskontrasten sehen werden, lässt sich ein ANOVA-Test jedoch auch als Spezialfall eines linearen Regressionsmodells formulieren.

Ein typisches Beispiel für die Anwendung dieser Technik wäre der Vergleich des durchschnittlichen Cholesterinspiegels je nach Blutgruppe. In diesem Fall ist die unabhängige Variable oder der Faktor die Blutgruppe mit vier Stufen (A, B, 0, AB), während die Antwortvariable der Cholesterinspiegel ist.

Zum Vergleich der Mittelwerte der Antwortvariablen in den verschiedenen Stufen des Faktors wird ein Hypothesentest aufgestellt, bei dem die Nullhypothese H0H_0 lautet, dass die Antwortvariable in allen Gruppen denselben Mittelwert hat. Die Alternativhypothese H1H_1 besagt, dass es statistisch signifikante Unterschiede zwischen mindestens zwei der Mittelwerte gibt. Dieser Test basiert auf der Zerlegung der Gesamtvarianz der Antwortvariablen – daher der Name dieser Methode.

10.1.1 Der ANOVA-Test

Die übliche Notation in der ANOVA lautet:

kk: ist die Anzahl der Stufen (Niveaus) des Faktors.

nin_i: ist der Stichprobenumfang, der zur ii-ten Stufe des Faktors gehört.

n=∑i=1knin = \sum_{i = 1}^k {n_i}: ist die Gesamtanzahl der Beobachtungen.

Xij(i=1,...,k;j=1,...,ni)X_{ij}\ (i = 1,...,k;\,j = 1,...,n_i): ist eine Zufallsvariable, die die Antwort des jj-ten Individuums auf die ii-te Stufe des Faktors angibt.

xijx_{ij}: ist der konkrete Wert von XijX_{ij} in einer gegebenen Stichprobe.

Faktorstufen12⋯kX11X21⋯Xk1X12X22⋯Xk2⋮⋮⋮⋮X1n1X2n2⋯Xknk \begin{array}{c} \text{Faktorstufen} \\ \begin{array}{cccc} \hline 1 & 2 & \cdots & k \\ \hline X_{11} & X_{21} & \cdots & X_{k1} \\ X_{12} & X_{22} & \cdots & X_{k2} \\ \vdots & \vdots & \vdots & \vdots \\ X_{1n_1} & X_{2n_2} & \cdots & X_{kn_k} \\ \hline \end{array} \end{array}

μi\mu_i: ist der Mittelwert der Grundgesamtheit der ii-ten Stufe.

X‾i=∑j=1niXij/ni\bar X_i = \sum_{j = 1}^{n_i} X_{ij}/n_i: ist der Stichprobenmittelwert der ii-ten Stufe und Schätzer für μi\mu_i.

x‾i=∑j=1nixij/ni\bar x_i = \sum_{j = 1}^{n_i} x_{ij}/n_i: ist der konkrete Wert dieses Mittelwerts in einer gegebenen Stichprobe.

μ\mu: ist der Gesamtmittelwert der Grundgesamtheit (über alle Stufen hinweg).

X‾=∑i=1k∑j=1niXij/n\bar X = \sum_{i = 1}^k \sum_{j = 1}^{n_i } X_{ij}/n: ist der Gesamtstichprobenmittelwert, Schätzer für μ\mu.

x‾=∑i=1k∑j=1nixij/n\bar x = \sum_{i = 1}^k \sum_{j = 1}^{n_i }x_{ij}/n: ist der konkrete Wert dieses Mittelwerts in einer gegebenen Stichprobe.

Mit dieser Notation lässt sich die Antwortvariable durch ein mathematisches Modell ausdrücken, das sie in Komponenten zerlegt, die verschiedenen Ursachen zugeordnet werden:

Xij=μ+(μi−μ)+(Xij−μi), X_{ij} = \mu + (\mu_i - \mu) + (X_{ij} - \mu_i),

Das heißt, die Antwort der jj-ten Beobachtung in der ii-ten Stufe setzt sich zusammen aus dem Gesamtmittelwert, einer Abweichung, die dem Einfluss des ii-ten Faktors zugeschrieben wird, und einer weiteren Abweichung aufgrund zufälliger Schwankungen innerhalb der Stufe.

Auf Basis dieses Modells formulieren wir die Nullhypothese: Die Mittelwerte aller Stufen sind gleich. Die Alternativhypothese lautet: Mindestens zwei Mittelwerte unterscheiden sich.

H0:μ1=μ2=⋯=μkH1:μi≠μjfür einige i≠j\begin{align*} H_0: & \mu_1 = \mu_2 = \cdots = \mu _k \\ H_1: & \mu_i \neq \mu_j \quad \text{für einige } i\neq j \end{align*}

Damit dieser Test gültig ist, müssen folgende Modellannahmen erfüllt sein:

Unabhängigkeit: Die kk Stichproben, die den kk Stufen entsprechen, sind unabhängige Zufallsstichproben aus kk Populationen mit unbekannten Mittelwerten μ1=μ2=⋯=μk\mu_1 = \mu_2 = \cdots = \mu_k.

Normalverteilung: Jede der kk Populationen ist normalverteilt.

Homoskedastizität: Alle Populationen haben die gleiche Varianz σ2\sigma^2.

Wird in obigem Modell der Populationsmittelwert durch seinen Stichprobenschätzer ersetzt, ergibt sich:

Xij=X‾+(X‾i−X‾)+(Xij−X‾i), X_{ij} = \bar X + (\bar X_i - \bar X) + (X_{ij} - \bar X_i),

oder umgestellt:

Xij−X‾=(X‾i−X‾)+(Xij−X‾i). X_{ij} - \bar X = (\bar X_i - \bar X) + (X_{ij} - \bar X_i).

Durch Quadrieren und unter Ausnutzung der Summeneigenschaften ergibt sich die sogenannte Identität der Quadratsummen:

∑i=1k∑j=1ni(Xij−X‾)2=∑i=1kni(X‾i−X‾)2+∑i=1k∑j=1ni(Xij−X‾i)2, \sum_{i=1}^k \sum_{j=1}^{n_i} (X_{ij} - \bar X)^2 = \sum_{i=1}^k n_i(\bar X_i - \bar X)^2 + \sum_{i=1}^k \sum_{j = 1}^{n_i}(X_{ij} - \bar X_i)^2,

wobei:

∑i=1k∑j=1ni(Xij−X‾)2\sum_{i=1}^k \sum_{j=1}^{n_i} (X_{ij} - \bar X)^2: ist die Gesamtquadratsumme (SCTSCT) – misst die gesamte Streuung der Daten.

∑i=1kni(X‾i−X‾)2\sum_{i=1}^k n_i(\bar X_i - \bar X)^2: ist die Zwischengruppen-Quadratsumme (SCInterSCInter) – misst die Streuung aufgrund der Unterschiede zwischen den Gruppenmitteln.

∑i=1k∑j=1ni(Xij−X‾i)2\sum_{i=1}^k \sum_{j=1}^{n_i}(X_{ij} - \bar X_i)^2: ist die Intragruppen-Quadratsumme (SCIntraSCIntra) – misst die Streuung innerhalb der Gruppen.

Somit gilt:

SCT=SCInter+SCIntra SCT = SCInter + SCIntra

Um zur Teststatistik zu gelangen, definiert man die mittleren Quadratsummen (mean squares), indem man jede Quadratsumme durch die entsprechenden Freiheitsgrade teilt:

Für SCTSCT: n−1n - 1

Für SCInterSCInter: k−1k - 1

Für SCIntraSCIntra: n−kn - k

Daraus folgt:

CMT=SCTn−1CMInter=SCInterk−1CMIntra=SCIntran−k\begin{align*} CMT &= \frac{SCT}{n - 1} \\ CMInter &= \frac{SCInter}{k - 1} \\ CMIntra &= \frac{SCIntra}{n - k} \end{align*}

Man kann zeigen, dass unter der Annahme, dass H0H_0 sowie die Modellvoraussetzungen zutreffen, der Quotient

CMInterCMIntra \frac{CMInter}{CMIntra}

einer FF-Verteilung von Fisher mit k−1k - 1 und n−kn - k Freiheitsgraden folgt.

Wenn also H0H_0 gilt, liegt dieser Quotient für gegebene Stichproben nahe bei 1 (aber stets > 0). Ist H0H_0 falsch, dann nimmt die Streuung zwischen den Gruppen zu – der Wert des Quotienten steigt. Daher handelt es sich um einen einseitigen Test (rechtsseitig) mit Hilfe der FF-Verteilung. Wir berechnen den pp-Wert der beobachteten FF-Statistik und entscheiden, ob wir H0H_0 beibehalten oder verwerfen – abhängig vom festgelegten Signifikanzniveau.

10.1.1.1 ANOVA-Tabelle

Alle im vorherigen Abschnitt eingeführten Statistiken werden in einer sogenannten ANOVA-Tabelle zusammengefasst. In dieser Tabelle werden die Schätzwerte dieser Statistiken für die konkret untersuchten Stichproben dargestellt. Solche Tabellen sind auch das Standardausgabeformat statistischer Softwareprogramme bei der Durchführung einer ANOVA. Am Ende der Tabelle wird üblicherweise der pp-Wert des berechneten FF-Statistikums angegeben, anhand dessen entschieden werden kann, ob die Nullhypothese – dass die Mittelwerte aller Faktorstufen gleich sind – akzeptiert oder verworfen wird.

| Quadratsumme | Freiheitsgrade | Mittlere Quadrate | FF-Statistik | pp-Wert
Zwischengruppen | SCInterSCInter | k−1k-1 | CMInter=SCInterk−1CMInter=\frac{SCInter}{k-1} | f=CMInterCMIntraf=\frac{CMInter}{CMIntra} | P(F>f)P(F>f)
Intragruppen | SCIntraSCIntra | n−kn-k | CMIntra=SCIntran−kCMIntra=\frac{SCIntra}{n-k} |  |
Gesamt | SCTSCT | n−1n-1 |  |  |

10.1.2 Tests für multiple und paarweise Vergleiche

Nachdem eine einfaktorielle ANOVA durchgeführt wurde, um die kk Mittelwerte der kk Faktorstufen bzw. Behandlungen zu vergleichen, kann man im Ergebnis entweder die Nullhypothese beibehalten – in diesem Fall endet die Analyse hinsichtlich signifikanter Unterschiede – oder sie verwerfen. Wird die Nullhypothese verworfen, ist es sinnvoll, die Analyse fortzusetzen, um präzise zu bestimmen, zwischen welchen Gruppen signifikante Unterschiede bestehen.

Für diesen zweiten Fall existieren verschiedene Verfahren, die als Tests für multiple Vergleiche bezeichnet werden. Diese lassen sich weiter unterteilen in:

Tests für paarweise Vergleiche: Ziel ist es, alle möglichen Paare von Mittelwerten zwischen den Faktorstufen einzeln zu vergleichen. Die Ergebnisse werden meist in Tabellenform dargestellt, mit den Differenzen zwischen allen möglichen Mittelwertpaaren und den zugehörigen Konfidenzintervallen. Dabei wird angegeben, ob die Unterschiede signifikant sind oder nicht. Wichtig ist, dass diese Intervalle nicht dieselben wären wie bei einem isolierten Vergleich zweier Gruppen, da das Verwerfen von H0H_0 im Gesamt-ANOVA-Test bedeutet, dass gleichzeitig mehrere Einzelvergleiche impliziert sind. Um das vorgegebene Signifikanzniveau α\alpha aufrechterhalten zu können, muss deshalb ein deutlich kleineres korrigiertes Niveau α′\alpha' bei den Einzeltests verwendet werden.

Tests mit multiplen Rängen: Ziel ist es, homogene Gruppen von Mittelwerten zu identifizieren, zwischen denen keine signifikanten Unterschiede bestehen.

Für paarweise Vergleiche kann der Bonferroni-Test verwendet werden; für Ranggruppierungen der Duncan-Test. Für beide Arten zusammen eignen sich die Verfahren Tukey-HSD und Scheffé-Test.

10.2 ANOVA mit zwei oder mehr Faktoren

In vielen Fragestellungen liegen nicht nur ein Faktor mit kk Stufen vor, sondern es treten zwei oder mehr Faktoren auf, mit denen die Stichprobe nach verschiedenen Kriterien in Gruppen eingeordnet werden kann. Ziel ist es zu prüfen, ob signifikante Unterschiede zwischen den Mittelwerten der abhängigen Variable bestehen.

Zur Behandlung solcher Fragestellungen existiert das ANOVA mit zwei oder mehr Faktoren (auch Mehrfaktorielle ANOVA), eine Verallgemeinerung der einfaktoriellen ANOVA. Sie ermöglicht neben der Analyse der Haupteffekte jedes Faktors auch die Untersuchung ihrer Interaktion.

Außerdem gibt es Situationen, in denen pro Versuchsperson mehrere Messungen einer quantitativen Variable erfolgen. Bei zwei Messungen verwendet man den gepaarten Student‑Test (oder bei nichtparametrischen Voraussetzungen den Wilcoxon-Test). Wird drei oder mehr Messwerte pro Subjekt erhoben, kommt die ANOVA für Messwiederholungen zum Einsatz.

Es kann auch vorkommen, dass eine Variable mehrfach pro Individuum gemessen wird und gleichzeitig zwei oder mehr Klassifikationsfaktoren vorliegen. Dann kombiniert man repetierte Messungen mit einer mehrfaktoriellen ANOVA.

Die komplexeste Variante ist die ANCOVA (Analyse der Kovarianz), die in einem Design mit Messwiederholungen, mehreren Faktoren und zusätzlich Kovariablen (quantitative Einflussgrößen) durchgeführt wird. Die ANCOVA untersucht die Faktoren- und Messwiederholungseffekte, bereinigt um den Einfluss der Kovariablen.

10.2.1 Zweifaktorielle ANOVA mit zwei Faktorstufen

Um eine zweifaktorielle oder mehrfaktorielle ANOVA zu verstehen, ist es hilfreich, mit einem einfachen Fall mit zwei Faktoren und jeweils zwei Stufen zu beginnen. Beispielsweise könnte man ein Experiment durchführen, bei dem Personen entweder eine Diät einhalten (erster Faktor: Diät, mit zwei Stufen: ja und nein) und zusätzlich ein bestimmtes Medikament einnehmen (zweiter Faktor: Medikament, mit zwei Stufen: ja und nein), um ihr Körpergewicht zu reduzieren (numerische Zielvariable: Gewichtsreduktion in kg).

In diesem Fall ergeben sich vier verschiedene Gruppen:

Keine Diät und kein Medikament (Nein-Nein)

Keine Diät, aber Medikament (Nein-Ja)

Diät, aber kein Medikament (Ja-Nein)

Diät und Medikament (Ja-Ja)

Es können drei verschiedene Effekte untersucht werden:

Diät-Effekt: Untersucht, ob es signifikante Unterschiede in der Gewichtsabnahme zwischen Personen mit und ohne Diät gibt.

Medikamenten-Effekt: Untersucht, ob es signifikante Unterschiede in der Gewichtsabnahme zwischen Personen mit und ohne Medikament gibt.

Interaktionseffekt: Untersucht, ob die kombinierte Wirkung von Diät und Medikament unterschiedlich ist zur Summe ihrer Einzeleffekte. Bei einer Interaktion kann diese in zwei Richtungen wirken:

Synergie: Die Kombination führt zu einer stärkeren Gewichtsabnahme als die Summe der Einzeleffekte.

Antagonismus: Die Kombination führt zu einer schwächeren Gewichtsabnahme als die Summe der Einzeleffekte.

Beispiel

Angenommen, die folgende Tabelle zeigt die durchschnittliche Gewichtsabnahme (in kg) für jede Gruppe (ohne Berücksichtigung der individuellen Variabilität, die in einer echten ANOVA berücksichtigt würde):

| Medikament Nein | Medikament Ja
Diät Nein | 0 | 5
Diät Ja | 3 | 8

In diesem Fall gibt es keine Interaktion zwischen Diät und Medikament, denn:

Der Effekt des Medikaments allein (ohne Diät) beträgt +5 kg.

Der Effekt der Diät allein (ohne Medikament) beträgt +3 kg.

Die kombinierte Wirkung (Diät + Medikament) beträgt +8 kg, was exakt der Summe der Einzeleffekte (5 + 3) entspricht.

Grafische Darstellung: In einem Interaktionsplot wären die Linien für die Gruppen parallel (innerhalb eines gewissen Variabilitätsbereichs), was auf das Fehlen einer Interaktion hindeutet.

Im Gegensatz dazu könnte auch eine Tabelle entstehen, in der die Summe der Einzeleffekte geringer ist als der kombinierte Effekt von Diät und Medikament:

| Medikament Nein | Medikament Ja
Diät Nein | 0 | 5
Diät Ja | 3 | 12

In diesem Fall (wenn wir die Variabilität innerhalb jeder Gruppe vernachlässigen und annehmen, dass sie klein genug ist, damit die Unterschiede signifikant sind), wären die 8 kg durchschnittlicher Gewichtsabnahme, die sich aus der Summe der Einzeleffekte von Diät und Medikament ergeben, geringer als die 12 kg, die Personen im Durchschnitt verloren haben, die sowohl das Medikament einnahmen als auch die Diät befolgten.

Interpretation:

Es liegt eine Interaktion der beiden Faktoren vor, die ihre Einzeleffekte verstärkt hat.

Um das Endergebnis zu erklären, müsste man einen zusätzlichen Interaktionsterm in die Berechnung aufnehmen, der 4 kg zusätzlichen Gewichtsverlust beisteuert (über die Summe der Einzeleffekte hinaus).

Da dieser Term die Wirkung beider Faktoren verstärkt, handelt es sich um eine synergistische Interaktion.

Grafische Darstellung:

In einem Interaktionsplot wären die Linien nicht parallel, sondern würden sich annähern oder entfernen, was auf eine Interaktion hindeutet.

Zusammenfassung der Effekte:

Medikament allein: +5 kg

Diät allein: +3 kg

Erwarteter kombinierter Effekt (Summe): 5 + 3 = 8 kg

Tatsächlicher kombinierter Effekt: 12 kg

Interaktionsterm: 12 - 8 = +4 kg (Synergie)

Schließlich könnte sich auch eine Tabelle ergeben, bei der die Summe der Einzeleffekte größer ist als der kombinierte Effekt beider Faktoren:

| Medikament Nein | Medikament Ja
Diät Nein | 0 | 5
Diät Ja | 3 | 4

In diesem Beispiel würden sich durch die Summe der Einzeleffekte (5 + 3 = 8 kg Gewichtsverlust) ein höherer Wert ergeben als die tatsächlich beobachteten 4 kg bei den Personen, die sowohl Diät hielten als auch das Medikament einnahmen.

Schlussfolgerungen:

Es liegt eine antagonistische Interaktion vor

Zur Erklärung der Ergebnisse muss ein negativer Interaktionsterm von -4 kg eingeführt werden (8 kg erwartet - 4 kg Interaktionseffekt = 4 kg beobachtet)

Die kombinierte Wirkung ist schwächer als die Summe der Einzeleffekte

Der Interaktionsterm wäre in diesem Fall statistisch signifikant negativ. Grafisch würden sich die Linien in einem Interaktionsplot kreuzen oder divergieren. Dies deutet darauf hin, dass die Faktoren sich gegenseitig in ihrer Wirkung abschwächen.

Zusammenfassung der Effekte:

EffektGewichtsverlustMedikament allein+5kgDiät allein+3kgErwartete Kombination+8kgBeobachtete Kombination+4kgInteraktionseffekt−4kg \begin{array}{lc} \text{Effekt} & \text{Gewichtsverlust}\\ \text{Medikament allein} & +5 \text{kg}\\ \text{Diät allein} & +3 \text{kg}\\ \text{Erwartete Kombination} & +8 \text{kg}\\ \text{Beobachtete Kombination} & +4 \text{kg}\\ \text{Interaktionseffekt} & -4 \text{kg}\\ \end{array}

Tatsächlich kann eine Interaktion sowohl synergistisch mit einem Faktor als auch antagonistisch mit dem anderen wirken, insbesondere wenn die Faktoren entgegengesetzte Effekte haben. Ein Beispiel wäre eine Studie, in der:

Eine kalorienreiche Diät (erwarteter Effekt: Gewichtszunahme)

Mit einem Gewichtsreduktionsmedikament (erwarteter Effekt: Gewichtsabnahme)kombiniert werden.

Wie anhand der Tabellen und Grafiken ersichtlich, zeigt eine Interaktion an, dass die Mittelwertdifferenzen zwischen den Gruppen nicht konsistent sind. Beispiel:

In der zweiten Tabelle betrug die Differenz zwischen Medikament und kein Medikament:

Ohne Diät: 5 - 0 = 5 kg

Mit Diät: 12 - 3 = 9 kg

Grafisch äußert sich dies in unterschiedlichen Steigungen der Verbindungslinien

Es werden drei zentrale Hypothesen geprüft:

Haupteffekt Diät

H0:μDiät=μkeine DiätH_0: \mu_{\text{Diät}} = \mu_{\text{keine Diät}}

H1:μDiät≠μkeine DiätH_1: \mu_{\text{Diät}} \neq \mu_{\text{keine Diät}}

Haupteffekt Medikament

H0:μMedikament=μkein MedikamentH_0: \mu_{\text{Medikament}} = \mu_{\text{kein Medikament}}

H1:μMedikament≠μkein MedikamentH_1: \mu_{\text{Medikament}} \neq \mu_{\text{kein Medikament}}

Interaktionseffekt (zwei äquivalente Formulierungen):

Unterschiedliche Medikamentenwirkung in Diät-Gruppen:

H0:(μMed−μkein Med)keine Diät=(μMed−μkein Med)DiätH_0: (\mu_{\text{Med}} - \mu_{\text{kein Med}}){\text{keine Diät}} = (\mu{\text{Med}} - \mu_{\text{kein Med}}){\text{Diät}}

H1:(μMed−μkein Med)keine Diät≠(μMed−μkein Med)DiätH_1: (\mu{\text{Med}} - \mu_{\text{kein Med}}){\text{keine Diät}} \neq (\mu{\text{Med}} - \mu_{\text{kein Med}})_{\text{Diät}}

Unterschiedliche Diätwirkung in Medikamentengruppen:

H0:(μDiät−μkeine Diät)kein Med=(μDiät−μkeine Diät)MedH_0: (\mu_{\text{Diät}} - \mu_{\text{keine Diät}}){\text{kein Med}} = (\mu{\text{Diät}} - \mu_{\text{keine Diät}}){\text{Med}}

H1:(μDiät−μkeine Diät)kein Med≠(μDiät−μkeine Diät)MedH_1: (\mu{\text{Diät}} - \mu_{\text{keine Diät}}){\text{kein Med}} \neq (\mu{\text{Diät}} - \mu_{\text{keine Diät}})_{\text{Med}}

Die Gesamtvarianz (Sum of Squares Total, SST) wird in vier Komponenten zerlegt:

Faktor A (Diät): SSDiätSS_{Diät}

Faktor B (Medikament): SSMedSS_{Med}

Interaktion: SSInteraktionSS_{Interaktion}

Residualvarianz: SSResidualSS_{Residual}

Die ANOVA-Tabelle strukturiert diese Analyse:

Quelle | Quadratsumme | Freiheitsgrade | Mittelquadrate | F-Wert | p-Wert
Faktor A | SSASS_A | k1−1k_1 - 1 | MSA=SSAdfAMS_A = \frac{SS_A}{df_A} | FA=MSAMSResF_A = \frac{MS_A}{MS_{Res}} | P(F>FA)P(F > F_A)
Faktor B | SSBSS_B | k2−1k_2 - 1 | MSB=SSBdfBMS_B = \frac{SS_B}{df_B} | FB=MSBMSResF_B = \frac{MS_B}{MS_{Res}} | P(F>FB)P(F > F_B)
Interaktion | SSABSS_{AB} | (k1−1)(k2−1)(k_1 - 1)(k_2 - 1) | MSAB=SSABdfABMS_{AB} = \frac{SS_{AB}}{df_{AB}} | FAB=MSABMSResF_{AB} = \frac{MS_{AB}}{MS_{Res}} | P(F>FAB)P(F > F_{AB})
Residual | SSResSS_{Res} | n−k1k2n - k_1 k_2 | MSRes=SSResdfResMS_{Res} = \frac{SS_{Res}}{df_{Res}} |  |
Total | SSTotalSS_{Total} | n−1n - 1 |  |  |

Nach der Erstellung der ANOVA-Tabelle – üblicherweise mithilfe eines Statistikprogramms, um die umfangreichen Berechnungen zu vermeiden – folgt die Interpretation der erhaltenen p-Werte für die einzelnen Faktoren sowie für die Interaktion. Dabei kommt dem p-Wert der Interaktion eine zentrale Bedeutung zu, da er die gesamte Analyse maßgeblich beeinflusst:

Keine signifikante Interaktion Liegt der p-Wert der Interaktion oberhalb des festgelegten Signifikanzniveaus (meist 0,05), kann die Wirkung der beiden Faktoren unabhängig voneinander betrachtet werden. Das bedeutet, man prüft für jeden Faktor separat, ob es signifikante Unterschiede zwischen dessen Stufen gibt. Beispiel: Bei der Analyse von Gewichtsverlusten in Abhängigkeit von Diät und Medikament zeigt sich keine signifikante Interaktion. In diesem Fall untersucht man den Effekt der Diät anhand des entsprechenden p-Werts. Ist dieser kleiner als 0,05, so ist der Faktor Diät statistisch signifikant, was bedeutet, dass sich die Gewichtsverluste der Personen mit und ohne Diät signifikant unterscheiden – unabhängig davon, ob das Medikament eingenommen wurde oder nicht. Analog wird der Effekt des Medikaments geprüft.

Signifikante Interaktion Ist der p-Wert der Interaktion hingegen kleiner als das Signifikanzniveau, können die Faktoren nicht unabhängig voneinander betrachtet werden. Die Wirkung eines Faktors hängt vom jeweiligen Niveau des anderen Faktors ab. Deshalb ist es notwendig, die Effekte innerhalb der Stufen des jeweils anderen Faktors getrennt zu analysieren. Beispiel: Bei signifikantem Interaktionseffekt zwischen Diät und Medikament bedeutet dies, dass der Einfluss des Medikaments auf den Gewichtsverlust sich je nach Diätstatus unterscheidet – und umgekehrt. Es existiert somit kein allgemeingültiger Haupteffekt eines Faktors, sondern der Effekt ist kontextabhängig.

Wichtiger Hinweis:

Ein zweifaktorielles ANOVA mit je zwei Stufen pro Faktor ist nicht mit zwei unabhängigen T-Tests zu vergleichen. Selbst wenn keine Interaktion vorliegt, entsprechen die p-Werte aus dem ANOVA nicht zwangsläufig denen, die man durch separate T-Tests erhält. Das ANOVA berücksichtigt die gemeinsamen Einflüsse beider Faktoren und eliminiert den Anteil der Variabilität, der durch den jeweils anderen Faktor verursacht wird. Dadurch liefert es eine multivariate Betrachtung der Effekte. Im Beispiel bedeutet dies, dass der Einfluss der Diät auf den Gewichtsverlust unter Berücksichtigung der Wirkung des Medikaments (und gegebenenfalls deren Interaktion) bewertet wird – was bei einfachen T-Tests unberücksichtigt bliebe. Ebenso entspricht die Analyse der Interaktion nicht der Durchführung eines einfaktoriellen ANOVA mit einer Faktorstufe, die alle Kombinationen zusammenfasst, da die multivariate Struktur des zweifaktoriellen ANOVA eine differenziertere Betrachtung ermöglicht.

10.2.2 Zweifaktorielles ANOVA mit drei oder mehr Stufen in einem Faktor

Das Vorgehen bei einem zweifaktoriellen ANOVA, bei dem mindestens ein Faktor drei oder mehr Stufen aufweist, ähnelt dem bereits beschriebenen Fall mit je zwei Stufen pro Faktor. Lediglich die Nullhypothesen werden erweitert, indem die Gleichheit aller Mittelwerte der jeweiligen Stufen eines Faktors geprüft wird, und die Alternativhypothese besagt, dass mindestens ein Mittelwert sich unterscheidet. Bei den Interaktionen werden ebenfalls Mittelwertunterschiede betrachtet, wobei aufgrund der höheren Anzahl von Stufen mehr mögliche Unterschiede vorliegen.

Zur Interpretation der ANOVA-Ergebnistabelle gilt: Liegt keine signifikante Interaktion vor, aber signifikante Unterschiede in einem der Faktoren mit drei oder mehr Stufen, so folgt eine genauere Untersuchung, zwischen welchen Stufen diese Unterschiede bestehen. Beispiel: Wenn der Faktor 1 drei Stufen hat, keine Interaktion vorliegt und die Nullhypothese der Mittelwertgleichheit abgelehnt wird, prüft man, ob die Unterschiede beispielsweise zwischen Stufe 1 und 2, 1 und 3 oder 2 und 3 bestehen – und zwar unabhängig vom Faktor 2. Um die Unterschiede zwischen den Stufen zu identifizieren, führt man Multiple Paarvergleiche durch, etwa den Bonferroni-Test oder andere aus dem einfaktoriellen ANOVA bekannte Verfahren. Bei signifikanter Interaktion wird analog vorgegangen, jedoch werden die Unterschiede innerhalb jeder Stufe des jeweils anderen Faktors separat betrachtet.

Wie bereits beim zweifaktoriellen ANOVA mit zwei Stufen und den unabhängigen T-Tests erläutert, entspricht ein zweifaktorielles ANOVA mit drei oder mehr Stufen nicht der Durchführung zweier separater einfaktorieller ANOVAs. Die erhaltenen p-Werte unterscheiden sich – selbst wenn keine Interaktion vorliegt –, da die gemeinsame Varianzstruktur und Einflüsse berücksichtigt werden.

10.2.3 ANOVA mit drei oder mehr Faktoren

Die Grundprinzipien des ANOVA mit drei oder mehr Faktoren sind ähnlich denen des zweifaktoriellen ANOVA, und die Ergebnistabellen weisen vergleichbare Strukturen auf. Die Interpretation wird jedoch deutlich komplexer. Ein dreifaktorielles ANOVA enthält die Haupteffekte der drei Faktoren, die drei möglichen zweifachen Interaktionen (Faktor 1 mit 2, 1 mit 3, 2 mit 3) sowie optional die dreifache Interaktion aller Faktoren (je nach Software und Einstellungen können Interaktionen beliebiger Ordnung berücksichtigt werden).

Ist die dreifache Interaktion signifikant, kann kein allgemeiner Haupteffekt eines Faktors betrachtet werden. Stattdessen muss der Effekt dieses Faktors innerhalb jeder Stufe der beiden anderen Faktoren separat analysiert werden. Liegt keine signifikante dreifache Interaktion vor, wohl aber eine zweifache (beispielsweise zwischen Faktor 1 und 2), so wird der Effekt von Faktor 1 innerhalb der Stufen von Faktor 2 untersucht, unabhängig von Faktor 3.

Dies führt zu einer Vielzahl möglicher Analysen und multipler Vergleichstests. Daher liegt es in der Verantwortung des Forschers, die Anzahl der durchgeführten Tests sinnvoll zu begrenzen, den Versuchsaufbau klar zu definieren und ggf. höhere Interaktionen (dreifach oder mehr) nur dann zu berücksichtigen, wenn deren Interpretation auch tatsächlich möglich und sinnvoll ist.

Abschließend gilt auch hier: Ein ANOVA mit drei oder mehr Faktoren entspricht nicht der Durchführung mehrerer einfaktorieller ANOVAs für jeden Faktor einzeln.

10.2.4 Feste Faktoren und Zufallsfaktoren

Beim mehrfaktoriellen ANOVA unterscheiden sich der Umgang mit der durch jeden Faktor verursachten Variabilität und die daraus folgenden Schlussfolgerungen je nachdem, ob die Faktoren als feste oder zufällige Faktoren behandelt werden.

Ein fester Faktor (oder Faktor mit festen Effekten) ist ein Faktor, dessen Stufen vom Untersucher vorab festgelegt oder bestimmt werden (zum Beispiel festgelegte Dosierungen eines Medikaments oder vorgegebene Zeitpunkte) oder die sich aus der Natur des Faktors ergeben (z. B. Geschlecht oder Diät). Die Variabilität solcher Faktoren ist leichter kontrollierbar, und ihre Behandlung in den Berechnungen zum ANOVA-Endergebnis ist einfacher. Ein Nachteil besteht jedoch darin, dass nur für die konkret untersuchten Stufen Aussagen getroffen werden können. Das heißt, die Ergebnisse gelten nur für genau diese festen Stufen, und eine Verallgemeinerung auf andere, nicht untersuchte Stufen ist nicht zulässig.

Im Gegensatz dazu ist ein Zufallsfaktor (oder Faktor mit zufälligen Effekten) ein Faktor, dessen Stufen zufällig aus einer größeren Grundgesamtheit von möglichen Stufen ausgewählt wurden (beispielsweise eine Medikamentendosierung mit den Stufen 23 mg, 132 mg und 245 mg, die zufällig aus dem Bereich 0 bis 250 mg gezogen wurden). Die Analyse solcher Faktoren ist komplexer, da diese Stufen eine Stichprobe aller möglichen Stufen darstellen. Ziel ist es, Rückschlüsse auf die gesamte Population aller möglichen Stufen zu ziehen.

10.2.4.1 Modellannahmen des mehrfaktoriellen ANOVA

Wie beim einfaktoriellen ANOVA handelt es sich auch beim ANOVA mit zwei oder mehr Faktoren um einen parametrischen Test mit folgenden Voraussetzungen:

Die Daten innerhalb jeder Kategorie – definiert als Kombination aller Stufen aller Faktoren – folgen einer Normalverteilung. Beispiel: Bei einem zweifaktoriellen ANOVA mit je drei Stufen pro Faktor gibt es 32=93^2=9 Kategorien.

Die Varianzen dieser Normalverteilungen sind gleich (Varianzhomogenität bzw. Homoskedastizität).

Werden diese Voraussetzungen nicht erfüllt und liegen zudem kleine Stichproben vor, sollte ein mehrfaktorieller ANOVA nicht angewendet werden. Ein zusätzliches Problem ist, dass es für diesen Fall keinen entsprechenden nicht-parametrischen Ersatztest gibt. Zwar können mit nicht-parametrischen Tests (wie dem Kruskal-Wallis-Test) die Einflüsse der einzelnen Faktoren separat geprüft werden, die wichtige Untersuchung der Interaktion zwischen Faktoren ist jedoch nicht möglich.

10.3 ANOVA mit Messwiederholungen

In vielen Fragestellungen wird eine abhängige Variable mehrfach am selben Individuum gemessen (z. B. bei einer Gruppe, die eine bestimmte Diät verfolgt, wird das verlorene Gewicht nach einem, zwei und drei Monaten erfasst). Ziel ist es, den Mittelwert der Variable über die verschiedenen Messzeitpunkte zu vergleichen, also zu prüfen, ob sich die Variable über die Zeit verändert (im Beispiel: Entwicklung des Gewichtsverlusts). Konzeptuell entspricht dies der Situation bei paarweise gepaarten Messwerten, wie sie etwa mit dem gepaarten t-Test oder dem nichtparametrischen Wilcoxon-Test verglichen werden, jedoch liegen hier mehr als zwei gepaarte Messungen pro Individuum vor. In solchen Fällen verwendet man die ANOVA mit Messwiederholungen.

Diese ANOVA hat wie alle Tests mit gepaarten Daten den Vorteil, dass die Vergleiche innerhalb desselben Individuums (intraindividuell) erfolgen. Dadurch wird die Variabilität, die zwischen verschiedenen Individuen auftritt, reduziert. Zum Beispiel könnte man das Gewicht in drei verschiedenen Gruppen messen, die alle dieselbe Diät machen, aber mit unterschiedlichen Alters- oder Geschlechtsverteilungen – das würde die Ergebnisse beeinflussen. Mit Messwiederholungen werden alle Messungen innerhalb desselben Individuums verglichen, sodass z.B. Geschlecht, Alter oder sportliche Aktivität konstant bleiben. Dadurch werden kleine Unterschiede besser erkennbar.

10.3.1 ANOVA mit Messwiederholungen als zweifaktorieller ANOVA ohne Interaktion

Die ANOVA mit Messwiederholungen kann als zweifaktorieller ANOVA ohne Interaktion berechnet werden, wenn die Daten entsprechend aufbereitet werden.

Angenommen, es liegen kk gepaarte Messungen einer numerischen abhängigen Variable bei nn Individuen vor, dann können die Daten wie folgt dargestellt werden:

Individuum | VarDep 1 | VarDep 2 | …\dots | VarDep kk
Individuum 1 | x1,1x_{1,1} | x1,2x_{1,2} | …\dots | x1,kx_{1,k}
Individuum 2 | x2,1x_{2,1} | x2,2x_{2,2} | …\dots | x2,kx_{2,k}
…\dots | …\dots | …\dots | …\dots | …\dots
Individuum n | xn,1x_{n,1} | xn,2x_{n,2} | …\dots | xn,kx_{n,k}

Diese Daten können auch in einem “langen” Format angeordnet werden, das sich gut für eine zweifaktorielle ANOVA eignet:

Var Dep | Individuum | Messzeitpunkt
x1,1x_{1,1} | 1 | 1
x2,1x_{2,1} | 2 | 1
…\dots | …\dots | …\dots
xn,1x_{n,1} | n | 1
x1,2x_{1,2} | 1 | 2
x2,2x_{2,2} | 2 | 2
…\dots | …\dots | …\dots
xn,2x_{n,2} | n | 2
…\dots | …\dots | …\dots
x1,kx_{1,k} | 1 | k
x2,kx_{2,k} | 2 | k
…\dots | …\dots | …\dots
xn,kx_{n,k} | n | k

Hier sind Individuum und Messzeitpunkt kategoriale Variablen, die die Gesamtheit der Daten (n×kn \times k) in Gruppen einteilen: nn Gruppen für Individuen und kk Gruppen für Messzeitpunkte. Die Kreuzung der beiden Variablen erzeugt n×kn \times k Gruppen mit jeweils genau einem Messwert.

Die Variabilität der abhängigen Variablen wird aufgeteilt in drei Quellen:

Variabilität durch Messzeitpunkt

Variabilität durch Individuum

Residuale Variabilität

Eine Interaktion zwischen Messzeitpunkt und Individuum kann hier nicht analysiert werden, da jede Gruppe nur einen Wert enthält und somit keine Streuung berechnet werden kann. Daher wird eine zweifaktorielle ANOVA ohne Interaktion durchgeführt, die folgende Tabelle liefert:

Quelle | Quadratsumme | Freiheitsgrade | Mittelquadrat | F-Wert | p-Wert
F1 = Messzeitpunkt | SF1SF1 | GF1=k−1GF1 = k-1 | CF1=SF1GF1CF1 = \frac{SF1}{GF1} | f1=CF1CRf1 = \frac{CF1}{CR} | P(F>f1)P(F>f1)
F2 = Individuum | SF2SF2 | GF2=n−1GF2 = n-1 | CF2=SF2GF2CF2 = \frac{SF2}{GF2} | f2=CF2CRf2 = \frac{CF2}{CR} | P(F>f2)P(F>f2)
Residuale | SRSR | GR=(n⋅k)−1−GF1−GF2GR = (n \cdot k) - 1 - GF1 - GF2 | CR=SRGRCR = \frac{SR}{GR} |  |
Total | STST | GT=(n⋅k)−1GT = (n \cdot k) - 1 |  |  |

Die Hypothesen, die mit diesem Modell getestet werden, sind:

Für den Faktor Messzeitpunkt:
H0:μMesszeitpunkt 1=μMesszeitpunkt 2=…=μMesszeitpunkt kH1:Mindestens ein Mittelwert ist unterschiedlich. \begin{aligned} H_0: &\mu_{\text{Messzeitpunkt 1}} = \mu_{\text{Messzeitpunkt 2}} = \dots = \mu_{\text{Messzeitpunkt k}}\\ H_1: &\text{Mindestens ein Mittelwert ist unterschiedlich.} \end{aligned} Ist der p-Wert kleiner als das Signifikanzniveau, so gibt es einen signifikanten Effekt der Messzeitpunkte, d.h., die Variable ändert sich über die Zeit innerhalb der Individuen.

Für den Faktor Individuum:
H0:μIndividuum 1=μIndividuum 2=…=μIndividuum nH1:Mindestens ein Mittelwert ist unterschiedlich. \begin{aligned} H_0: &\mu_{\text{Individuum 1}} = \mu_{\text{Individuum 2}} = \dots = \mu_{\text{Individuum n}} \\ H_1: &\text{Mindestens ein Mittelwert ist unterschiedlich.} \end{aligned} Ein signifikanter Effekt hier zeigt, dass Individuen sich im Mittel unterschiedlich verhalten. Dies ist jedoch meist erwartbar und weniger interessant im Kontext der Messwiederholungen.

Falls mindestens eine der Nullhypothesen verworfen wird, empfiehlt sich als nächster Schritt ein Multiple-Comparison-Test, z. B. der Bonferroni-Test, um herauszufinden, welche Mittelwerte sich unterscheiden – insbesondere bei den Messzeitpunkten.

10.3.1.1 Voraussetzungen der ANOVA mit Messwiederholungen

Wie bei jeder anderen ANOVA gilt auch für die ANOVA mit Messwiederholungen:

Die Daten der abhängigen Variablen sollten innerhalb jeder Gruppe normalverteilt sein, egal ob die Gruppen durch die Variable Messzeitpunkt oder durch die Variable Individuum gebildet werden. Da der wichtigste Test bei der Variable Messzeitpunkt durchgeführt wird, ist es besonders wichtig, dass die Verteilungen aller Messzeitpunkte normal sind.

Alle Normalverteilungen sollten die gleiche Varianz aufweisen (Homoskedastizität), besonders die der verschiedenen Messzeitpunkte.

Wenn bei einer ANOVA mit Messwiederholungen sowohl Normalität als auch Homoskedastizität erfüllt sind, spricht man von Sphärizität der Daten. Es gibt spezielle statistische Tests, um die Sphärizität zu überprüfen, beispielsweise den Mauchly-Test.

Werden die genannten Bedingungen nicht erfüllt und sind die Stichproben zudem klein, sollte die ANOVA mit Messwiederholungen nicht angewendet werden. Allerdings existiert zumindest ein nichtparametrischer Test, der überprüft, ob es signifikante Unterschiede zwischen den verschiedenen Stufen der Variable Messzeitpunkt gibt: der Friedman-Test.

10.3.2 ANOVA mit Messwiederholungen + ANOVA mit einem oder mehreren Faktoren

Es gibt viele Fälle, in denen neben der Analyse des intraindividuellen Effekts auf eine mehrfach gemessene quantitative abhängige Variable (ANOVA mit Messwiederholungen) auch qualitative Variablen berücksichtigt werden sollen, die vermutlich mit der abhängigen Variable zusammenhängen. Diese qualitativen Variablen führen zu Effekten, die üblicherweise als interindividuelle Effekte klassifiziert werden, die man aber auch als intergruppale Effekte verstehen kann, da sie Gruppen definieren, zwischen denen eine ANOVA mit einem oder mehreren Faktoren möglich ist.

Beispielsweise könnte man den Gewichtsverlust bei Individuen nach einem, zwei und drei Monaten (ANOVA mit Messwiederholungen) untersuchen, wobei die Individuen in sechs Gruppen aufgeteilt sind, die sich aus der Kreuzung zweier Faktoren ergeben: Diät (a, b, c) und Bewegung (niedrig, hoch). Um den Einfluss dieser beiden interindividuellen Faktoren zu untersuchen, wäre eine zweifaktorielle ANOVA mit Interaktion notwendig.

Obwohl die Daten ähnlich wie bei einer zweifaktoriellen ANOVA mit den Faktoren Messzeitpunkt und Individuum strukturiert werden könnten, um zwei weitere Faktoren (Diät und Bewegung) hinzuzufügen, ist es unpraktisch, für dasselbe Individuum mehrere Zeilen (eine pro Messzeitpunkt) einzufügen.

Deshalb erlauben bestimmte Statistikprogramme, wie z. B. PASW (SPSS), ANOVAs mit Messwiederholungen auf Basis des klassischen Formats (eine Zeile pro Individuum, eine Variable pro Messzeitpunkt). Dabei werden intraindividuelle Faktoren definiert, die alle Messzeitpunkte umfassen, und es können interindividuelle Faktoren (Kategorien) hinzugefügt werden, die die Antwortvariablen beeinflussen können. Zudem können Interaktionen zwischen den interindividuellen Faktoren sowie zwischen inter- und intraindividuellen Faktoren getestet werden.

Diese Verfahren kombinieren somit eine ANOVA mit Messwiederholungen und eine ANOVA mit einem oder mehreren Faktoren, wobei die Daten weiterhin klassisch eingegeben werden können: eine Zeile pro Individuum.

Die Ergebnisse ähneln den zuvor beschriebenen: Es werden ANOVA-Tabellen erzeugt, in denen für jeden Faktor (intraindividuell bzw. Messwiederholung, interindividuell bzw. Kategorien) sowie für die Interaktionen p-Werte berechnet werden.

10.4 Kovarianzanalyse: ANCOVA

Die Kovarianzanalyse (ANCOVA) ist eine Erweiterung der ANOVA (sei es einfaktorielle, mehrfaktorielle oder mit Messwiederholungen), die es erlaubt, den Einfluss aller kategorialen unabhängigen Variablen (Faktoren) und der Messwiederholungen auf die quantitative abhängige Variable zu analysieren, dabei aber zusätzlich den Effekt anderer quantitativer unabhängiger Variablen auf die Antwortvariable zu eliminieren. Diese unabhängigen Variablen, deren Effekt kontrolliert oder herausgerechnet werden soll, nennt man Kovariablen oder Kovariate, da man erwartet, dass sie mit der abhängigen Variable kovariieren, also korreliert sind.

Die detaillierte Durchführung einer ANCOVA geht über den Rahmen dieser Übung hinaus, die Grundidee ist aber einfach: Man kann eine Regressionsanalyse der abhängigen Variable in Abhängigkeit von der Kovariablen (oder mehreren Kovariablen) durchführen und den Teil der Variabilität der abhängigen Variable, der durch die Kovariable erklärt werden kann, eliminieren. Dies geschieht, indem man mit den Residuen des Regressionsmodells arbeitet anstatt mit den Originaldaten. Anschließend wird eine ANOVA mit einem oder mehreren Faktoren, auch mit Messwiederholungen, auf den Residuen durchgeführt.

Das Endergebnis der ANCOVA ist eine Tabelle, die der der ANOVA sehr ähnlich ist, aber mit zusätzlichen Zeilen für jede Kovariable. Diese Zeilen zeigen, wie viel Variabilität durch jede Kovariable erklärt wird, sowie deren zugehörigen pp-Wert. Dieser pp-Wert beantwortet die Frage, ob die Kovariable notwendig ist, um die abhängige Variable zu erklären (technisch ausgedrückt: ob die Steigung der Regressionsfunktion der unabhängigen Variable in Abhängigkeit von der Kovariable gleich Null sein kann oder nicht). In der ANCOVA-Tabelle gibt es keine zusätzliche Zeile für die mögliche Interaktion zwischen Kovariable und den verschiedenen interindividuellen Faktoren, weil ein ANCOVA-Modell bei vorhandener Interaktion nicht sinnvoll ist: Der Effekt des Faktors könnte nicht geschätzt werden, da er vom konkreten Wert der Kovariablen abhängt, welche als kontinuierliche Variable unendlich viele Werte annimmt. Dadurch gäbe es unendlich viele verschiedene Effekte des Faktors und kein eindeutiger pp-Wert.

Allerdings enthält die Tabelle eine Zeile für die Interaktion jedes intraindividuellen Faktors mit jeder Kovariable, da jeder intraindividuelle Faktor aus mehreren quantitativen Variablen besteht, die in der Regression unterschiedliche Steigungen in Abhängigkeit von der Kovariable aufweisen können.

Wenn bei einer ANOVA zur Überprüfung des Einflusses verschiedener Faktoren auf eine quantitative Antwortvariable meist ein Mittelwertdiagramm verwendet wird, zeigt sich bei der ANCOVA der Effekt der Kovariablen auf die Antwortvariable durch ein Punktwolken-Diagramm der Antwortvariable in Abhängigkeit von der Kovariablen. Dieses wird je nach Grad der linearen Korrelation zwischen beiden mehr oder weniger linear aussehen. Zudem lässt sich erahnen, ob ein bestimmter Faktor nach Herausrechnung des Einflusses der Kovariablen noch einen Einfluss auf die Antwortvariable hat:

Wenn die Punktwolke durch eine einzige Gerade mit Null-Steigung gut beschrieben werden kann, unabhängig von den Faktorstufen, bedeutet dies, dass weder die Kovariable noch der Faktor signifikant sind, um die Antwortvariable zu erklären.

Wenn die Punktwolke durch eine einzige Gerade mit nicht null Steigung gut beschrieben werden kann, unabhängig von den Faktorstufen, bedeutet dies, dass die Kovariable signifikant ist, der Faktor aber nicht. Denn nach Herausrechnung des Einflusses der Kovariablen (also wenn man die Residuen der Anfangsregression betrachtet) gibt es keine Unterschiede zwischen den Faktorstufen (die Punkte der verschiedenen Kategorien liegen auf gleicher Höhe).

Zum Beispiel zeigt die folgende Abbildung das Ergebnis eines Experiments, bei dem die verlorenen Kilogramm von Personen gemessen wurden, die zwei verschiedene Diäten befolgten. Als Kovariable wurde der Body-Mass-Index (BMI) berücksichtigt, der ebenfalls Einfluss auf den Gewichtsverlust haben könnte, aber bei der Gruppeneinteilung nicht kontrolliert wurde. Die Gruppe mit Diät 2 hat im Mittel einen höheren BMI als die Gruppe mit Diät 1. Laut Abbildung scheint es signifikante Unterschiede im Gewichtsverlust zwischen den Diäten zu geben (Diät 2 führt zu mehr Gewichtsverlust), aber tatsächlich ist der Unterschied auf die Kovariable zurückzuführen. Wird der Effekt der Kovariablen eliminiert (also die Steigung der Geraden auf 0 gesetzt), hätten beide Gruppen etwa gleich viel Gewicht verloren. Das bedeutet, dass bei gleichem BMI Diät 2 nicht zu mehr Gewichtsverlust führt.

Wenn die Punktwolke durch mehrere Geraden mit Null-Steigung, eine pro Faktorstufe, gut beschrieben wird, ist die Kovariable nicht signifikant, aber der Faktor schon.

Wenn die Punktwolke durch Geraden mit gleicher, nicht null Steigung, eine pro Faktorstufe, beschrieben wird und mindestens eine Gerade sich von den anderen unterscheidet (mindestens eine Faktorstufe ist verschoben), sind sowohl Kovariable als auch Faktor signifikant bei der Erklärung der abhängigen Variable.

Zum Beispiel zeigt die folgende Abbildung das Ergebnis eines ähnlichen Experiments wie oben: Gewichtsverlust in Abhängigkeit von Diät und Kovariable BMI, die bei der Gruppeneinteilung nicht kontrolliert wurde (die Gruppe mit Diät 2 hat einen höheren BMI). Die Grafik deutet sogar auf signifikante Unterschiede im Gewichtsverlust hin, sodass die Diät 2 mehr Gewichtsverlust verursachen würde, was aber alles auf die Kovariable zurückzuführen ist. Nach Eliminierung des Kovariablen-Effekts ist der Gewichtsverlust der Diät-1-Gruppe größer (wenn die Steigung der Geraden entfernt wird, liegen die Punkte der Diät 1 höher).

Wenn die Punktwolke durch unterschiedliche Geraden, eine pro Faktorstufe, mit unterschiedlichen, nicht null Steigungen beschrieben wird, deutet dies auf eine Interaktion zwischen Kovariabler und Faktor hin, und es sollte kein ANCOVA-Modell verwendet werden.

Literatur

Grabinger, B. (2024). Fit fürs Studium – Statistik (3. Aufl.). Rheinwerk Computing. https://www.rheinwerk-verlag.de/fit-fuers-studium-statistik/

große Schlarmann, J. (2024). Angewandte Übungen in R. Hochschule Niederrhein. https://github.com/produnis/angewandte_uebungen_in_R

große Schlarmann, J. (2025a). Statistik mit R und RStudio - Ein Nachschlagewerk für Gesundheitsberufe. Hochschule Niederrhein. https://www.produnis.de/R

große Schlarmann, J. (2025b). table traineR. Workouts für {data.table}. Hochschule Niederrhein. https://www.produnis.de/tabletrainer/

große Schlarmann, J. (2025c). trainingslageR. Ein Übungsbuch für R-Einsteiger*innen und Fortgeschrittene. Hochschule Niederrhein. https://www.produnis.de/trainingslager

Koller, M. M. (2017). Statistik für Pflege- und andere Gesundheitsberufe (2. Aufl.). Facultas.

Müller, M. (2011). Statistik für die Pflege: Handbuch für Pflegeforschung und -wissenschaft (1. Aufl.). Hogrefe AG.

Sánchez Alberca, A., Conesa Egea, J., Garro, J. C., López Ramírez, E., Oncala Mesa, R., & Zaragoza de Lorite, A. (2023). Elementary Statistics Manual. https://github.com/asalber/statistics-manual

von der Lippe, P. (2002). Repräsentativität, convenience samples und Signifikanztests. Wie das Konzept "Repräsentativität" zu Fehlanwendungen der Statistik verleitet. Marketing, 24, 227–238. http://www.von-der-lippe.org/dokumente/Repräsentativität_4.pdf

von der Lippe, P. (2010). Kapitel 10 - Stichprobentheorie. In Induktive Statistik, Formeln, Aufgaben, Klausurtraining. http://www.von-der-lippe.org/dokumente/INKAP10L.pdf

von der Lippe, P. (2011). Wie groß muss meine Stichprobe sein, damit sie repräsentativ ist? Universität Duisburg-Essen, Diskussionsbeitrag Nr. 187. http://www.von-der-lippe.org/dokumente/Wieviele.pdf

von der Lippe, P., & Kladroba, A. (2002). Repräsentativität von Stichproben. Marketing, 24. http://www.von-der-lippe.org/dokumente/Repraesentativitaet.pdf

Bildquellen

?@fig-windmuehle1: Alfredo Sánchez Alberca

Credits

große Schlarmann (2025a)

große Schlarmann (2024)

große Schlarmann (2025c)

große Schlarmann (2025b)

Prof. Dr. Jörg große Schlarmann, BScN, MScN, RN

Hochschule Niederrhein, Krefeld

joerg.grosseschlarmann@hs-niederrhein.de

https://github.com/produnis/trainingslageR