Du verstehst, warum man Daten teilt, was Varianz von Bias unterscheidet, wie der Gesamtfehler zerlegt wird und wie du mit Lernkurven, Regularisierung und mehr Daten gegen Overfitting vorgehst.
Trainingsdaten sind zum Üben da. Testdaten zeigen, ob das Modell auch auf Neues vorbereitet ist.
Stell dir vor, du lernst für die Führerscheinprüfung mit 100 Übungsfragen. Am Prüfungstag tauchen aber neue Fragen auf, die du vorher nicht gesehen hast. Dann zeigt sich, ob du wirklich verstanden hast oder nur auswendig gelernt hast.
Genau deshalb teilt man Daten in Training und Test. Das Modell soll nicht bloß alte Beispiele wiedererkennen, sondern mit neuen Situationen vernünftig umgehen können.
bedeutet: Ein Teil der Daten wird zum Lernen benutzt, ein anderer Teil bleibt für die faire Prüfung zurück.
Typische Verhältnisse sind 70/30 oder 80/20. Wenn das Modell auf dem Training gut aussieht, aber auf dem Test deutlich schlechter ist, dann generalisiert es nicht sauber.
Was nimmst du mit?
Ohne Testdaten siehst du nur, wie gut dein Modell auswendig gelernt hat. Erst der Test verrät, ob es auf neue Fälle vorbereitet ist.
Eine Gerade ist ruhig, eine Schlangenlinie kann jeden Punkt treffen. Die spannende Frage ist: Wer sagt morgen besser voraus?
Eine Eisdiele möchte wissen, wie viel Eis morgen verkauft wird. Modell A legt einfach ein Lineal durch die Daten. Modell B biegt sich durch jeden einzelnen Punkt wie eine Schlange.
Im Training wirkt die Schlangenlinie oft beeindruckend. Aber die entscheidende Frage ist, wie gut beide Modelle auf neuen Tagen abschneiden.
Ein einfaches Modell hat wenige Freiheitsgrade. Es ist stabil, kann aber wichtige Muster übersehen. Ein komplexes Modell passt sich stärker an und kann dadurch auch Zufallsrauschen mitlernen.
sind die vertikalen Abstände zwischen echter Beobachtung und Vorhersage. Auf Trainingsdaten gewinnt oft das komplexe Modell. Auf Testdaten ist das nicht garantiert.
Was nimmst du mit?
Ein Modell, das auf dem Training glänzt, ist nicht automatisch das bessere Modell. Entscheidend ist, wie gut es morgen, nächste Woche oder im Test bleibt.
Varianz misst, wie stark sich Vorhersagen verändern, wenn das Modell mit anderen Trainingsstichproben neu lernt.
Drei Wetterstationen sollen den Eisverkauf für morgen vorhersagen. Jede Station bekommt aber eine andere Stichprobe aus den Wetterdaten der letzten Wochen.
Station Simpel sagt jedes Mal fast dasselbe. Station Flexibel wirft ihre Vorhersage ständig um, sobald sich die Stichprobe ändert. Genau dieses Schwanken ist Varianz.
beschreibt die Streuung der Vorhersagen über viele mögliche Trainingsstichproben. Hohe Varianz heißt: Das Modell ist empfindlich und reagiert stark auf kleine Unterschiede in den Daten.
Hohe Varianz ist eng mit Overfitting verknüpft. Das Modell lernt dann nicht nur das Signal, sondern auch den Zufall in der Stichprobe.
Was nimmst du mit?
Varianz ist die Nervosität eines Modells. Wenn es seine Meinung bei jeder neuen Stichprobe zu stark ändert, ist das ein Warnsignal.
Bias ist der systematische Fehler: Das Modell liegt dauerhaft in dieselbe Richtung daneben.
Eine Uhr, die immer zehn Minuten nachgeht, ist verlässlich falsch. Sie springt nicht wild herum, sondern hat eine dauerhafte Schieflage. Genau das macht Bias im Modellbau greifbar.
Ein zu simples Modell hat oft hohen Bias, weil es wichtige Muster gar nicht erst erfassen kann. Dann liegt es auf Training und Test gleichermaßen grob daneben.
Bias ist die systematische Abweichung zwischen durchschnittlicher Vorhersage und wahrer Funktion. Hoher Bias bedeutet: Das Modell ist zu simpel oder trifft falsche Annahmen.
Mit steigender Modellkomplexität sinkt Bias oft, aber dafür steigt meist die Varianz. Genau daraus entsteht später der Tradeoff.
Was nimmst du mit?
Bias ist kein Zufallszittern, sondern eine dauerhafte Schlagseite. Mehr Flexibilität kann Bias senken, löst aber nicht automatisch alle Probleme.
Der Gesamtfehler setzt sich aus Bias², Varianz und unvermeidbarem Rauschen zusammen.
Beim Elfmeterschießen kannst du immer etwas links zielen, mal höher oder tiefer streuen und zusätzlich noch von einer Windböe gestört werden. Der gesamte Fehlschuss kommt also nicht aus nur einer Quelle.
Im Machine Learning ist es ähnlich: Systematischer Fehler, Streuung und echtes Rauschen addieren sich zum Gesamtproblem.
MSE ist der mittlere quadratische Fehler. In der Bias-Varianz-Zerlegung wird dieser Fehler gedanklich in drei Teile aufgespalten: Bias², Varianz und irreduzibler Fehler.
Der irreduzible Fehler ist das Rauschen der Welt. Ein besseres Modell kann ihn nicht einfach wegzaubern.
Was nimmst du mit?
Man kann nicht einfach nur „den Fehler“ sehen und fertig. Es hilft enorm, den Fehler in seine Bestandteile zu zerlegen, weil dann klarer wird, an welcher Stellschraube du drehen musst.
Mehr Komplexität senkt oft Bias, erhöht aber häufig die Varianz. Der liegt dazwischen.
Stell dir eine Dartscheibe vor. Das Zentrum ist die perfekte Vorhersage. Jeder Wurf steht für ein Modell, das mit einem neuen Datensatz gelernt wurde.
Hoher Bias heißt: alle Würfe landen systematisch neben der Mitte. Hohe Varianz heißt: die Würfe fliegen wild auseinander. Ziel ist ein enger Cluster nahe am Zentrum.
Wenn du Bias reduzierst, wird das Modell meist flexibler. Diese zusätzliche Flexibilität kann aber zu mehr Varianz führen. Genau dieses Gegeneinander ist der Bias-Varianz-Tradeoff.
Der Sweet Spot ist ein Modell, das weder zu schlicht noch zu nervös ist. Häufig ist das einfachere, aber stabile Modell vertrauenswürdiger als ein Modell mit wilden Ausreißern.
Was nimmst du mit?
Das beste Modell ist selten das extrem einfachste und selten das extrem flexibelste. Gesucht ist ein stabiler Mittelweg.
Lernkurven zeigen, ob beide Fehler hoch bleiben oder ob sich eine problematische Lücke zwischen Training und Test aufspannt.
Beim Fahrradfahren fällt man am Anfang oft hin. Mit mehr Übung wird die Bewegung sicherer. Eine Lernkurve zeigt ganz ähnlich, wie sich der Fehler eines Modells verändert, wenn mehr Trainingsdaten dazukommen.
Spannend ist nicht nur, ob der Fehler sinkt, sondern auch, wie weit Training und Test auseinanderliegen.
Eine hat auf der x-Achse die Trainingsgröße und auf der y-Achse den Fehler, hier vereinfacht als RMSE. Trainingsgröße heißt hier einfach: Wie viele Zeilen aus den verfügbaren Daten gerade wirklich zum Lernen benutzt werden. Underfitting zeigt zwei hohe, nahe Kurven. Overfitting zeigt eine große Lücke zwischen Training und Test.
Ein guter Fit führt beide Kurven auf niedrigerem Niveau zusammen. Kleine Wellen oder Mini-Zacken sind normal, weil jeder zusätzliche Datenteil die Schätzung etwas verändert. Wichtig ist das Gesamtmuster, nicht jeder einzelne Buckel.
Was nimmst du mit?
Lernkurven sind wie ein Diagnosegespräch mit dem Modell. Sie zeigen dir, ob du eher mehr Daten brauchst oder ob das Modell selbst das Kernproblem ist.
Wenn Varianz zu hoch wird, helfen oft weniger Komplexität, mehr Daten oder Regularisierung.
Stell dir vor, dein Modell ist ein Buffet-Gast, der alles auf seinen Teller lädt, auch unnötige Sachen. Regularisierung ist die freundliche Person am Buffet, die sagt: Nimm nur so viel mit, wie du wirklich brauchst.
Dadurch wird das Modell gezwungen, schlanker zu bleiben und sich nicht an jedes kleine Zufallsdetail zu klammern.
Overfitting bekämpfst du oft durch weniger Modellkomplexität, mehr Daten oder . Underfitting bekämpfst du eher durch bessere Features, flexiblere Modelle oder das Lockern überstrenger Regularisierung.
Ridge schrumpft alle Koeffizienten Richtung null. Lasso kann einzelne Koeffizienten ganz auf null setzen. Elastic Net mischt beide Ideen.
Was nimmst du mit?
Wenn Varianz das Problem ist, musst du nicht immer das ganze Modell wegwerfen. Oft reicht es, das Modell zu zügeln, Daten zu ergänzen oder nur die wirklich wichtigen Features zu behalten.