Maschinelles Lernen

Vorlesung 6 der Reihe "KI" — Block: "Wie Lernen funktioniert". Zielgruppe: interessierte Erwachsene. Dauer: ca. 50 Minuten (3 Teile: 20 / 20 / 10).

Teil 1 (20 Minuten): Was bedeutet Lernen für eine Maschine? Grundverständnis mit Analogien und Beispielen

Wenn wir sagen, eine Maschine "lernt", meinen wir nicht, dass sie ein Bewusstsein oder ein Verständnis wie ein Mensch entwickelt, sondern dass sie durch Erfahrung ihr Verhalten in einer Messgröße verbessert. Eine weithin zitierte formale Definition lautet: Ein Programm lernt aus Erfahrung E hinsichtlich einer Aufgabenklasse T und einer Leistungsmetrik P, wenn seine Leistung bei Aufgaben aus T, gemessen mit P, durch E besser wird (Tom M. Mitchell beschreibt diese Auffassung ausführlich und präzise; vgl. Mitchell, 1997). Diese Definition lenkt den Blick auf drei Elemente: die Art der Erfahrung (z. B. Beispiele), die Aufgabenstellung (z. B. Klassifikation) und die Messung der Leistung (z. B. Genauigkeit).

Eine nützliche Analogie ist die eines Handwerkers, der aus Beispielen arbeitet: Stellen Sie sich vor, ein Schreiner soll aus alten Möbeln neue Regalböden herstellen. Die Möbelstücke (Daten) geben Hinweise über Material, Maße und Belastbarkeit. Aus den wiederholten Versuchen entwickelt er eine Reihe von Regeln und Techniken (ein Modell), die ihm erlauben, neue Regalböden zu fertigen, die den Anforderungen genügen. Genauso nimmt ein maschinelles Lernverfahren Beispieldaten, bildet daraus eine abstrakte Regel oder Funktion und verwendet diese Regel, um für neue Eingaben Vorhersagen zu treffen. Diese bildhafte Vorstellung entspricht dem zentralen Arbeitsprinzip vieler lernender Algorithmen, wie es in einführenden Implementierungen und Lehrmaterialien dargestellt wird (vgl. scikit-learn Tutorial).

Konkrete, einfache Beispiele veranschaulichen den Prozess: Bei der Spam-Erkennung werden eingehende E-Mails (Eingaben) als Spam oder Nicht-Spam (Labels) markiert; ein Algorithmus nutzt diese Beispiele, um künftig ungekennzeichnete E-Mails zu klassifizieren. Bei der Bilderkennung werden Fotos mit Beschriftungen ("Katze", "Hund") versehen und daraus ein Modell gelernt, das neue Bilder zuordnet. Bei Vorhersageaufgaben (Regression) werden beispielsweise historische Preisdaten genutzt, um einen Schätzer für zukünftige Preise zu entwickeln. Implementierungen und Praxisbeispiele dieser Art finden sich in Lehrunterlagen und Bibliotheken wie scikit-learn.

Wichtig zu betonen ist: "Lernen" in diesem technischen Sinn ist immer zielorientiert und quantitativ. Es geht darum, eine Funktion oder ein Entscheidungsverfahren zu finden, das in einer definierten Messgröße gut abschneidet. Die Möglichkeit, dass ein Algorithmus zwar auf Trainingsdaten gut funktioniert, aber bei neuen Daten versagt, ist ein zentrales Thema, dem wir im folgenden Teil tiefer nachgehen werden.

Teil 2 (20 Minuten): Tiefer einsteigen — Fachbegriffe und Mechanismen

Um die Mechanik des Lernens zu verstehen, führen wir einige zentrale Begriffe ein, ohne formale Beweise zu liefern, aber mit präziser Bedeutung:

Ein Modell oder Hypothesenkasten ist die Menge möglicher Funktionen, die ein Lernverfahren auswählen kann. Beispiele sind lineare Funktionen, Entscheidungsbäume oder neuronale Netze. Die Wahl dieses Raums beschränkt die Arten von Beziehungen, die das System ausdrücken kann (vgl. Mitchell, 1997; Hastie et al., 2009).

Features sind die messbaren Eigenschaften der Eingabe, etwa die Pixelwerte in einem Bild, Worthäufigkeiten in einem Text oder Alter und Einkommen in einer Kundenakte. Die Qualität und Repräsentation der Features beeinflusst maßgeblich, wie gut ein Modell die zugrundeliegenden Muster beschreiben kann; moderne Verfahren legen zusätzlich Wert darauf, nützliche Repräsentationen automatisch zu lernen (vgl. Goodfellow et al., 2016).

Verlustfunktion (Loss) und Optimierung: Um Modelle vergleichbar zu machen, definiert man eine Verlustfunktion, die misst, wie schlecht eine Vorhersage im Vergleich zum Ziellabel ist. Lernalgorithmen versuchen, diesen Gesamtverlust über die Trainingsdaten zu minimieren; dazu verwenden sie Optimierungsverfahren. Dieses Prinzip heißt empirisches Risikominimieren (empirical risk minimization) und ist zentral in vielen Lehrbüchern (Hastie et al., 2009; Mitchell, 1997).

Regularisierung ist die Methode, dem Lernprozess Einschränkungen hinzuzufügen, um Überanpassung (Overfitting) an die Trainingsdaten zu verhindern. Überfitting entsteht, wenn ein Modell zu flexibel ist und Rauschen statt zugrundeliegender Muster lernt; Regularisierung verringert die Modellkomplexität oder bestraft extreme Parameterwerte (vgl. Hastie et al., 2009).

Validierung und Generalisierung: Um die Leistung eines Modells auf unbekannten Daten abzuschätzen, teilt man Daten typischerweise in Trainings- und Testmengen auf und verwendet Methoden wie Kreuzvalidierung (cross-validation), die den Schätzer stabiler machen. Gute Validierungspraxis ist ein integraler Bestandteil moderner Implementierungen (vgl. scikit-learn Modell-Auswahl-Dokumentation).

Arten des maschinellen Lernens: Der wissenschaftliche und praktische Konsens unterscheidet mindestens drei grundlegende Paradigmen. Supervised Learning nutzt gelabelte Beispiele (Eingabe → gewünschte Ausgabe) und umfasst Klassifikation und Regression; Unsupervised Learning arbeitet mit ungelabelten Daten und sucht Strukturen wie Cluster oder Hauptkomponenten; Reinforcement Learning lernt durch Interaktion mit einer Umgebung, indem Aktionen belohnt oder bestraft werden (vgl. Mitchell, 1997; Sutton & Barto, 2018). Daneben gibt es Zwischenformen wie semi-supervised learning (Kombination gelabelter und ungelabelter Daten) und neuere Ansätze wie self-supervised learning, die aus den Daten selbst Trainingssignale ableiten (Goodfellow et al., 2016).

Evaluation und Metriken: Zur Beurteilung benutzt man je nach Aufgabe unterschiedliche Metriken — Genauigkeit, Präzision/Recall, F1-Score bei Klassifikation; mittlerer quadratischer Fehler bei Regression; kumulative Belohnung bei Reinforcement Learning. Die Wahl der Metrik sollte die reale Zielsetzung widerspiegeln (vgl. scikit-learn Tutorials).

Etwas, das oft missverstanden wird, ist die Rolle der Datenmenge: Mehr Daten helfen in der Regel, aber nur wenn sie informativ und repräsentativ sind. Sind die Daten einseitig oder fehlerhaft gelabelt, kann mehr Masse an Daten das Problem sogar verstärken. Die Qualität der Trainingsdaten ist daher mindestens so wichtig wie die Größe (vgl. Google Cloud: "What is training data?").

Teil 3 (10 Minuten): Anwendungen, Grenzen und Denkaufgaben

Anwendungen: Maschinelles Lernen findet breite Anwendung. Klassifikation wird bei E-Mail-Spam-Erkennung, medizinischer Bilddiagnose und Kreditentscheidung eingesetzt; Regression bei Preisvorhersagen und Prognosen; Clustering bei Kundensegmentierung; Reinforcement Learning bei Robotiksteuerung und Spielagenten. Viele praktische Beispiele und Implementierungen sind in Bibliotheken wie scikit-learn dokumentiert, die illustrative Workflows für die genannten Aufgaben bereitstellen (vgl. scikit-learn Tutorials).

Grenzen und Risiken: Wissenschaftlicher Konsens besagt, dass ML-Systeme in vielen Fällen leistungsfähig sind, zugleich aber an klare Grenzen stoßen. Zu den allgemein dokumentierten Problemen gehören schlechte Generalisierung bei Verteilungssch shifts zwischen Trainings- und Einsatzdaten, Verzerrungen aufgrund nicht-repräsentativer oder fehlerhafter Labels, mangelnde Robustheit gegenüber ungewöhnlichen oder adversarialen Eingaben und die Schwierigkeit, Kausalität zuverlässig aus Beobachtungsdaten zu lernen. Diese Punkte sind Gegenstand laufender Forschung (vgl. Hastie et al., 2009; Goodfellow et al., 2016).

Denkaufgaben zur Festigung:

1) Nehmen Sie an, Sie sollen ein Modell bauen, das die Zufriedenheit von Kundinnen anhand von Umfragedaten vorhersagt. Welche Schritte würden Sie priorisieren, bevor Sie ein komplexes Modell wählen? (Erwartete Überlegungen: Datenqualität prüfen, Repräsentativität, Feature-Auswahl, Baseline-Modelle, Validierung.)

2) Sie haben ein extrem genaues Modell auf Trainingsdaten, die Testgenauigkeit ist aber deutlich schlechter. Nennen Sie mögliche Ursachen und je eine Gegenmaßnahme. (Erwartete Stichworte: Overfitting → Regularisierung; Datenleck → Datenaufbereitung; fehlerhafte Labels → Label-Qualitätsprüfung; Verteilungsschicht → zusätzliche repräsentative Daten oder Domain-Adaptation.)

3) Überlegen Sie, welche Messgröße in Ihrem Anwendungskontext wirklich zählt: Ist eine hohe durchschnittliche Genauigkeit ausreichend oder ist z. B. die Minimierung von Fehlalarmen oder Fehlentscheidungen entscheidend? Die Auswahl der Metrik beeinflusst Modellwahl und Optimierung.

Abschließend noch ein transparenter Hinweis auf Unsicherheiten: Viele praktische Empfehlungen beruhen auf empirischer Erfahrung und theoretischen Grundlagen, aber es gibt keine universelle Methode, die für alle Probleme optimal ist. Offene Forschungsfragen betreffen etwa zuverlässige Generalisierungsgrenzen für komplexe Modelle, formale Aussagen zur Robustheit gegen Verteilungsänderungen und effiziente Nutzung sehr großer, heterogener Datensätze. Deshalb ist im praktischen Einsatz von ML stets eine Kombination aus datenorientierter Sorgfalt, validierter Methodik und fortlaufender Überwachung der Leistungsfähigkeit erforderlich (vgl. Hastie et al., 2009; Goodfellow et al., 2016).