Glossareintrag
Wir denken. KI tippt mit.
Deep Learning (deutsch tiefes Lernen) ist ein Teilgebiet des maschinellen Lernens, bei dem künstliche neuronale Netze mit vielen hintereinandergeschalteten Schichten aus großen Datenmengen lernen. Die Netze erkennen Muster selbstständig in Rohdaten wie Fotos, Tonaufnahmen oder Texten, ohne dass ein Mensch die Merkmale vorher einprogrammiert. Fachleute nennen dieses Prinzip Representation Learning (Repräsentationslernen).
Die Begriffe bauen aufeinander auf. Künstliche Intelligenz ist der Oberbegriff, maschinelles Lernen ein Teilgebiet davon, und Deep Learning ist wiederum die Spielart des maschinellen Lernens, die seit gut zehn Jahren fast alle Durchbrüche liefert. Auch die gesamte generative KI ist Deep Learning. ChatGPT, Claude und Gemini sind tiefe neuronale Netze mit Milliarden von Parametern, ebenso die Modelle hinter Bildgeneratoren wie Midjourney.
Das „deep“ bezieht sich auf die Zahl der Schichten. Klassische neuronale Netze kamen mit einer oder zwei verborgenen Schichten aus, tiefe Netze stapeln Dutzende bis Hunderte. Jede Schicht macht die Daten dabei ein Stück abstrakter. In der Bilderkennung findet die erste Schicht Kanten und Helligkeitsübergänge, mittlere Schichten setzen daraus Formen zusammen, und die oberen Schichten erkennen ganze Objekte wie Gesichter, Ziffern oder Dachziegel.
Der Kernunterschied zum klassischen maschinellen Lernen liegt in der Merkmalsgewinnung. Bei älteren Verfahren legten Entwickler von Hand fest, auf welche Eigenschaften der Daten ein Programm achten soll (z. B. Farbwerte, Umrisse oder Wortlisten). Ein tiefes Netz lernt diese Merkmale selbst, direkt aus den Trainingsdaten. Dasselbe Grundprinzip erkennt deshalb Tumore auf Röntgenbildern, übersetzt Sprachen und schreibt Programmcode.
Die Grundideen stammen aus der Frühzeit der Informatik. Frank Rosenblatt stellte 1958 mit dem Perzeptron das erste lernende Neuronen-Modell vor. David Rumelhart, Geoffrey Hinton und Ronald Williams machten 1986 die Backpropagation bekannt, das Rechenverfahren, mit dem sich mehrschichtige Netze überhaupt trainieren lassen. Der Durchbruch kam 2012. Das tiefe Netz AlexNet gewann den Bilderkennungs-Wettbewerb ImageNet mit großem Vorsprung, trainiert auf zwei handelsüblichen Grafikkarten. 2017 stellten Google-Forscher im Aufsatz „Attention Is All You Need“ den Transformer vor, die Architektur, auf der praktisch alle heutigen Sprachmodelle aufbauen. Mit ChatGPT machte Deep Learning Ende 2022 den Sprung in den Alltag.
2024 erhielten John Hopfield und Geoffrey Hinton für ihre Grundlagenarbeiten zu neuronalen Netzen den Physik-Nobelpreis. Im selben Jahr ging der Chemie-Nobelpreis zur Hälfte an Demis Hassabis und John Jumper, deren Deep-Learning-System AlphaFold die dreidimensionale Struktur von Proteinen vorhersagt. Schon für 2018 hatten Hinton, Yann LeCun und Yoshua Bengio den Turing Award erhalten, die höchste Auszeichnung der Informatik.
Je nach Datenart haben sich verschiedene Netz-Familien durchgesetzt:
Getrieben wird der Fortschritt von Rechenleistung. Tiefe Netze bestehen im Kern aus Matrixrechnungen, die sich massiv parallelisieren lassen, deshalb laufen Training und Betrieb auf GPUs. Die Scaling Laws beschreiben, dass Modelle zuverlässig besser werden, wenn Parameter, Datenmenge und Rechenleistung gemeinsam wachsen. Metas offenes Modell Llama 3.1 hat 405 Milliarden Parameter und wurde laut offizieller Meta-Ankündigung mit über 15 Billionen Tokens trainiert. Die Kosten der größten Trainingsläufe wachsen laut einer Analyse des Forschungsinstituts Epoch AI um den Faktor 2,4 pro Jahr; für GPT-4 schätzt das Institut rund 40 Millionen US-Dollar allein für Hardware-Abschreibung und Strom.
Die Schwächen der Technik sind gut dokumentiert. Tiefe Netze sind eine Black Box, selbst ihre Hersteller können nur teilweise nachvollziehen, wie eine Antwort zustande kommt. Sprachmodelle halluzinieren, erfinden also Angaben, die überzeugend klingen. Dazu kommt der Energiebedarf. Rechenzentren verbrauchten laut Internationaler Energieagentur 2024 rund 415 Terawattstunden Strom (etwa 1,5 Prozent des weltweiten Verbrauchs) und sollen sich bis 2030 auf rund 945 Terawattstunden mehr als verdoppeln, mit KI als wichtigstem Treiber. Auch der Nachschub an Lernstoff ist endlich. Forscher von Epoch AI erwarten, dass die größten Modelle zwischen 2026 und 2032 den Bestand an öffentlich verfügbarem, von Menschen geschriebenem Text ausgeschöpft haben.
Handwerksbetriebe und lokale Unternehmen nutzen Deep Learning als fertiges Werkzeug, kein Betrieb muss dafür selbst Netze trainieren. Die Technik steckt bereits in Programmen für den Arbeitsalltag:
Verbreitet ist das alles noch nicht. Nach einer Bitkom-Erhebung vom August 2025 setzen erst 4 Prozent der deutschen Handwerksbetriebe künstliche Intelligenz ein, weitere 9 Prozent planen den Einsatz.
