Glossareintrag
Wir denken. KI tippt mit.
Eine GPU (Graphics Processing Unit, deutsch Grafikprozessor) ist ein Computerchip, der ursprünglich Bilder für den Monitor berechnete und heute die wichtigste Hardware für Künstliche Intelligenz ist. Ein Hauptprozessor (CPU) enthält wenige, rasche Rechenkerne und arbeitet Aufgaben nacheinander ab. Eine GPU enthält dagegen tausende einfache Kerne, die viele Rechenschritte gleichzeitig ausführen. Neuronale Netze bestehen im Kern aus Matrixrechnungen, die sich in tausende parallele Teilaufgaben zerlegen lassen, und genau dafür ist eine GPU gebaut. Eine aktuelle Desktop-CPU hat 8 bis 24 Kerne, Nvidias Consumer-Spitzenmodell GeForce RTX 5090 kommt auf 21.760.
Im Alltag wird GPU oft mit Grafikkarte gleichgesetzt. Genau genommen ist die GPU nur der Rechenchip auf der Karte, so wie der Motor nur ein Teil des Autos ist. KI-GPUs für Rechenzentren wie Nvidias H100 haben mit Grafik nichts mehr zu tun, sie besitzen nicht einmal einen Monitor-Anschluss und werden deshalb auch KI-Beschleuniger genannt. Auf ihnen werden Große Sprachmodelle trainiert und betrieben.
Zur wichtigsten KI-Hardware wurde die GPU durch eine Software-Entscheidung. 1999 machte Nvidia den Begriff mit der GeForce 256 populär, einem Chip für 3D‑Spiele. 2006 veröffentlichte das Unternehmen die Plattform CUDA, mit der sich Grafikchips für beliebige Berechnungen programmieren lassen. Heute unterstützen alle großen KI-Frameworks wie PyTorch CUDA als wichtigste Plattform. Diese Software-Bindung gilt als Hauptgrund dafür, dass Nvidia den Markt für KI-Rechenzentrumschips laut Marktforschern wie IDC mit rund 80 Prozent Anteil beherrscht. Allein mit Rechenzentrums-Hardware setzte das Unternehmen im Quartal bis Ende April 2026 laut offizieller Nvidia-Quartalsmeldung 75,2 Milliarden US-Dollar um. An der Börse ist Nvidia mit über fünf Billionen US-Dollar Bewertung das wertvollste Unternehmen der Welt.
Gebraucht werden die Chips in zwei Phasen. Beim Training eines großen Modells rechnen zehntausende GPUs über Wochen oder Monate im Verbund. Im laufenden Betrieb, der Inferenz, erzeugen sie für Millionen Nutzer gleichzeitig Antworten. Der Engpass ist dabei oft nicht die Rechenleistung, sondern der Speicher. Alle Parameter eines Modells müssen in den Grafikspeicher passen, bei Rechenzentrums-GPUs ein gestapelter Hochleistungsspeicher namens HBM (High Bandwidth Memory). Die Speichergröße entscheidet, ob ein Modell überhaupt auf den Chip passt, und die Speicherbandbreite bestimmt, wie schnell die Antwort entsteht.
Die wichtigsten Rechenzentrums-Generationen von Nvidia in Kurzform:
AMD hält mit der Instinct-Reihe dagegen. Das aktuelle Spitzenmodell MI355X bietet ebenfalls 288 GB Speicher. Daneben lassen die großen Hyperscaler eigene KI-Chips fertigen, die keine GPUs sind. Google trainiert und betreibt seine Modelle auf selbst entwickelten TPUs, auf denen sich auch Anthropic Kapazität im Gigawatt-Maßstab gesichert hat, und Amazon bietet mit Trainium einen eigenen Trainingschip an. Die Technik und das Kernteam des Inferenz-Spezialisten Groq hat sich Nvidia Ende 2025 für rund 20 Milliarden US-Dollar gesichert. Auch in neuen Notebooks steckt oft eine NPU, ein kleiner KI-Beschleuniger für lokale Funktionen, der mit Rechenzentrums-GPUs aber nicht vergleichbar ist.
Die Größe von KI-Rechenzentren wird inzwischen in GPUs angegeben. Der erste Campus des Stargate-Projekts von OpenAI in Texas ist auf mehr als 450.000 Blackwell-GPUs ausgelegt. Deutschlands schnellster Supercomputer JUPITER, Europas erster Exascale-Rechner, arbeitet laut Forschungszentrum Jülich mit rund 24.000 Grace-Hopper-Superchips. Die EU wiederum hat eine Ausschreibung für bis zu sieben AI Gigafactories gestartet, mit 75.000 bis über 100.000 KI-Beschleunigern pro Anlage. Weil die Chips als strategisches Gut gelten, unterliegen sie US-Exportkontrollen, deren Regeln sich laufend ändern.
Für die gängigen KI-Dienste braucht Ihr Betrieb keine eigene GPU. ChatGPT, Claude und Copilot laufen auf den Grafikprozessoren in den Rechenzentren der Anbieter, bezahlt wird nur das Abo oder die Nutzung. Die GPU-Frage stellt sich erst, wenn KI-Modelle im eigenen Haus laufen sollen.
Der häufigste Grund dafür ist Datenschutz. Mit kostenlosen Programmen wie Ollama oder LM Studio laufen Modelle mit offenen Gewichten direkt auf dem eigenen Rechner, Kundendaten verlassen das Haus dann nicht. Ob das klappt, hängt vor allem vom Grafikspeicher ab. Kleine Modelle begnügen sich quantisiert mit rund 8 GB, für mittlere Modelle sind 16 bis 32 GB sinnvoll, wie sie aktuelle GeForce-Karten bieten. Die ganz großen offenen Modelle brauchen Profi-Hardware mit 40 GB Grafikspeicher und mehr.
Wer Modelle selbst trainieren oder per Fine-Tuning anpassen will, mietet GPUs stundenweise in der Cloud, statt Karten für Zehntausende Euro zu kaufen. Spezialisierte Anbieter wie RunPod und Lambda vermieten auch einzelne H100- oder B200-GPUs, CoreWeave ganze GPU-Server. Die aktuellen Tarife stehen auf den verlinkten Preisseiten.
Der Begriff hilft außerdem beim Einordnen von KI-Nachrichten. Ob Chip-Knappheit, Stargate oder Nvidias Rekordzahlen, hinter diesen Meldungen steht immer die Frage, wer wie viele GPUs bekommt. Und davon hängt ab, wie schnell, wie verfügbar und wie teuer die KI-Dienste sind, die Ihr Betrieb täglich nutzt.
