Wir sind live
AI Foundation Services (AIFS) läuft ab sofort auf der Industrial AI Cloud in München – der KI-Fabrik, die Deutsche Telekom und NVIDIA gemeinsam aufgebaut haben. Wir rechnen auf fast 10.000 Blackwell-GPUs in München – einer der größten KI-Fabriken Europas, gebaut von Deutscher Telekom und NVIDIA.
Ja, es ist souverän. Ja, es ist regulatorisch konform. Das nehmen wir ernst – aber das ist nicht die eigentliche Geschichte. Die Geschichte sind drei Dinge: die Intelligenz, die Token-Ökonomie und die Tatsache, dass alles in München läuft.
Zur Einordnung: In nur wenigen Monaten ist AI Foundation Services zu einer Plattform gewachsen, auf der eine ganze Reihe europäischer Unternehmen arbeitet – mit 30+ Modellen. Open-Weight-Modelle, die wir in unseren Rechenzentren hosten: Mistral, Gemma 4, OpenAIs gpt-oss, Nemotron folgt in Kürze. Dazu die großen proprietären Modelle in EU-Regionen, wenn Kunden sie brauchen: GPT auf Azure, Claude auf Google Cloud oder Azure, Gemini auf Google Cloud.
Open-Source-Modelle sind inzwischen richtig gut
Wirklich gut. GLM 5.2 – ein Mixture-of-Experts-Modell mit 744 Milliarden Parametern – hält mit den Modellen von OpenAI und Anthropic mit.[1] Was viele noch überrascht: Qualität auf Frontier-Niveau gibt es nicht mehr nur zur Miete bei wenigen US-Anbietern. Und Intelligenz ist genau das, wofür Kunden tatsächlich bezahlen.
Und jetzt der Teil, der uns am meisten Spaß macht
Solche Intelligenz zu betreiben, läuft auf eine einfache Frage hinaus: Wie viel holt man aus einer GPU heraus, und was kostet ein Token? Genau dort beginnt das Engineering.
- Quantisieren für Blackwell.
- Cache-Wiederverwendung für Long-Context- und Agentic-Traffic.
- Die compute- und memory-gebundenen Phasen der Inferenz trennen.
- Speculative Decoding.
- Und vieles mehr, das unsere Engineers deutlich besser erklären können als ich …
Am Ende zählt nur eines: günstigere Token und mehr Intelligenz aus derselben Hardware. Das Modell selbst hilft dabei: GLM 5.2 aktiviert pro Token nur rund 40 der 744 Milliarden Parameter – Frontier-Qualität für einen Bruchteil des Rechenaufwands. Diese Effizienz ist im Grunde das ganze Spiel.
Einige der spannenden Engineering-Herausforderungen und unsere Lösungen dafür teilen wir in den kommenden Wochen – bleiben Sie dran.
Jedes Modell, das wir tunen, lehrt uns etwas für das nächste – und die Kosten, Intelligenz auf unserer Infrastruktur zu betreiben, sinken weiter. Genau das begeistert uns und unsere Kunden.