Inhouse-Schulung · Private AI · LLMOps
Private AI & LLMOps: eigene KI-Plattformen aufbauen und betreiben
In zwei Tagen setzt Ihr Team eine vollständige KI-Plattform selbst auf – mit Open-Source-Modellen, zentralem Gateway, Wissensdatenbank, kontrollierter Tool-Nutzung und Monitoring auf Kubernetes.
Aus der Praxis: Diese Bausteine betreibe ich als Tech Lead in einer abgeschotteten Produktionsumgebung. Sie lernen den Stack, nicht die Theorie darüber.
Warum Ihr Team die Plattform selbst verstehen sollte.
Externe KI-Dienste sind schnell eingerichtet. Doch sobald interne Dokumente, personenbezogene Daten oder Geschäftsgeheimnisse im Spiel sind, stellt sich die Frage, wo diese Daten verarbeitet werden. Eine private KI-Plattform beantwortet sie: Modelle laufen in Ihrer Infrastruktur, unter Ihren Regeln.
Dafür braucht es mehr als ein heruntergeladenes Modell: Serving, ein Gateway, Wissensanbindung, kontrollierte Werkzeuge, Zugriffsschutz und Monitoring – und ein Team, das weiß, was im Betrieb schiefgehen kann.
Für Ihr Unternehmen bedeutet das
- eine fundierte Grundlage für die Entscheidung „selbst betreiben oder einkaufen“
- ein Team, das Architektur-, Hardware- und Sicherheitsfragen selbst einordnen kann
- weniger Abhängigkeit von einzelnen Anbietern – und keine Lizenzkosten für die Bausteine
Für wen diese Schulung gedacht ist
- DevOps Engineers, die KI-Workloads betreiben sollen
- Platform Engineers, die eine interne KI-Plattform aufbauen
- Softwareentwickler, die Sprachmodelle über APIs in Anwendungen integrieren
- Technische Architekten, die eine KI-Plattform planen oder bewerten
Nicht geeignet für
Einsteiger ohne Erfahrung mit Linux, Containern und Kubernetes, Teams, die nur den Umgang mit KI-Chats lernen wollen, und Data-Science-Teams, die Modelle trainieren oder feintunen möchten.
Nach zwei Tagen kann Ihr Team …
- die Architektur einer unternehmensinternen KI-Plattform entwerfen und ihre Bausteine begründen
- Open-Source-Modelle nach Anwendungsfall, GPU-Bedarf und Quantisierung auswählen
- Modelle mit vLLM bereitstellen und über ein zentrales Gateway mit API-Keys, Rollen und Limits anbieten
- KI-Workloads auf Kubernetes betreiben, absichern und per Audit-Logging nachvollziehbar machen
- MCP-Tools mit klaren Berechtigungen anbinden und sicher ausführen
- Latenz, Token-Durchsatz und GPU-Auslastung überwachen und Produktionsfehler eingrenzen
Die Schulung vermittelt Grundlagen und Praxis für den Aufbau. Eine produktive Plattform in Ihrem Unternehmen braucht darüber hinaus Planung für Ihre konkrete Umgebung – dabei unterstütze ich auf Wunsch als Berater.
Voraussetzungen
- sicherer Umgang mit der Linux-Kommandozeile
- Container-Grundlagen
- grundlegendes Verständnis von APIs
- erste Kubernetes-Erfahrung für die praktischen Deployment-Übungen
Technisch genügt ein Laptop mit aktuellem Browser. Die Lab-Umgebung stelle ich bereit – lokale Installationen oder eigene GPUs sind nicht nötig. Alternativ findet die Schulung nach Absprache in Ihrer eigenen Infrastruktur statt.
Zwei Tage im Detail.
Tag 1 — Architektur und Private-AI-Plattform
Tag 2 — Sicherheit und produktionsnaher Betrieb
Was Ihr Team selbst macht
- Plattform bereitstellenKomponenten deployen, Modelle über das Gateway ansprechen, API-Zugriffe testen und die Chat-Oberfläche anbinden.
- AbsichernRollen und API-Keys vergeben, Secrets sauber ablegen, Netzwerkregeln setzen und prüfen, was ohne Berechtigung passiert.
- BeobachtenInferenz-Latenzen, Token-Durchsatz und GPU-Auslastung in Grafana auswerten und Engpässe erkennen.
- Produktionsfehler behebenDie integrierte Plattform Ende-zu-Ende testen und einen simulierten Fehler im Betrieb finden und beheben.
Ein Preis für Ihr ganzes Team.
- Dauer
- 2 Tage, jeweils ca. 6 Stunden Schulungszeit
- Gruppengröße
- bis zu 8 Teilnehmende
- Format
- remote oder vor Ort bei Ihnen, nach Absprache
- Sprache
- Deutsch, auf Wunsch Englisch
- Umgebung
- vorbereitete Lab-Umgebung oder Ihre eigene Infrastruktur
- Unterlagen
- Schulungsunterlagen, Lab-Anleitungen, Referenzarchitektur und Checkliste für den produktiven Betrieb, digital
- Anpassung
- Schwerpunkte nach Ihren Anforderungen, nach Aufwand
4.900 €
netto pro Unternehmensgruppe, zzgl. USt.
Enthalten
Zwei Schulungstage, Vorgespräch, Lab-Umgebung für die Schulungsdauer, Unterlagen.
Nach Vereinbarung
Inhaltliche Anpassungen, Reisekosten bei Vor-Ort-Terminen, zusätzliche Infrastruktur wie GPU-Ressourcen über den Standardumfang hinaus.
Diese Schulung anfragenDas Angebot richtet sich ausschließlich an Unternehmen.
Häufige Fragen.
Ist die Schulung für Teams mit unterschiedlichem Wissensstand geeignet?
Ja, solange alle die Grundvoraussetzungen erfüllen. Im Vorgespräch klären wir den Stand im Team. In den Labs gibt es Zusatzaufgaben für Erfahrene, und niemand wird abgehängt.
Welche Vorkenntnisse sind wirklich nötig?
Linux- und Container-Grundlagen, ein grundlegendes Verständnis von APIs und erste Erfahrung mit Kubernetes. Ohne Kubernetes-Erfahrung reichen zwei Tage nicht, um die produktionsnahen Deployment-Übungen sinnvoll zu nutzen – sprechen Sie mich dann gern auf eine vorgeschaltete Einführung an.
Können Sie unsere Anforderungen berücksichtigen?
Ja. Schwerpunkte wie OpenShift statt Kubernetes, ein bestimmtes Modell oder Ihre eigenen MCP-Anwendungsfälle lassen sich nach Absprache einbauen. Größere Anpassungen biete ich nach Aufwand an.
Findet die Schulung remote oder vor Ort statt?
Beides ist möglich. Vor Ort ist der Austausch intensiver, remote spart Reisezeit. Im Rheinland/NRW komme ich unkompliziert vorbei, bundesweit nach Absprache.
Welche Infrastruktur brauchen die Teilnehmenden?
Einen Laptop mit Browser und Netzwerkzugang zur Lab-Umgebung. GPUs oder lokale Installationen sind nicht nötig.
Können wir die Schulung in unserer eigenen Infrastruktur machen?
Ja, nach technischer Abstimmung im Vorfeld – auch in abgeschotteten Umgebungen ohne Internetzugang. Ein eventueller Mehraufwand wird vorher vereinbart.
Sind Unterlagen und Übungen enthalten?
Ja. Alle Teilnehmenden erhalten die Unterlagen und Lab-Anleitungen digital.
Was, wenn wir mehr als 8 Personen sind?
Dann empfehle ich zwei Durchgänge, damit die Labs gut betreut bleiben. Sprechen Sie mich an.
Wie läuft die Terminvereinbarung ab?
Anfrage senden, kurzes Vorgespräch, dann erhalten Sie zwei bis drei Terminvorschläge und ein schriftliches Angebot.
Lässt sich die Schulung mit Enterprise RAG kombinieren?
Ja. Erst die Plattform, dann die Anwendung ist eine sinnvolle Reihenfolge. Sprechen Sie mich auf einen gemeinsamen Termin an.
Schulung für Ihr Team anfragen.
Die Schulung ist bereits ausgewählt. Teilnehmerzahl und Zeitraum genügen – ich melde mich innerhalb von zwei Werktagen mit Terminvorschlägen.
So geht es weiter
- Ich lese Ihre Anfrage und bereite Rückfragen vor.
- Sie erhalten eine Antwort mit Terminvorschlägen.
- Im Erstgespräch – 30 Minuten, kostenlos – klären wir alles Weitere.