AI Platform Engineer - #2631246

Ihre Aufgaben:

• Aufbau und Weiterentwicklung unserer AI Plattform auf Kubernetes
• Deployment und Betrieb von Large Language Models (LLMs) auf GPU-Servern
• Aufbau und Betrieb performanter Model-Serving und Inference-Services
• Etablierung von MLOps-Standards und Betrieb und Weiterentwicklung der on-prem MLOps-Plattform (u.A. ClearML, OpenShift)
• Aufbau von LLMOps-Workflows für produktive GenAI-Services (Serving/Runtime-Konfiguration, Guardrails & Policies, Evaluierung/Regressionstests, Kosten- & Qualitäts-Monitoring)
• Containerisierung und Deployment von AI-Services mit Docker und Kubernetes
• Skalierung und Optimierung von GPU- und CPU-Workloads
• Entwicklung stabiler AI-APIs und Services für interne Anwendungen
• Aufbau von Monitoring, Logging und Observability für AI-Systeme
• Automatisierung von Infrastruktur-, Plattform- und Model-Releases (CI/CD, GitOps, Infrastructure-as-Code) inkl. sicherer Rollouts, Rollbacks und Standardisierung von Deployments
• Analyse und Optimierung von Performance, Skalierung und Stabilität

Ihre Qualifikation:

• Strukturierte, selbstständige Arbeitsweise und Freude daran, komplexe Systeme zu betreiben und zu verbessern
• Kommunikations- und Moderationsstärke im Austausch mit Fachbereichen und IT
• Erfahrung im Aufbau oder Betrieb von Cloud-, Plattform- oder Infrastruktur-Systemen
• Gute Kenntnisse in Kubernetes und Container-Technologien
• Erfahrung mit Microservices, APIs und verteilten Systemen
• Erfahrung in MLOps/LLMOps (Model-/Prompt-Lifecycle, Serving, Evaluierung, Monitoring) sowie an produktiven AI-Systemen
• Erfahrung mit DevOps-Praktiken wie CI/CD, GitOps, Infrastructure-as-Code und Betriebs-/Release-Prozessen von Vorteil
• Erfahrung mit GPU-Workloads oder High-Performance-Systemen von Vorteil