Senior DevOps Engineer – GenAI Platform & Azure Cloud 100%

Du möchtest die Entwicklung innovativer KI-Lösungen aktiv mitgestalten? Als Senior DevOps Engineer berätst du beim Aufbau einer modernen GenAI-Plattform und bringst deine technische Expertise in deren Konzeption und Umsetzung ein. In einem interdisziplinären DevOps-Team aus Data Scientists, Business Engineers und DevOps Engineers entwickelst du gemeinsam zukunftsorientierte Lösungen und treibst den Aufbau der Plattform voran.

Hauptaufgaben:

• Konfiguration und Verwaltung von Azure Cloud-Ressourcen insbesondere API Management, Foundry, OpenAI, AI Search, Document Intelligence sowie Kubernetes-basierten Applikationen wie Langfuse als "Infrastructure-as-Code" mit Terraform, HelmChart und Gitlab

• Automatisierung von Build-, Test- und Release-Prozessen für GenAI-Anwendungen (LLMOps), um häufige und zuverlässige Releases in Entwicklungs-, Test- und Produktionsumgebungen sicherzustellen

• Mitarbeit bei der Ausarbeitung von technischen Konzepten für die Umsetzung neuer Anforderungen an die GenAI Plattform, sowie derer laufenden Weiterentwicklung und Optimierung. Dabei sind alle Komponenten (Datenbanken, LLM-Modelle und andere AI-Services, Anwendungen), Aufwände, der laufende Betrieb mit diversen Client Applikationen und insbesondere die unternehmensweiten und regulatorischen Vorgaben zu berücksichtigen und abzustimmen.

• Implementierung von Mechanismen für das Monitoring und die Alarmierung (z. B. Grafana und Azure Dashboard), um die Stabilität und Effizienz der Plattform zu gewährleisten

• Support der Client Applikation bei konzeptionellen Fragen, Integrationen (Onboarding) sowie bei Problemen im Betrieb

• Überwachung der Systemleistung, Betriebszeit und Protokolle, um Probleme frühzeitig zu erkennen und zu beheben

• Neu- und Weiterentwicklung von code-basierten Umsetzungen für beispielweise Autorisierungsprüfung, Logging/Monitoring, Routinglogiken, Guardrails-Validierungen mit Java, Python, XML, C# (APIM Policies)