CAS AI Production Engineering

Viele Organisationen stehen vor der Herausforderung, KI-Prototypen oder produktive Anwendungen langfristig, stabil, sicher und kosteneffizient zu betreiben. Häufig fehlen ausgereifte Betriebskonzepte sowie geeignete Deployment- und Update-Strategien, was zu Instabilitäten führt. Zudem mangelt es an Transparenz durch unzureichendes Monitoring, sodass Probleme spät erkannt werden. Auch der Umgang mit Drift, Incidents und unvorhersehbarem Verhalten ist häufig schwierig. Dazu kommt, dass Security-, Governance- und Kostenaspekte oft nur unzureichend berücksichtigt werden.

Der CAS AI Production Engineering setzt bei diesen Herausforderungen an, die in der Praxis beim produktiven Betrieb von KI-Systemen auftreten. Er befähigt dazu, KI-Systeme im produktiven Betrieb zuverlässig, sicher und verantwortungsvoll zu betreiben. Im Zentrum stehen nicht die Entwicklung einzelner Modelle oder die initiale Konzeption von KI-Lösungen, sondern jene Engineering-Entscheidungen, die den stabilen, nachvollziehbaren und wirtschaftlichen Betrieb von KI-Anwendungen über längere Zeiträume ermöglichen. Damit adressiert der Kurs eine Rolle, die in vielen Organisationen aktuell kritisch oder unzureichend abgedeckt ist.

Dieser CAS adressiert den produktiven Betrieb von KI-basierten Anwendungen und bildet die Brücke zwischen entwickelten KI-Lösungen und ihrem zuverlässigen, skalierbaren und verantwortungsvollen Einsatz in realen Systemumgebungen. Im Zentrum stehen Fragestellungen, die beim Übergang von Prototypen zu produktionsreifen KI-Systemen auftreten. Der Fokus liegt konsequent auf Engineering-Entscheidungen, die den langfristig stabilen Betrieb von KI-Systemen ermöglichen; nicht auf der Entwicklung einzelner Modelle oder kurzfristigen Tool-Konfigurationen.

Produktionsinfrastrukturen für KI-Systeme

• Cloud- und On-Prem-Umgebungen
• GPU-/CPU-Ressourcen
• verteilte Inferenz

Deployment- und Rollout-Strategien für KI-Anwendungen

• Batch- vs. Online-Inference
• Canary Releases
• Blue-Green-Deployments

MLOps-Konzepte

• CI/CD-Pipelines für KI-Systeme
• Modell Versionierung
• Reproduzierbarkeit

LLMOps-Konzepte

• Evaluierung von Modellqualität
• Prompt-Lifecycle-Management
• API- vs. Self-Hosting-Strategien
• Kostenkontrolle bei Token-basierten Modellen

Monitoring, Observability und Reliability von KI-Systemen

• Metriken
• Logging
• Tracing
• Drift-Erkennung
• Incident-Handling

Performance-, Kosten- und Ressourcenoptimierung

• Latenz
• Durchsatz
• Caching-Strategien
• Token-Budgets
• Kostenkontrolle

Spezifische Herausforderungen generativer KI im Produktivbetrieb

• Halluzinationen
• nicht-deterministisches Verhalten
• Guardrails
• Prompt- und Kontextmanagement

Security, Governance und Responsible-AI-Aspekte auf Engineering-Ebene

• Threat Modeling
• Red-Teaming-Ansätze
• risikobasierte Absicherung produktiver KI-Systeme

Im Zentrum dieses Kurses stehen moderne, aktivierende Lehr- und Lernformen, die auf die Zielgruppe technischer Fachpersonen ausgerichtet sind:

• Projekt- und problemorientiertes Lernen anhand realitätsnaher Engineering-Szenarien
• Arbeit an konkreten System- und Architekturentwürfen
• Iteratives Vorgehen mit Feedback-Schleifen (Build – Test – Improve)
• Kombination aus Input-Sequenzen, Hands-on-Sessions und Reflexionsphasen
• Einbindung eigener beruflicher Fragestellungen der Teilnehmenden
• Förderung eines Engineering-Mindsets (Builder-Mentalität, Umgang mit Unsicherheit, iterative Lösungsfindung)

Der Fokus liegt auf aktiver Kompetenzentwicklung statt reiner Wissensvermittlung.

Zielgruppe

Dieser CAS richtet sich an technische Fachpersonen, die bereits über fundierte Software- und Systemkompetenzen verfügen und diese gezielt im Bereich KI-basierter Anwendungen und Systemarchitekturen weiterentwickeln möchten. Angesprochen sind insbesondere:

• Informatik-Ingenieurinnen und -Ingenieure, Softwareentwicklerinnen und -entwickler sowie Systemarchitektinnen und -architekten
• Absolventinnen und Absolventen des BSc Informatik, des MSE Computer Science oder vergleichbarer Studiengänge
• Teilnehmende aus weiterführenden Weiterbildungen wie dem MAS Software Engineering oder spezialisierten CAS (z.B. Frontend Engineering)
• Technische Fachpersonen, die in ihrer beruflichen Praxis zunehmend mit KI-Use-Cases, LLM-basierten Anwendungen oder komplexen KI-Systemen konfrontiert sind

Zulassung

Zugelassen sind Personen

• mit anerkanntem Tertiärabschluss (Universität, Fachhochschule, Höhere Fachschule oder vergleichbarer Abschluss)
• mit mehrjähriger qualifizierter Berufserfahrung
• mit einer Tätigkeit in einem Arbeitsfeld, in dem sie das Gelernte umsetzen können (Prinzip Transferorientierung);
• mit Programmiererfahrung (z.B. in Python oder Java)
• mit einem fundierten Verständnis für die Grundlagen der KI

Bewerberinnen und Bewerber, die über vergleichbare Abschlüsse und entsprechende Berufserfahrung verfügen, können auf Basis einer individuellen Prüfung des Dossiers aufgenommen werden. 

Nach Abschluss dieses Kurses

• überführen Sie KI-Lösungen kontrolliert aus Entwicklungs- und Testumgebungen in den stabilen Produktivbetrieb und wählen geeignete Deployment- und Rollout-Strategien aus;
• überwachen Sie Zustand, Performance und Qualität produktiver KI-Systeme systematisch, definieren relevante Metriken und erkennen Abweichungen frühzeitig
• reagieren Sie fundiert auf Drift, Incidents und unerwartetes Systemverhalten und leiten geeignete Massnahmen zur Stabilisierung und Qualitätssicherung ein;
• berücksichtigen Sie Security-, Governance- und Compliance-Anforderungen im Betrieb und beurteilen Risiken sowie Betriebsprozesse aus Engineering-Perspektive;
• können Sie Kosten, Performance, Skalierung und Ressourcennutzung produktiver KI-Systeme analysieren und optimieren;
• sind Sie in der Lage, technische Betriebsverantwortung zu übernehmen und Qualität, Stabilität und Weiterentwicklung von KI-Systemen im Produktivbetrieb sicherzustellen.