Machine Learning Operations (MLOps)

Ihr Experte für Fragen

Hendrik Reese
Partner bei PwC Deutschland
E-Mail

MLOps als Schlüsselfaktor für erfolgreiche und wertschöpfende KI

Viele Unternehmen wollen Künstliche Intelligenz (KI) gewinnbringend einsetzen. Jedoch erschweren die technologischen Eigenheiten und neuartigen Risiken den Entwicklungsprozess und sorgen dafür, dass viele KI-Vorhaben bereits in einer Frühphase verworfen werden. Doch selbst wenn die Entwicklung erfolgreich abgeschlossen wird, sorgen fehlende Standards in der Operationalisierung dafür, dass die KI-basierten Lösungen nicht den erwünschten Nutzen erzielen.

Machine Learning Operations (MLOps) beschreibt an dieser Stelle einen Rahmen und zugehörige Best Practices, der den KI-Lebenszyklus mit den aus der Softwareentwicklung stammenden DevOps Praktiken vereint. Die Implementierung reifer MLOps Strukturen ermöglicht es Unternehmen, die Erfolgsquote angestoßener KI-Vorhaben zu erhöhen und den Nutzen in der Anwendung sicherzustellen – egal ob für interne Prozesse oder in Produkten.

Aufgrund der immer weiteren Durchdringung von KI in Unternehmen ist die Berücksichtigung von MLOps schon heute ein wichtiger Faktor, um den Time-to-Market zukünftiger Entwicklungen so gering wie möglich zu halten und hierdurch Wettbewerbsvorteile zu erzielen.

Downloaden Sie unser Whitepaper

Machine Learning Operations (MLOps)

Holistischer Erfolgsfaktor MLOps

Herausforderungen bei der Operationalisierung von KI

Der richtige Umgang mit KI ist nicht leicht und führt zu diversen Herausforderungen. Insbesondere technologische Eigenheiten, aber auch Unterschiede gegenüber der Entwicklung traditioneller Softwaresysteme sorgen für Schwierigkeiten. Weiterhin führt die Entwicklung von KI-Systemen nach kaum oder nicht definierten Standards unweigerlich zu einer hohen Fehlerquote bereits vor der Anwendung des Systems. Hinzu ergeben sich weitere Herausforderungen während der Anwendung, die KI-Vorhaben scheitern lassen.

MLOps als Integrator von KI-Lebenszyklus und DevOps Praktiken

Um Herausforderungen bei der Operationalisierung von KI entgegenzuwirken, definiert MLOps ein Vorgehensmodell im Kontext des KI-Lebenszyklus und DevOps.

KI-Lebenszyklus
Der KI-Lebenszyklus definiert ein Rahmenwerk, das alle Phasen von den ersten Überlegungen über die Entwicklung bis hin zum Auslaufen von KI-Systemen berücksichtigt. Es definiert benötigte Prozessschritte in allen Phasen und berücksichtigt technologische Eigenheiten und Datenaspekte.

DevOps
DevOps beschreibt eine Philosophie und Praktiken in der klassischen Softwareentwicklung zur Automatisierung der Integration zwischen Softwareentwicklungs- (Development) und Bereitstellungsteams (Operations). Die Berücksichtigung von DevOps sorgt für eine reibungslose und schnelle Bereitstellung von Softwareanwendungen.

Durch die Integration von KI-Lebenszyklus und DevOps Praktiken verfolgt MLOps das Ziel, einen reibungslosen Prozess für die Entwicklung, Bereitstellung, Verwaltung und Aktualisierung von ML-Modellen über den gesamten Lebenszyklus zu ermöglichen.

Die Implementierung von MLOps sorgt für höhere Erfolgsquoten und wertschöpfende KI-Systeme

Durch die Implementierung umfassender MLOps-Strukturen wird ein organisatorischer Rahmen für die Anwendung von KI im Unternehmen geschaffen. Daneben sorgt MLOps, durch den hohen Grad an Standardisierung und Automatisierung, für ein effizientes Projektvorgehen, wodurch höhere Erfolgsquoten über alle KI-Vorhaben hinweg ermöglicht werden.

Durch die Berücksichtigung von Governance und Compliance Aspekten als Teil des MLOps Lebenszyklus wird zudem die Konformität mit regulatorischen Anforderungen und das Mitigieren von Risiken sichergestellt. Zusammen mit einer intensiven Überwachung und Qualitätssicherung ergeben sich hieraus vertrauensvolle und wertschöpfende KI-Systeme.

Die Implementierung von MLOps sorgt für höhere Erfolgsquoten und wertschöpfende KI Systeme.

Faktoren für die korrekte Implementierung von MLOps

Vier Phasen zur Implementierung reifer MLOps-Strukturen

Die Implementierung von MLOps hat tiefgreifende Auswirkungen auf die Organisation und zugrundeliegende Prozesse. Aus diesem Grund ist ein schrittweises Vorgehen erforderlich, damit benötigte technologische und organisatorische Strukturen geschaffen und etabliert werden können.

Während in Phase 1 einzelne Anwendungsfälle in Experimentierumgebungen entwickelt und betrieben werden, erfolgt in Phase 2 eine organisationsweite Standardisierung und Automatisierung von Taxonomien und Vorgängen. In Phase 3 erfolgt anschließend das Aufsetzen einer 2-lagigen Integrations- und Produktionsumgebung, wodurch Anwendungsfälle risikofrei unter realistischen Bedingungen ausgiebig getestet werden können. Die abschließende Phase sorgt für eine vollständige Reife der implementierten Strukturen, indem die finale Produktionsumgebung aufgebaut wird, alle Teilkomponenten zusammengetragen und homogenisiert werden und hierdurch eine organisationsweite Skalierung ermöglicht wird.

Klare Rollen und Verantwortlichkeiten für eine effiziente Operationalisierung

Da MLOps eine Vielzahl an Aktivitäten umschließt, die nur durch Zusammenarbeit verschiedener Fachbereiche gelöst werden können, ist das Aufsetzen eines organisatorischen Rahmens mit dedizierten Rollen und Verantwortlichkeiten unabdingbar.

Die Differenzierung zwischen den Rollen sorgt für eine klare Abgrenzung der Tätigkeiten und hierdurch für ein effizienteres Projektvorgehen. Dabei bietet sich eine Untergliederung in sieben Rollen ein, wobei mehrere Rollen, wie z. B. Data Scientist und ML Engineer, theoretisch von einer einzelnen Person eingenommen werden können. Ist dies der Fall muss jedoch zwingend darauf geachtet werden, dass es zu keiner Selbstkontrolle von Arbeitsergebnissen kommt und der Validierungsprozess betroffener Arbeitspakete dementsprechend angepasst wird.

Governance, Risk und Compliance als Teil der MLOps-Strategie

Die Integration von Governance-, Risk- und Compliance-Maßnahmen sorgt für Vertrauen und Akzeptanz in die schwer greifbare Technologie KI

Die Regulierungslandschaft von KI ist hochdynamisch und es sind in naher Zukunft zahlreiche regulatorische Anforderungen zu erwarten, die zwingend einzuhalten sind. Ein Beispiel hierfür ist der aufkommende EU AI Act, welcher verpflichtende Anforderungen an Hersteller, Vertreiber, Betreiber und Nutzer von KI-Systemen stellt und hierfür einen risikobasierten Ansatz einführt. Daneben gibt es zahlreiche weitere Regulierungs- und Standardisierungs-Initativen auf internationaler Ebene, die weitere Anforderungen bereithalten.

Ungeachtet dieser regulatorischen Anforderungen sind inhärente Risiken bei der Verwendung von KI zwingend zu beachten. So gibt es in der Vergangenheit einige Beispiele, bei denen Risiken wie ein voreingenommenes oder unfaires Systemverhalten nicht berücksichtigt wurden und für Negativschlagzeilen sorgten.

Umfassende MLOps-Strukturen umschließen relevante GRC-Aspekte gezielt, um aufkommende regulatorische Anforderungen und technologie-bedingte Risiken effizient zu adressieren. Hierdurch wird das Vertrauen in entwickelte KI-Systeme gestärkt − intern wie extern.

Unsere Services im Überblick

Readiness Assessment

Viele Unternehmen verfügen über (erste) Erfahrungen bei der Anwendung und Operationalisierung von KI. Häufig liegt der Fokus jedoch auf Showcases und es gibt es kaum standardisierte oder dokumentierte Vorgehen, die langfristige und nachhaltige Lösungen schaffen.

In einem initialen Schritt unterstützen wir Sie dabei, den Status quo Ihrer Organisation im Hinblick auf MLOps zu bewerten. Dies ist unabdingbar, um Lücken zu identifizieren und nachfolgend ein Vorgehensmodell mit benötigten Aktivitäten und Maßnahmen zu definieren.

Strategie

Da die Implementierung reifer MLOps-Prozesse eine große Auswirkung auf Ihre Organisation haben kann, unterstützen wir Sie dabei, die strategische Richtung festzulegen. Hierbei bauen wir auf den Ergebnissen des initialen Readiness Assessments auf und definieren konkrete Ziele basierend auf Ihrer angestrebten KI Journey.

Als Teil der Strategie werden insbesondere benötigte technologische und organisatorische Maßnahmen grob festgelegt. Dies ist ein wichtiger Schritt, um nachfolgend eine konkrete Planung von Arbeitspaketen durchzuführen und diese zu implementieren.

 

Use Case Management

Die Implementierung von MLOps-Strukturen ist unabdingbar, um gewünschte KI-Anwendungsfälle effizient umzusetzen und zu operationalisieren − ein fehlerhaft ausgewählt oder falsch definierter Anwendungsfall bringt dennoch meistens keinen Nutzen.

An dieser Stelle unterstützen wir Sie bei der Umsetzung eines umfassenden Use Case Managements, was sicherstellt, dass lediglich wertschöpfende und technisch realisierbare Anwendungsfälle ausgewählt und umgesetzt werden. Dabei setzen wir auf ein eigens definiertes Vorgehensmodell, welches auf Basis Ihrer individuellen Interessen angepasst wird.

Implementierung

Mit unserer fundierten technischen Expertise begleiten wir Sie bei der Implementierung konkreter organisatorischer und technologischer Maßnahmen. Hierfür ist eine vorab definierte, umfassende Strategie der Ankerpunkt.

Als Teil der Implementierung definieren wir konkrete Arbeitspakete und führen diese mit Ihnen zusammen aus. Hierbei kann es sich beispielsweise um die Einführung neuer Technologieplattformen (z. B. Cloud-Dienste) oder das Aufsetzen organisatorischer Rollen samt Upskilling handeln.

Governance, Risk, Compliance (GRC)

Die hohe Dynamik in der Regulierungslandschaft, sowie inhärente technologische Eigenschaften sorgen für Unsicherheiten und Risiken bei der Anwendung und Operationalisierung von KI. Wir unterstützen Sie an dieser Stelle bei der Implementierung gezielter GRC-Prozesse als Teil von MLOps, um diese beherrschbar zu machen.

Die Berücksichtigung von GRC im Hinblick auf KI ist unerlässlich, um regulatorisch konforme Systeme anzubieten, welche darüber hinaus alle relevanten Risiken minimieren.

„Die Berücksichtigung von MLOps-Praktiken ist ein wesentlicher Erfolgsfaktor für den breiten Einsatz von KI. Unternehmen sind bereits in einer Frühphase Ihrer KI Journey gut beraten, MLOps umfassend zu implementieren und somit Wettbewerbsvorteile zu ermöglichen.“

Hendrik Reese,Partner bei PwC Deutschland
Follow us

Contact us

Hendrik Reese

Hendrik Reese

Partner, PwC Germany

Tel.: +49 151 70423201

Dr. Sebastian Becker

Dr. Sebastian Becker

Manager, PwC Germany

Tel.: +49 1516 5049-586

Hide