Production ML Systems

Machine Learning bietet viel mehr als nur die Implementierung eines ML-Algorithmus. Ein ML-Produktionssystem umfasst eine große Anzahl von Komponenten.

Production ML Systems

Diagramm: ML-System, das nur
Diagramm des ML-Systems mit den folgenden Komponenten: Datenerhebung, Feature-Extraktion, Prozessverwaltungstools, Datenbestätigung, Konfiguration, Verwaltung von Maschinenressourcen, Monitoring und Bereitstellung der Infrastruktur sowie ML-Code Der ML-Codeteil des Diagramms wird von den anderen neun Komponenten in den Schatten gestellt.
  • Nein, du musst nicht alles selbst programmieren.
    • Verwenden Sie nach Möglichkeit allgemeine ML-Systemkomponenten wieder.
    • Zu den Google Cloud ML-Lösungen gehören Dataflow und TF Serving.
    • Komponenten sind auch auf anderen Plattformen wie Spark und Hadoop verfügbar.
    • Woher wissen Sie, was Sie brauchen?
      • Einige ML-Systemparadigmen verstehen – ihre Anforderungen

Zusammenfassung der Videovorträge

Bislang beschäftigte sich der Crashkurs für maschinelles Lernen mit dem Erstellen von ML-Modellen. Wie die folgende Abbildung vorschlägt, sind echte ML-Produktionssysteme jedoch große Ökosysteme, von denen das Modell nur ein einzelner Teil ist.

Diagramm des ML-Systems mit den folgenden Komponenten: Datenerhebung, Feature-Extraktion, Prozessverwaltungstools, Datenbestätigung, Konfiguration, Verwaltung von Maschinenressourcen, Monitoring und Bereitstellung der Infrastruktur sowie ML-Code Der ML-Codeteil des Diagramms wird von den anderen neun Komponenten in den Schatten gestellt.

Abbildung 1. Echte ML-Produktionssysteme.

Der ML-Code ist das Herzstück eines realen ML-Produktionssystems. Diese Box macht jedoch häufig nur maximal 5% des Gesamtcodes dieses gesamten ML-Produktionssystems aus. (Das ist kein Fehler.) Beachten Sie, dass ein ML-Produktionssystem erhebliche Ressourcen für die Eingabe aufwendet, um diese zu erfassen, zu überprüfen und Features daraus zu extrahieren. Außerdem muss eine Bereitstellungsinfrastruktur vorhanden sein, in der die Vorhersagen des ML-Modells in der Praxis umgesetzt werden müssen.

Glücklicherweise sind viele der Komponenten in der vorherigen Abbildung wiederverwendbar. Außerdem müssen Sie nicht alle Komponenten in Abbildung 1 selbst erstellen.

Tensor Extended (TFX) ist eine End-to-End-Plattform zum Bereitstellen von ML-Produktionspipelines.

Die nachfolgenden Module unterstützen Sie bei der Entwicklung Ihres Design-ML-Systems für die Produktion.