Deep Learning Optimizer

Was ist der EYYES Deep Learning Optimizer?

Der Deep Learning Optimizer ist ein Service zur Optimierung von neuronalen Netzen. Neuronale Netze benötigen im Einsatz viel Speicher und Rechenleistung. Für viele Anwendungen, speziell im Embedded Systems Bereich, stellte dies lange Zeit eine Hürde dar. Heute kann durch den gezielten Einsatz von arithmetischen und topologischen Optimierungsverfahren (Quantisierung und Pruning) die Komplexität (für gewöhnlich) um ein Vielfaches verringert werden ohne negative Auswirkungen auf die Qualität.

Wie funktioniert der EYYES Deep Learning Optimizer?

Der Deep Learning Optimizer erhält ein bereits trainiertes Netz. Mittels sogenannten Post-Training-Optimization Verfahren wird die Komplexität des Models verringert. Eine automatisierte Evaluierung zeigt die erreichte Reduktion. Wenn Use-Case Bilddaten zur Verfügung stehen zeigt die Evaluierung außerdem die Qualitätsergebnisse gegenüber dem unoptimierten Model. Das Ergebnis ist ein optimiertes Model sowie ein Binary Model als Input für den EYYES Deep Learning Accelerator.

Nutzen und Vorteil des Optimizers

Durch die Optimierung von neuronalen Netzen kann günstigere oder energieeffizientere Hardware für die Anwendung eingesetzt werden, wie unser EYYES Deep Learning Accelerator. Durch Post-Training-Optimization kann das kosten- und zeitintensive Model Training normal stattfinden:

  • Keine aufwendigen Experimente während des Trainingsvorgangs
  • Volle Konzentration auf die Qualität
  • Für die Optimierung werden keine zusätzlichen Bilddaten benötigt
  • 17-50% geringere Quantisierungsverluste