Verfahren und Vorrichtung zum Ermitteln von Netzkonfigurationen eines neuronalen Netzes unter Erfüllung einer Mehrzahl von Nebenbedingungen

verfasst von

Frank Hutter, Guilherme Miotto, Marius Lindauer, Thomas Elsken

Abstract

Die Erfindung betrifft ein Verfahren zum Ermitteln einer Pareto Menge von Netzkonfigurationen, mit folgenden Schritten: Bereitstellen (S1) einer Mehrzahl von zufällig ausgewählten Netzkonfigurationen (α). Dann folgt ein Ermitteln von Hyperparameter (λ) für jeder der bereitgestellten Netzkonfigurationen (α) mittels eines Optimierers und ein Trainieren von neuronalen Netzen konfiguriert abhängig von bereitgestellten Netzkonfigurationen (α) und abhängig von den jeweils zugehörigen ermittelten Hyperparameter (λ) auf den bereitgestellten Trainingsdaten sowie ein Ermitteln für jedes der trainierten neuronalen Netze eine Performance (accurancy). Anschließend wird ein Anpassen des Optimierers abhängig von Netzkonfigurationen (α), Hyperparameter (λ) und Performance ausgeführt. Es folgt ein wiederholtes Ausführen von einem Auswählen (S3) von Netzkonfigurationen aus dem weiteren Trainingsdatensatz sowie eines zufälligen Mutieren (S4) der ausgewählten Netzkonfigurationen und Ausführen der Schritte zum Evaluieren der mutierten Netzkonfigurationen. Anschließend wird ein wiederholtes Ausführen folgender Schritte ausgeführt. Auswählen (S5) von Netzkonfigurationen aus dem weiteren Trainingsdatensatz und Komprimieren (engl. Pruning) (S6) der ausgewählten Netzkonfigurationen sowie ein Evaluieren der komprimierten Netzkonfigurationen.

Organisationseinheit(en)

Fachgebiet Maschinelles Lernen

Typ

Patent

Publikationsdatum

20.10.2022

Publikationsstatus

Veröffentlicht