Algorithm Control: Efficient Learning to Control Algorithm Parameters

Abstract

Es ist weithin bekannt, dass die Performanz von vielen Algorithmen von ihren Parametern abhängt. Um mühsames und fehleranfälliges Parameteroptimieren zu vermeiden, wurden automatisierte Ansätze entwickelt, um effizient Spitzenleistungen von Algorithmen zu erreichen. Allerdings haben diese Ansätze den Nachteil, dass die Parametereinstellungen nur einmalig festgelegt werden, obwohl viele hand-designte, interne Heuristiken von KI-Algorithmen meist reaktiver Natur sind und Parameter dynamisch während der Laufzeit anpassen. In diesem Projekt haben wir Ansätze entwickelt, um solche reaktiven, dynamischen Heuristiken zur Steuerung von Parametern aus Daten automatisch zu lernen gelernt und damit die Effizienz der Algorithmen noch weiter zu steigern. Dazu setzten wir auf neuste Erkenntnisse aus dem Bereich des Bestärkenden Lernens, in dem wir die Aufgabe der Algorithmenkontrolle als kontextuelles MDP formulieren. So konnten wir Algorithmen aus mehreren Bereichen deutlich effizienter gestalten, etwa im Automatischen Planen, in Evolutionären Algorithmen oder im Deep Learning. Damit die Community weiterhin dynamisch in diesen Domänen arbeiten kann, haben wir außerdem eine frei verfügbare Benchmark-Library erstellt. Um das Bestärkende Lernen für Algorithmenkontrolle anzupassen haben wir desweiteren Ansätze entwickelt, um die zeitliche Komponente sowie den Instanzkontext explizit zu modellieren. Dieses Projekt lieferte also die theoretischen, praktischen und empirischen Grundlagen und die erste Benchmark-Library zur Algorithmenkontrolle. Des Weiteren zeigten wir erstmals das Potenzial des Bestärkenden Lernens für diese Aufgabe, erweiterte das Bestärkende Lernen anhand von Algorithmenkontrolle und konnte so Algorithmen verschiedener Domänen deutlich verbessern.