Autonomous optimization for a transactional middleware

Abstract

In the last few years, data management engines have become increasingly modular, separating some of its main layers, such as data storage and transactional management. The exposure of the transactional manage ment component brings new challenges, in particular its correct configuration and tuning when running different workloads. In this sense, this dissertation focuses on the autonomous optimization of a particular transactional middleware, pH1, while keeping in mind the tuning of other similar systems. It is becoming more and more important to develop algorithms that can automatically optimize these systems whose performance is heavily dependent on a proper configuration. The use of machine learning techniques for similar problems (database knob tuning) has become common in the literature [1, 2, 3, 4], especially in a black box perspective where it does not have visibility over particular details of the system. Usually, these systems are located in realistic online environments, where workloads can change at different times. Even though there are numerous research projects for automatic knob tuning, these projects have not entirely addressed this problem and are mostly developed for offline training when the workloads remain static. We propose OPAL as the component that when executing transactional workloads is able to dynamically adjust its configurations in an online environment with a continuous space. Our approach allows for online changes and uses reinforcement learning as a starting point taking into consideration tuning algorithms in continuous spaces, as is the case of DDPG [5].

Nos últimos anos, os motores de gestão de dados têm-se tornado cada vez mais modulares, separando algumas de suas camadas, principais, como o armazenamento de dados e a gestão transacional. A exposição do componente de gestão transacional traz novos desafios, em particular a sua correta configuração e ajuste durante a execução de diferentes cargas de trabalho. Neste sentido, esta dissertação foca-se na otimização autónoma de um middleware transacional específico, pH1, tendo em mente o ajuste de outros sistemas semelhantes. É cada vez mais importante desenvolver algoritmos que possam ajustar automaticamente estes sistemas cujo desempenho depende muito de uma configuração adequada. A utilização de técnicas de machine learning para problemas semelhantes (ajuste de parâmetros em bases de dados) tem-se tornado comum na literatura [1, 2, 3, 4], sobretudo recorrendo a uma visão black-box onde não se tem visibilidade sobre detalhes particulares do sistema. Normalmente, estes sistemas encontram-se em ambientes online realistas, onde as cargas de trabalho podem mudar em momentos diferentes. Apesar de existirem inúmeros projetos de pesquisa para o ajuste automático de parâmetros, estes projetos não abordam totalmente este problema e são desenvolvidos principal mente para treino offline quando as cargas de trabalho permanecem estáticas. OPAL é proposto como o componente que ao executar cargas de trabalho transacionais é capaz de ajustar dinamicamente as suas configurações num ambiente online com um espaço contínuo. A nossa abordagem permite mudanças online e utiliza reinforcement learning como ponto de partida tendo em consideração algoritmos para ajuste de parâmetros em espaços contínuos, como é o caso do DDPG [5].