Tente desabilitar os plugins que você instalou para verificar se eles configuraram algum redirecionamento.
Cheque o htaccess se tem alguma regra quebrada.
Cheque a configuração das URLS na configuração do WordPress.
Depois de verificar isso certamente você conseguirá ver o problema
Olá.
Existe um artigo (em inglês) que te dá muitas dicas de como melhorar a performance do WordPress.
Certamente vai te ajudar.
Geralmente hospedagens compartilhadas trabalham com camadas de performance que fazem o site ficar mais rápido mesmo sem você mexer em nada, mas como você está trabalhando com VPS acaba que deve implementar suas próprias ações para melhroar a performance geral.
Leia o artigo (eu já linkei na parte de Caching) https://codex.wordpress.org/WordPress_Optimization#Caching
Certamente vai te ajudar
