Botão de menu home (início)

Se foi em um menu ou em qualquer outro lugar e se tiver conhecimentos básicos em HTML basta usa a seguinte tag WordPress:

<?php bloginfo('home'); ?>

<a href="<?php bloginfo('home'); ?>">Home</a>

Pronto!
Ai está seu link para a home.

Seria interessante também ver mais sobre esta tag no Codex: http://codex.wordpress.org/Function_Reference/bloginfo