el código php no se muestra, en realidad la salida php suele ser puro y simple html.
así que el problema debe ser el css, generalmente para que sea más fácil escribir html en el php debe hacerse así:
Código PHP:
<a href="modificar_contacto.php?id=<?php echo $dato['id']?>">Click aquí para modificar los datos</a>
como ves así te evitas tener que escapar comillas y se vuelve más facil de manejar
luego tu css solo debería ser