Si lo que quieres es no mostrar un cartelito que diga que usas wordpress, pues eres totalmente libre de hacerlo.
En esencia nadie suele hacer modificaciones profundas, por decirlo de alguna manera, en el código fuente de wordpress, a no ser que sepas muy bien lo que haces y que dominas a profundidad la aplicación. Pero lo que se hace normalmente es modificar o crear plantillas al gusto personal o del cliente, eso usando
las funciones de wordpress para tales fines.
Aquí tienes unos cuantos links de
páginas que ofrecen themes gratis para wordpress.
Saludos.