Los únicos problemas que pueden haber por usar HTML 5 es la compatibilidad con navegadores antiguos (dígase como siempre, Internet Explorer <= 8), pero mas que todo que no reconozca las etiquetas semánticas que este incorpora, para ello puedes usar
html5shiv . Lo que son funcionalidades de CSS3 (animaciones, transiciones, etc.) son otro asunto y lo mejor que puedes hacer es trabajar con javascript de la mano.
Saludos