HTML4 y XHTML son prácticamente lo mismo, solo cambió la forma en que los datos se estructuran de SGML a XML, que técnicamente es mejor en cuanto a su estructura.
HTML5 es la actualización de los dos anteriores, que se enfoca más a la estructuración de artículos y blogs (Header, Article, Aside, Footer) y lo multimedia (Audio, Video, Canvas), este último explotado al máximo con el uso semi-intensivo de JavaScript. Puedes conocer más de los nuevos elementos en este enlace:
http://www.w3schools.com/html5/html5_new_elements.asp .
Como bien ya han dicho, HTML5 aun no está 100% definido, así que aun algunos detalles pueden cambiar, pero en términos generales, ya la mayoría de estos detalles quedarán como hoy día son usados por la mayoría. Si aun no deseas entrar a este rubro o tu página no lo requiere, puedes usar aun XHTML, pero sería bueno que fueras viendo las novedades para ver a dónde irá esta nueva tecnología, que dicen, reemplazará durante el próximo año a la actual.
