Las palabras en inglés reservadas, es decir, prohibidas como nombre de campo o archivo para MySQL, puedes verlas aquí, y, como verás, birthday no está entre ellas:
http://dev.mysql.com/doc/refman/5.0/...ved-words.html
Es más, si te empeñaras (algo que no te recomiendo), podrías utilizar cualquiera de ellas entre acentos graves, como por ej. `date`
Pero no te lo aconsejo. Evítalas. Sinceramente creo que era la coma, que estaba donde no debía.
CREATE TABLE my_contact
(
last_name VARCHAR(30),
birthday DATE
)
Esto debería funcionar