Que yo sepa (que hay muchas cosas que no sé) no se puede embeber un reproductor de mp3 en una página web (claro que ha pasado tanto tiempo desde que no se me ocurre poner audio que igual y ahora sí se puede)
De cualquier forma.... tendrás problemas, si no en un navegador, en otro.
Mi sugerencia es que lo hagas con flash. Eso te permite tener dentro de tu página un reproductor (hecho por tí en flash) con el aspecto que quieras y sin problemas de incompatibilidades de plug-ins con los navegadores
Dime si te interesa hacerlo con flash y traslado el tema a ese foro