No sera mas facil agregarle un campo a la tabla "mensajes" que diga "nuevo" y ese cargarlo con un 1 cuando se inserta, y si lo lees ponerle 0... de esa manera tu consulta para ver si existe solo sera un select count() as nuevos from mensajes where nuevo = 1 y para mostrarlo si nuevos > 0 = javascript.
Just an idea
Suerte!