Mmm bueno, un chat con php, mysql, html, javascript y Ajax, no parece muy buena idea. Desde que se están haciendo tantas consultas a una base de datos "mensajes" mmm... esque símplemente es una manera de hacerlo, pero no es correcta, ya que no hay motivo para guardar los mensajes, ya que no se necesitan para nada, a menos que no planees tener mucho tráfico.
El problema sería que funcionaría con bases de datos y los chats funcionan casi siempre con sockets, por eso es que es con Java o Flash.
Por otro lado, podrías decir por qué no quieres hacerlo en java? Honestamente, los mejores chats que he visto funcionar en la web son en Java. No veo por qué no hacerlo en Java si tendrá la mejor funcionalidad posible. Quizás también en flash. Símplemente es una duda.
En una ocasión descargué un tag-board (básicamente un chat) que funcionaba sin base de datos, creo que usaba un txt. Así que sería cuestión de investigar. También te puedes descargar uno y ver el código para ver como funciona.
Saludos!