Antes de darte una solución al problema, te comento que haciéndolo de esta forma, vas a terminar sobrecargando al servidor de peticiones, llegando a un momento en el que se ralenticen los procesos por lo anteriormente mencionado. En su lugar, te recomiendo utilizar
websockets.
Aquí puedes ver un ejemplo de chat con PHP y websockets.
Un saludo