Tendrias que pensar en un lapso de tiempo como 1 minuto para ver si alguien esta online.
Para esto podrias agregar un campo en tu tabla de usuarios que tenga el tiempo de la ultima entrada (puede ser time o datestamp)
Asi preguntas en tu query quienes estan entre ahora-1 minuto y ahora+1 minuto.
Suerte!