Puedes tener tu programa corriendo como un daemon, hacer un queue de peticiones y responderlas con forme vayan llegando. O usar
Celery que parece hacer lo anterior.
También puedes volver hacer tu programa usando django.
¿Que es lo que precisamente hace tu programa?
¿Estas usando alguna base de datos?
¿Tienes contemplando la concurrencia que puede haber en los sistemas web?