ALgo tipo Snort?

[Alfon]

Si se ejecuta en el server y tiene algún tipo de comunicación con el exterior, usa:

netstat -nao

con el PID correlacionas con el Administrador de tareas > Procesos y de esta manera tendrás localizado el proceso o programa que buscas.

con netstat -bnao tendrás, además, información de localización de procesos, dlls, etc.

También puedes usar un sniffer tal como Wireshark, de esta forma sabrás que tipo de paquetes e información envía, a donde, etc.