Que servicios corre tu servidor?
Podrian ser logs de algo?
Da mas info.
yo buscaria por fecha en todo el disco para comprender que clase de archivos y donde se estan creando.
Aunque lo primero que pense es que tienes un servidor FTP pirata y tu servidor es un dump de 0days o warez xD.
si fuese esto ultimo generalmente esconden las carpetas en carpetas de sistema sin acceso al administrador, como Recycler o System Volume Information o esas carpetas imposibles com con lpt1 (trata de crear una carpeta con esos nombres, es imposible en windows! )
Para ver esas carpetas por ejemplo Recycler tienes que cambiar los permisos, primero el owner (boton derecho sobre la carpeta -> propiedades -> seguridad -> avanzado -> owner) escojes administradores o tu tu propio admin, marcas que todos los subobjetos o subcarpetas hereden el permiso que estas definiendo, si no te funciona debes dejarlo lo mas default posible osea administradores
Luego en la pestania permisos, al lado de owner marcas la opcion inherit o heredar los permisos de la raiz o padre y marcas la opcion reemplazar en todos los archivos y subcarpetas
Con eso ya podrias ver todo ese tipo de carpetas ocultas