vas bien hasta ahora, lo que pasa es que al darle startx el busca el archivo
/etc/X11/XFree86-4
donde esta la descripcion del monitor, tarjeta de video y las pantallas que son las resoluciones a las que se va a correr el X y los colores, ademas del mouse, etc...
Tienes que editar ese archivo, (no recuerdo en este momento si debian tiene los ejecutables xfconfig y xfconf que hacen mas facil esto)
aunque puedes copiar el XFree86-4 del mandrake si aun lo tienes (eso fue lo que yo hice y me funciono bien)