Presona [Establecer] luego de asignar esos 512 MB de memoria virtual, o simplemente dejalo como viene por defecto "Tamaño administrado por el sistema" y nuevamente presiona [Establecer], luego [Aceptar] o [Aplicar] y finalmente [Aceptar] es igual.
Si no presionas [Establecer] no se guardarán los cambios.
256 MB de RAM es poco como para asignar 512 MB de memoria virtual, siendo que estas establecidndolos como máximo o como tamaño fijo.
En realidad deberías respetar la regla establecida por Microsoft de asignar 1.5 veces la memoria RAM física para el tamaño mínimo, y 3 veces para el tamaño máximo.
256 MB x 1.5 = 384 MB
256 MB x 3 = 768 MB
Fuente:
Cómo configurar las opciones de rendimiento en Windows XP