Solo en teoria podes hacerlo.
La maquina virtual de Java hay que compilarla para cada plataforma y S.O. que a su vez es dependiente de la plataforma.
Hoy en dia con S.O.s de 64 bits (Windows, GNU/Linux, etc) podes tener
MUCHA RAM (1TB en Windows 2003 Server por ejemplo) sin problema PERO no son infinitos ni mucho menos. Si la plataforma de hardware no lo soporta, que no lo hace, no puede el software hacerlo.
"Larger physical address space: Current implementations of the AMD64 architecture can address up to 1 TB (240 or 1,099,511,627,776 bytes) of RAM; the architecture permits extending this to 4 PB (252 or 4,503,599,627,370,496 bytes) in the future (limited by the page table entry format)."
http://en.wikipedia.org/wiki/X86-64#...tural_features