Esa es una forma, aunque a mi me gusta mas configurarlo al arrancar la JVM y así el Locale por defecto no depende de ejecutar código:
Y para eso se pueden pasar al arrancar dos propiedades de sistema -Duser.language y -Duser.region.
Ejemplos:
http://exampledepot.com/egs/java.util/SetDefLocale.html
S!