Hola. La verdad nunca usé Mac OS. Pero aver. Con el tema del idioma, qué es exactamente lo que aparece en inglés? Ya que el título y los tipos de archivos los podés especificar con los parámetros caption y filter, respectivamente. Supongo que te referirás a los botones de abrir, cerrar, etc.?
Con el tema de la ventana, el primer parámetro de la función getOpenFileName es justamente una instancia a la ventana parent, se la estás pasando correctamente?