simplemente con un condicional separas ambas formas:
Código PHP:
if($new_h > $new_w){
$picsize = 300;
$aspect_ratio = $new_w / $new_h;
// Se ajusta al nuevo tamaño
$new_h = $picsize;
$new_w = abs($new_h * $aspect_ratio);
}else{//lo contrario
$picsize = 600;
$aspect_ratio = $new_h / $new_w;
// Se ajusta al nuevo tamaño
$new_w = $picsize;
$new_h = abs($new_w * $aspect_ratio);
}
fíjate que en ambos bloques la función es inversa