con esto no calculas nada, te crea un bucle hasta que por el azar te encuentra tres imagenes distintas al azar, no consecutivas necesariamente
Código PHP:
$total_imagenes=9; // NUMERO LIMITE DE IMAGENES, NO PUEDE SER MENOR A 3
while($listo==0){
$g1=rand(1,$total_imagenes);
$g2=rand(1,$total_imagenes);
$g3=rand(1,$total_imagenes);
if($g1!=$g2 && $g2!=$g3 && $g1!=$g3) $listo=1;
}