El asunto es matemático. Primero verificas que con los lados entrados se pueda constuir un triangulo y el resto es pan comido:
Código:
public static int clasificarTriangulo(int lado1, int lado2, int lado3) {
if (lado1 + lado2 < lado3 || lado2 + lado3 < lado1 || lado1+lado3 < lado2)
return 4;
else if (lado1 != lado2 && lado2 != lado3 && lado3 != lado1)
return 1;
else if (lado1 == lado2 && lado2 == lado3)
return 3;
return 2;
}
Espero que pueda ayudar.