Te recomiendo seguir
esta guía para instalar Shoutcast, esta bastante claro, fíjate si hay diferencias en la forma en la que tu lo instalaste. Respecto al puerto, puedes ver si esta abierto o no corriendo el siguiente comando:
La salida devolverá "open" o "closed".
Un saludo!