Siempre he tenido problemas al tratar de utilizar el puerto serial, nunca me funciona la primera vez (nunca he utilizado Java para trabajar con puertos seriales). La respuesta de siempre es, asegurate que te estas conectado al puerto correcto y que la aplicacion o hardware que esta enviando datos esta utilizando los mismos parametros que tu estas utilizando como bits de datos, bits de parada, etc.
Lei que vas a trabajar con llamadas telefonicas (bueno, eso es lo que entendi). Al puerto que estas tratando de conectarte es un modem y lo que intentas construir es algo asi como un identificador de llamadas?
Si te estas conectando a un modem, primero debes inicializar el modem con cadenas de inicializacion (init strings)
https://www.google.com/search?q=mode...w=1440&bih=751