Para videos flv tendrías que preguntar en el foro de flash. En ActionScript existe una clase llamada netStream que permite determinar cuándo un video se terminó de reproducir. Algo así:
Código PHP:
netStream.onStatus=function(info){
if(info.code=="NetStream.Play.Stop"){
//terminó el video actual, paso al siguiente
}
Javascript no es tu mejor opción en este caso.