Hola:
Puse un punto de más y en el primer caso falta el elemento document:
if ((document.formulario["foto[]"][0].value != "") && (document.formulario["foto[]"][0].value.indexOf('.jpg') == -1))
Y el índice debe utilizarse en caso de tratarse de arregosl
Saludos