Pues no llevarás tan bien la teoría viendo la cantidad de errores que tienes.
Cita: int resultado=this.mDyV(m[][],v[],inicio,fin);
Sólo aquí tienes dos fallos bastante grandes, uno de ellos es el que te produce ese error.
Repasa la teoría, que buena falta te hace.