Cita: int fin=m.length;
int fin=m[x].length;
Cualquiera de las dos son correctas, no te provocan error, la diferencia es el valor que te devuelven.
La primera te devuelve el tamaño del array, la segunda el tamaño de un array que es el elemento x de otro array.
Cita: int resultado=this.mDyV(m[][],v[],inicio,fin);
1. m[] sólo se utiliza para crear una referencia, no para usar la variable.
2. this representa al actual objeto, pero tú no usas ningún objeto.
3. myDiv lo has definido como void (y sin código) sin embargo pretendes que devuelva un int.
Estudia un poco, con estos errores trasmites la sensación de que no has leído nada sobre java, y antes de andar hay que aprender a levantarse, aunque sea aburrido.