El detalle esta en que muy probablemnte tu metodo Main del Program.cs o Program.Vb no este aceptando argumentos, y lo que sucede que al decirle que los .txt los abra con tunotepadocomosellame.exe lo que realmente hace es
tunotepadocomosellame.exe nombredelarchivo
y tu no estas controlando eso.
dale una vuelta a esto
http://www.blackwasp.co.uk/WindowsFormsStartParams.aspx