puedes hacerlo por caracter con "char"
Código:
for(int x = 0; x <= textBox1.Text.Length-1; x++)
{
if (!char.IsDigit(textBox1.Text[x]))
{
MessageBox.Show("Es un caracter");
break;
}
}
en el caso de este ciclo si encuentra una letra sale del mismo pero antes te muestra un mensaje.