Guarda los números aleatorios ya generados en un arreglo[100]. Compara ese arreglo con el numero rand actual antes de asignarlo a tu variable "matriz[][]", si el numero ya existe pide otro numero y repite hasta obtener un numero sin repetir.
El único problema es que eso con números largos puede tardar mucho a medida que avanza, por que estaría pidiendo muchos números, pero para una matriz de 10 por 10 es un flash XD
Aquí te dejo una pagina que lo explica:
http://codigoc.org/627-numeros-aleat...n-repetir-en-c