Actualización

[JuJoGuAl]

Por esa Razon te dije, convierte en UNICO al campo nombre:

Código MySQL:

ALTER TABLE `tabla`
ADD UNIQUE INDEX `nombre_UNIQUE` (`nombre` ASC) ;
 

o cuando hagas el Inser - Update, has un select donde busques si el nuevo nombre ya esta en uso...

Porque no muestras codigo?