En la documentación de Microsoft referente a SQL Server 2008 se menciona específicamente que se presentó un BUG por el valor devuelto por esa función. Podría ser esa la causa del problema, pero eso implicaría que no hubieses instalado el SP2 de SQL Server 2008 R2 (
http://support.microsoft.com/kb/2630458).
¿Exactamente con qué versión y release estás trabajando?