После небольшого поиска и прочтения документации становится ясно, что вы можете написать пользовательские функции в SQL Server, которые помечены как детерминированные или недетерминированные в зависимости от того, какие встроенные функции используются в теле.

RAND () указан в списке недетерминированных функций (см.MSDN статья). Так почему я не могу использовать это в функции?