Из Нвидиис веб-сайта, это объясняет проблему тайм-аута:

Q: Каково максимальное время выполнения ядра? В Windows максимальное время запуска отдельных программ на GPU составляет около 5 секунд. Превышение этого временного лимита обычно приводит к ошибке запуска, о которой сообщается через драйвер CUDA или среду выполнения CUDA, но в некоторых случаях может привести к зависанию всей машины, что требует жесткого сброса. Это вызвано Windows "сторожевая собака" таймер, который заставляет программы, использующие основной графический адаптер, превышать время ожидания, если они работают дольше, чем максимально допустимое время.

По этой причине рекомендуется запускать CUDA на графическом процессоре, который НЕ подключен к дисплею и на котором не установлен рабочий стол Windows. В этом случае система должна содержать хотя бы один графический процессор NVIDIA, который служит в качестве основного графического адаптера.

Источник:https://developer.nvidia.com/cuda-faq

Таким образом, кажется, что nvidia верит или, по крайней мере, настоятельно подразумевает, что наличие мульти (nvidia) gpus и при правильной конфигурации может предотвратить это?

Но как? до сих пор я пробовал много способов, но на GPU GK110 все еще есть раздражающее время ожидания, которое: (1) подключение вторичных слотов PCIE 16X; (2) Не подключен к каким-либо мониторам (3) Установлен для использования в качестве эксклюзивной карты PhysX на панели управления драйвером (как рекомендовано некоторыми другими парнями), но блокировка все еще есть.