Я использую пул потоков для выполнения задач, которые в основном основаны на процессорах с небольшим количеством операций ввода-вывода, размер которых больше, чем число процессоров.

Executors.newFixedThreadPool(Runtime.getRuntime().availableProcessors() + 1)

Предполагая случай простой программы, которая передает все свои задачи этому исполнителю и мало что делает, я предполагаю, что наличие пула потоков большего размера замедлит процесс, потому что ОС будет вынуждена чаще выбирать временные срезы, чтобы каждый поток в пуле потоков мог запустить.

Это правильно, и если да, то это реальная проблема или в основном теоретическая, то есть, если бы я увеличил размер пула потоков до 1000, я бы заметил огромную разницу.