Оптимальное количество потоков при многозадачности

В идеале общее число потоков для всех заданий должно быть равно числу ядер системы, за исключением систем, поддерживающих многопоточность, в которых оно должно быть в два раза больше числа ядер. Поэтому, если в системе нет hyper-threading, выполняется 8 вычислений, каждое должно выполняться в одном потоке.

многие процессоры Intel поставляются с Hyper-threading, поэтому каждое ядро может поддерживать два потока. Например, 8-ядерная система, поддерживающая Hyper-threading, должна иметь 16 потоки для полного использования системы.

ответ зависит от того, что делает процесс и как его многопоточность была запрограммирована, это означает, что вам нужно будет экспериментировать.

Если процесс использует семафоры и другие механизмы исключения для чем больше потоков на общих ресурсах (например, в памяти), тем меньше потоков в процессе меньше число конфликтов, которые вызовут ожидания.

во время ожидания поток ничего не делает, поэтому waits будет иметь отрицательный результат влияние на пропускную способность. В этом случае пропускная способность будет увеличена за счет большего числа процессов и меньшего количества потоков на процесс, таким образом, 8x8 будет иметь лучшую производительность, чем 1x64.

с другой стороны, если каждый поток полностью изолирован и нет общих ресурсов, то операционная система будет планировать потоки без каких-либо различий между двумя случаями 8x8 или 1x64. В этом случае для общей пропускной способности важно только общее число потоков, поэтому оба случая одинаковы производительность.

правильный номер зависит от того, сколько времени процессы тратят на блокировку ввода-вывода.

Книга "программирование параллелизма на JVM" имеет некоторую хорошую информацию об этом:

"определение количества потоков". Для большой проблемы, мы хотели бы иметь по крайней мере столько потоков, сколько количество доступных ядер. Это позволит гарантировать, что столько ядер, сколько доступно для процесса ставятся на работу, чтобы решить нашу проблему...

Так, минимальная количество потоков равно количеству доступных ядер. Если все задачи требуют много вычислений, то это все, что нам нужно. Наличие большего количества потоков фактически повредит в этом случае, потому что ядра будут переключаться между потоками, когда еще есть работа. Если задачи требуют много операций ввода-вывода, то у нас должно быть больше потоков.

когда задача выполняет операцию ввода-вывода, ее поток блокируется. Обработчик немедленно переключает контекст для того чтобы побежать другие eligable резьбы. Если мы было только столько потоков, сколько количество доступных ядер, хотя у нас есть задачи для выполнения, они не могут работать, потому что мы не запланировали их в потоках для процессоров, чтобы забрать.

Если задачи тратят 50 процентов блокируемого времени, то количество потоков должно быть в два раза больше количества доступных ядер. Если они тратят меньше времени на блокировку-то есть на вычисления-тогда у нас должно быть меньше потоков, но не меньше, чем количество ядер. Если они потратьте больше времени на блокировку-то есть, они интенсивны для ввода-вывода-тогда у нас должно быть больше потоков, в частности, несколько кратных количеству ядер.

таким образом, мы можем вычислить общее количество потоков нам нужно следующим образом:

количество потоков = количество доступных ядер / (1-коэффициент блокировки)

Если вам нужно запустить несколько вычислений одновременно, возможно, посмотреть, можно ли запустить их в одном процессе с пулом потоков это соответствует размеру.

в противном случае, если у вас есть оптимальное количество потоков для одного расчета, а затем запустить 8 в то время, вы можете иметь слишком много.

лучшее решение - проверить его экспериментально.

Я не совсем уверен, что вы подразумеваете под парковкой ядра, но процессор будет продолжать работать с одним и тем же потоком на данном ядре по причинам кэша, хотя он также будет перемещать его иногда по разным причинам тепла/мощности. Вы можете исследовать с помощью такого средства, как при.