URL: https://www.opennet.me/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID9
Нить номер: 3787
[ Назад ]

Исходное сообщение
"FreeBSD 4.9, perl 5.8.6"

Отправлено BigElectricCat , 31-Дек-04 10:57 
Существует некоторый мультипроцессорный скрипт на перле. Время выполнения единичной задачи 1-4 секунды (head запрос, практически все время процесс простаивает, ожидая ответа от удаленного сервера). Необходимо выполнять 20-30 задач в секунду, поэтому приходится создавать 100 процессов. Схема, когда один дочерний процесс выполняет одну задачу и завершается, а родительский процесс устанавливает параметры и создает новые процессы не подходит - система не очень радостно реагирует на 30 форков в секунду. Посему было решено использовать метод предварительного ветвления. Нагрузка на систему колоссально уменьшилась, однако возникла новая проблема. С обычным форком входящие параметры для дочернего процесса устанавливались непосредственно перед ветвлением, а для возврата результатов в родительский процесс использовался однонаправленный канал. С префорком каждый дочерний процесс выполняет задачи в цикле. Для возврата результатов в родительский процесс можно использовать все тот же однонаправленный канал, но в то же время, необходимо каким-то образом передавать дочернему параметры из родителя.

Моя реализация (значимые части кода привожу нижу) - первое, что пришло в голову. Все работает, но нагрузка на систему еще больше по сравнению с той, которая была с обычным форком. Это, в принципе, неудивительно т.к. ежесекундно приходит 40-60 локов и анлоков и записей в шаровую переменную.

Возможно, существуют более правильные способы решения подобной задачи (двунаправленной связи между родительским и дочерними процессами)? Буду благодарен за любой совет.

tie (%PARAM, 'IPC::Shareable', 'PARAM', { create => 1, exclusive => 1, destroy => 1 });

for (1..$max_process) {
    if (fork() == 0) {
        my %param;
        tie(%param, 'IPC::Shareable', 'PARAM');
        
        while (!$exit) {
            
            # "гонка" за новыми параметрами
            tied(%param)->shlock();
            # если успели - забираем параметры
            if (%param) {
                my %local_param = ╛count;
                %param = ();
                tied(%param)->shunlock();
                # единичная задача
                ...
            } else {
                tied(%param)->shunlock();    
            }
        }
    }
}


while (!$exit) {
    unless (%param) {
        tied(%param)->shlock();
        %param = (p1 => 1, p2 => 2);
        tied(%param)->shunlock();
    }
}


Содержание

Сообщения в этом обсуждении
"FreeBSD 4.9, perl 5.8.6"
Отправлено BigElectricCat , 31-Дек-04 11:30 
Сорри, по ошибке неправильно тему написал. Модераторы, исправьте, пожалуйста, на "Двунаправленное взаимодействие между родительским и дочерними процессами".

"FreeBSD 4.9, perl 5.8.6"
Отправлено rWizard , 01-Янв-05 18:18 
а если отдельный pipe для связи с каждым процессом?


"FreeBSD 4.9, perl 5.8.6"
Отправлено BigElectricCat , 01-Янв-05 22:16 
>а если отдельный pipe для связи с каждым процессом?

Имеется в виду двунаправленный канал? С ними не очень-то удобно работать..