Linpack понякога стартира, понякога не, но нищо не се променя

Инсталирах Linpack на клъстер с 2 възела с процесори Xeon. Понякога, ако стартирам Linpack с тази команда:

mpiexec -np 28 -print-rank-map -f /root/machines.HOSTS ./xhpl_intel64

linpack стартира и отпечатва изхода, понякога виждам отпечатани само съпоставянията на mpi и след това нищо не следва. За мен това изглежда като случайно поведение, защото не променям нищо между повикванията и както вече споменах, Linpack понякога стартира, понякога не. В top мога да видя, че xhpl_intel64процесите са създадени и те използват силно процесора, но когато наблюдавам трафика между възлите, iftop ми казва, че нищо не се изпраща.

Използвам MPICH2 като реализация на MPI. Това е моят HPL.dat:

# cat HPL.dat 
HPLinpack benchmark input file
Innovative Computing Laboratory, University of Tennessee
HPL.out      output file name (if any)
6            device out (6=stdout,7=stderr,file)
1            # of problems sizes (N)
10000         Ns
1            # of NBs
250          NBs
0            PMAP process mapping (0=Row-,1=Column-major)
1            # of process grids (P x Q)
2            Ps
14            Qs
16.0         threshold
1            # of panel fact
2            PFACTs (0=left, 1=Crout, 2=Right)
1            # of recursive stopping criterium
4            NBMINs (>= 1)
1            # of panels in recursion
2            NDIVs
1            # of recursive panel fact.
1            RFACTs (0=left, 1=Crout, 2=Right)
1            # of broadcast
1            BCASTs (0=1rg,1=1rM,2=2rg,3=2rM,4=Lng,5=LnM)
1            # of lookahead depth
1            DEPTHs (>=0)
2            SWAP (0=bin-exch,1=long,2=mix)
64           swapping threshold
0            L1 in (0=transposed,1=no-transposed) form
0            U  in (0=transposed,1=no-transposed) form
1            Equilibration (0=no,1=yes)
8            memory alignment in double (> 0)

редакция 2:

Сега просто оставям програмата да работи известно време и след 30 минути ми казва:

# mpiexec -np 32 -print-rank-map -f /root/machines.HOSTS ./xhpl_intel64
(node-0:0,1,2,3,4,5,6,7,8,9,10,11,12,13,14,15)
(node-1:16,17,18,19,20,21,22,23,24,25,26,27,28,29,30,31)
Assertion failed in file ../../socksm.c at line 2577: (it_plfd->revents & 0x008) == 0
internal ABORT - process 0
APPLICATION TERMINATED WITH THE EXIT STRING: Hangup (signal 1)

Това проблем с mpi ли е?

Знаете ли какъв тип проблем може да бъде това?


person Erik    schedule 16.11.2010    source източник


Отговори (1)


Разбрах какъв е проблемът: MPICH2 използва различни произволни портове при всяко стартиране и ако те са блокирани, приложението ви няма да стартира правилно. Решението за MPICH2 е да зададете променливата на средата MPICH_PORT_RANGE на START:END, като това:

експорт MPICH_PORT_RANGE=50000:51000

Най-добре, Хайнрих

person Erik    schedule 16.11.2010