/[MITgcm]/mitgcm.org/scripts/check_outp
ViewVC logotype

Diff of /mitgcm.org/scripts/check_outp

Parent Directory Parent Directory | Revision Log Revision Log | View Revision Graph Revision Graph | View Patch Patch

revision 1.12 by jmc, Wed Jun 17 21:01:44 2009 UTC revision 1.46 by jmc, Thu Dec 17 23:51:18 2015 UTC
# Line 6  Line 6 
6  #  the latest output with the previous one (from the same platform with  #  the latest output with the previous one (from the same platform with
7  #    same optfile)  #    same optfile)
8    
   
9  usage()  usage()
10  {  {
11      echo      echo
12      echo "Usage:  $0 [OPTIONS]"      echo "Usage:  $0 [OPTIONS]"
13      echo      echo
14      echo "where possible OPTIONS are:"      echo "where possible OPTIONS are:"
15      echo "  (-h|-help)            print usage"      echo "  (-h|-help)            print usage"
16      echo "  (-v|-verbose)         verbose mode"      echo "  (-v|-verbose)         verbose mode"
17        echo "  (-t|-test4update)     do nothing if previous output newer than"
18        echo "                         emails-processing log-file '$PRC_MAILS'"
19      echo "  (-l |-list )MACHINES  check platforms from this list"      echo "  (-l |-list )MACHINES  check platforms from this list"
20      echo "                         [def=\"$MACHINES\"]"      echo "                         [def=\"$MACHINES\"]"
21      echo "  (-d |-day  )FIRSTDAY  select output from day=\"YYYYMMDD\""      echo "  (-d |-day  )FIRSTDAY  select output from day=\"YYYYMMDD\""
# Line 22  usage() Line 23  usage()
23      echo "                         [def=\"$FIRSTDAY\"]"      echo "                         [def=\"$FIRSTDAY\"]"
24      echo "  (-u |-upto )LASTDAY   until last day=\"YYYYMMDD\" (=selected period)"      echo "  (-u |-upto )LASTDAY   until last day=\"YYYYMMDD\" (=selected period)"
25      echo "                         [def=\"FIRSTDAY\"]"      echo "                         [def=\"FIRSTDAY\"]"
26        echo "  (-b |-before)BEFORE   compare with output from before \"YYYYMMDD\""
27        echo "                         (=previous period) [def=\"FIRSTDAY\"]"
28      echo "  (-o |-outp )OUTPFIL   output file (-1 removed when exit)"      echo "  (-o |-outp )OUTPFIL   output file (-1 removed when exit)"
29      echo "                         [def=\"$OUTPFIL\"]"      echo "                         [def=\"$OUTPFIL\"]"
30      echo "  (-n |-nldf )NBLDIFF   max number of diff lines to echo"      echo "  (-n |-nldf )NBLDIFF   max number of diff lines to echo"
31      echo "                         [def=\"$NBLDIFF\"]"      echo "                         [def=\"$NBLDIFF\"]"
32      echo "  (-a |-addr )ADDRESS   send summary to mail ADDRESS list"      echo "  (-a |-addr )ADDRESS   send summary to mail ADDRESS list"
33      echo "                         [def=\"$ADDRESS\"]"      echo "                         [def=\"$ADDRESS\"]"
34      echo      echo
35      exit 1      exit 1
36  }  }
37    
38    #  create list of results dir for one platform:
39    make_resdir_list()
40    {
41          if test $monthDir == 1 ; then
42            dir_list=`grep '.._'$mname $TMP.dir_all`
43          else
44            dir_list=`( cd $INDIR ; ls -1 -t ../$PREV_P/??_*${mname}*/summary.txt 2> /dev/null | sed 's/\/summary.txt//' )`
45            #echo "dir_list='$dir_list'"
46          fi
47            for i in $dir_list ; do
48    
49                dir=$INDIR"/"$i
50                #--- get the opfile used to run testreport
51                OPTFILE=
52                if test -r $dir/summary.txt ; then
53                    comm=`grep 'OPTFILE=' $dir/summary.txt`
54                    eval $comm
55                fi
56                if test "x$OPTFILE" = x -a -r "$dir/genmake_state" ; then
57                    comm=`grep 'OPTFILE=' $dir/genmake_state 2>/dev/null`
58                    eval $comm
59                fi
60                if test "x$OPTFILE" = x ; then
61                    comm=`grep '^# OPTFILE=' $dir/*/Makefile* 2>/dev/null | head -1`
62                    comm=${comm##*#}
63                    eval $comm
64                fi
65                if test "x$OPTFILE" = x ; then
66                    OPTFILE="not_explicitly_specified"
67                else
68                    OPTFILE=${OPTFILE##*/}
69                fi
70                #--- case select test run by 1 user: get user who did run testreport
71                if test "x$sUser" != x ; then
72                    tUser=
73                    if test -f $dir/genmake_state ; then
74                       nn=`sed -n '/^# executed by:/=' $dir/genmake_state`
75                       if test "x$nn" != x ; then
76                         nn=`expr $nn + 1`
77                         tUser=`sed -n "$nn s/^# *// p" $dir/genmake_state | sed 's/@.*$//'`
78                       fi
79                    fi
80                    if test "x$tUser" = "x" ; then
81                       mkfile=`ls $dir/*/Makefile* 2>/dev/null | head -1`
82                       if test "x$mkfile" = 'x' ; then
83                         echo "no Makefile => discard test from: $i" | tee -a $OUTPFIL
84                         continue
85                       fi
86                       nn=`sed -n '/^# executed by:/=' $mkfile`
87                       if test "x$nn" != x ; then
88                         nn=`expr $nn + 1`
89                         tUser=`sed -n "$nn s/^# *// p" $mkfile | sed 's/@.*$//'`
90                       fi
91                    fi
92                    if test "x$tUser" = x ; then
93                         echo "no User found => discard test from: $i" | tee -a $OUTPFIL
94                         continue
95                    fi
96                    if test $tUser != $sUser ; then
97                       if test $dBug = 't' ; then
98                            echo "  discard test from: $i" | tee -a $OUTPFIL
99                       fi
100                       continue
101                    fi
102                fi
103    
104                ADJOINT=0
105                TANGLIN=0
106                OPENAD=0
107                RESTART=0
108                EXTRA=
109                FAST=0
110                DVLP=0
111                MPI=0
112                MTH=0
113                UR4=0
114                if test -r $dir/summary.txt ; then
115                    ADJOINT=`grep -c -i '^ADJOINT' $dir/summary.txt`
116                    if test "x$ADJOINT" = x1 ; then
117                      OPENAD=`grep -c '^Adjoint .* OpenAD' $dir/summary.txt`
118                    fi
119                    TANGLIN=`grep -c -i '^TANGLIN' $dir/summary.txt`
120                    if test "x$TANGLIN" = x1 ; then
121                      OPENAD=`grep -c '^TangLin .* OpenAD' $dir/summary.txt`
122                    fi
123                    RESTART=`grep -c 'test 2+2=4 summary' $dir/summary.txt`
124                    comm=`grep '^run: .*testreport.* ' $dir/summary.txt`
125                    EXTRA=`echo "$comm" | grep " -*-tdir\>" | sed -e "s/^.* -*-tdir\>//" -e "s/ -.*$//"`
126                    if test "x$EXTRA" = x ; then
127                        EXTRA=`echo "$comm" | grep " -*-t\>" | sed -e "s/^.*-*-t\>//" -e "s/ -.*$//"`
128                    fi
129                    if test "x$EXTRA" = x ; then EXTRA=0 ; else
130                        #echo -n "EXTRA=$EXTRA"
131                        nn0=`echo $EXTRA | sed "s/ *' *//g" | wc -w`
132                        nn1=`echo $EXTRA | sed "s/ *' *//g" | tr ' ' '\n' | grep -c "\<monod_"`
133                        nn2=`echo $EXTRA | sed "s/ *' *//g" | tr ' ' '\n' | grep -c "\<darwin_"`
134                        EXTRA=1
135                        if [ $nn1 -ge 2 ] ; then EXTRA=2 ; fi
136                        if [ $nn2 -ge 2 ] ; then EXTRA=3 ; fi
137                        #echo " : nn0=$nn0 ; nn1=$nn1 ; nn2=$nn2"
138                    fi
139                    FAST=`echo "$comm" | grep -c " -*-fast\>"`
140                    if test "x$FAST" = x0 ; then
141                       FAST=`echo "$comm" | grep -c " '*-noieee'*"`
142                    fi
143                    DVLP=`echo "$comm" | grep -c " -*-devel\>"`
144                    MPI=`echo "$comm" | grep -c " -*-mpi\>"`
145                    if test "x$MPI" = x0 ; then
146                       MPI=`echo "$comm" | grep -c " -*-MPI\>"`
147                    fi
148                    MTH=`echo "$comm" | grep -c " -*-mth\>"`
149                    UR4=`echo "$comm" | grep -c " -*-use_r4\>"`
150                    if test "x$UR4" = x0 ; then
151                       UR4=`echo "$comm" | grep -c " -*-ur4\>"`
152                    fi
153                fi
154                if test "x$ADJOINT" = x1 ; then
155                    kind="adm-TAF" ; order=0
156                    if test "x$OPENAD" = x1 ; then kind="adm-OAD" ; order=2 ; fi
157                elif test "x$TANGLIN" = x1 ; then
158                    kind="tlm-TAF" ; order=1
159                    if test "x$OPENAD" = x1 ; then kind="tlm-OAD" ; order=3 ; fi
160                elif test "x$RESTART" = x0 ; then
161                    kind="forward" ; order=4
162                else
163                    kind="restart" ; order=5
164                fi
165                order=`expr $order + 10 \* $EXTRA`
166                order=`printf '%3.3i' $order`
167                if test "x$UR4" = x1 ; then
168                    OPTFILE="${OPTFILE}.use_r4"
169                fi
170                if test "x$MPI" = x1 ; then
171                    yy=`echo $OPTFILE | grep -c '+mpi'`
172                    if test $yy = 0 ; then OPTFILE="${OPTFILE}+mpi" ; fi
173                fi
174                if test "x$MTH" = x1 ; then
175                    yy=`echo $OPTFILE | grep -c '+mth$'`
176                    if test $yy = 0 ; then OPTFILE="${OPTFILE}+mth" ; fi
177                fi
178                if test "x$FAST" = x1 ; then
179                    OPTFILE="${OPTFILE}.fast"
180                fi
181                if test "x$DVLP" = x1 ; then
182                    OPTFILE="${OPTFILE}.dvlp"
183                fi
184                day=`echo $i   | sed -e 's/_[0-9]$//' | sed -e 's/_[0-9][0-9]$//'`
185                ttt=`echo $day | sed -e 's/_[0-9]$//' | sed -e 's/_[0-9][0-9]$//'`
186                day=`echo $ttt | sed -e 's|_| |g' |awk '{print $NF}'`
187    
188                if [ $day -lt $BEFORE ] ; then
189                    echo "$OPTFILE$order $day $OPTFILE $kind $i" >> $TMP.plist
190                elif [ $day -ge $FIRSTDAY -a $day -le $LASTDAY ] ; then
191                    echo "$OPTFILE$order $day $OPTFILE $kind $i" >> $TMP.slist
192                else
193                    if test $dBug = 't' ; then
194                       echo "discard day='$day' from: $i" | tee -a $OUTPFIL
195                    fi
196                fi
197    
198            done
199            if test $dBug = 't' ; then
200              if test $monthDir == 1 ; then
201                echo "---- current list (n=$monthDir) :" | tee -a $OUTPFIL
202                    cat $TMP.slist | tee -a $OUTPFIL
203              fi
204              num1=`wc -l $TMP.slist | awk '{print $1}'`
205              if test $num1 -gt 0 ; then
206              echo   ".... previous list (n=$monthDir):" | tee -a $OUTPFIL
207                    cat $TMP.plist | tee -a $OUTPFIL | head -20
208              fi
209              echo "----" | tee -a $OUTPFIL
210            fi
211    }
212    
213    #--------------------------------------------------------------------------
214    # here starts the sequential part of the script:
215    
216  #CURR_PER=`date +%Y`"_"`date +%m`  #CURR_PER=`date +%Y`"_"`date +%m`
217  CURR_DAY=`date +%Y%m%d`  CURR_DAY=`date +%Y%m%d`
218    PRC_MAILS='prc_emails_'`date +%m%d`
219  # defaults  # defaults
220  MACHINES='_All_'  MACHINES='_All_'
221  FIRSTDAY=$CURR_DAY  FIRSTDAY=$CURR_DAY
222  LASTDAY="30000000"  LASTDAY="30000000"
223    BEFORE="30000000"
224  OUTPFIL=`basename $0`'.log'  OUTPFIL=`basename $0`'.log'
225  NBLDIFF=5  NBLDIFF=5
226  ADDRESS='none'  ADDRESS='none'
227    MAILCMD="mail"
228  dBug=f  dBug=f
229    t4update=0
230  sTime=`date`  sTime=`date`
231  #- to get case insensitive "ls" (and order of tested experiments)  #- to get case insensitive "ls" (and order of tested experiments)
232  export LC_ALL="en_US.UTF-8"  export LC_ALL="en_US.UTF-8"
# Line 52  for ac_option ; do Line 237  for ac_option ; do
237    
238      # If the previous option needs an argument, assign it.      # If the previous option needs an argument, assign it.
239      if test -n "$ac_prev"; then      if test -n "$ac_prev"; then
240          eval "$ac_prev=\$ac_option"          eval "$ac_prev=\$ac_option"
241          ac_prev=          ac_prev=
242          continue          continue
243      fi      fi
244    
245      ac_optarg=`expr "x$ac_option" : 'x[^=]*=\(.*\)'`      ac_optarg=`expr "x$ac_option" : 'x[^=]*=\(.*\)'`
   
246      case $ac_option in      case $ac_option in
247                    
248          -help | --help | -h | --h)          -help | --help | -h | --h) usage ;;
249              usage ;;          -verbose | --verbose | -v | --v) dBug=t ;;
250          -verbose | --verbose | -v | --v)          -test4update | --test4update | -t | --t) t4update=1 ;;
             dBug=t ;;  
251                    
252          -list  | --list  | -l | --l)          -list  | --list  | -l | --l) ac_prev=MACHINES ;;
253              ac_prev=MACHINES ;;          -list=* | --list=*) MACHINES=$ac_optarg ;;
254          -list=* | --list=*)  
255              MACHINES=$ac_optarg ;;          -day  | --day  | -d | --d) ac_prev=FIRSTDAY ;;
256            -day=* | --day=*) FIRSTDAY=$ac_optarg ;;
         -day  | --day  | -d | --d)  
             ac_prev=FIRSTDAY ;;  
         -day=* | --day=*)  
             FIRSTDAY=$ac_optarg ;;  
   
         -upto | --upto | -u | --u)  
             ac_prev=LASTDAY ;;  
         -upto=* | --upto=*)  
             LASTDAY=$ac_optarg ;;  
   
         -outp | --outp | -o | --o)  
             ac_prev=OUTPFIL ;;  
         -outp=* | --outp=*)  
             OUTPFIL=$ac_optarg ;;  
   
         -nldf | --nldf | -n | --n)  
             ac_prev=NBLDIFF ;;  
         -nldf=* | --nldf=*)  
             NBLDIFF=$ac_optarg ;;  
   
         -addr | --addr | -a | --a)  
             ac_prev=ADDRESS ;;  
         -addr=* | --addr=*)  
             ADDRESS=$ac_optarg ;;  
   
         *)  
             echo "Error: don't understand argument \"$ac_option\""  
             usage  
             ;;  
257    
258            -upto | --upto | -u | --u) ac_prev=LASTDAY ;;
259            -upto=* | --upto=*) LASTDAY=$ac_optarg ;;
260    
261            -before | --before | -b | --b) ac_prev=BEFORE ;;
262            -before=* | --before=*) BEFORE=$ac_optarg ;;
263    
264            -outp | --outp | -o | --o) ac_prev=OUTPFIL ;;
265            -outp=* | --outp=*) OUTPFIL=$ac_optarg ;;
266    
267            -nldf | --nldf | -n | --n) ac_prev=NBLDIFF ;;
268            -nldf=* | --nldf=*) NBLDIFF=$ac_optarg ;;
269    
270            -addr | --addr | -a | --a) ac_prev=ADDRESS ;;
271            -addr=* | --addr=*) ADDRESS=$ac_optarg ;;
272    
273            *) echo "Error: don't understand argument \"$ac_option\""
274               usage ;;
275       esac       esac
276    
277  done  done
278    
279    #TMP=./chkoutp_$$
280    #- try to put temporary files in system-local /tmp dir
281    TMP=/tmp/chkoutp_$$
282    touch $TMP ; retVal=$?
283    if [ $retVal -eq 0 ] ; then
284      if test ! -r $TMP ; then TMP=./chkoutp_$$ ; fi
285    else
286      TMP=./chkoutp_$$
287    fi
288    rm -f $TMP
289    if test $dBug = 't' ; then echo "temp files: $TMP" ; fi
290    
291  #-- test FIRSTDAY content ; interpret as "date -d" arg. if not YYYYMMDD  #-- test FIRSTDAY content ; interpret as "date -d" arg. if not YYYYMMDD
292  ttt=`echo "y$FIRSTDAY" | sed 's/[0-9][0-9][0-9][0-9][0-9][0-9][0-9][0-9]/z/'`  ttt=`echo "y$FIRSTDAY" | sed 's/[0-9][0-9][0-9][0-9][0-9][0-9][0-9][0-9]/z/'`
293  if test "x$ttt" != 'xyz' ; then  if test "x$ttt" != 'xyz' ; then
# Line 115  if test "x$ttt" != 'xyz' ; then Line 299  if test "x$ttt" != 'xyz' ; then
299    exit 2    exit 2
300  fi  fi
301  if test $LASTDAY = "30000000" ; then LASTDAY=$FIRSTDAY ; fi  if test $LASTDAY = "30000000" ; then LASTDAY=$FIRSTDAY ; fi
302    if test  $BEFORE = "30000000" ; then  BEFORE=$FIRSTDAY ; fi
303  CMDLINE=$0  CMDLINE=$0
304  for xx in "$@" ; do nw=`echo $xx | wc -w`  for xx in "$@" ; do nw=`echo $xx | wc -w`
305    if test $nw = '1' ; then CMDLINE="$CMDLINE $xx"    if test $nw = '1' ; then CMDLINE="$CMDLINE $xx"
306                        else CMDLINE="$CMDLINE '$xx'" ; fi                        else CMDLINE="$CMDLINE '$xx'" ; fi
307  done  done
308    
309  PERIOD=`echo $FIRSTDAY | sed 's/[0-9][0-9]$//'`  PERIOD=`echo $LASTDAY | sed 's/[0-9][0-9]$//'`
310  PP=`expr $PERIOD - 1`  PP=`expr $PERIOD - 1`
311  PM=`echo $PP | sed 's/^[0-9][0-9][0-9][0-9]//'`  PM=`echo $PP | sed 's/^[0-9][0-9][0-9][0-9]//'`
312  PY=`echo $PP | sed 's/[0-9][0-9]$//'`  PY=`echo $PP | sed 's/[0-9][0-9]$//'`
# Line 131  PERIOD=`echo $PERIOD | sed 's/^[0-9][0-9 Line 316  PERIOD=`echo $PERIOD | sed 's/^[0-9][0-9
316    
317  #INDIR="/net/orwell/export/export-9/mitgcm-testing/results/$PERIOD"  #INDIR="/net/orwell/export/export-9/mitgcm-testing/results/$PERIOD"
318  INDIR="/u/u0/httpd/html/testing/results/$PERIOD"  INDIR="/u/u0/httpd/html/testing/results/$PERIOD"
319  #INDIR="/export/export-7/u/u2/jmc/mitgcm/test_web/results/$PERIOD"  #INDIR="/u/u2/jmc/mitgcm/test_web/results/$PERIOD"
320    
321    #- a short summary of this checking :
322    OUTPSUM=`echo $LASTDAY | sed 's/^20../_/'`
323    OUTPSUM=`basename $0`"$OUTPSUM.txt"
324    
325  if test $OUTPFIL = '-1' ; then  if test $OUTPFIL = '-1' ; then
326    OUTPFIL='TTT.'$$    OUTPFIL='TTT.'$$
327    fi
328    if test $t4update = 1 ; then
329      if test -f $PRC_MAILS -a -f $OUTPSUM -a $FIRSTDAY = $CURR_DAY ; then
330        #- if update-log-file is older than previous output summary, just return
331        if test $PRC_MAILS -ot $OUTPSUM ; then
332          echo ' '$CMDLINE | tee -a $OUTPSUM
333          echo " t4update: skip "`basename $0`" ( $PRC_MAILS older than $OUTPSUM )" | tee -a $OUTPSUM
334          echo " End  time:  "`date` | tee -a $OUTPSUM
335          exit 0
336        else
337          if test -e $OUTPFIL ; then mv -f $OUTPFIL $OUTPFIL'_bak' ; fi
338          echo " t4update: run "`basename $0`" ( $PRC_MAILS newer than $OUTPSUM )" | tee $OUTPFIL
339        fi
340      else
341          if test -e $OUTPFIL ; then mv -f $OUTPFIL $OUTPFIL'_bak' ; fi
342          echo " t4update ignored (not current day or $PRC_MAILS or $OUTPSUM missing)" | tee $OUTPFIL
343      fi
344  elif test -e $OUTPFIL ; then  elif test -e $OUTPFIL ; then
345    mv -f $OUTPFIL $OUTPFIL'_bak'    mv -f $OUTPFIL $OUTPFIL'_bak'
346      touch $OUTPFIL
347  fi  fi
348  echo "CMDLINE='$CMDLINE'" > $OUTPFIL  if test -e $OUTPSUM ; then mv -f $OUTPSUM $OUTPSUM'_bak' ; fi
349    echo ' '$CMDLINE > $OUTPSUM
350    
351    echo "CMDLINE='$CMDLINE'" >> $OUTPFIL
352  echo "PERIOD='$PERIOD' , PREV_P='$PREV_P'" >> $OUTPFIL  echo "PERIOD='$PERIOD' , PREV_P='$PREV_P'" >> $OUTPFIL
353  echo "INDIR='$INDIR'" >> $OUTPFIL  echo "INDIR='$INDIR'" >> $OUTPFIL
354  echo "Checking latest output from $FIRSTDAY until $LASTDAY" >> $OUTPFIL  echo "Checking latest output from $FIRSTDAY until $LASTDAY" >> $OUTPFIL
355    echo "  versus latest from before $BEFORE" >> $OUTPFIL
356    
357  if test $dBug = 't' ; then  if test $dBug = 't' ; then
358    echo "PERIOD='$PERIOD' , PREV_P='$PREV_P'"    echo "PERIOD='$PERIOD' , PREV_P='$PREV_P'"
359    echo "FIRSTDAY='$FIRSTDAY' , LASTDAY='$LASTDAY'"    echo "FIRSTDAY='$FIRSTDAY' , LASTDAY='$LASTDAY' , BEFORE='$BEFORE'"
360  fi  fi
361  if test -d $INDIR ; then  if test -d $INDIR ; then
362    dirP=`echo $INDIR | sed "s/$PERIOD/$PREV_P/"`    dirP=`echo $INDIR | sed "s/$PERIOD/$PREV_P/"`
# Line 160  else Line 371  else
371    exit 3    exit 3
372  fi  fi
373    
 #- a short summary of this checking :  
 OUTPSUM=`echo $FIRSTDAY | sed 's/^20../_/'`  
 OUTPSUM=`basename $0`"$OUTPSUM.txt"  
 if test -e $OUTPSUM ; then mv -f $OUTPSUM $OUTPSUM'_bak' ; fi  
 echo ' '$CMDLINE > $OUTPSUM  
   
374  if test $FIRSTDAY = $LASTDAY ; then  if test $FIRSTDAY = $LASTDAY ; then
375    echo -n "Checking latest output from $FIRSTDAY" | tee -a $OUTPSUM    echo -n "Checking latest output from $FIRSTDAY" | tee -a $OUTPSUM
376  else  else
377    echo -n "Checking latest output from $FIRSTDAY until $LASTDAY" | tee -a $OUTPSUM    echo -n "Checking latest output from $FIRSTDAY until $LASTDAY" | tee -a $OUTPSUM
378  fi  fi
379  echo " versus latest prior to this period" | tee -a $OUTPSUM  if test $FIRSTDAY = $BEFORE ; then
380      echo " versus latest prior to this period" | tee -a $OUTPSUM
381    else
382      echo " versus latest from before $BEFORE" | tee -a $OUTPSUM
383    fi
384  echo "    Machine   Tot. Nb.   no    Nb with  Nb diff" >> $OUTPSUM  echo "    Machine   Tot. Nb.   no    Nb with  Nb diff" >> $OUTPSUM
385  echo "     name     checked   comp    Diff    lines"  >> $OUTPSUM  echo "     name     checked   comp    Diff    lines"  >> $OUTPSUM
386    
387  ( cd $INDIR ; ls -1 -t */summary.txt | sed 's/\/summary.txt//' ) > ./dir_all  ( cd $INDIR ; ls -1 -t */summary.txt | sed 's/\/summary.txt//' ) > $TMP.dir_all
388    
389  if test "x$MACHINES" = "x_All_" ; then  if test "x$MACHINES" = "x_All_" ; then
390    MACHINES="faulks aces eddy bay meander lagoon hugo"    MACHINES="aces- acesgrid baudelaire danton iblade sx8 uv100 pleiades"
391    MACHINES="$MACHINES columbia edvir rays solasrv sx8 xd1"    MACHINES="$MACHINES stomp octopus engaging saramago svante glacier"
   MACHINES="$MACHINES beagle batsi starp"  
392    
393    MALL=`cat ./dir_all | sed -e 's|_| |g' | awk '{print $2}' | sort | uniq`    MALL=`cat $TMP.dir_all | sed -e 's|_| |g' | awk '{print $2}' | sort | uniq`
394    for madd in $MALL ; do    for madd in $MALL ; do
395      present=0      present=0
396      for m in $MACHINES ; do      for m in $MACHINES ; do
397          echo $madd | grep $m > /dev/null 2>&1          mm=`echo $m | sed 's/\./ /g' | awk '{print $1}'`
398          RETVAL=$?          echo $madd | grep $mm > /dev/null 2>&1
399          test $RETVAL = 0  &&  present=1          RETVAL=$?
400          continue          test $RETVAL = 0  &&  present=1
401            continue
402      done      done
403      test $present = 0  &&  MACHINES="$MACHINES $madd"      test $present = 0  &&  MACHINES="$MACHINES $madd"
404    done    done
405  fi  fi
406    #echo "MACHINES=$MACHINES" ; exit
407    
408  for mname in $MACHINES ; do  for pname in $MACHINES ; do
   
     if test $dBug = 't' ; then echo "  $mname" ; fi  
     echo " name='$mname'" >> $OUTPFIL  
     ctot=0 ; cmis=0 ; cdif=0  
   
     # put results from selected period in "slist",  
     #     results from previous period in "plist"  
     rm -f ./plist ./slist ; touch ./plist ./slist  
   
     for n in $listNum ; do  
       num1=`wc -l ./slist | awk '{print $1}'`  
       num0=`wc -l ./plist | awk '{print $1}'`  
       if test $n == 2 ; then  
         num2=`expr $num1 \* $n`  
         if [ $num0 -lt $num2 ] ; then  
           dir_list=`( cd $INDIR ; ls -1 -t ../$PREV_P/*${mname}*/summary.txt 2> /dev/null | sed 's/\/summary.txt//' )`  
           #echo "dir_list='$dir_list'"  
         fi  
       else  
         num2=$n  
         dir_list=`grep $mname ./dir_all`  
       fi  
       if [ $num0 -lt $num2 ] ; then  
         for i in $dir_list ; do  
409    
410              dir=$INDIR"/"$i      sname=`echo $pname | sed 's/-$//'`
411              OPTFILE=      mname=`echo $pname | sed 's/\./ /g' | awk '{print $1}'`
412              if test -r $dir/summary.txt ; then      sUser=
413                  comm=`grep 'OPTFILE=' $dir/summary.txt`      if test $mname != $pname ; then
414                  eval $comm        # to select results from user "sUser"
415                  OPTFILE=${OPTFILE##*/}        sUser=`echo $pname | sed 's/\./ /g' | awk '{print $2}'`
416              fi      fi
             if test "x$OPTFILE" = x -a -r "$dir/genmake_state" ; then  
                 comm=`grep 'OPTFILE=' $dir/genmake_state 2>/dev/null`  
                 eval $comm  
                 OPTFILE=${OPTFILE##*/}  
             fi  
             if test "x$OPTFILE" = x ; then  
                 comm=`grep '^# OPTFILE=' $dir/*/Makefile* 2>/dev/null | head -1`  
                 comm=${comm##*#}  
                 eval $comm  
                 OPTFILE=${OPTFILE##*/}  
             fi  
             if test "x$OPTFILE" = x ; then  
                 OPTFILE="not_explicitly_specified"  
             fi  
   
             ADJOINT=  
             RESTART=0  
             NOI3E=0  
             MTH=0  
             if test -r $dir/summary.txt ; then  
                 comm=`grep 'ADJOINT=true' $dir/summary.txt 2>/dev/null`  
                 eval $comm  
                 RESTART=`grep -c 'test 2+2=4 summary' $dir/summary.txt`  
                 NOI3E=`grep -c "^run: .*testreport.* '*-noieee'* " $dir/summary.txt`  
                 MTH=`grep -c "^run: .*testreport.* -mth " $dir/summary.txt`  
             fi  
             if test "x$RESTART" = x0 ; then  
                 kind="forward"  
                 test "x$ADJOINT" = xtrue  &&  kind="adjoint"  
             else  
                 kind="restart"  
             fi  
             if test "x$NOI3E" = x1 ; then  
                 OPTFILE="${OPTFILE}.noieee"  
             fi  
             if test "x$MTH" = x1 ; then  
                 yy=`echo $OPTFILE | grep -c 'mth$'`  
                 if test $yy = 0 ; then OPTFILE="${OPTFILE}+mth" ; fi  
             fi  
             day=`echo $i   | sed -e 's/_[0-9]$//' | sed -e 's/_[0-9][0-9]$//'`  
             ttt=`echo $day | sed -e 's/_[0-9]$//' | sed -e 's/_[0-9][0-9]$//'`  
             day=`echo $ttt | sed -e 's|_| |g' |awk '{print $NF}'`  
   
             if [ $day -lt $FIRSTDAY ] ; then  
                 echo "$OPTFILE$kind $day $OPTFILE $kind $i" >> ./plist  
             elif [ $day -le $LASTDAY ] ; then  
                 echo "$OPTFILE$kind $day $OPTFILE $kind $i" >> ./slist  
             else  
                 if test $dBug = 't' ; then  
                    echo "discard day='$day' from: $i" | tee -a $OUTPFIL  
                 fi  
             fi  
417    
418          done      if test $dBug = 't' ; then echo "  $pname" ; fi
419          if test $dBug = 't' ; then      echo " name='$pname'" >> $OUTPFIL
420            if test $n == 1 ; then      ctot=0 ; cmis=0 ; cdif=0
             echo "---- current list (n=$n) :" | tee -a $OUTPFIL  
                 cat ./slist | tee -a $OUTPFIL  
           fi  
           echo   ".... previous list (n=$n):" | tee -a $OUTPFIL  
                 cat ./plist | tee -a $OUTPFIL | head -20  
         fi  
421    
422        fi      # put results from selected period in "TMP.slist",
423      done      #     results from previous period in "TMP.plist"
424      if test $dBug = 't' ; then echo "----" | tee -a $OUTPFIL ; fi      rm -f $TMP.plist $TMP.slist ; touch $TMP.plist $TMP.slist
425    
426        #- create list of results (slist & plist) from current month directory
427        monthDir=1
428        make_resdir_list
429    
430      #  Do we have any data?  If so, create the latest pointer.      #  Do we have any data?  If so, create the latest pointer.
431      num=`wc -l ./slist | awk '{print $1}'`      num=`wc -l $TMP.slist | awk '{print $1}'`
432      if test $num -gt 0 ; then      if test $num -gt 0 ; then
433    
434          keys=`cat ./slist | cut -d " " -f 1 | sort | uniq`          keys=`cat $TMP.slist | cut -d " " -f 1 | sort | uniq`
435    
436          for key in $keys ; do          for key in $keys ; do
437            ctot=`expr $ctot + 1`            ctot=`expr $ctot + 1`
438            sline=`grep "^$key " ./slist | head -1`            sline=`grep "^$key " $TMP.slist | head -1`
439            sdir=`echo $sline | cut -d " " -f 5`            sdir=`echo $sline | cut -d " " -f 5`
440            kind=`echo $sline | cut -d " " -f 4`            type=`echo $sline | cut -d " " -f 4`
441            optf=`echo $sline | cut -d " " -f 3`            optf=`echo $sline | cut -d " " -f 3`
442            num=`grep -c "^$key" ./plist`            num=`grep -c "^$key" $TMP.plist`
443              if test $num = 0 -a $monthDir = 1 ; then
444              #- add results from previous month directory to "plist".
445                monthDir=2
446                make_resdir_list
447                num=`grep -c "^$key" $TMP.plist`
448              fi
449            #- discard unsafe test:            #- discard unsafe test:
450            dd=`echo $optf | grep -c 'gfortran.*mth'`            dd=`echo $optf | grep -c 'gfortran+mth'`
451            if test $mname = 'lagoon' -a $dd = 1 ; then num=-1 ; fi            if test $mname = 'lagoon' -a $dd = 1 ; then num=-1 ; fi
452            if test $mname = 'harbor' -a $dd = 1 ; then num=-1 ; fi            if test $mname = 'harbor' -a $dd = 1 ; then num=-1 ; fi
453            if test $mname = 'aces' -a $optf = 'linux_ia32_open64' ; then num=-1 ; fi            #if test $mname = 'aces' -a $optf = 'linux_ia32_open64' ; then num=-1 ; fi
454            if test $mname = 'aces' -a $optf = 'linux_ia32_g95' ; then num=-1 ; fi            #if test $mname = 'aces' -a $optf = 'linux_ia32_g95' ; then num=-1 ; fi
455            if test $num -gt 0 ; then            dd=`echo $optf | grep -c 'bigred.*noieee'`
456              pline=`grep "^$key " ./plist | head -1`            #if test $mname = 'bigred' -a $dd = 1 ; then num=-1 ; fi
457              if test $dBug = 't' ; then            if test $num -lt 0 ; then
458                echo "  discard $sdir : $type , of='$optf'" | tee -a $OUTPFIL
459                cmis=`expr $cmis + 1`
460              elif test $num = '0' ; then
461                echo "  dir='$sdir', type='$type', of='$optf':" | tee -a $OUTPFIL
462                echo "  --> no previous test matching key='$key'" | tee -a $OUTPFIL
463                cmis=`expr $cmis + 1`
464              else
465                pline=`grep "^$key " $TMP.plist | head -1`
466                if test $dBug = 't' ; then
467                  echo "s='$sline'" | tee -a $OUTPFIL                  echo "s='$sline'" | tee -a $OUTPFIL
468                  echo "p='$pline'" | tee -a $OUTPFIL                  echo "p='$pline'" | tee -a $OUTPFIL
469              fi              fi
470              pdir=`echo $pline | cut -d " " -f 5`              pdir=`echo $pline | cut -d " " -f 5`
471              outs="$INDIR/$sdir/summary.txt"              outs="$INDIR/$sdir/summary.txt"
472              sed -n "5,$ p" $outs | sed '/^[YN] [YN] [YN] [YN]/ s/ \. //g' \              xx=`( echo 5 ; sed -n '/^  OPTFILE=/=' $outs ) | tail -1`
473                                   | sed 's/ OPTFILE=.*\// OPTFILE=/g' \              sed "1,$xx d" $outs | sed '/^[YN] [YN] [YN] [YN]/ s/ \. //g' \
474                                   | grep -v '^[A-S][a-t]* time:  ' > tmpfs                                  | grep -v '^[A-S][a-t]* time:  ' > $TMP.fs
475              outp="$INDIR/$pdir/summary.txt"              outp="$INDIR/$pdir/summary.txt"
476              sed -n "5,$ p" $outp | sed '/^[YN] [YN] [YN] [YN]/ s/ \. //g' \              xx=`( echo 5 ; sed -n '/^  OPTFILE=/=' $outp ) | tail -1`
477                                   | sed 's/ OPTFILE=.*\// OPTFILE=/g' \              sed "1,$xx d" $outp | sed '/^[YN] [YN] [YN] [YN]/ s/ \. //g' \
478                                   | grep -v '^[A-S][a-t]* time:  ' > tmpfp                                  | grep -v '^[A-S][a-t]* time:  ' > $TMP.fp
479              #-- re-order list of exp (according to local "sort" order)              #-- check if list of exp are the same (and in the same order)
480              listD=`grep '^[YN] [YN] [YN] [YN]' tmpfs \              sed 's/  (e=.*, w=.*)$//' $TMP.fs > $TMP.fn
481                   | sed 's/^[YN] .*pass //' | sed 's/^[YN] .*FAIL //' \              listDs=`grep '^[YN] [YN] [YN] [YN]' $TMP.fn | awk '{print $NF}'`
482                   | sed 's/^[YN] .*N\/O  //' | sort`              #mv -f $TMP.fn $TMP.fs
483              for xx in $listD              rm -f $TMP.fn
484              do              sed 's/  (e=.*, w=.*)$//' $TMP.fp > $TMP.fn
485                  sed "/ $xx\$/d" tmpfs > tmpfn              listDp=`grep '^[YN] [YN] [YN] [YN]' $TMP.fn | awk '{print $NF}'`
486                  sed -n "/ $xx\$/p" tmpfs >> tmpfn              #mv -f $TMP.fn $TMP.fp
487                  mv tmpfn tmpfs              rm -f $TMP.fn
488              done              #echo "listDs='$listDs'" ;  echo "listDp='$listDp'"
489              listD=`grep '^[YN] [YN] [YN] [YN]' tmpfp \              if test "$listDs" != "$listDp" ; then
490                   | sed 's/^[YN] .*pass //' | sed 's/^[YN] .*FAIL //' \                  if test $dBug = 't' ; then echo ' -> re-order list of exp' ; fi
491                   | sed 's/^[YN] .*N\/O  //' | sort`                  #-- re-order list of exp (according to local "sort" order)
492              for xx in $listD                  listDs=`echo "$listDs" | sort`
493              do                  for xx in $listDs ; do
494                  sed "/ $xx\$/d" tmpfp > tmpfn                      sed -e "/ $xx\$/d" -e "/ $xx /d" $TMP.fs > $TMP.fn
495                  sed -n "/ $xx\$/p" tmpfp >> tmpfn                      sed -n -e "/ $xx\$/p" -e "/ $xx /p" $TMP.fs >> $TMP.fn
496                  mv tmpfn tmpfp                      mv -f $TMP.fn $TMP.fs
497              done                  done
498                    listDp=`echo "$listDp" | sort`
499                    for xx in $listDp ; do
500                        sed -e "/ $xx\$/d" -e "/ $xx /d" $TMP.fp > $TMP.fn
501                        sed -n -e "/ $xx\$/p" -e "/ $xx /p" $TMP.fp >> $TMP.fn
502                        mv -f $TMP.fn $TMP.fp
503                    done
504                #else
505                #   echo 'same list of exp => skip re-ordering'
506                fi
507              echo -n "=== diff $sdir $pdir :" | tee -a $OUTPFIL              echo -n "=== diff $sdir $pdir :" | tee -a $OUTPFIL
508              diff tmpfs tmpfp > tmpdf              diff $TMP.fs $TMP.fp > $TMP.dif
509              yy=$?              yy=$?
510              if test $yy != '0' ; then              if test $yy != '0' ; then
511                  echo " $kind , of='$optf'" | tee -a $OUTPFIL                  echo " $type , of='$optf'" | tee -a $OUTPFIL
512                  #grep '^run: ' $outp                  #grep '^run: ' $outp
513                  #grep '^run: ' $outs                  #grep '^run: ' $outs
514                  #-- score for each test:                  #-- score for each test:
515                  grep '^[YN] [YN] [YN] [YN]' tmpfs > tmploc 2>/dev/null                  grep '^[YN] [YN] [YN] [YN]' $TMP.fs > tmploc 2>/dev/null
516                  t_tot=`cat tmploc | wc -l | sed -e 's| ||g'`                  t_tot=`cat tmploc | wc -l | sed -e 's| ||g'`
517                  t_pass=`grep '^Y Y Y Y' tmploc | grep 'pass ' | wc -l | sed -e 's| ||g'`                  t_pass=`grep '^Y Y Y Y' tmploc | grep 'pass ' | wc -l | sed -e 's| ||g'`
518                  score_s=`printf '%2i' $t_pass`":$t_tot"                  score_s=`printf '%2i' $t_pass`":$t_tot"
519                  grep '^[YN] [YN] [YN] [YN]' tmpfp > tmploc 2>/dev/null                  grep '^[YN] [YN] [YN] [YN]' $TMP.fp > tmploc 2>/dev/null
520                  t_tot=`cat tmploc | wc -l | sed -e 's| ||g'`                  t_tot=`cat tmploc | wc -l | sed -e 's| ||g'`
521                  t_pass=`grep '^Y Y Y Y' tmploc | grep 'pass ' | wc -l | sed -e 's| ||g'`                  t_pass=`grep '^Y Y Y Y' tmploc | grep 'pass ' | wc -l | sed -e 's| ||g'`
522                  score_p=`printf '%2i' $t_pass`":$t_tot"                  score_p=`printf '%2i' $t_pass`":$t_tot"
523                  rm -f tmploc                  rm -f tmploc
524                  #-- count Nb of different lines                  #-- count Nb of different lines
525                  ndf=`wc -l tmpdf | awk '{print $1}'`                  ndf=`wc -l $TMP.dif | awk '{print $1}'`
526                  ndf=`expr $ndf / 2`                  ndf=`expr $ndf / 2`
527                  nn=`grep -c '^---' tmpdf`                  nn=`grep -c '^---' $TMP.dif`
528                  ndf=`expr $ndf - $nn`                  ndf=`expr $ndf - $nn`
529                  if [ $ndf -le $NBLDIFF ] ; then                  if [ $ndf -le $NBLDIFF ] ; then
530                    cat tmpdf                    cat $TMP.dif
531                  else                  else
532                    echo " $ndf lines differ ( $score_s , $score_p )"                    echo " $ndf lines differ ( $score_s , $score_p )"
533                  fi                  fi
534                  echo "< "`head -1 $outs`" ( $score_s )" >> $OUTPFIL                  echo "< "`head -1 $outs`" ( $score_s )" >> $OUTPFIL
535                  echo "> "`head -1 $outp`" ( $score_p )" >> $OUTPFIL                  echo "> "`head -1 $outp`" ( $score_p )" >> $OUTPFIL
536                  cat tmpdf >> $OUTPFIL                  cat $TMP.dif >> $OUTPFIL
537                  if [ $cdif -eq 0 ] ; then                  if [ $cdif -eq 0 ] ; then
538                    clin=`printf '%3i (%5s,%5s)' $ndf $score_s $score_p`                    clin=`printf '%3i (%5s,%5s)' $ndf $score_s $score_p`
539                  else                  else
540                    clin="$clin,"`printf '%3i (%5s,%5s)' $ndf $score_s $score_p`                    clin="$clin,"`printf '%3i (%5s,%5s)' $ndf $score_s $score_p`
541                  fi                  fi
542                  cdif=`expr $cdif + 1`                  cdif=`expr $cdif + 1`
543                  echo '----------------------------------------' | tee -a $OUTPFIL                  echo '----------------------------------------' | tee -a $OUTPFIL
544              else              else
545                  echo "" | tee -a $OUTPFIL                  echo " $type , of='$optf'" | tee -a $OUTPFIL
546              fi              fi
547              rm -f tmpfs tmpfp tmpdf              rm -f $TMP.fs $TMP.fp $TMP.dif
548            elif test $num = '0' ; then            fi
             echo "no previous test for:" $key | tee -a $OUTPFIL  
             cmis=`expr $cmis + 1`  
           else  
             cmis=`expr $cmis + 1`  
           fi  
549          done          done
550          if [ $cmis -gt 0 ] ; then tmis='(-'$cmis')' ; else tmis='(--)' ; fi          if [ $cmis -gt 0 ] ; then tmis='(-'$cmis')' ; else tmis='(--)' ; fi
551          printf '%11s :  %3i      %4s   %3i  ' $mname $ctot $tmis $cdif >> $OUTPSUM          printf '%11s :  %3i      %4s   %3i  ' $sname $ctot $tmis $cdif >> $OUTPSUM
552          if [ $cdif -gt 0 ] ; then          if [ $cdif -gt 0 ] ; then
553            echo "   $clin" >> $OUTPSUM            echo "   $clin" >> $OUTPSUM
554         else echo "" >> $OUTPSUM ; fi          else echo "" >> $OUTPSUM ; fi
555      fi      fi
556    
557  done  done
558    
559  echo "Start time:  $sTime" | tee -a $OUTPFIL  echo "Start time:  $sTime" | tee -a $OUTPFIL
560  echo "End  time:   "`date` | tee -a $OUTPFIL | tee -a $OUTPSUM  echo "End time:    "`date` | tee -a $OUTPFIL | tee -a $OUTPSUM
561    
562  rm -f ./dir_all ./slist ./plist  rm -f $TMP.dir_all $TMP.slist $TMP.plist
563  if test $OUTPFIL = "TTT.$$" ; then rm -f $OUTPFIL ; fi  if test $OUTPFIL = "TTT.$$" ; then rm -f $OUTPFIL ; fi
564  if test "x$ADDRESS" != 'xnone' ; then  if test "x$ADDRESS" != 'xnone' ; then
565    echo ".. send $OUTPSUM to $ADDRESS"    #- change default sender address ("From:") using "mail -r" option
566    mail -s $OUTPSUM $ADDRESS < $OUTPSUM    #  since, by default, baudelaire uses USER@localhost.localdomain
567      fullNam=`hostname -A | awk '{print $1}'`
568      MAILCMD="$MAILCMD -r ${USER}@${fullNam}"
569      #---
570      echo ".. send $OUTPSUM to '$ADDRESS' using '$MAILCMD'"
571      $MAILCMD -s 'check_outp summary' $ADDRESS < $OUTPSUM
572  fi  fi
573  echo ".. cat $OUTPSUM"  echo ".. cat $OUTPSUM"
574  cat $OUTPSUM  cat $OUTPSUM
Legend:
Removed from v.1.12  
changed lines
  Added in v.1.46
  ViewVC Help
Powered by ViewVC 1.1.22