/[MITgcm]/mitgcm.org/front_content/make_summary
ViewVC logotype

Diff of /mitgcm.org/front_content/make_summary

Parent Directory Parent Directory | Revision Log Revision Log | View Revision Graph Revision Graph | View Patch Patch

revision 1.52 by jmc, Mon Jun 22 20:23:48 2009 UTC revision 1.85 by jmc, Wed Sep 18 16:17:55 2019 UTC
# Line 5  Line 5 
5  #  The purpose of this script is to create HTML summaries of the  #  The purpose of this script is to create HTML summaries of the
6  #  directories produced by the "parse_emails" script.  #  directories produced by the "parse_emails" script.
7    
   
8  usage()  usage()
9  {  {
10      echo      echo
11      echo "Usage:  $0 [OPTIONS]"      echo "Usage:  $0 [OPTIONS]"
12      echo      echo
13      echo "where possible OPTIONS are:"      echo "where possible OPTIONS are:"
14      echo "  (-help|-h)           print usage"      echo "  (-help|-h)           print usage"
15      echo "  (-date |-d )PERIOD   run for PERIOD=\"YYYY_MM\""      echo "  (-date |-d )PERIOD   run for PERIOD=\"YYYY_MM\""
16      echo "                         [def=\"$PERIOD\"]"      echo "                         [def=\"$PERIOD\"]"
17      echo      echo
18      exit 1      exit 1
19  }  }
20    
21    export LC_ALL="en_US.UTF-8"
22  CURR_PER=`date +%Y`"_"`date +%m`  CURR_PER=`date +%Y`"_"`date +%m`
23  # defaults  # defaults
24  PERIOD=$CURR_PER  PERIOD=$CURR_PER
# Line 29  for ac_option ; do Line 29  for ac_option ; do
29    
30      # If the previous option needs an argument, assign it.      # If the previous option needs an argument, assign it.
31      if test -n "$ac_prev"; then      if test -n "$ac_prev"; then
32          eval "$ac_prev=\$ac_option"          eval "$ac_prev=\$ac_option"
33          ac_prev=          ac_prev=
34          continue          continue
35      fi      fi
36    
37      ac_optarg=`expr "x$ac_option" : 'x[^=]*=\(.*\)'`      ac_optarg=`expr "x$ac_option" : 'x[^=]*=\(.*\)'`
38    
39      case $ac_option in      case $ac_option in
40            
41          -help | --help | -h | --h)          -help | --help | -h | --h)
42              usage ;;              usage ;;
           
         -date | --date | -d | --d)  
             ac_prev=PERIOD ;;  
         --date=* | -date=*)  
             PERIOD=$ac_optarg ;;  
43    
44          *)          -date | --date | -d | --d)
45                ac_prev=PERIOD ;;
46            --date=* | -date=*)
47                PERIOD=$ac_optarg ;;
48    
49            *)
50              echo "Error: don't understand argument \"$ac_option\""              echo "Error: don't understand argument \"$ac_option\""
51              usage              usage
52              ;;              ;;
53    
54       esac       esac
55    
# Line 63  OUTDIR="/u/u0/httpd/html/testing/summary Line 63  OUTDIR="/u/u0/httpd/html/testing/summary
63  OUTFILE=$OUTDIR"/output_"$PERIOD".html"  OUTFILE=$OUTDIR"/output_"$PERIOD".html"
64  res_url="http://mitgcm.org/testing/"  res_url="http://mitgcm.org/testing/"
65    
66    #TMP=./mksum_$$
67    #- try to put temporary files in system-local /tmp dir
68    TMP=/tmp/mksum_$$
69    touch $TMP ; retVal=$?
70    if [ $retVal -eq 0 ] ; then
71      if test ! -r $TMP ; then TMP=./mksum_$$ ; fi
72    else
73      TMP=./mksum_$$
74    fi
75    rm -f $TMP
76    # echo "temp files: $TMP"
77    
78  #  Create the links in $OUTFILE :  #  Create the links in $OUTFILE :
79  echo "Creating the \"latest\" file for each machine: "  echo "Creating the \"latest\" file for each machine: "
80  the_date=`date`  the_date=`date`
 cat > $OUTFILE << EOF  
 <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN"  
     "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">  
   
 <html xmlns="http://www.w3.org/1999/xhtml">  
   <head>  
     <title>MITgcm testing summary</title>  
     <meta name="author" content="Ed Hill" />  
   
     <!-- <base href="http://mitgcm.org/testing/summary/" /> -->  
   
     <!-- Hinting for menu generation -->  
     <meta name="add_name_0" content="Testing" />  
     <meta name="add_name_1" content="" />  
     <meta name="add_name_2" content="" />  
     <meta name="add_title" content="Testing" />  
     <!-- Hinting for menu generation -->  
   
   </head>  
   <body>  
     <p>The MITgcm model is tested  
       (compiled and run) in an automated fashion on a varirety of  
       different machines.  The following is a summary of the MITgcm  
       verification suite for the time period: <b>$PERIOD</b>.</p>  
   
     <p>The machine naming scheme is:<br /></p>  
     <table align="center" cellpadding="0" border="0">  
       <tr bgcolor="#00cccc"> <td><b>Machine Type</b></td> <td><b>Nickname</b></td>  
         <td><b>Notes</b></td> </tr>  
   
       <tr bgcolor="#bbddff">  
         <td>Intel P4</td> <td>"faulks"</td> <td>Fedora Core 6 </td> </tr>  
       <tr bgcolor="#bbffdd">  
         <td> Intel P4 </td> <td>"meander"</td> <td>Fedora Core 7 </td> </tr>  
       <tr bgcolor="#bbddff">  
         <td> Intel P4 </td> <td>"lagoon"</td> <td>Fedora 8 </td> </tr>  
       <tr bgcolor="#bbffdd">  
         <td> Opteron Barcelona </td> <td>"harbor"</td> <td>Ubuntu 8.04 LTS (x86_64)</td> </tr>  
       <tr bgcolor="#bbddff">  
         <td> Intel Xeon (Woodcrest) </td> <td>"dickens"</td> <td>Fedora 10 (x86_64)</td> </tr>  
       <tr bgcolor="#bbffdd">  
         <td> Intel Core 2 duo </td> <td>"danton"</td> <td>Fedora 8 (x86_64)</td> </tr>  
   
       <tr bgcolor="#bbddff">  
         <td> <a href="http://acesgrid.org">ACESgrid Dell Xeon</a> </td>  
         <td>"aces"</td><td>Fedora Core 2</td> </tr>  
   
       <tr bgcolor="#bbffdd">  
         <td><a href="http://www.darwinproject.mit.edu/wiki/">Intel Xeon (Woodcrest) cluster</a>  
         </td> <td>"beagle"</td><td>Rocks 5.2 (x86_64)</td> </tr>  
   
       <!--  
       <tr bgcolor="#bbffdd">  
         <td> Intel P3/P4 Beowulf </td> <td>"myrinet"</td>  
         <td><a href="http://mitgcm.org/projects/MITGCM_CLUSTER/">MITgcm cluster  
         facility </a></td> </tr>  
       <tr bgcolor="#bbddff">  
         <td>Alpha cluster</td> <td>"halem"</td>  
         <td><a href="http://nccstag.gsfc.nasa.gov/halem/quickstart_halem.html">  
         NASA NCCS Halem</a></td> </tr>  
       <tr bgcolor="#bbffdd">  
         <td> SGI Origin 2000 </td> <td>"hopper"</td>  
         <td><a href="http://www.nas.nasa.gov/User/Systemsdocs/O2K/o2k.html">  
         NAS SGI Origin 2000 </a></td> </tr>  
       <tr bgcolor="#bbddff">  
         <td> SGI Origin 3000</td><td>"lomax"/"turing"</td>  
         <td><a href="http://www.nas.nasa.gov/User/Systemsdocs/O3K/o3k.html">  
         NAS SGI Origin 3000 </a></td> </tr>  
       -->  
   
       <tr bgcolor="#bbddff">  
         <td> SGI Altix Cluster </td> <td>"columbia"</td>  
         <td><a href="http://www.nas.nasa.gov/Resources/Systems/columbia.html">  
         NAS Columbia </a></td> </tr>  
   
       <tr bgcolor="#bbffdd">  
         <td> IBM POWER4 SP </td> <td>"edvir"</td> <td> AIX 5.2 </td> </tr>  
       <tr bgcolor="#bbddff">  
         <td> IBM POWER5+ SP </td> <td>"blueice"</td>  
         <td><a href="http://www.scd.ucar.edu/computers/blueice/">NCAR Blueice  
         </a></td> </tr>  
   
       <tr bgcolor="#bbffdd">  
         <td> AMD Opteron </td> <td>"starp"</td> <td>SuSE SLES 10 (AMD64)</td> </tr>  
   
       <tr bgcolor="#bbddff">  
         <td> AMD Opteron </td> <td>"solasrv"</td> <td>Solaris 10</td> </tr>  
       <tr bgcolor="#bbffdd">  
         <td> Sun UltraSparc IV </td> <td>"rays"</td> <td>Solaris 10</td> </tr>  
       <!--  
         <td> Sun UltraSparc IV </td> <td>"solssrv"</td> <td>Solaris 10</td> </tr>  
         <td> Sun UltraSparc IV </td> <td>"model"</td> <td>Solaris 9</td> </tr>  
       -->  
       <tr bgcolor="#bbddff">  
         <td> NEC SX-8 </td> <td>"sx8"</td> <td>Super-UX </td> </tr>  
       <tr bgcolor="#bbffdd">  
         <td> Cray XD1 (AMD Opteron) </td> <td>"xd1"</td>  
         <td>Cray HPC enhanced Linux 2.6.5 </td> </tr>  
       <tr bgcolor="#bbddff">  
         <td> PowerPC970MP cluster </td> <td>"bigred"</td>  
         <td>SuSE SLES 9 (PPC) </td> </tr>  
   
       <!--  
       <tr bgcolor="#bbffdd">  
         <td><a href="http://www.testdrive.hp.com/current.shtml"> HP test-drive </a>  
         (Pentium III) </td> <td>"td152"</td> <td> FreeBSD 6.2 </td> </tr>  
       <tr bgcolor="#bbddff">  
         <td><a href="http://www.testdrive.hp.com/current.shtml"> HP test-drive </a>  
         (Itanium II) </td> <td>"td187"</td> <td>SuSE SLES 10 </td> </tr>  
       <tr bgcolor="#bbffdd">  
         <td><a href="http://www.testdrive.hp.com/current.shtml"> HP test-drive </a>  
         (PA-RISC 8900) </td> <td>"td191"</td> <td> HP-UX 11i 11.11 </td> </tr>  
       <tr bgcolor="#bbddff">  
         <td><a href="http://www.testdrive.hp.com/current.shtml"> HP test-drive </a>  
         (Itanium II) </td> <td>"td194"</td> <td> HP-UX 11i v3 </td> </tr>  
       <tr bgcolor="#bbffdd">  
       -->  
   
       <!--  
       <tr bgcolor="#bbddff"> <td>  </td> <td>""</td>  
         <td></td> </tr>  
       -->  
81    
82      </table>  sed "s/_PERIOD/$PERIOD/" summary_head > $OUTFILE
83    cat <<EOF >>$OUTFILE
     <p><br />  
       The complete output for the verification runs can be found in  
       <a href="http://mitgcm.org/testing/summary/">the summary pages</a>  
       and the <a href="http://mitgcm.org/testing/results/">testing archives</a>.  
       The latest reports are:</p>  
84      <table align="center" cellpadding="0" cellspacing="0" border="0" width="95%">      <table align="center" cellpadding="0" cellspacing="0" border="0" width="95%">
85  <tr bgcolor="#00cccc">  <tr bgcolor="#00cccc">
86    <td height="0"> <b>Nickname</b> </td>    <td height="0"> <b>Nickname</b> </td>
# Line 211  EOF Line 96  EOF
96  color="#bbffdd"  color="#bbffdd"
97  ncolor="#bbddff"  ncolor="#bbddff"
98    
99  MACHINES="faulks meander lagoon harbor dickens danton aces"  MACHINES="villon baudelaire batsi engaging svante glacier"
100  MACHINES="$MACHINES beagle columbia edvir rays solssrv solasrv sx8 xd1"  MACHINES="$MACHINES ollie stan1 pleiades archer"
 MACHINES="$MACHINES bigred starp"  
101    
102  ( cd $INDIR ; ls -1 -t */summary.txt | sed 's/\/summary.txt//' ) > ./dir_all  ( cd $INDIR ; ls -1 -t */summary.txt | sed 's/\/summary.txt//' ) > $TMP.dir_all
103    
104  MALL=`cat ./dir_all | sed -e 's|_| |g' | awk '{print $2}' | sort | uniq`  MALL=`cat $TMP.dir_all | sed -e 's|_| |g' | awk '{print $2}' | sort | uniq`
105  for madd in $MALL ; do  for madd in $MALL ; do
106      present=0      present=0
107      for m in $MACHINES ; do      for m in $MACHINES ; do
108          echo $madd | grep $m > /dev/null 2>&1          echo $madd | grep $m > /dev/null 2>&1
109          RETVAL=$?          RETVAL=$?
110          test $RETVAL = 0  &&  present=1          test $RETVAL = 0  &&  present=1
111          continue          continue
112      done      done
113      test $present = 0  &&  MACHINES="$MACHINES $madd"      test $present = 0  &&  MACHINES="$MACHINES $madd"
114  done  done
115  #MACHINES="faulks"  #MACHINES="baudelaire"
116    
117  for mname in $MACHINES ; do  for mname in $MACHINES ; do
118    
119      echo "  $mname"      echo "  $mname"
120    
121      dir_list=`grep $mname ./dir_all`      dir_list=`grep $mname $TMP.dir_all`
122      echo -n "" > ./mlist      echo -n "" > $TMP.mlist
123    
124      for i in $dir_list ; do      for i in $dir_list ; do
125    
# Line 261  for mname in $MACHINES ; do Line 145  for mname in $MACHINES ; do
145              OPTFILE="not_explicitly_specified"              OPTFILE="not_explicitly_specified"
146          fi          fi
147    
148          ADJOINT=          # EXTRA = non-standard list of experiment
149            ADJOINT=0
150            TANGLIN=0
151            OPENAD=0
152          RESTART=0          RESTART=0
153          NOI3E=0          EXTRA=
154            FAST=0
155            DVLP=0
156            MPI=0
157          MTH=0          MTH=0
158            UR4=0
159          if test -r $dir/summary.txt ; then          if test -r $dir/summary.txt ; then
160              comm=`grep 'ADJOINT=true' $dir/summary.txt 2>/dev/null`              ADJOINT=`grep -c -i '^ADJOINT' $dir/summary.txt`
161              eval $comm              if test "x$ADJOINT" = x1 ; then
162                  OPENAD=`grep -c '^Adjoint .* OpenAD' $dir/summary.txt`
163                fi
164                TANGLIN=`grep -c -i '^TANGLIN' $dir/summary.txt`
165                if test "x$TANGLIN" = x1 ; then
166                  OPENAD=`grep -c '^TangLin .* OpenAD' $dir/summary.txt`
167                fi
168              RESTART=`grep -c 'test 2+2=4 summary' $dir/summary.txt`              RESTART=`grep -c 'test 2+2=4 summary' $dir/summary.txt`
169              NOI3E=`grep -c "^run: .*testreport.* '*-noieee'* " $dir/summary.txt`              comm=`grep '^run: .*testreport.* ' $dir/summary.txt`
170              MTH=`grep -c "^run: .*testreport.* -mth " $dir/summary.txt`              EXTRA=`echo "$comm" | grep " -*-tdir\>" | sed -e "s/^.* -*-tdir\>//" -e "s/ -.*$//"`
171                if test "x$EXTRA" = x ; then
172                    EXTRA=`echo "$comm" | grep " -*-t\>" | sed -e "s/^.*-*-t\>//" -e "s/ -.*$//"`
173                fi
174                if test "x$EXTRA" = x ; then EXTRA=0 ; else
175                    #echo -n "EXTRA=$EXTRA"
176                    nn0=`echo $EXTRA | sed "s/ *' *//g" | wc -w`
177                    nn1=`echo $EXTRA | sed "s/ *' *//g" | tr ' ' '\n' | grep -c "\<monod_"`
178                    nn2=`echo $EXTRA | sed "s/ *' *//g" | tr ' ' '\n' | grep -c "\<darwin_"`
179                    EXTRA=1
180                    if [ $nn1 -ge 2 ] ; then EXTRA=2 ; fi
181                    if [ $nn2 -ge 2 ] ; then EXTRA=3 ; fi
182                    #echo " : nn0=$nn0 ; nn1=$nn1 ; nn2=$nn2"
183                fi
184                FAST=`echo "$comm" | grep -c " -*-fast\>"`
185                if test "x$FAST" = x0 ; then
186                    FAST=`echo "$comm" | grep -c " '*-noieee'*"`
187                fi
188                DVLP=`echo "$comm" | grep -c " -*-devel\>"`
189                MPI=`echo "$comm" | grep -c " -*-mpi\>"`
190                if test "x$MPI" = x0 ; then
191                    MPI=`echo "$comm" | grep -c " -*-MPI\>"`
192                fi
193                MTH=`echo "$comm" | grep -c " -*-mth\>"`
194                UR4=`echo "$comm" | grep -c " -*-use_r4\>"`
195                if test "x$UR4" = x0 ; then
196                    UR4=`echo "$comm" | grep -c " -*-ur4\>"`
197                fi
198          fi          fi
199          if test "x$RESTART" = x0 ; then          if test "x$ADJOINT" = x1 ; then
200              kind="forward"              kind="adjoint-taf" ; order=0
201              test "x$ADJOINT" = xtrue  &&  kind="adjoint"            if test "x$OPENAD" = x1 ; then
202                kind="adjoint-oad" ; order=2
203              fi
204            elif test "x$TANGLIN" = x1 ; then
205                kind="tanglin-taf" ; order=1
206              if test "x$OPENAD" = x1 ; then
207                kind="tanglin-oad" ; order=3
208              fi
209            elif test "x$RESTART" = x0 ; then
210                kind="forward" ; order=4
211          else          else
212              kind="restart"              kind="restart" ; order=5
213            fi
214            if test "x$UR4" = x1 ; then
215                OPTFILE="${OPTFILE}.use_r4"
216          fi          fi
217          if test "x$NOI3E" = x1 ; then          if test "x$MPI" = x1 ; then
218              OPTFILE="${OPTFILE}.noieee"              yy=`echo $OPTFILE | grep -c '+mpi'`
219                if test $yy = 0 ; then yy=`echo $OPTFILE | grep -c '+impi'` ; fi
220                if test $yy = 0 ; then OPTFILE="${OPTFILE}+mpi"
221                                  else order=`expr $order + 200` ; fi
222          fi          fi
223          if test "x$MTH" = x1 ; then          if test "x$MTH" = x1 ; then
224              yy=`echo $OPTFILE | grep -c 'mth$'`              yy=`echo $OPTFILE | grep -c '+mth$'`
225              if test $yy = 0 ; then OPTFILE="${OPTFILE}+mth" ; fi              if test $yy = 0 ; then OPTFILE="${OPTFILE}+mth" ; fi
226          fi          fi
227            if test "x$FAST" = x1 ; then
228                OPTFILE="${OPTFILE}.fast"
229            fi
230            if test "x$DVLP" = x1 ; then
231                OPTFILE="${OPTFILE}.dvlp"
232            fi
233            order=`expr $order + 10 \* $EXTRA`
234            order=`printf '%3.3i' $order`
235    
236          t_pass="--"          t_pass="--"
237          t_tot="--"          t_tot="--"
# Line 301  for mname in $MACHINES ; do Line 248  for mname in $MACHINES ; do
248          for tok in $tokens ; do          for tok in $tokens ; do
249              echo $tok >> ./ms_tmp              echo $tok >> ./ms_tmp
250          done          done
251          DAY=`cat ./ms_tmp | awk '(length($1)==8 && substr($1,0,3)=="200")'`          DAY=`cat ./ms_tmp | awk '(length($1)==8 && substr($1,0,2)=="20")'`
252          rm -f ./ms_tmp          rm -f ./ms_tmp
253    
254          echo "$OPTFILE$kind $DAY $OPTFILE $kind $i $t_pass:$t_tot" >> ./mlist          echo "$OPTFILE$order $DAY $OPTFILE $kind $i $t_pass:$t_tot" >> $TMP.mlist
255    
256      done      done
257    
258      # helpful for debugging      # helpful for debugging
259      # cat ./mlist      # cat $TMP.mlist
260    
261      #  Do we have any data?  If so, create the latest pointer.      #  Do we have any data?  If so, create the latest pointer.
262      num=`wc -l ./mlist | awk '{print $1}'`      num=`wc -l $TMP.mlist | awk '{print $1}'`
263      if test $num -gt 0 ; then      if test $num -gt 0 ; then
264    
265          # swap colors          # swap colors
266          ctmp=$color          ctmp=$color
267          color=$ncolor          color=$ncolor
268          ncolor=$ctmp          ncolor=$ctmp
269    
270          keys=`cat ./mlist | cut -d " " -f 1 | sort | uniq`          keys=`cat $TMP.mlist | cut -d " " -f 1 | sort | uniq`
271    
272          for key in $keys ; do          for key in $keys ; do
273              tline=`grep "^$key " ./mlist | head -1`              tline=`grep "^$key " $TMP.mlist | head -1`
274              ratio=`echo $tline | cut -d " " -f 6`              ratio=`echo $tline | cut -d " " -f 6`
275              ldir=`echo $tline | cut -d " " -f 5`              ldir=`echo $tline | cut -d " " -f 5`
276              kind=`echo $tline | cut -d " " -f 4`              kind=`echo $tline | cut -d " " -f 4`
277              optf=`echo $tline | cut -d " " -f 3`              optf=`echo $tline | cut -d " " -f 3`
278              DAY=`echo $tline | cut -d " " -f 2`              DAY=`echo $tline | cut -d " " -f 2`
279              URL="results/$PERIOD/$ldir"              URL="results/$PERIOD/$ldir"
280                #-- machine name to print:
281                sname=`echo $mname | sed 's/-$//'`
282                alt=`echo $key | sed "s/$optf//"`
283               #if   [ $alt -ge 30 ] ; then sname="${sname}.darwin"
284               #elif [ $alt -ge 20 ] ; then sname="${sname}.monod" ; fi
285              cat <<EOF >>$OUTFILE              cat <<EOF >>$OUTFILE
286  <tr bgcolor="$color">  <tr bgcolor="$color">
287    <td height="0"> $mname </td>    <td height="0"> $sname </td>
288    <td> $optf </td>    <td> $optf </td>
289    <td> $kind </td>    <td> $kind </td>
290    <td> <a href="$res_url$URL">$DAY</a> </td>    <td> <a href="$res_url$URL">$DAY</a> </td>
# Line 353  cat >> $OUTFILE << EOF Line 305  cat >> $OUTFILE << EOF
305      </table>      </table>
306    
307  <p>Examples of the scripts used for these testing runs can be obtained from: <a  <p>Examples of the scripts used for these testing runs can be obtained from: <a
308  href="http://mitgcm.org/cgi-bin/viewcvs.cgi/MITgcm/tools/example_scripts/">  href="http://mitgcm.org/viewvc/MITgcm/MITgcm_contrib/test_scripts/">
309  MITgcm/tools/example_scripts</a>.</p>  MITgcm_contrib/test_scripts</a>.</p>
   
310    
311    </body>    </body>
312  </html>  </html>
313    
314  EOF  EOF
315    
316  rm -f ./dir_all ./mlist  rm -f $TMP.dir_all $TMP.mlist
317    
318  #- put the file in place  #- put the file in place
319  chgrp gcmpack $OUTFILE  chgrp gcmpack $OUTFILE
Legend:
Removed from v.1.52  
changed lines
  Added in v.1.85
  ViewVC Help
Powered by ViewVC 1.1.22