/[MITgcm]/MITgcm/verification/testreport
ViewVC logotype

Diff of /MITgcm/verification/testreport

Parent Directory Parent Directory | Revision Log Revision Log | View Revision Graph Revision Graph | View Patch Patch

revision 1.119 by jmc, Mon Jan 26 04:09:34 2009 UTC revision 1.132 by jmc, Thu Jan 14 23:17:42 2010 UTC
# Line 11  usage() Line 11  usage()
11      echo      echo
12      echo "where possible OPTIONS are:"      echo "where possible OPTIONS are:"
13      echo "  (-help|-h)               print usage"      echo "  (-help|-h)               print usage"
14      echo "  (-mth)                   run multi threaded (using eedata.mth)"      echo "  (-mth)                   run multi-threaded (using eedata.mth)"
15      echo "  (-mpi)                   compile and run using MPI"      echo "  (-mpi)                   compile and run using MPI"
16      echo "  (-ieee|-noieee)          if possible, use IEEE compiler flags"      echo "  (-ieee|-noieee)          if possible, use IEEE compiler flags"
17      echo "                             (DEF=\"-ieee\")"      echo "                             (DEF=\"-ieee\")"
# Line 30  usage() Line 30  usage()
30      echo "                             Bourne-compatible \"sh\" shell"      echo "                             Bourne-compatible \"sh\" shell"
31      echo "                             (DEF=\"\" for \"bash\")"      echo "                             (DEF=\"\" for \"bash\")"
32      echo "  (-adm|-ad)               perform an adjoint run"      echo "  (-adm|-ad)               perform an adjoint run"
33        echo "  (-oad)                   perform an OpenAD adjoint run"
34      echo "  (-command) STRING        command to run"      echo "  (-command) STRING        command to run"
35      echo "                             (DEF=\"make output.txt\")"      echo "                             (DEF=\"make output.txt\")"
36      echo "  (-m|-make) STRING        command to use for \"make\""      echo "  (-m|-make) STRING        command to use for \"make\""
# Line 211  testoutput_run() Line 212  testoutput_run()
212                  eval "HAVE_PTR0"$ii"=t"                  eval "HAVE_PTR0"$ii"=t"
213              else              else
214                  eval "HAVE_PTR0"$ii"=f"                  eval "HAVE_PTR0"$ii"=f"
215                if test "x$ADM" = x ; then                if test "x$ADM" = x -a "x$OADM" = x; then
216                # remove this ptr from the list of output variable to check                # remove this ptr from the list of output variable to check
217                # echo "-- ptr test=" $tst "number of var=" `echo $listVar | awk '{print NF}'` 1>&2                # echo "-- ptr test=" $tst "number of var=" `echo $listVar | awk '{print NF}'` 1>&2
218                  listVar=`echo "$listVar" | sed "s/ pt$ii..//g"`                  listVar=`echo "$listVar" | sed "s/ pt$ii..//g"`
# Line 263  testoutput_run() Line 264  testoutput_run()
264             testoutput_var $1 "trcstat_ptracer0"$ii"_mean" "p0"$ii"_mean" $2 $3; yy=$? ;;             testoutput_var $1 "trcstat_ptracer0"$ii"_mean" "p0"$ii"_mean" $2 $3; yy=$? ;;
265          'pt1sd'|'pt2sd'|'pt3sd'|'pt4sd'|'pt5sd') ii=`echo $xx | sed 's/pt//' | sed 's/..$//'`          'pt1sd'|'pt2sd'|'pt3sd'|'pt4sd'|'pt5sd') ii=`echo $xx | sed 's/pt//' | sed 's/..$//'`
266             testoutput_var $1 "trcstat_ptracer0"$ii"_sd"   "p0"$ii"_StDv"  $2 $3; yy=$? ;;             testoutput_var $1 "trcstat_ptracer0"$ii"_sd"   "p0"$ii"_StDv"  $2 $3; yy=$? ;;
267           'Qntmn') testoutput_var $1 "extforcing_qnet_min" "Qnet minimum"  $2 $3; yy=$? ;;           'Qntmn') testoutput_var $1 "forcing_qnet_min" "Qnet minimum"  $2 $3; yy=$? ;;
268           'Qntmx') testoutput_var $1 "extforcing_qnet_max" "Qnet maximum"  $2 $3; yy=$? ;;           'Qntmx') testoutput_var $1 "forcing_qnet_max" "Qnet maximum"  $2 $3; yy=$? ;;
269           'Qntav') testoutput_var $1 "extforcing_qnet_mean" "Qnet mean"    $2 $3; yy=$? ;;           'Qntav') testoutput_var $1 "forcing_qnet_mean" "Qnet mean"       $2 $3; yy=$? ;;
270           'Qntsd') testoutput_var $1 "extforcing_qnet_sd"  "Qnet Std.Dev"  $2 $3; yy=$? ;;           'Qntsd') testoutput_var $1 "forcing_qnet_sd"  "Qnet Std.Dev"  $2 $3; yy=$? ;;
271           'aSImn') testoutput_var $1 "seaice_area_min"   "SIce Area min"   $2 $3; yy=$? ;;           'aSImn') testoutput_var $1 "seaice_area_min"   "SIce Area min"   $2 $3; yy=$? ;;
272           'aSImx') testoutput_var $1 "seaice_area_max"   "SIce Area max"   $2 $3; yy=$? ;;           'aSImx') testoutput_var $1 "seaice_area_max"   "SIce Area max"   $2 $3; yy=$? ;;
273           'aSIav') testoutput_var $1 "seaice_area_mean"  "SIce Area mean"  $2 $3; yy=$? ;;           'aSIav') testoutput_var $1 "seaice_area_mean"  "SIce Area mean"  $2 $3; yy=$? ;;
274           'aSIsd') testoutput_var $1 "seaice_area_sd"    "SIce Area StDv"  $2 $3; yy=$? ;;           'aSIsd') testoutput_var $1 "seaice_area_sd"    "SIce Area StDv"  $2 $3; yy=$? ;;
275           'hSImn') testoutput_var $1 "seaice_heff_min"   "SIce Heff min"   $2 $3; yy=$? ;;           'hSImn') testoutput_var $1 "seaice_heff_min"   "SIce Heff min"   $2 $3; yy=$? ;;
276           'hSImx') testoutput_var $1 "seaice_heff_max"   "SIce Hell max"   $2 $3; yy=$? ;;           'hSImx') testoutput_var $1 "seaice_heff_max"   "SIce Heff max"   $2 $3; yy=$? ;;
277           'hSIav') testoutput_var $1 "seaice_heff_mean"  "SIce Hell mean"  $2 $3; yy=$? ;;           'hSIav') testoutput_var $1 "seaice_heff_mean"  "SIce Heff mean"  $2 $3; yy=$? ;;
278           'hSIsd') testoutput_var $1 "seaice_heff_sd"    "SIce Hell StDv"  $2 $3; yy=$? ;;           'hSIsd') testoutput_var $1 "seaice_heff_sd"    "SIce Heff StDv"  $2 $3; yy=$? ;;
279          'AthSiG') testoutput_var $1 "thSI_Ice_Area_G" "thSIc Area Global" $2 $3; yy=$? ;;          'AthSiG') testoutput_var $1 "thSI_Ice_Area_G" "thSIc Area Global" $2 $3; yy=$? ;;
280          'AthSiS') testoutput_var $1 "thSI_Ice_Area_S" "thSIc Area South"  $2 $3; yy=$? ;;          'AthSiS') testoutput_var $1 "thSI_Ice_Area_S" "thSIc Area South"  $2 $3; yy=$? ;;
281          'AthSiN') testoutput_var $1 "thSI_Ice_Area_N" "thSIc Area North"  $2 $3; yy=$? ;;          'AthSiN') testoutput_var $1 "thSI_Ice_Area_N" "thSIc Area North"  $2 $3; yy=$? ;;
# Line 314  genmakemodel() Line 315  genmakemodel()
315          (          (
316              cd $1;              cd $1;
317              command="$GENMAKE2  -ds -m $MAKE"              command="$GENMAKE2  -ds -m $MAKE"
318              if test "x$ADM" = x ; then              if test "x$ADM" = xt ; then
                 command="$command --mods=../code"  
             else  
319                  command="$command --mods=../code_ad"                  command="$command --mods=../code_ad"
320                elif test "x$OADM" = xt ; then
321                    command="$command -adof ../../../tools/adjoint_options/adjoint_oad -mods '../code_oad ../../OpenAD/code_oad_all'"
322                else
323                    command="$command -mods=../code"
324              fi              fi
325              if test "x$OPTFILE" != xNONE ; then              if test "x$OPTFILE" != xNONE ; then
326                  command="$command --optfile=$OPTFILE"                  command="$command -optfile=$OPTFILE"
327              fi              fi
328              if test "x$IEEE" != x ; then              if test "x$IEEE" != x ; then
329                  command="$command -ieee"                  command="$command -ieee"
# Line 331  genmakemodel() Line 334  genmakemodel()
334              if test "x$MPI" = xt ; then              if test "x$MPI" = xt ; then
335                  command="$command -mpi"                  command="$command -mpi"
336              fi              fi
337                if test "x$MULTI_THREAD" = xt ; then
338                #- run multi-threaded using OpenMP:
339                    command="$command -omp"
340                fi
341              if test "x$TS" = xt ; then              if test "x$TS" = xt ; then
342                  command="$command -ts"                  command="$command -ts"
343              fi              fi
# Line 342  genmakemodel() Line 349  genmakemodel()
349              fi              fi
350              fi              fi
351              printf 'genmake ... ' 1>&2              printf 'genmake ... ' 1>&2
352              $command > make.log 2>&1              # $command > make.log 2>&1
353                eval $command > make.log 2>&1
354              RETVAL=$?              RETVAL=$?
355              #  Reduce the size of the testing emails!              #  Reduce the size of the testing emails!
356              head -100 Makefile > $CDIR/Makefile_head              head -100 Makefile > $CDIR/Makefile_head
# Line 377  makeclean() Line 385  makeclean()
385                      cp make.log $CDIR"/make.log"                      cp make.log $CDIR"/make.log"
386                      return 1                      return 1
387                  fi                  fi
388                    echo successful 1>&2
389                else
390                    echo ''
391              fi              fi
             echo successful 1>&2  
392              exit 0              exit 0
393          )          )
394      fi      fi
# Line 437  makemodel() Line 447  makemodel()
447          cd $1;          cd $1;
448          if test -r Makefile ; then          if test -r Makefile ; then
449              printf 'make ... ' 1>&2              printf 'make ... ' 1>&2
450              if test "x$ADM" = x ; then              if test "x$ADM" = xt ; then
451                    $MAKE adall >> make.log 2>&1
452                elif test "x$OADM" = xt ; then
453                    $MAKE adAll >> make.log 2>&1
454                else
455                  if test "x$JOBS" = x ; then                  if test "x$JOBS" = x ; then
456                      $MAKE >> make.log 2>&1                      $MAKE >> make.log 2>&1
457                  else                  else
458                      $MAKE -j $JOBS >> make.log 2>&1                      $MAKE -j $JOBS >> make.log 2>&1
459                  fi                  fi
             else  
                 $MAKE adall >> make.log 2>&1  
460              fi              fi
461              RETVAL=$?              RETVAL=$?
462              if test "x$RETVAL" != x0 ; then              if test "x$RETVAL" != x0 ; then
463                  tail make.log                  tail make.log
464                  echo failed 1>&2                  echo failed 1>&2
465                  cp make.log $CDIR"/make.log"                  cp make.log $CDIR"/make.log"
466                    rm -f $EXECUTABLE
467                  return 1                  return 1
468              else              else
469                  echo successful 1>&2                  echo successful 1>&2
# Line 515  linkdata() Line 528  linkdata()
528      if test -d $1 ; then      if test -d $1 ; then
529          (          (
530              cd $1 ; shift              cd $1 ; shift
531                inpMPI=`(cd ../$1 ; find . -name "*.mpi" -print | sed 's:^\./::')`
532                for xx in $inpMPI ; do
533                  if test -r "../"$1"/"$xx ; then
534                    # found 1 _mpi sfx file in 1rst input dir and it is readable
535                    yy=`echo $xx | sed 's:\.mpi$::'`
536                    if test "x$MPI" = "xt" ; then
537                    # mpi test: remove symbolic link & link _mpi sfx file
538                        if test -h $yy ; then rm -f $yy ; fi
539                        if test ! -r $yy ; then
540                            ln -sf "../"$1"/"$xx $yy ;
541                            printf "$xx " 1>&2
542                        fi
543                    else
544                    # not mpi test: remove symbolic link
545                        if test -h $yy ; then rm -f $yy ; fi
546                    fi
547                  fi
548                done
549              if test -r "../"$1"/eedata.mth" ; then              if test -r "../"$1"/eedata.mth" ; then
550              # found eedata.mth in 1rst input dir and it is readable              # found eedata.mth in 1rst input dir and it is readable
551                  if test "x$MULTI_THREAD" = "xt" ; then                  if test "x$MULTI_THREAD" = "xt" ; then
# Line 600  runmodel() Line 631  runmodel()
631              ENDVAL=`cat $RUNLOG | grep -v 'ABNORMAL END' | grep -c 'NORMAL END'`              ENDVAL=`cat $RUNLOG | grep -v 'ABNORMAL END' | grep -c 'NORMAL END'`
632          fi          fi
633          rm -f run.log_tmp          rm -f run.log_tmp
         #if test "x$RETVAL" = x0 ; then  
634          if [ $RETVAL -eq 0 -a $ENDVAL -gt 0 ] ; then          if [ $RETVAL -eq 0 -a $ENDVAL -gt 0 ] ; then
635              tail $RUNLOG              tail $RUNLOG
636              echo successful 1>&2              echo successful 1>&2
# Line 608  runmodel() Line 638  runmodel()
638              #cp $OUTPUTFILE $CDIR"/"$OUTPUTFILE              #cp $OUTPUTFILE $CDIR"/"$OUTPUTFILE
639              if test -s STDERR.0000 ; then cp STDERR.0000 $CDIR"/STDERR.0000" ; fi              if test -s STDERR.0000 ; then cp STDERR.0000 $CDIR"/STDERR.0000" ; fi
640              return 0              return 0
641            elif [ $RETVAL -ne 0 -a $ENDVAL -gt 0 ] ; then
642                #-- for some weird cases (run is finihed but with error code)
643                tail $RUNLOG
644                echo finished with error '(run:' $RETVAL ' end:' $ENDVAL ')' 1>&2
645                return 0
646          else          else
647              tail $RUNLOG              tail $RUNLOG
648              echo failed '(run:' $RETVAL ' end:' $ENDVAL ')' 1>&2              echo failed '(run:' $RETVAL ' end:' $ENDVAL ')' 1>&2
# Line 712  scandirs() Line 747  scandirs()
747  }  }
748    
749    
750    check_eedata()
751    {
752        # check_eedata size.h eedata
753        if [ $# -eq 2 ] ; then
754          if test -f $1 -a -f $2 ; then
755          sx=`grep "^     & *nSx *=" $1 | sed "s/^     & *nSx *=//" | sed 's/, *$//'`
756          nx=`grep "^ *nTx *=" $2 | tail -1 | sed 's/^ *nTx *= *//' | sed "s/, *$//"`
757          if test "x$nx" = x ; then
758            rx=10
759          else
760            rx=`expr $sx % $nx`
761          fi
762          sy=`grep "^     & *nSy *=" $1 | sed "s/^     & *nSy *=//" | sed 's/, *$//'`
763          ny=`grep "^ *nTy *=" $2 | tail -1 | sed 's/^ *nTy *= *//' | sed "s/, *$//"`
764          if test "x$ny" = x ; then
765            ry=20
766          else
767            ry=`expr $sy % $ny`
768          fi
769          echo `expr $rx + $ry`
770        else
771          echo '-1'
772          fi
773        else
774          echo '-2'
775        fi
776    
777    }
778    
779  ###############################################################################  ###############################################################################
780    
781    
# Line 755  OUTDIR= Line 819  OUTDIR=
819  DELDIR=  DELDIR=
820    
821  ADM=  ADM=
822    OADM=
823    
824  # list of pTracers to check for monitor output  # list of pTracers to check for monitor output
825  PTRACERS_NUM="1 2 3 4 5"  PTRACERS_NUM="1 2 3 4 5"
# Line 856  for ac_option ; do Line 921  for ac_option ; do
921    
922          -adm | -ad) ADM=t ;;          -adm | -ad) ADM=t ;;
923    
924            -oad) OADM=t; NODEPEND=t ;;
925    
926          -ieee) IEEE=true ;;          -ieee) IEEE=true ;;
927          -noieee) IEEE= ;;          -noieee) IEEE= ;;
928          -gsl) GSL=t ;;          -gsl) GSL=t ;;
# Line 898  if test "x$ADM" = xt ; then Line 965  if test "x$ADM" = xt ; then
965      inputdir=input_ad      inputdir=input_ad
966      ref_outp="output_adm.txt"      ref_outp="output_adm.txt"
967      EXECUTABLE="mitgcmuv_ad"      EXECUTABLE="mitgcmuv_ad"
968    elif test "x$OADM" = xt ; then
969        code_dir=code_oad
970        inputdir=input_oad
971        ref_outp="output_oadm.txt"
972        EXECUTABLE="mitgcmuv_ad"
973  else  else
974      code_dir=code      code_dir=code
975      inputdir=input      inputdir=input
# Line 965  echo "OK (COMMAND= $COMMAND )" Line 1037  echo "OK (COMMAND= $COMMAND )"
1037  #  (use default or load experiment-specific list from file "tr_checklist")  #  (use default or load experiment-specific list from file "tr_checklist")
1038  # content : 1rst = main variable used to decide if it pass or FAIL  # content : 1rst = main variable used to decide if it pass or FAIL
1039  #         others = number of matching digits to be printed in summary.txt  #         others = number of matching digits to be printed in summary.txt
1040  if test "x$ADM" = x ; then  if test "x$ADM" = x -a "x$OADM" = x; then
1041      DEF_CHECK_LIST='PS PS T+ S+ U+ V+ pt1+ pt2+ pt3+ pt4+ pt5+'      DEF_CHECK_LIST='PS PS T+ S+ U+ V+ pt1+ pt2+ pt3+ pt4+ pt5+'
1042      EMPTY_RESULTS='.. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. ..'      EMPTY_RESULTS='.. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. ..'
1043      LEN_CHECK_LIST=`echo $DEF_CHECK_LIST | sed 's/ [a-zA-Z0-9]*+/&mn &mx &av &sd/g' | awk '{print NF-1}'`      LEN_CHECK_LIST=`echo $DEF_CHECK_LIST | sed 's/ [a-zA-Z0-9]*+/&mn &mx &av &sd/g' | awk '{print NF-1}'`
# Line 1000  DATE=`date +%Y%m%d` Line 1072  DATE=`date +%Y%m%d`
1072  BASE="tr_"$MACH"_"$DATE"_"  BASE="tr_"$MACH"_"$DATE"_"
1073  if test "x$OUTDIR" != x ; then  if test "x$OUTDIR" != x ; then
1074      BASE="tr_"$OUTDIR"_"$DATE"_"      BASE="tr_"$OUTDIR"_"$DATE"_"
1075    else
1076        short_name=`hostname | sed 's/\..*$//'`
1077        BASE="tr_"$short_name"_"$DATE"_"
1078  fi  fi
1079  DNUM=0  DNUM=0
1080  DRESULTS="$BASE$DNUM"  DRESULTS="$BASE$DNUM"
# Line 1046  else Line 1121  else
1121  fi  fi
1122  echo  echo
1123  echo >> $SUMMARY  echo >> $SUMMARY
1124  if test "x$ADM" = x ; then  if test "x$ADM" = x -a "x$OADM" = x; then
1125      if [ $MATCH_CRIT -lt 10 ] ;      if [ $MATCH_CRIT -lt 10 ] ;
1126      then line_0="default  "$MATCH_CRIT ;      then line_0="default  "$MATCH_CRIT ;
1127      else line_0="default "$MATCH_CRIT ; fi      else line_0="default "$MATCH_CRIT ; fi
# Line 1100  for dir in $TESTDIRS ; do Line 1175  for dir in $TESTDIRS ; do
1175    
1176      #  Cleanup only!      #  Cleanup only!
1177      if test "x$CLEANUP" = xt ; then      if test "x$CLEANUP" = xt ; then
1178          if test -r $BUILD_DIR/Makefile ; then          echo -n '  --- dir:' $BUILD_DIR ': '
1179              echo '  ------  clean dir:' $dir/$builddir          makeclean $BUILD_DIR
1180              ( cd $BUILD_DIR ; make CLEAN )          rm -f $BUILD_DIR/$EXECUTABLE
         fi  
1181          if test -d $dir/$rundir/CVS ; then          if test -d $dir/$rundir/CVS ; then
1182              echo '  ------  clean dir:' $dir/$rundir              echo -n '  --- dir:' $dir/$rundir ': '
1183              run_clean $dir/$rundir              run_clean $dir/$rundir
1184          fi          fi
1185          (          trdir=`( cd $dir ; find . -type d -name "tr_run.*" -print | sed 's/^.\///')`
1186              cd $dir          ttd=`echo $trdir | wc -w`
1187              rm -rf tr_run.*          if test $ttd != 0 ; then
1188          )              echo '  --- rm dir:' $trdir
1189                ( cd $dir ; rm -rf $trdir )
1190            fi
1191          continue          continue
1192      fi      fi
1193    
# Line 1133  for dir in $TESTDIRS ; do Line 1209  for dir in $TESTDIRS ; do
1209          echo "can't find \"$dir/input/eedata.mth\" -- skipping $dir"          echo "can't find \"$dir/input/eedata.mth\" -- skipping $dir"
1210          continue          continue
1211      fi      fi
1212        if test "x$MPI" = "xt" -a "x$MULTI_THREAD" = "xt" ; then
1213          retv=`check_eedata $CODE_DIR"/SIZE.h_mpi" $dir"/input/eedata.mth"`
1214          if test $retv != 0 ; then
1215            echo "input/eedata.mth tiling misfit -- skipping $dir"
1216            continue
1217          fi
1218        fi
1219    
1220      #  Check whether there are "extra runs" for this testdir      #  Check whether there are "extra runs" for this testdir
1221      extra_runs=      extra_runs=
# Line 1143  for dir in $TESTDIRS ; do Line 1226  for dir in $TESTDIRS ; do
1226          refExOut=`echo $ref_outp | sed "s/\./.${name}./"`          refExOut=`echo $ref_outp | sed "s/\./.${name}./"`
1227          outf="$dir/results/$refExOut"          outf="$dir/results/$refExOut"
1228          if test -f $outf -a -r $outf ; then          if test -f $outf -a -r $outf ; then
1229              if test "x$MULTI_THREAD" = "xt" ; then            if test "x$MULTI_THREAD" = "xt" ; then
1230                  if test -r $dir"/"$exd"/eedata.mth" ; then              if test -r $dir"/"$exd"/eedata.mth" ; then
1231                  if test "x$MPI" = "xt" ; then
1232                    retv=`check_eedata $CODE_DIR"/SIZE.h_mpi" $dir"/"$exd"/eedata.mth"`
1233                    if test $retv = 0 ; then
1234                      extra_runs="$extra_runs $name"                      extra_runs="$extra_runs $name"
1235                  #else echo $dir"/"$exd"/eedata.mth: not found"                  else
1236                        echo $exd"/eedata.mth tiling misfit -- skipping $dir"
1237                  fi                  fi
1238              else                else
1239                  extra_runs="$extra_runs $name"                  extra_runs="$extra_runs $name"
1240                  fi
1241                #else echo $dir"/"$exd"/eedata.mth: not found"
1242              fi              fi
1243              else
1244                extra_runs="$extra_runs $name"
1245              fi
1246          fi          fi
1247      done      done
1248    
# Line 1272  else Line 1364  else
1364              echo "An email containing results was sent to the following addresses:"              echo "An email containing results was sent to the following addresses:"
1365              echo "  \"$ADDRESSES\""              echo "  \"$ADDRESSES\""
1366              echo              echo
1367                test -f $DRESULTS".tar"  &&  rm -f $DRESULTS".tar"
1368                test -f $DRESULTS".tar.gz"  &&  rm -f $DRESULTS".tar.gz"
1369          fi          fi
         test -f $DRESULTS".tar"  &&  rm -f $DRESULTS".tar"  
         test -f $DRESULTS".tar.gz"  &&  rm -f $DRESULTS".tar.gz"  
1370      fi      fi
1371  fi  fi
1372    
Legend:
Removed from v.1.119  
changed lines
  Added in v.1.132
  ViewVC Help
Powered by ViewVC 1.1.22