Как отобразить всю трассировку стека для генерируемых исключений из тестов ScalaCheck?

#scala #sbt #scalacheck

#scala #sbt #scalacheck

Вопрос:

Я запускаю ScalaCheck тесты sbt , и если мой тест завершается неудачно, потому что тестируемый код выдает исключение, в отчете о тестировании отображаются неудачный тест, генерируемое исключение и сообщение, но не вся трассировка стека (обратите внимание на простое Exception: java.lang.NullPointerException: exception сообщение об исключении ниже).

 [info] Loading global plugins from /Users/jacek/.sbt/0.13/plugins
[info] Set current project to scalacheck (in build file:/Users/jacek/sandbox/scalacheck/)
[info] Updating {file:/Users/jacek/sandbox/scalacheck/}scalacheck...
[info] Resolving jline#jline;2.11 ...
[info] Done updating.
[info] Compiling 1 Scala source to /Users/jacek/sandbox/scalacheck/target/scala-2.11/test-classes...
[info] ! String.throw exception: Exception raised on property evaluation.
[info] > ARG_0: ""
[info] > Exception: java.lang.NullPointerException: exception
[error] Error: Total 1, Failed 0, Errors 1, Passed 0
[error] Error during tests:
[error]     StringSpecification
[error] (test:test) sbt.TestsFailedException: Tests unsuccessful
[error] Total time: 5 s, completed Jun 25, 2014 3:25:47 AM
 

Я нашел https://groups.google.com/forum /#!msg/scalacheck/AGBgE_JlqpI/B2eSG84_QzYJ от 2008 года, который, похоже, сообщает о той же проблеме и указывает, что она должна быть исправлена в следующем выпуске. В настоящее время я использую последнюю версию 1.11.4.

Я также нашел http://www.scala-sbt.org/release/docs/Testing.html что указывает sbt на наличие testOptions ключа, который, я полагаю, кажется разумным использовать, и я знаю, что ScalaTest имеет настройку для трассировки полного стека, "-F" , но это не работает для ScalaCheck. Даже пример с приведенной выше страницы testOptions in Test = Tests.Argument(TestFrameworks.ScalaCheck, "-d", "-g") выдает ошибку:

 [error] Could not run test org.example.myproject.MyTestClass: java.lang.Exception: [1.1] failure: option name expected
[error] 
[error] -d -g
[error] ^
 

Как мне использовать эти тестовые аргументы, есть ли где-нибудь список этих аргументов и, наконец, возможно ли получить из всего этого трассировку стека, или я преследую отвлекающий маневр?

Ответ №1:

tl; dr В выпущенной версии ScalaCheck нет поддержки verbosity under sbt. Вам пришлось бы самому создавать версию из исходных текстов, чтобы иметь эту функцию.

Доступные параметры для ScalaCheck описаны в разделе Выполнение теста:

 Available options:
  -workers, -w: Number of threads to execute in parallel for testing
  -minSize, -n: Minimum data generation size
  -verbosity, -v: Verbosity level
  -minSuccessfulTests, -s: Number of tests that must succeed in order to pass a property
  -maxDiscardRatio, -r: The maximum ratio between discarded and succeeded tests allowed before ScalaCheck stops testing a property. At least minSuccessfulTests will always be tested, though.
  -maxSize, -x: Maximum data generation size
 

Исходный код org.scalacheck.util.Pretty рассказывает нам больше о разных уровнях веб-доступности:

 implicit def prettyThrowable(e: Throwable) = Pretty { prms =>
  val strs = e.getStackTrace.map { st =>
    import st._
    getClassName "." getMethodName   "(" getFileName ":" getLineNumber ")"
  }

  val strs2 =
    if(prms.verbosity <= 0) Array[String]()
    else if(prms.verbosity <= 1) strs.take(5)
    else strs

  e.getClass.getName   ": "   e.getMessage / strs2.mkString("n")
}
 

Таким образом, 0 ничего не дает, 1 занимает 5 строк из трассировки стека, тогда как число, большее, чем 1 дает вам всю трассировку стека следующим образом:

 ➜  scalacheck  scala -cp .:/Users/jacek/.ivy2/cache/org.scalacheck/scalacheck_2.11/jars/scalacheck_2.11-1.11.4.jar StringSpecification -verbosity 3
  String.startsWith: OK, passed 100 tests.
Elapsed time: 0.242 sec
! String.concatenate: Falsified after 0 passed tests.
> ARG_0: ""
> ARG_1: ""
Elapsed time: 0.003 sec
  String.substring: OK, passed 100 tests.
Elapsed time: 0.126 sec
! String.throw exception: Exception raised on property evaluation.
> ARG_0: ""
> Exception: java.lang.NullPointerException: exception
StringSpecification$anonfun$14.apply(StringSpecification.scala:19)
StringSpecification$anonfun$14.apply(StringSpecification.scala:18)
scala.Function1$anonfun$andThen$1.apply(Function1.scala:55)
org.scalacheck.Prop$anonfun$forAllShrink$1$anonfun$3.apply(Prop.scala:622
  )
org.scalacheck.Prop$anonfun$forAllShrink$1$anonfun$3.apply(Prop.scala:622
  )
org.scalacheck.Prop$.secure(Prop.scala:473)
org.scalacheck.Prop$anonfun$forAllShrink$1.org$scalacheck$Prop$anonfun$r
  esult$1(Prop.scala:622)
org.scalacheck.Prop$anonfun$forAllShrink$1.apply(Prop.scala:659)
org.scalacheck.Prop$anonfun$forAllShrink$1.apply(Prop.scala:616)
org.scalacheck.Prop$anon$1.apply(Prop.scala:309)
org.scalacheck.Test$.org$scalacheck$Test$workerFun$1(Test.scala:335)
org.scalacheck.Test$anonfun$org$scalacheck$Test$worker$1$1.apply(Test.sca
  la:316)
org.scalacheck.Test$anonfun$org$scalacheck$Test$worker$1$1.apply(Test.sca
  la:316)
org.scalacheck.Test$.check(Test.scala:385)
org.scalacheck.Test$anonfun$checkProperties$1.apply(Test.scala:402)
org.scalacheck.Test$anonfun$checkProperties$1.apply(Test.scala:395)
scala.collection.TraversableLike$anonfun$map$1.apply(TraversableLike.scala
  :245)
scala.collection.TraversableLike$anonfun$map$1.apply(TraversableLike.scala
  :245)
scala.collection.immutable.List.foreach(List.scala:383)
scala.collection.generic.TraversableForwarder$class.foreach(TraversableForw
  arder.scala:35)
scala.collection.mutable.ListBuffer.foreach(ListBuffer.scala:45)
scala.collection.TraversableLike$class.map(TraversableLike.scala:245)
scala.collection.AbstractTraversable.map(Traversable.scala:104)
org.scalacheck.Test$.checkProperties(Test.scala:395)
org.scalacheck.Properties.mainRunner(Properties.scala:62)
org.scalacheck.Prop$class.main(Prop.scala:106)
org.scalacheck.Properties.main(Properties.scala:27)
StringSpecification.main(StringSpecification.scala:-1)
sun.reflect.NativeMethodAccessorImpl.invoke0(NativeMethodAccessorImpl.java:
  -2)
sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:5
  7)
sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImp
  l.java:43)
java.lang.reflect.Method.invoke(Method.java:606)
scala.reflect.internal.util.ScalaClassLoader$anonfun$run$1.apply(ScalaClas
  sLoader.scala:68)
scala.reflect.internal.util.ScalaClassLoader$class.asContext(ScalaClassLoad
  er.scala:31)
scala.reflect.internal.util.ScalaClassLoader$URLClassLoader.asContext(Scala
  ClassLoader.scala:99)
scala.reflect.internal.util.ScalaClassLoader$class.run(ScalaClassLoader.sca
  la:68)
scala.reflect.internal.util.ScalaClassLoader$URLClassLoader.run(ScalaClassL
  oader.scala:99)
scala.tools.nsc.CommonRunner$class.run(ObjectRunner.scala:22)
scala.tools.nsc.ObjectRunner$.run(ObjectRunner.scala:39)
scala.tools.nsc.CommonRunner$class.runAndCatch(ObjectRunner.scala:29)
scala.tools.nsc.ObjectRunner$.runAndCatch(ObjectRunner.scala:39)
scala.tools.nsc.MainGenericRunner.runTarget$1(MainGenericRunner.scala:72)
scala.tools.nsc.MainGenericRunner.process(MainGenericRunner.scala:94)
scala.tools.nsc.MainGenericRunner$.main(MainGenericRunner.scala:103)
scala.tools.nsc.MainGenericRunner.main(MainGenericRunner.scala:-1)
Elapsed time: 0.000 sec
 

Вы правы в том, что документация для sbt неверна. "-d", "-g" Вариантов нет, и я считаю, что это просто ошибка копирования и вставки в документации. Это уже было исправлено в запросе на извлечение, который скоро будет принят.

verbosity Опция не поддерживается в sbt в последней версии ScalaCheck 1.11.4. Ниже приведено полное определение сборки образца проекта.

сборка.sbt

 scalaVersion := "2.11.1"

libraryDependencies  = "org.scalacheck" %% "scalacheck" % "1.11.4" % "test"

testOptions in Test  = Tests.Argument(TestFrameworks.ScalaCheck, "-verbosity", "3")
 

Даже если verbosity параметр указан правильно build.sbt , при выполнении теста не будет напечатано более одной строки.

 ➜  scalacheck  xsbt test
[info] Loading global plugins from /Users/jacek/.sbt/0.13/plugins
[info] Set current project to scalacheck (in build file:/Users/jacek/sandbox/scalacheck/)
[info]   String.startsWith: OK, passed 100 tests.
[info] ! String.concatenate: Falsified after 0 passed tests.
[info] > ARG_0: ""
[info] > ARG_1: ""
[info]   String.substring: OK, passed 100 tests.
[info] ! String.throw exception: Exception raised on property evaluation.
[info] > ARG_0: ""
[info] > Exception: java.lang.NullPointerException: exception
[error] Error: Total 4, Failed 1, Errors 1, Passed 2
[error] Error during tests:
[error]     StringSpecification
[error] (test:test) sbt.TestsFailedException: Tests unsuccessful
[error] Total time: 1 s, completed Jun 25, 2014 2:57:08 AM
 

Причина в том, что org.scalacheck.ScalaCheckFramework имеет следующую реализацию и предполагает verbosity , что всегда будет 0 :

 override def onTestResult(n: String, r: Test.Result) = {
  for (l <- loggers) {
    import Pretty._
    l.info(
      (if (r.passed) "  " else "! ")   n   ": "   pretty(r, Params(0))
    )
  }
  handler.handle(asEvent((n,r)))
}
 

Запрос на извлечение для его исправления уже принят в репозиторий в разделе подробного описания поддержки в sbt для TestFrameworks.Проверка масштаба. Вам нужно было бы создать ScalaCheck самостоятельно sbt publishLocal в каталоге, в котором вы клонировали репозиторий. Не забудьте использовать версию 1.12.0-SNAPSHOT build.sbt , чтобы получить изменения.

Ответ №2:

Поскольку проблема, отмеченная Яцеком Ласковски, решена, теперь вы можете получать трассировки стека из ScalaCheck в sbt, добавив строку в свой build.sbt файл, чтобы установить уровень детализации ScalaCheck.

 testOptions in Test  = Tests.Argument(TestFrameworks.ScalaCheck, "-verbosity", "2")
 

Как отметил Яцек Ласковски, многословие, равное 0, даст вам только исключение.

 [info] ! RandomAccessFile.readWriteInt: Exception raised on property evaluation.
[info] > ARG_0: 0
[info] > ARG_0_ORIGINAL: -2073744736
[info] > Exception: java.lang.UnsupportedOperationException: null
 

Детализация, равная 1, даст вам первые пять строк трассировки стека.

 [info] ! RandomAccessFile.readWriteInt: Exception raised on property evaluation.
[info] > ARG_0: 0
[info] > ARG_0_ORIGINAL: 2147483647
[info] > Exception: java.lang.UnsupportedOperationException: null
[info] java.nio.IntBuffer.array(IntBuffer.java:994)
[info] csc365a01.RandomAccessFile.readInt(RandomAccessFile.scala:22)
[info] RandomAccessFileProps$anonfun$1$anonfun$apply$1.apply$mcZI$sp(RandomAccessFileSpec.scala:14)
[info] RandomAccessFileProps$anonfun$1$anonfun$apply$1.apply(RandomAccessFileSpec.scala:11)
[info] RandomAccessFileProps$anonfun$1$anonfun$apply$1.apply(RandomAccessFileSpec.scala:11)
 

Детализация, превышающая единицу, даст вам полную трассировку стека.

 [info] ! RandomAccessFile.readWriteInt: Exception raised on property evaluation.
[info] > ARG_0: 0
[info] > ARG_0_ORIGINAL: 1693735989
[info] > Exception: java.lang.UnsupportedOperationException: null
[info] java.nio.IntBuffer.array(IntBuffer.java:994)
[info] csc365a01.RandomAccessFile.readInt(RandomAccessFile.scala:22)
[info] RandomAccessFileProps$anonfun$1$anonfun$apply$1.apply$mcZI$sp(RandomAccessFileSpec.scala:14)
[info] RandomAccessFileProps$anonfun$1$anonfun$apply$1.apply(RandomAccessFileSpec.scala:11)
[info] RandomAccessFileProps$anonfun$1$anonfun$apply$1.apply(RandomAccessFileSpec.scala:11)
[info] scala.Function1$anonfun$andThen$1.apply(Function1.scala:52)
[info] org.scalacheck.Prop$anonfun$forAllShrink$1$anonfun$3.apply(Prop.scala:712)
[info] org.scalacheck.Prop$anonfun$forAllShrink$1$anonfun$3.apply(Prop.scala:712)
[info] org.scalacheck.Prop$.secure(Prop.scala:456)
[info] org.scalacheck.Prop$anonfun$forAllShrink$1.org$scalacheck$Prop$anonfun$result$1(Prop.scala:712)
[info] org.scalacheck.Prop$anonfun$forAllShrink$1$anonfun$4.apply(Prop.scala:719)
[info] org.scalacheck.Prop$anonfun$forAllShrink$1$anonfun$4.apply(Prop.scala:719)
[info] scala.collection.immutable.Stream.map(Stream.scala:418)
[info] org.scalacheck.Prop$anonfun$forAllShrink$1.getFirstFailure$1(Prop.scala:719)
[info] org.scalacheck.Prop$anonfun$forAllShrink$1.shrinker$1(Prop.scala:729)
[info] org.scalacheck.Prop$anonfun$forAllShrink$1.apply(Prop.scala:751)
[info] org.scalacheck.Prop$anonfun$forAllShrink$1.apply(Prop.scala:706)
[info] org.scalacheck.Prop$anonfun$apply$5.apply(Prop.scala:292)
[info] org.scalacheck.Prop$anonfun$apply$5.apply(Prop.scala:291)
[info] org.scalacheck.PropFromFun.apply(Prop.scala:22)
[info] org.scalacheck.Prop$anonfun$delay$1.apply(Prop.scala:461)
[info] org.scalacheck.Prop$anonfun$delay$1.apply(Prop.scala:461)
[info] org.scalacheck.Prop$anonfun$apply$5.apply(Prop.scala:292)
[info] org.scalacheck.Prop$anonfun$apply$5.apply(Prop.scala:291)
[info] org.scalacheck.PropFromFun.apply(Prop.scala:22)
[info] org.scalacheck.Test$.org$scalacheck$Test$workerFun$1(Test.scala:294)
[info] org.scalacheck.Test$anonfun$3.apply(Test.scala:323)
[info] org.scalacheck.Test$anonfun$3.apply(Test.scala:323)
[info] org.scalacheck.Platform$.runWorkers(Platform.scala:40)
[info] org.scalacheck.Test$.check(Test.scala:323)
[info] org.scalacheck.ScalaCheckRunner$anon$2$anonfun$execute$3$anonfun$apply$2.apply(ScalaCheckFramework.scala:102)
[info] org.scalacheck.ScalaCheckRunner$anon$2$anonfun$execute$3$anonfun$apply$2.apply(ScalaCheckFramework.scala:100)
[info] scala.collection.TraversableLike$WithFilter$anonfun$foreach$1.apply(TraversableLike.scala:733)
[info] scala.collection.immutable.List.foreach(List.scala:381)
[info] scala.collection.generic.TraversableForwarder$class.foreach(TraversableForwarder.scala:35)
[info] scala.collection.mutable.ListBuffer.foreach(ListBuffer.scala:45)
[info] scala.collection.TraversableLike$WithFilter.foreach(TraversableLike.scala:732)
[info] org.scalacheck.ScalaCheckRunner$anon$2$anonfun$execute$3.apply(ScalaCheckFramework.scala:100)
[info] org.scalacheck.ScalaCheckRunner$anon$2$anonfun$execute$3.apply(ScalaCheckFramework.scala:97)
[info] scala.collection.TraversableLike$anonfun$flatMap$1.apply(TraversableLike.scala:241)
[info] scala.collection.TraversableLike$anonfun$flatMap$1.apply(TraversableLike.scala:241)
[info] scala.collection.IndexedSeqOptimized$class.foreach(IndexedSeqOptimized.scala:33)
[info] scala.collection.mutable.ArrayOps$ofRef.foreach(ArrayOps.scala:186)
[info] scala.collection.TraversableLike$class.flatMap(TraversableLike.scala:241)
[info] scala.collection.mutable.ArrayOps$ofRef.flatMap(ArrayOps.scala:186)
[info] org.scalacheck.ScalaCheckRunner$anon$2.execute(ScalaCheckFramework.scala:97)
[info] sbt.TestRunner.runTest$1(TestFramework.scala:76)
[info] sbt.TestRunner.run(TestFramework.scala:85)
[info] sbt.TestFramework$anon$2$anonfun$init$1$anonfun$apply$8.apply(TestFramework.scala:202)
[info] sbt.TestFramework$anon$2$anonfun$init$1$anonfun$apply$8.apply(TestFramework.scala:202)
[info] sbt.TestFramework$.sbt$TestFramework$withContextLoader(TestFramework.scala:185)
[info] sbt.TestFramework$anon$2$anonfun$init$1.apply(TestFramework.scala:202)
[info] sbt.TestFramework$anon$2$anonfun$init$1.apply(TestFramework.scala:202)
[info] sbt.TestFunction.apply(TestFramework.scala:207)
[info] sbt.Tests$anonfun$9.apply(Tests.scala:216)
[info] sbt.Tests$anonfun$9.apply(Tests.scala:216)
[info] sbt.std.Transform$anon$3$anonfun$apply$2.apply(System.scala:44)
[info] sbt.std.Transform$anon$3$anonfun$apply$2.apply(System.scala:44)
[info] sbt.std.Transform$anon$4.work(System.scala:63)
[info] sbt.Execute$anonfun$submit$1$anonfun$apply$1.apply(Execute.scala:226)
[info] sbt.Execute$anonfun$submit$1$anonfun$apply$1.apply(Execute.scala:226)
[info] sbt.ErrorHandling$.wideConvert(ErrorHandling.scala:17)
[info] sbt.Execute.work(Execute.scala:235)
[info] sbt.Execute$anonfun$submit$1.apply(Execute.scala:226)
[info] sbt.Execute$anonfun$submit$1.apply(Execute.scala:226)
[info] sbt.ConcurrentRestrictions$anon$4$anonfun$1.apply(ConcurrentRestrictions.scala:159)
[info] sbt.CompletionService$anon$2.call(CompletionService.scala:28)
[info] java.util.concurrent.FutureTask.run(FutureTask.java:266)
[info] java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:511)
[info] java.util.concurrent.FutureTask.run(FutureTask.java:266)
[info] java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1142)
[info] java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:617)
[info] java.lang.Thread.run(Thread.java:745)
[info] Elapsed time: 0.047 sec