#uima #ruta
#uima #ruta
Вопрос:
Я хотел бы оценить свой скрипт ruta, используя среду тестирования аннотаций, предоставляемую плагином uima ruta для eclipse. Я создал корпус с комментариями вручную. Некоторые аннотации оцениваются как истинно положительные, так и ложноположительные, что не должно быть возможным по определению.
Я уже проверил, есть ли незначительные различия между истинными положительными и ложными срабатываниями, но на самом деле они идентичны (одинаковые смещения).
В качестве опции я выбрал «частичное совпадение».
Когда я проверяю results.xmi, где я вижу истинные положительные, ложные положительные и ложноотрицательные значения в качестве аннотаций, у рассматриваемых аннотаций есть функция ошибки; но дополнительной информации нет.
Истинные положительные и ложные положительные результаты в качестве аннотаций в result.xmi
Рассматриваемые аннотации на самом деле должны быть истинными положительными.
Редактировать: я также заметил, что когда я указываю только один тип (т. Е. Один Тип аннотации) для оценки, все так, как и должно быть. Проблема возникает только тогда, когда предполагается, что оценивается более одного типа.
Комментарии:
1. У меня тоже есть эта проблема. Я создал тестовый файл (.xmi), скопировав файл .xmi, сгенерированный файлом сценария ruta (то есть без ручного вмешательства). Теперь, когда я запускаю тест и проверяю файл *.result.xmi, я замечаю, что некоторые (не все!) Аннотации были дублированы, хотя в исходном xmi они появляются только один раз. Это объясняет ложные срабатывания. Неясно, почему были созданы дубликаты.
2. Спасибо за отзыв. Есть ли у вас альтернатива для оценки ruta scipts?
3. Мое лучшее предположение заключается в том, что у вас есть перекрывающиеся аннотации, где второй кандидат считается ложноположительным, потому что другой уже «потребил» истинно положительный результат. Частичное сопоставление довольно слабое. Можете ли вы предоставить минимальный пример для воспроизведения поведения или описание для создания такого примера?
4. Каковы другие настройки? Все ли типы активированы?