Блог

Я использую CatBoost для задачи ранжирования. Я использую QueryRMSE в качестве функции потерь. Я заметил, что для некоторых функций значения важности функции отрицательны, и я не знаю, как их интерпретировать.

В документации говорится, что важность i-й функции рассчитывается как разница между потерей (модель с исключенной i-й функцией) — потерей (модель).

Итак, отрицательное значение важности функции означает, что эта функция увеличивает мои потери? Что это значит тогда?

Отрицательное значение важности функции означает, что функция увеличивает потери. Это означает, что ваша модель плохо использует эту функцию. Это может означать, что ваша модель недостаточно подходит (недостаточно итераций и недостаточно используется функция) или что функция не является хорошей, и вы можете попробовать удалить ее, чтобы улучшить конечное качество.