Каков альфа-диапазон регулирования XGBoost?

#python #xgboost #xgbclassifier

#python #xgboost #xgbclassifier

Вопрос:

Как сказано в документации: https://xgboost.readthedocs.io/en/latest/parameter.html#general-parameters

альфа [по умолчанию = 0, псевдоним: reg_alpha]:

Термин регуляризации L1 для весов. Увеличение этого значения сделает модель более консервативной.

Мне интересно, может ли альфа быть 100,1000? Если да, то как найти лучшую альфа-версию?

Ответ №1:

Альфа может варьироваться от 0 до Inf. Один из способов выбора оптимальных параметров для задачи ML — протестировать множество различных параметров и посмотреть, какие из них дают наилучшие результаты. Например, смотрите https://towardsdatascience.com/doing-xgboost-hyper-parameter-tuning-the-smart-way-part-1-of-2-f6d255a45dde