#amazon-sagemaker #random-seed #hyperparameters
#amazon-sagemaker #случайное начальное значение #гиперпараметры
Вопрос:
Я хотел бы провести ВОСПРОИЗВОДИМЫЕ эксперименты на AWS SageMaker. Задания настройки гиперпараметров являются источником случайности либо при байесовской, либо при случайной стратегиях: каждый раз, когда вы запускаете их с одними и теми же данными, вы получаете немного разные результаты, поскольку поиск в пространстве гиперпараметров является псевдослучайным. Разница в результате значительна, как объясняется здесь: https://aws.amazon.com/blogs/machine-learning/amazon-sagemaker-automatic-model-tuning-now-supports-random-search-and-hyperparameter-scaling/
Есть ли способ задать начальное значение для этих заданий? Из документа это не похоже на: https://sagemaker.readthedocs.io/en/stable/api/training/tuner.html
Единственный способ, который я вижу, чтобы смягчить эффект случайности, — это запустить достаточное количество обучающих заданий для заданий настройки гиперпараметров.