Блог

Я работаю над конечной точкой с несколькими моделями для нескольких моделей tensorflow, используя это пошаговое руководство:

https://github.com/aws-samples/sagemaker-multi-model-endpoint-tensorflow-computer-vision/blob/main/multi-model-endpoint-tensorflow-cv.ipynb

Мой код выглядит примерно так:

 env = {
    'SAGEMAKER_REQUIREMENTS': 'requirements.txt', # path relative to `source_dir` below.
    'CATEGORY': category
}

model_1 = TensorFlowModel(model_data=model_loc,
                          role=sagemaker_role,
                          framework_version="2.2.0",
                          source_dir="<path to source dir>",
                          entry_point="<source dir>/inference.py",
                          env=env,
                          sagemaker_session=sagemaker_session)

mme = MultiDataModel(name='test-endpoint',
                     model_data_prefix=model_prefix,
                     model=model_1,
                     sagemaker_session=sagemaker_session)

predictor = mme.deploy(instance_type="ml.r5.xlarge", 
                       initial_instance_count=1
                      )
 

Но когда я пытаюсь вызвать эту конечную точку, возвращенная ошибка создает впечатление, что на мой пользовательский сценарий точки входа вообще нет ссылки? Это работает так, как предназначено для одной конечной точки модели. Какие-либо примеры или документация для конечной точки с несколькими моделями пользовательской точки входа? Я мало что могу найти.