Значения Shap DeepExplainer с LSTM не подходят

#python #tensorflow #lstm #recurrent-neural-network #shap

Вопрос:

для моей диссертации мне нужно использовать Shap, чтобы объяснить прогноз модели LSTM. Для этого мне нужно понизить рейтинг до TensorFlow V1, так как в противном случае он выдает ошибку. Теперь, после тысячи проб и ошибок, я наконец получил результат. Дело в том, что если я использую:

 np.abs(shap_values[0].sum(1)   explainer.expected_value - y_hat[:1]).max()
 

Значение не равно нулю, и в этот момент у меня появилась дополнительная идея, что я мог бы сделать. Я надеюсь, что у кого-нибудь есть какой-либо опыт в этом и он сможет подсказать мне правильное направление.

Заранее большое спасибо!

Воспроизводимый пример: https://colab.research.google.com/drive/14zWFLO8bbGSvANpb9roo-vjWdPO8Ta7s?usp=sharing

Приветствия,

Ник