Как использовать spark с sklearn.cross_val_predict

#apache-spark #scikit-learn

Вопрос:

Мой код использует cross_val_predict, и он отлично работает

Я хочу ускорить процесс ML с помощью SPARK

Я погуглил и нашел только spark_sklean, и в нем есть GridSearchCV

 try:
    y_pred = cross_val_predict(clf, dfMethod, y, cv=3, n_jobs=-1)
    F1 = f1_score(y, y_pred, average="micro")*100
except:
    F1 = -1
    
 

Интересно, есть ли способ использовать spark с cross_val_predict? если да, то как?