Блог

Я пытаюсь создать простой классификатор глубокого обучения 3 класса, используя keras следующим образом:

 clf = Sequential()
clf.add(Dense(20, activation='relu', input_dim=NUM_OF_FEATURES))
clf.add(Dense(10, activation='relu'))
clf.add(Dense(3, activation='relu'))
clf.add(Dense(1, activation='softmax'))


# Model Compilation
clf.compile(optimizer = 'adam',
             loss = 'categorical_crossentropy',
             metrics = ['accuracy'])

# Training the model
clf.fit(X_train,
         y_train,
         epochs=10,
         batch_size=16,
         validation_data=(X_val, y_val))
  

Как после обучения при прогнозировании он всегда предсказывает только один и тот же класс (класс 1) из 3 классов.

Моя сетевая архитектура неверна?

Я новичок в глубоком обучении и ИИ.

Если вы хотите, чтобы сеть классифицировала три класса, ваш последний плотный слой должен иметь три выходных узла. В примере последний плотный слой имеет один выходной узел.

 clf = Sequential()
clf.add(Dense(20, activation='relu', input_dim=NUM_OF_FEATURES))
clf.add(Dense(10, activation='relu'))
clf.add(Dense(3, activation='relu'))
clf.add(Dense(3, activation='softmax'))
  

Для каждой входной выборки на выходе будет три значения, все из которых в сумме равны единице. Они представляют вероятности того, что входные данные принадлежат каждому классу.

Что касается функции потерь, если вы хотите использовать перекрестную энтропию, у вас есть выбор между разреженной категориальной перекрестной энтропией и категориальной перекрестной энтропией. Последний ожидает, что метки истинности будут закодированы с одним горячим кодом (вы можете использовать tf.one_hot для этого). Другими словами, форма меток совпадает с формой выходных данных сети. С другой стороны, разреженная категориальная перекрестная энтропия ожидает метки с рангом N-1, где N — ранг выходных данных нейронной сети. Другими словами, это метки перед одноразовым кодированием.

Когда модель используется для вывода, предсказанные значения классов могут быть получены с помощью argmax последнего измерения прогнозов.

 predictions = clf.predict(x)
classes = predictions.argmax(-1)