Есть ли какой-либо способ сопоставить файл JSON с набором данных (изображениями) в python

#python #json #dataset #conv-neural-network #image-classification

#python #json #набор данных #conv-нейронная сеть #классификация изображений

Вопрос:

Я работаю над машинным обучением (КЛАССИФИКАЦИЯ ИЗОБРАЖЕНИЙ) и нашел набор данных, состоящий из двух файлов:

  1. Изображения (20 000 изображений) «Изображения » Изображения пронумерованы от 1 до 20 000 (не классифицированы по классам) «
  2. Файл JSON, содержащий информацию и классификацию изображений (12 классов изображений) Файл JSON структурирован следующим образом:
 {
  "<image_number>": {
    "image_filepath": "images/<image_number>.jpg", 
    "anomaly_class": "<class_name>"
  },
  ...
}
 

Итак, я пытаюсь прочитать файл JSON и разделить набор данных, чтобы я мог работать с каждым классом по отдельности..
Затем возьмите 80% от «каждого класса» в качестве обучающего набора и 20% для тестового набора

Я попытался найти способ сопоставить файл JSON с набором данных (изображениями), чтобы я мог классифицировать классы в отдельных папках, а затем разделить их на обучающие и тестовые наборы

Кто-нибудь может мне в этом помочь?

Спасибо

Ответ №1:

Что-то вроде следующего создаст папки для каждого из классов, а затем переместит в них изображения.

 import json
import os
from os import path
# Open the json file containing the classifications
with open("clasification.json", "r") as f:
   classification = json.load(f)
# Create a set which contains all the classes
classes = set([i["anomaly_class"] for i in classification.values()])
# For each of the classes make a folder to contain them
for c in classes:
    os.makedirs(c)
# For each image entry in the json move the image to the folder named it's class
for image_number, image_data in classification.items():
    os.rename(image_data["image_filepath"], path.join(image_data["anomaly_class"], "{}.jpg".format(image_number)))
 

Комментарии:

1. но я не знаю класс image, изображения неклассифицированы и неорганизованны. Я ищу способ воспользоваться преимуществами файла JSON для классификации изображений по 12 различным классам.

2. Разве «anomaly_class»: «<имя_класса>» не указывает вам, в каком классе должно быть изображение?

3. Код считывает классификацию из файла JSON

4. СПАСИБО, что ты действительно спас меня

5. Этот ответ не затрагивает проблему разделения изображений на данные тестирования и обучения

Ответ №2:

Что-то вроде этого должно работать:

 import json
from pathlib import Path

currDir = Path(__file__).resolve().parent
# Path where the images will be moved to
imagesDir = currDir / 'images'
testingDir = imagesDir / 'testing'
trainingDir = imagesDir / 'training'

# Load data
infoPerImage = {}
# This has to be the path to the file containing the data
# I assumed it is in the current directory
infoFilePath = currDir / 'data.json'
with infoFilePath.open() as f:
    infoPerImage = json.loads(f.read())

# Separate into classes
infoPerClass = {}
for imageNumber, imageInfo in infoPerImage.items():
    imageClass = imageInfo['anomaly_class']
    imagePath = imageInfo['image_filepath']
    currentClassImages = infoPerClass.setdefault(imageClass, [])
    currentClassImages.append(imagePath)

# Create directories for the classes
for imageClass in infoPerClass:
    pathToImageClassTraining = trainingDir / imageClass
    pathToImageClassTraining.mkdir(parents=True)
    pathToImageClassTesting = testingDir / imageClass
    pathToImageClassTesting.mkdir(parents=True)

# Separate into training and testing images
trainingImages = {}
testingImages = {}
for imageClass, imagePaths in infoPerClass.items():
    lenImagePaths = len(imagePaths)
    upperLimit = int(lenImagePaths * 0.8)
    trainingImages[imageClass] = imagePaths[:upperLimit]
    testingImages[imageClass] = imagePaths[upperLimit:]

def moveImagesToTheirDir(imagesDict, imagesBasePath):
    for imageClass, imagePaths in imagesDict.items():
        for imagePath in imagePaths:
            imageSrc = Path(imagePath)
            imageDest = imagesBasePath / imageClass / imageSrc.name
            imageSrc.rename(imageDest)
moveImagesToTheirDir(trainingImages, trainingDir)
moveImagesToTheirDir(testingImages, testingDir)