#python #json #dataset #conv-neural-network #image-classification
#python #json #набор данных #conv-нейронная сеть #классификация изображений
Вопрос:
Я работаю над машинным обучением (КЛАССИФИКАЦИЯ ИЗОБРАЖЕНИЙ) и нашел набор данных, состоящий из двух файлов:
- Изображения (20 000 изображений) «Изображения » Изображения пронумерованы от 1 до 20 000 (не классифицированы по классам) «
- Файл JSON, содержащий информацию и классификацию изображений (12 классов изображений) Файл JSON структурирован следующим образом:
{
"<image_number>": {
"image_filepath": "images/<image_number>.jpg",
"anomaly_class": "<class_name>"
},
...
}
Итак, я пытаюсь прочитать файл JSON и разделить набор данных, чтобы я мог работать с каждым классом по отдельности..
Затем возьмите 80% от «каждого класса» в качестве обучающего набора и 20% для тестового набора
Я попытался найти способ сопоставить файл JSON с набором данных (изображениями), чтобы я мог классифицировать классы в отдельных папках, а затем разделить их на обучающие и тестовые наборы
Кто-нибудь может мне в этом помочь?
Спасибо
Ответ №1:
Что-то вроде следующего создаст папки для каждого из классов, а затем переместит в них изображения.
import json
import os
from os import path
# Open the json file containing the classifications
with open("clasification.json", "r") as f:
classification = json.load(f)
# Create a set which contains all the classes
classes = set([i["anomaly_class"] for i in classification.values()])
# For each of the classes make a folder to contain them
for c in classes:
os.makedirs(c)
# For each image entry in the json move the image to the folder named it's class
for image_number, image_data in classification.items():
os.rename(image_data["image_filepath"], path.join(image_data["anomaly_class"], "{}.jpg".format(image_number)))
Комментарии:
1. но я не знаю класс image, изображения неклассифицированы и неорганизованны. Я ищу способ воспользоваться преимуществами файла JSON для классификации изображений по 12 различным классам.
2. Разве «anomaly_class»: «<имя_класса>» не указывает вам, в каком классе должно быть изображение?
3. Код считывает классификацию из файла JSON
4. СПАСИБО, что ты действительно спас меня
5. Этот ответ не затрагивает проблему разделения изображений на данные тестирования и обучения
Ответ №2:
Что-то вроде этого должно работать:
import json
from pathlib import Path
currDir = Path(__file__).resolve().parent
# Path where the images will be moved to
imagesDir = currDir / 'images'
testingDir = imagesDir / 'testing'
trainingDir = imagesDir / 'training'
# Load data
infoPerImage = {}
# This has to be the path to the file containing the data
# I assumed it is in the current directory
infoFilePath = currDir / 'data.json'
with infoFilePath.open() as f:
infoPerImage = json.loads(f.read())
# Separate into classes
infoPerClass = {}
for imageNumber, imageInfo in infoPerImage.items():
imageClass = imageInfo['anomaly_class']
imagePath = imageInfo['image_filepath']
currentClassImages = infoPerClass.setdefault(imageClass, [])
currentClassImages.append(imagePath)
# Create directories for the classes
for imageClass in infoPerClass:
pathToImageClassTraining = trainingDir / imageClass
pathToImageClassTraining.mkdir(parents=True)
pathToImageClassTesting = testingDir / imageClass
pathToImageClassTesting.mkdir(parents=True)
# Separate into training and testing images
trainingImages = {}
testingImages = {}
for imageClass, imagePaths in infoPerClass.items():
lenImagePaths = len(imagePaths)
upperLimit = int(lenImagePaths * 0.8)
trainingImages[imageClass] = imagePaths[:upperLimit]
testingImages[imageClass] = imagePaths[upperLimit:]
def moveImagesToTheirDir(imagesDict, imagesBasePath):
for imageClass, imagePaths in imagesDict.items():
for imagePath in imagePaths:
imageSrc = Path(imagePath)
imageDest = imagesBasePath / imageClass / imageSrc.name
imageSrc.rename(imageDest)
moveImagesToTheirDir(trainingImages, trainingDir)
moveImagesToTheirDir(testingImages, testingDir)