#python #tensorflow #deep-learning #tensorflow-datasets #tfrecord
#python #tensorflow #глубокое обучение #tensorflow-наборы данных #tfrecord
Вопрос:
У меня есть массив изображений, и у меня есть предложение для каждого изображения.
Я хотел создать набор данных, содержащий пары изображений и предложений.
Что я сделал:
def npy_to_tfrecords(numpy_array, text_file, output_file):
f = open(text_file)
# write records to a tfrecords file
writer = tf.python_io.TFRecordWriter(output_file)
# Loop through all the features you want to write
for X, line in zip(numpy_array, f) :
#let say X is of np.array([[...][...]])
#let say y is of np.array[[0/1]]
txt = "{}".format(line[:-1])
txt = txt.encode()
# Feature contains a map of string to feature proto objects
feature = {}
feature['x'] = tf.train.Feature(float_list=tf.train.FloatList(value=X.flatten()))
feature['y'] = tf.train.Feature(bytes_list=tf.train.BytesList(value=[txt]))
# Construct the Example proto object
example = tf.train.Example(features=tf.train.Features(feature=feature))
# Serialize the example to a string
serialized = example.SerializeToString()
# write the serialized objec to the disk
writer.write(serialized)
writer.close()
Теперь я хочу рассматривать его как набор данных и работать с ним:
Однако,
def read_tfr_file(filename):
dataset = tf.data.TFRecordDataset(filename)
# for version 1.5 and above use tf.data.TFRecordDataset
# example proto decode
def _parse_function(example_proto):
keys_to_features = {'x':tf.FixedLenFeature([], tf.float32),
'y': tf.FixedLenSequenceFeature([], tf.string, allow_missing=True)}
parsed_features = tf.parse_single_example(example_proto, keys_to_features)
return parsed_features['x'], parsed_features['y']
# Parse the record into tensors.
dataset = dataset.map(_parse_function)
return dataset
Я всегда получаю maperror или объект не повторяется, читая записи таким образом, как исправить эту проблему?
Как правильно создать набор данных объектов изображения фиксированной длины и предложений переменной длины?