#python #json #pandas
#python #json #панды
Вопрос:
У меня есть фрейм данных, внутри которого много данных json.
например :
{"serial": "000000001fb105ea", "sensorType": "acceleration", "data": [1603261123.328814, 0.171875, -0.9609375, 0.0234375]}
{"serial": "000000001fb105ea", "sensorType": "acceleration", "data": [1603261125.0605137, 0.0859375, -0.984375, 0.0]}
{"serial": "000000001fb105ea", "sensorType": "strain", "data": [1603261126.3532753, 0.9649793604217437]}
{"serial": "000000001fb105ea", "sensorType": "acceleration", "data": [1603261127.6988888, 0.0390625, -1.0, 0.125]}
{"serial": "000000001fb105ea", "sensorType": "acceleration", "data": [1603261128.8530502, 0.078125, -0.9921875, 0.0]}
Существует два типа данных. Датчик деформации и датчик ускорения.
Я хочу проанализировать эти данные json и преобразовать в обычную форму. Мне просто нужна часть данных объектов json.В результате у меня должно быть 4 столбца для каждого значения в данных.
Date: 21.20.2020:09:18:46 x:0.171875 y:-0.9609375 z:0.0234375
Я попробовал json_normalize, но получил эту ошибку.
AttributeError: 'str' object has no attribute 'itervalues'
Как разобрать часть данных в фрейм данных с 4 столбцами?
Спасибо.
Ответ №1:
Если входные данные используются в json
файле:
cols = ['Date','x','y','z']
df = pd.DataFrame(pd.read_json('json.json', lines=True)['data'].tolist(), columns=cols)
df['Date'] = pd.to_datetime(df['Date'], unit='s')
print (df)
Date x y z
0 2020-10-21 06:18:43.328814030 0.171875 -0.960938 0.023438
1 2020-10-21 06:18:45.060513735 0.085938 -0.984375 0.000000
2 2020-10-21 06:18:46.353275299 0.964979 NaN NaN
3 2020-10-21 06:18:47.698888779 0.039062 -1.000000 0.125000
4 2020-10-21 06:18:48.853050232 0.078125 -0.992188 0.000000
Если ввод осуществляется DataFrame
с помощью столбца col
:
cols = ['Date','x','y','z']
df = pd.DataFrame(pd.json_normalize(df['col'])['data'].tolist(), columns=cols)
df['Date'] = pd.to_datetime(df['Date'], unit='s')
print (df)
Date x y z
0 2020-10-21 06:18:43.328814030 0.171875 -0.960938 0.023438
1 2020-10-21 06:18:45.060513735 0.085938 -0.984375 0.000000
2 2020-10-21 06:18:46.353275299 0.964979 NaN NaN
3 2020-10-21 06:18:47.698888779 0.039062 -1.000000 0.125000
4 2020-10-21 06:18:48.853050232 0.078125 -0.992188 0.000000
Редактировать:
Лично сохранять csv как .xls
не очень хорошая идея, потому что тогда read_excel
возникает странная ошибка, но вы можете использовать:
import ast
df = pd.read_csv('15-10-2020-OO.xls')
cols = ['Date','x','y','z']
data = [x['data'] for x in df['Data'].apply(ast.literal_eval)]
df = pd.DataFrame(data, columns=cols)
df['Date'] = pd.to_datetime(df['Date'], unit='s')
print (df)
Date x y z
0 2020-10-15 07:21:16.159236193 0.085938 -0.972656 0.003906
1 2020-10-15 07:21:17.597931385 0.089844 -0.968750 0.003906
2 2020-10-15 07:21:18.838171959 0.089844 -0.972656 0.003906
3 2020-10-15 07:21:20.338105917 0.085938 -0.972656 0.003906
4 2020-10-15 07:21:21.768864155 0.089844 -0.984375 0.003906
... ... ... ...
8457 2020-10-15 08:59:57.907007933 0.085938 -0.972656 0.003906
8458 2020-10-15 08:59:58.371274233 0.089844 -0.976562 0.003906
8459 2020-10-15 08:59:58.833237648 0.085938 -0.976562 0.003906
8460 2020-10-15 08:59:59.313337088 1.517057 NaN NaN
8461 2020-10-15 08:59:59.863240004 0.089844 -0.968750 0.007812
[8462 rows x 4 columns]
Комментарии:
1. Нет, входные данные находятся в файле csv. Можете ли вы редактировать для csv? Спасибо 🙂
2. @notNowOnlyCoding — Как выглядит файл csv? Возможно ли изменение
json.json
наfile.csv
?3. ibb.co/9G9h85f Это именно так и есть. Есть ли какое-либо решение?
4. @notNowOnlyCoding — второй абзац моего ответа?
5. ibb.co/r77vGZ2 Произошла эта ключевая ошибка. Есть идеи? df — это фрейм данных перед вашим кодом на картинке.