#python #pandas #loops #join #datetimeindex
Вопрос:
У меня есть 9 кадров данных разной длины, но похожих форматов. В каждом year
month
кадре данных есть столбец , day
, и с датами , которые 1/1/2009-12/31/2019
начинаются, но в некоторых кадрах данных отсутствуют данные за несколько дней. Я хотел бы создать один большой фрейм данных с индексом даты и времени, но у меня возникли проблемы с созданием цикла для преобразования столбцов года, месяца и дня в индекс даты и времени для каждого фрейма данных, и я не знаю, какую функцию использовать для объединения фреймов данных вместе. У меня есть один Temp
кадр данных, который содержит все 4017 строк данных за каждый день 11-летнего периода, но в остальных кадрах данных отсутствуют некоторые даты.
import pandas as pd
#just creating some sample data to make it easier
Temp = pd.DataFrame({'year':[2009,2009,2009,2010,2010,2010,2011,2011,2011,2012,2012,2012,2013,2013,2013,
2014,2014,2014,2015,2015,2015],'month':[1,2,3,1,2,3,1,2,3,1,2,3,1,2,3,1,2,3,1,2,3],
'day':[1,2,3,1,2,3,1,2,3,1,2,3,1,2,3,1,2,3,1,2,3],
'T1':[20,21,25,28,30,33,39,35,34,34,31,30,27,24,20,21,25,28,30,33,39],
'T2':[33,39,35,34,34,31,30,27,24,20,21,25,28,30,33,39,20,21,25,28,30]})
WS = pd.DataFrame({'year':[2009,2009,2010,2011,2011,2011,2012,2012,2012,2013,2013,2013,
2014,2014,2014,2015,2015,2015],'month':[1,2,3,1,2,3,1,2,3,1,2,3,1,2,3,1,2,3],
'day':[1,2,3,1,2,3,1,2,3,1,2,3,1,2,3,1,2,3],
'WS1':[5.4,5.1,5.2,4.3,4.4,4.4,1.2,1.5,1.6,2.3,2.5,3.1,2.5,4.6,4.4,4.4,1.2,1.5],
'WS2':[5.4,5.1,4.4,4.4,1.2,1.5,1.6,2.3,2.5,5.2,4.3,4.4,4.4,1.2,1.5,1.6,2.3,2.5]})
RH = pd.DataFrame({'year':[2009,2009,2010,2011,2011,2011,2012,2012,2012,2013,2013,2013,
2014,2014,2014],'month':[1,2,3,1,2,3,1,2,3,1,2,3,1,2,3],
'day':[1,2,3,1,2,3,1,2,3,1,2,3,1,2,3],
'RH1':[33,38,30,45,52,60,61,66,60,59,30,45,52,60,61],
'RH2':[33,38,59,30,45,52,60,61,30,45,52,60,61,66,60]})
Хорошо, до сих пор я пытался сначала создать цикл, который преобразует столбцы года, месяца и дня в индекс даты и времени и удаляет оставшиеся столбцы года, месяца и дня.
df = [Temp, WS, RH]
for dfs in df:
dfs['date'] = pd.to_datetime(dfs[['year','month','day']])
dfs.set_index(['date'],inplace=True)
dfs.drop(columns = ['year','month','day'],inplace=True)
Но я продолжаю получать ошибки, в которых говорится TypeError: tuple indices must be integers or slices, not list
или TypeError: list indices must be integers or slices, not list
. Поскольку я не могу решить эту проблему, мне трудно понять, что делать после, чтобы объединить все кадры данных вместе. Я предполагаю, что мне придется установить такой индекс, как idx = pd.date_range('2018-01-01 00:00:00', '2018-12-31 23:00:00', freq='H')
, а затем reset_index для кадров данных, в которых отсутствуют данные. И потом, не мог бы я использовать левое соединение или объединение, так как все они будут иметь один и тот же индекс? Примеры фреймов данных, приведенные выше, не имеют желаемого диапазона дат, я просто не знал, как еще сделать примеры фреймов данных.
Комментарии:
1. Вам не нужна петля:
pd.to_datetime(Temp[["year", "month", "day"]])
2. Да, но я должен сделать это для 9 кадров данных, это кажется утомительным, поэтому я хочу сделать это в одном быстром коде.
Ответ №1:
Это то, что вы ищете?
dfs = [Temp, WS, RH]
data = []
for df in dfs:
data.append(df.set_index(pd.to_datetime(df[["year", "month", "day"]]))
.drop(columns=["year", "month", "day"]))
out = pd.concat(data, axis="columns")
>>> out
T1 T2 WS1 WS2 RH1 RH2
2009-01-01 20 33 5.4 5.4 33.0 33.0
2009-02-02 21 39 5.1 5.1 38.0 38.0
2009-03-03 25 35 NaN NaN NaN NaN
2010-01-01 28 34 NaN NaN NaN NaN
2010-02-02 30 34 NaN NaN NaN NaN
2010-03-03 33 31 5.2 4.4 30.0 59.0
2011-01-01 39 30 4.3 4.4 45.0 30.0
2011-02-02 35 27 4.4 1.2 52.0 45.0
2011-03-03 34 24 4.4 1.5 60.0 52.0
2012-01-01 34 20 1.2 1.6 61.0 60.0
2012-02-02 31 21 1.5 2.3 66.0 61.0
2012-03-03 30 25 1.6 2.5 60.0 30.0
2013-01-01 27 28 2.3 5.2 59.0 45.0
2013-02-02 24 30 2.5 4.3 30.0 52.0
2013-03-03 20 33 3.1 4.4 45.0 60.0
2014-01-01 21 39 2.5 4.4 52.0 61.0
2014-02-02 25 20 4.6 1.2 60.0 66.0
2014-03-03 28 21 4.4 1.5 61.0 60.0
2015-01-01 30 25 4.4 1.6 NaN NaN
2015-02-02 33 28 1.2 2.3 NaN NaN
2015-03-03 39 30 1.5 2.5 NaN NaN
Комментарии:
1.
pd.concat
автоматически ли заполняет недостающие данныеNaN
?2. Да. Из документа: «Объедините объекты фрейма данных с перекрывающимися столбцами и верните все. Столбцы за пределами пересечения будут заполнены значениями NaN».
3. @Хизер. Если вы хотите иметь фрейм данных со всеми днями между вашей первой и последней датами, вы можете сделать:
out.reindex(pd.date_range(out.index.min(), out.index.max(), freq="D"))