выполните цикл через несколько кадров данных и создайте индекс времени и времени, а затем соедините кадры данных

#python #pandas #loops #join #datetimeindex

Вопрос:

У меня есть 9 кадров данных разной длины, но похожих форматов. В каждом year month кадре данных есть столбец , day , и с датами , которые 1/1/2009-12/31/2019 начинаются, но в некоторых кадрах данных отсутствуют данные за несколько дней. Я хотел бы создать один большой фрейм данных с индексом даты и времени, но у меня возникли проблемы с созданием цикла для преобразования столбцов года, месяца и дня в индекс даты и времени для каждого фрейма данных, и я не знаю, какую функцию использовать для объединения фреймов данных вместе. У меня есть один Temp кадр данных, который содержит все 4017 строк данных за каждый день 11-летнего периода, но в остальных кадрах данных отсутствуют некоторые даты.

 import pandas as pd

#just creating some sample data to make it easier

Temp = pd.DataFrame({'year':[2009,2009,2009,2010,2010,2010,2011,2011,2011,2012,2012,2012,2013,2013,2013,
2014,2014,2014,2015,2015,2015],'month':[1,2,3,1,2,3,1,2,3,1,2,3,1,2,3,1,2,3,1,2,3],
'day':[1,2,3,1,2,3,1,2,3,1,2,3,1,2,3,1,2,3,1,2,3],
'T1':[20,21,25,28,30,33,39,35,34,34,31,30,27,24,20,21,25,28,30,33,39],
'T2':[33,39,35,34,34,31,30,27,24,20,21,25,28,30,33,39,20,21,25,28,30]})

WS = pd.DataFrame({'year':[2009,2009,2010,2011,2011,2011,2012,2012,2012,2013,2013,2013,
2014,2014,2014,2015,2015,2015],'month':[1,2,3,1,2,3,1,2,3,1,2,3,1,2,3,1,2,3],
'day':[1,2,3,1,2,3,1,2,3,1,2,3,1,2,3,1,2,3],
'WS1':[5.4,5.1,5.2,4.3,4.4,4.4,1.2,1.5,1.6,2.3,2.5,3.1,2.5,4.6,4.4,4.4,1.2,1.5],
'WS2':[5.4,5.1,4.4,4.4,1.2,1.5,1.6,2.3,2.5,5.2,4.3,4.4,4.4,1.2,1.5,1.6,2.3,2.5]})

RH = pd.DataFrame({'year':[2009,2009,2010,2011,2011,2011,2012,2012,2012,2013,2013,2013,
2014,2014,2014],'month':[1,2,3,1,2,3,1,2,3,1,2,3,1,2,3],
'day':[1,2,3,1,2,3,1,2,3,1,2,3,1,2,3],
'RH1':[33,38,30,45,52,60,61,66,60,59,30,45,52,60,61], 
'RH2':[33,38,59,30,45,52,60,61,30,45,52,60,61,66,60]})
 

Хорошо, до сих пор я пытался сначала создать цикл, который преобразует столбцы года, месяца и дня в индекс даты и времени и удаляет оставшиеся столбцы года, месяца и дня.

 df = [Temp, WS, RH]

for dfs in df:
    dfs['date'] = pd.to_datetime(dfs[['year','month','day']])
    dfs.set_index(['date'],inplace=True)
    dfs.drop(columns = ['year','month','day'],inplace=True)
 

Но я продолжаю получать ошибки, в которых говорится TypeError: tuple indices must be integers or slices, not list или TypeError: list indices must be integers or slices, not list . Поскольку я не могу решить эту проблему, мне трудно понять, что делать после, чтобы объединить все кадры данных вместе. Я предполагаю, что мне придется установить такой индекс, как idx = pd.date_range('2018-01-01 00:00:00', '2018-12-31 23:00:00', freq='H') , а затем reset_index для кадров данных, в которых отсутствуют данные. И потом, не мог бы я использовать левое соединение или объединение, так как все они будут иметь один и тот же индекс? Примеры фреймов данных, приведенные выше, не имеют желаемого диапазона дат, я просто не знал, как еще сделать примеры фреймов данных.

Комментарии:

1. Вам не нужна петля: pd.to_datetime(Temp[["year", "month", "day"]])

2. Да, но я должен сделать это для 9 кадров данных, это кажется утомительным, поэтому я хочу сделать это в одном быстром коде.

Ответ №1:

Это то, что вы ищете?

 dfs = [Temp, WS, RH]

data = []
for df in dfs:
    data.append(df.set_index(pd.to_datetime(df[["year", "month", "day"]]))
                  .drop(columns=["year", "month", "day"]))
out = pd.concat(data, axis="columns")
 
 >>> out
            T1  T2  WS1  WS2   RH1   RH2
2009-01-01  20  33  5.4  5.4  33.0  33.0
2009-02-02  21  39  5.1  5.1  38.0  38.0
2009-03-03  25  35  NaN  NaN   NaN   NaN
2010-01-01  28  34  NaN  NaN   NaN   NaN
2010-02-02  30  34  NaN  NaN   NaN   NaN
2010-03-03  33  31  5.2  4.4  30.0  59.0
2011-01-01  39  30  4.3  4.4  45.0  30.0
2011-02-02  35  27  4.4  1.2  52.0  45.0
2011-03-03  34  24  4.4  1.5  60.0  52.0
2012-01-01  34  20  1.2  1.6  61.0  60.0
2012-02-02  31  21  1.5  2.3  66.0  61.0
2012-03-03  30  25  1.6  2.5  60.0  30.0
2013-01-01  27  28  2.3  5.2  59.0  45.0
2013-02-02  24  30  2.5  4.3  30.0  52.0
2013-03-03  20  33  3.1  4.4  45.0  60.0
2014-01-01  21  39  2.5  4.4  52.0  61.0
2014-02-02  25  20  4.6  1.2  60.0  66.0
2014-03-03  28  21  4.4  1.5  61.0  60.0
2015-01-01  30  25  4.4  1.6   NaN   NaN
2015-02-02  33  28  1.2  2.3   NaN   NaN
2015-03-03  39  30  1.5  2.5   NaN   NaN
 

Комментарии:

1. pd.concat автоматически ли заполняет недостающие данные NaN ?

2. Да. Из документа: «Объедините объекты фрейма данных с перекрывающимися столбцами и верните все. Столбцы за пределами пересечения будут заполнены значениями NaN».

3. @Хизер. Если вы хотите иметь фрейм данных со всеми днями между вашей первой и последней датами, вы можете сделать: out.reindex(pd.date_range(out.index.min(), out.index.max(), freq="D"))