Блог

У меня есть следующий spark dataframe:

 from pyspark.sql import SparkSession
spark = SparkSession.builder.appName('').getOrCreate()
df = spark.createDataFrame([(1, "a", "2"), (2, "b", "2"),(3, "c", "2"), (4, "d", "2"),
                (5, "b", "3"), (6, "b", "3"),(7, "c", "2")], ["nr", "column2", "quant"])
  

который возвращает мне:

  --- ------- ------ 
| nr|column2|quant |
 --- ------- ------ 
|  1|      a|     2|
|  2|      b|     2|
|  3|      c|     2|
|  4|      d|     2|
|  5|      b|     3|
|  6|      b|     3|
|  7|      c|     2|
 --- ------- ------ 
  

Я хотел бы получить строки, в которых для каждых 3 сгруппированных строк (из каждого окна, где размер окна равен 3) столбец quant имеет уникальные значения. как на следующем рисунке:

Здесь красным обозначен размер окна, и в каждом окне я сохраняю только зеленые строки, где quant уникален:

Вывод, который я хотел бы получить, выглядит следующим образом:

  --- ------- ------ 
| nr|column2|values|
 --- ------- ------ 
|  1|      a|     2|
|  4|      d|     2|
|  5|      b|     3|
|  7|      c|     2|
 --- ------- ------ 
  

Я новичок в spark, поэтому был бы признателен за любую помощь. Спасибо

Этот подход должен сработать для вас, предполагая, что группировка 3 записей основана на столбце ‘nr’.

Использование udf , которое решает, следует ли выбирать запись или нет, и lag используется для получения данных предыдущих строк.

 def tag_selected(index, current_quant, prev_quant1, prev_quant2):                                                                                                    
    if index % 3 == 1:  # first record in each group is always selected                                                                                              
        return True                                                                                                                                                  
    if index % 3 == 2 and current_quant != prev_quant1: # second record will be selected if prev quant is not same as current                                        
        return True                                                                                                                                                  
    if index % 3 == 0 and current_quant != prev_quant1 and current_quant != prev_quant2: # third record will be selected if prev quant are not same as current       
        return True                                                                                                                                                  
    return False                                                                                                                                                     

tag_selected_udf = udf(tag_selected, BooleanType())                                                                                                                  

  

 df = spark.createDataFrame([(1, "a", "2"), (2, "b", "2"),(3, "c", "2"), (4, "d", "2"),
                (5, "b", "3"), (6, "b", "3"),(7, "c", "2")], ["nr", "column2", "quant"])

window = Window.orderBy("nr")

df = df.withColumn("prev_quant1", lag(col("quant"),1, None).over(window))
       .withColumn("prev_quant2", lag(col("quant"),2, None).over(window)) 
       .withColumn("selected", 
                   tag_selected_udf(col('nr'),col('quant'),col('prev_quant1'),col('prev_quant2')))
       .filter(col('selected') == True).drop("prev_quant1","prev_quant2","selected")
df.show()
  

какие результаты

  --- ------- ----- 
| nr|column2|quant|
 --- ------- ----- 
|  1|      a|    2|
|  4|      d|    2|
|  5|      b|    3|
|  7|      c|    2|
 --- ------- -----