Normaliser une colonne dans Pandas DataFrame

  1. Normalisation des données dans les Pandas
  2. Normaliser la trame de données des Pandas avec la normalisation moyenne
  3. Normaliser les images de données de Pandas avec la normalisation min-max
  4. Normaliser les dataframes Pandas avec la normalisation quantile

La normalisation des données est l’étape initiale de l’ingénierie des fonctionnalités. La normalisation des colonnes consiste à amener les valeurs des colonnes à une échelle commune, ce qui est généralement fait pour des colonnes dont les plages sont variées. Dans les Pandas, les colonnes des Dataframes peuvent être normalisées par une variété de fonctions. Cet article vous aidera à pratiquer ces fonctions et à les appliquer dans les bonnes situations.

Normalisation des données dans les Pandas

Il existe deux méthodes de normalisation des données les plus utilisées.

  • Normalisation moyenne
  • Normalisation Min-Max
  • Normalisation de Quantile

Il n’y a pas de méthodes spécifiques disponibles dans Pandas pour effectuer la normalisation des données. Nous expliquerons ce que sont ces normalisations et comment elles peuvent être mises en œuvre en utilisant des Pandas natifs et un peu de toucher des fonctions python natives.

Nous utiliserons partout l’extrait suivant pour créer une trame de données avec des éléments aléatoires comme ci-dessous.

import pandas as pd
import numpy as np

np.random.seed(0)

df = pd.DataFrame(np.random.randint(-100,100,size=(20, 4)), columns=list('ABCD'))
print (df)

Il retournera une trame de données similaire à celle donnée ci-dessous.

     A   B   C   D
0   72 -53  17  92
1  -33  95   3 -91
2  -79 -64 -13 -30
3  -12  40 -42  93
4  -61 -13  74 -12
5  -19  65 -75 -23
6  -28 -91  48  15
7   97 -21  75  92
8  -18  -1  77 -71
9   47  47  42  67
10 -68  93 -91  85
11  27 -68 -69  51
12  63  14  83 -72
13 -66  28  28  64
14 -47  33 -62 -83
15 -21  32   5 -58
16  86 -69  20 -99
17 -35  69 -43 -65
18   2  19 -89  74
19 -18  -9  28  42

[20 rows x 4 columns]

Normaliser la trame de données des Pandas avec la normalisation moyenne

La normalisation des moyenne est l’un des moyens les plus simples de normaliser les Dataframes de plages variées. La normalisation se fait en soustrayant la moyenne et en la divisant par l’écart type pour tous les éléments du DataFrame.

import pandas as pd
import numpy as np

np.random.seed(0)

df = pd.DataFrame(np.random.randint(-100,100,size=(20, 4)), columns=list('ABCD'))

def mean_norm(df_input):
    return df_input.apply(lambda x: (x-x.mean())/ x.std(), axis=0)

df_mean_norm = mean_norm(df)
print(df_mean_norm)

Production :

           A         B         C         D
0   1.452954 -1.090261  0.278088  1.247208
1  -0.514295  1.585670  0.037765 -1.333223
2  -1.376137 -1.289148 -0.236890 -0.473079
3  -0.120845  0.591236 -0.734701  1.261309
4  -1.038895 -0.367037  1.256545 -0.219266
5  -0.251995  1.043252 -1.301176 -0.374374
6  -0.420617 -1.777325  0.810231  0.161453
7   1.921346 -0.511681  1.273711  1.247208
8  -0.233260 -0.150069  1.308043 -1.051208
9   0.984561  0.717801  0.707236  0.894690
10 -1.170045  1.549509 -1.575831  1.148503
11  0.609847 -1.361470 -1.198181  0.669079
12  1.284333  0.121140  1.411038 -1.065309
13 -1.132573  0.374269  0.466913  0.852388
14 -0.776595  0.464672 -1.078020 -1.220417
15 -0.289467  0.446591  0.072097 -0.867899
16  1.715254 -1.379551  0.329586 -1.446028
17 -0.551766  1.115574 -0.751867 -0.966604
18  0.141455  0.211543 -1.541499  0.993395
19 -0.233260 -0.294714  0.466913  0.542172

Si vous utilisez un ordinateur portable Jupyter, les deux Dataframes peuvent être visualisées à l’aide de Matplotlib, comme indiqué dans le code ci-dessous.

%matplotlib inline
df['A'].plot(kind='bar')

En sélectionnant la colonne A du DataFrame avant normalisation et en visualisant un diagramme à barres à partir de celle-ci, notez que l’axe des y contient des valeurs comprises entre -100 et 100.

Normalisation moyenne - avant normalisation

%matplotlib inline
df_mean_norm['A'].plot(kind='bar')

La figure ci-dessous montre la normalisation des données après la publication ; lorsque la même colonne est visualisée, l’axe des y se situe dans la plage de -1,5 à +1,5.

Normalisation moyenne - après normalisation

Normaliser les images de données de Pandas avec la normalisation min-max

C’est l’une des méthodes de normalisation les plus utilisées. Le résultat de la normalisation soustrait la valeur minimale d’une trame de données et la divise par la différence entre la valeur la plus élevée et la plus basse de la colonne correspondante.

import pandas as pd
import numpy as np

np.random.seed(0)

df = pd.DataFrame(np.random.randint(-100,100,size=(20, 4)), columns=list('ABCD'))

def minmax_norm(df_input):
    return (df - df.min()) / ( df.max() - df.min())

df_minmax_norm = minmax_norm(df)

print(df_minmax_norm)

Production :

           A         B         C         D
0   0.857955  0.204301  0.620690  0.994792
1   0.261364  1.000000  0.540230  0.041667
2   0.000000  0.145161  0.448276  0.359375
3   0.380682  0.704301  0.281609  1.000000
4   0.102273  0.419355  0.948276  0.453125
5   0.340909  0.838710  0.091954  0.395833
6   0.289773  0.000000  0.798851  0.593750
7   1.000000  0.376344  0.954023  0.994792
8   0.346591  0.483871  0.965517  0.145833
9   0.715909  0.741935  0.764368  0.864583
10  0.062500  0.989247  0.000000  0.958333
11  0.602273  0.123656  0.126437  0.781250
12  0.806818  0.564516  1.000000  0.140625
13  0.073864  0.639785  0.683908  0.848958
14  0.181818  0.666667  0.166667  0.083333
15  0.329545  0.661290  0.551724  0.213542
16  0.937500  0.118280  0.637931  0.000000
17  0.250000  0.860215  0.275862  0.177083
18  0.460227  0.591398  0.011494  0.901042
19  0.346591  0.440860  0.683908  0.734375

Dans la sortie ci-dessus, nous pouvons déduire que la valeur minimale de chaque colonne est transformée en 0, et que la valeur maximale de chaque colonne est transformée en 1.

La colonne A pour cette normalisation est visualisée, comme indiqué ci-dessous.

%matplotlib inline
df_minmax_norm['A'].plot(kind='bar')

Normalisation Min-Max - Après la normalisation

Bien que cela soit valable pour les dataframes à courte distance, la normalisation MinMax peut ne pas convenir aux dataframes comportant de nombreuses valeurs aberrantes.

Normaliser les dataframes Pandas avec la normalisation quantile

La normalisation des quantiles est utilisée dans le cas d’analyses de données à haute dimension. Elle observe et suppose que la distribution statistique de chaque colonne est une seule et même chose. La normalisation de quantile comprend les étapes suivantes :

  1. Ordonner les valeurs dans chaque colonne (Classement)
  2. Faites la moyenne sur chaque ligne et remplacez la valeur de chaque élément de la ligne par la moyenne
  3. Remettez les valeurs dans l’ordre initial.
import numpy as np
import pandas as pd

np.random.seed(0)

df = pd.DataFrame(np.random.randint(-100,100,size=(20, 4)), columns=list('ABCD'))

def quantile_norm(df_input):
    sorted_df = pd.DataFrame(np.sort(df_input.values,axis=0), index=df_input.index, columns=df_input.columns)
    mean_df = sorted_df.mean(axis=1)
    mean_df.index = np.arange(1, len(mean_df) + 1)
    quantile_df =df_input.rank(method="min").stack().astype(int).map(mean_df).unstack()
    return(quantile_df)

df_quantile_norm = quantile_norm(df)

print(df_quantile_norm)

Production :

        A      B      C      D
0   77.00 -58.25   8.25  77.00
1  -36.50  92.00 -10.50 -79.25
2  -90.00 -66.50 -20.00 -20.00
3   24.75  44.00 -36.50  92.00
4  -66.50 -36.50  71.75  -3.00
5   -3.00  71.75 -73.00 -10.50
6  -20.00 -90.00  54.00   8.25
7   92.00 -41.00  77.00  77.00
8    8.25 -10.50  87.00 -58.25
9   54.00  54.00  44.00  44.00
10 -79.25  87.00 -90.00  71.75
11  44.00 -73.00 -66.50  24.75
12  71.75  -3.00  92.00 -66.50
13 -73.00  18.00  24.75  31.75
14 -58.25  31.75 -58.25 -73.00
15 -10.50  24.75  -3.00 -36.50
16  87.00 -79.25  18.00 -90.00
17 -41.00  77.00 -41.00 -41.00
18  31.75   8.25 -79.25  54.00
19   8.25 -20.00  24.75  18.00

La sortie de la normalisation du quantile peut être visualisée pour la colonne A comme indiqué ci-dessous.

Normalisation du quantile - après la normalisation

Article connexe - Pandas DataFrame

  • Comment convertir une colonne de DataFrame en chaîne de caractères dans Pandas
  • Comment convertir la colonne DataFrame en date-heure dans Pandas
  • Article connexe - Pandas DataFrame Column

  • Comment compter la fréquence à laquelle une valeur se produit dans Pandas Dataframe
  • Convertir la colonne Pandas DataFrame en liste