Python Pandas: récupère l'index des lignes dont la colonne correspond à une certaine valeur

277

Étant donné un DataFrame avec une colonne "BoolCol", nous voulons trouver les index du DataFrame dans lesquels les valeurs de "BoolCol" == True

J'ai actuellement la manière itérative de le faire, qui fonctionne parfaitement:

for i in range(100,3000):
    if df.iloc[i]['BoolCol']== True:
         print i,df.iloc[i]['BoolCol']

Mais ce n'est pas la bonne façon de faire le panda. Après quelques recherches, j'utilise actuellement ce code:

df[df['BoolCol'] == True].index.tolist()

Celui-ci me donne une liste d'index, mais ils ne correspondent pas, quand je les vérifie en faisant:

df.iloc[i]['BoolCol']

Le résultat est en fait faux !!

Quelle serait la bonne façon de faire les Pandas?

Je veux des badges
la source

Réponses:

429

df.iloc[i]renvoie la ithligne de df. ine fait pas référence à l'étiquette d'index, iest un index basé sur 0.

En revanche, l'attribut indexrenvoie des étiquettes d'index réelles , pas des index de ligne numériques:

df.index[df['BoolCol'] == True].tolist()

ou équivalent,

df.index[df['BoolCol']].tolist()

Vous pouvez voir la différence assez clairement en jouant avec un DataFrame avec un index non par défaut qui n'est pas égal à la position numérique de la ligne:

df = pd.DataFrame({'BoolCol': [True, False, False, True, True]},
       index=[10,20,30,40,50])

In [53]: df
Out[53]: 
   BoolCol
10    True
20   False
30   False
40    True
50    True

[5 rows x 1 columns]

In [54]: df.index[df['BoolCol']].tolist()
Out[54]: [10, 40, 50]

Si vous souhaitez utiliser l'index ,

In [56]: idx = df.index[df['BoolCol']]

In [57]: idx
Out[57]: Int64Index([10, 40, 50], dtype='int64')

alors vous pouvez sélectionner les lignes en utilisant locau lieu deiloc :

In [58]: df.loc[idx]
Out[58]: 
   BoolCol
10    True
40    True
50    True

[3 rows x 1 columns]

Notez que locpeut également accepter des tableaux booléens :

In [55]: df.loc[df['BoolCol']]
Out[55]: 
   BoolCol
10    True
40    True
50    True

[3 rows x 1 columns]

Si vous avez un tableau booléen mask, et avez besoin de valeurs d'index ordinales, vous pouvez les calculer en utilisantnp.flatnonzero :

In [110]: np.flatnonzero(df['BoolCol'])
Out[112]: array([0, 3, 4])

Utilisez df.ilocpour sélectionner les lignes par index ordinal:

In [113]: df.iloc[np.flatnonzero(df['BoolCol'])]
Out[113]: 
   BoolCol
10    True
40    True
50    True
unutbu
la source
9
Encore une autre façon de faire df.query('BoolCol').
Phillip Cloud
3
Je sais que c'est ancien, mais je me demande s'il existe un moyen facile d'obtenir les numéros d'index basés sur 0 à partir d'une requête. J'ai besoin des numéros iloc car je veux sélectionner des lignes avant et après une ligne répondant à une certaine condition. Mon plan était donc d'obtenir les indices 0 des lignes remplissant la condition, puis de créer des tranches à utiliser dans iloc (). La seule chose que je vois est get_loc, mais il ne peut pas prendre de tableau.
sheridp
3
@sheridp: Si vous avez un masque booléen, vous pouvez trouver les indices ordinaux où se masktrouve le Trueen utilisant np.flatnonzero. J'ai édité le post ci-dessus pour montrer ce que je veux dire.
unutbu
8
Votre suggestion indices = np.flatnonzero(df[col_name] == category_name)me donne exactement ce que demande le titre de la question, ce qui est étonnamment difficile à trouver sur Internet.
ClimbsRocks
Si vous souhaitez uniquement récupérer l'index, quel est le surcoût de df [dftest] .index? Cela crée-t-il une trame de données intermédiaire (dont les données peuvent être des gio-octets). Et le test? Cela n'alloue-t-il pas également un très grand objet intermédiaire où l'index renvoyé peut être très petit, voire vide. Sont-ils optimisés comme par magie en utilisant des vues paresseuses. Sinon, il doit sûrement y avoir un moyen efficace.
user48956
31

Peut être fait en utilisant la fonction numpy where ():

import pandas as pd
import numpy as np

In [716]: df = pd.DataFrame({"gene_name": ['SLC45A1', 'NECAP2', 'CLIC4', 'ADC', 'AGBL4'] , "BoolCol": [False, True, False, True, True] },
       index=list("abcde"))

In [717]: df
Out[717]: 
  BoolCol gene_name
a   False   SLC45A1
b    True    NECAP2
c   False     CLIC4
d    True       ADC
e    True     AGBL4

In [718]: np.where(df["BoolCol"] == True)
Out[718]: (array([1, 3, 4]),)

In [719]: select_indices = list(np.where(df["BoolCol"] == True)[0])

In [720]: df.iloc[select_indices]
Out[720]: 
  BoolCol gene_name
b    True    NECAP2
d    True       ADC
e    True     AGBL4

Bien que vous n'ayez pas toujours besoin d'index pour une correspondance, mais au cas où vous en auriez besoin:

In [796]: df.iloc[select_indices].index
Out[796]: Index([u'b', u'd', u'e'], dtype='object')

In [797]: df.iloc[select_indices].index.tolist()
Out[797]: ['b', 'd', 'e']
Surya
la source
2

Un moyen simple consiste à réinitialiser l'index du DataFrame avant le filtrage:

df_reset = df.reset_index()
df_reset[df_reset['BoolCol']].index.tolist()

Un peu hacky, mais c'est rapide!

Ben Druitt
la source
1

Vous pouvez d'abord vérifier queryquand la colonne cible est de type bool (PS: sur la façon de l'utiliser, veuillez vérifier le lien )

df.query('BoolCol')
Out[123]: 
    BoolCol
10     True
40     True
50     True

Après avoir filtré le df d'origine par la colonne booléenne, nous pouvons choisir l'index.

df=df.query('BoolCol')
df.index
Out[125]: Int64Index([10, 40, 50], dtype='int64')

Aussi pandas géants ont nonzero, nous vous suffit de sélectionner la position de de la Trueligne et l' utiliser tranche la DataFrameouindex

df.index[df.BoolCol.nonzero()[0]]
Out[128]: Int64Index([10, 40, 50], dtype='int64')
YOBEN_S
la source
1

Si vous ne souhaitez utiliser votre objet de trame de données qu'une seule fois, utilisez:

df['BoolCol'].loc[lambda x: x==True].index
mbh86
la source
0

J'étendu cette question est de savoir comment se le row, columnet valuede toute valeur des matchs?

voici la solution:

import pandas as pd
import numpy as np


def search_coordinate(df_data: pd.DataFrame, search_set: set) -> list:
    nda_values = df_data.values
    tuple_index = np.where(np.isin(nda_values, [e for e in search_set]))
    return [(row, col, nda_values[row][col]) for row, col in zip(tuple_index[0], tuple_index[1])]


if __name__ == '__main__':
    test_datas = [['cat', 'dog', ''],
                  ['goldfish', '', 'kitten'],
                  ['Puppy', 'hamster', 'mouse']
                  ]
    df_data = pd.DataFrame(test_datas)
    print(df_data)
    result_list = search_coordinate(df_data, {'dog', 'Puppy'})
    print(f"\n\n{'row':<4} {'col':<4} {'name':>10}")
    [print(f"{row:<4} {col:<4} {name:>10}") for row, col, name in result_list]

Production:

          0        1       2
0       cat      dog        
1  goldfish           kitten
2     Puppy  hamster   mouse


row  col        name
0    1           dog
2    0         Puppy
Carson
la source