Comment joindre (fusionner) des trames de données (interne, externe, gauche, droite)

1233

Étant donné deux trames de données:

df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2, 4, 6), State = c(rep("Alabama", 2), rep("Ohio", 1)))

df1
#  CustomerId Product
#           1 Toaster
#           2 Toaster
#           3 Toaster
#           4   Radio
#           5   Radio
#           6   Radio

df2
#  CustomerId   State
#           2 Alabama
#           4 Alabama
#           6    Ohio

Comment puis-je faire un style de base de données, c'est-à-dire un style SQL, des jointures ? Autrement dit, comment puis-je obtenir:

  • Une jointure interne de df1et df2:
    Renvoie uniquement les lignes dans lesquelles le tableau de gauche a des clés correspondantes dans le tableau de droite.
  • Une jointure externe de df1et df2:
    Renvoie toutes les lignes des deux tables, joint les enregistrements de gauche qui ont des clés correspondantes dans la table de droite.
  • Une jointure externe gauche (ou simplement une jointure gauche) de df1et df2
    retourne toutes les lignes de la table de gauche et toutes les lignes avec des clés correspondantes de la table de droite.
  • Une jointure externe droite de df1et df2
    retourne toutes les lignes de la table de droite et toutes les lignes avec des clés correspondantes de la table de gauche.

Crédit supplémentaire:

Comment puis-je faire une instruction de sélection de style SQL?

Dan Goldstein
la source
4
stat545-ubc.github.io/bit001_dplyr-cheatsheet.html ← ma réponse préférée à cette question
isomorphismes
La feuille de triche Transformation des données avec dplyr créée et maintenue par RStudio a également de belles infographies sur le fonctionnement des jointures dans dplyr rstudio.com/resources/cheatsheets
Arthur Yip
2
Si vous êtes venu ici au lieu de vouloir savoir comment fusionner les cadres de données des pandas , cette ressource peut être trouvée ici .
cs95

Réponses:

1350

En utilisant la mergefonction et ses paramètres facultatifs:

Jointure interne: merge(df1, df2) fonctionnera pour ces exemples parce que R joint automatiquement les trames par des noms de variables communs, mais vous voudrez probablement spécifiermerge(df1, df2, by = "CustomerId")pour vous assurer que vous correspondiez uniquement sur les champs souhaités. Vous pouvez également utiliser lesparamètresby.xetby.ysi les variables correspondantes ont des noms différents dans les différentes trames de données.

Jointure externe: merge(x = df1, y = df2, by = "CustomerId", all = TRUE)

Extérieur gauche: merge(x = df1, y = df2, by = "CustomerId", all.x = TRUE)

Extérieur droit: merge(x = df1, y = df2, by = "CustomerId", all.y = TRUE)

Jointure croisée: merge(x = df1, y = df2, by = NULL)

Tout comme avec la jointure interne, vous voudrez probablement passer explicitement "CustomerId" à R comme variable correspondante. Je pense qu'il est presque toujours préférable d'indiquer explicitement les identifiants sur lesquels vous souhaitez fusionner; il est plus sûr si les data.frames d'entrée changent de façon inattendue et plus faciles à lire plus tard.

Vous pouvez fusionner sur plusieurs colonnes en donnant byun vecteur, par exemple by = c("CustomerId", "OrderId").

Si les noms de colonne sur by.x = "CustomerId_in_df1", by.y = "CustomerId_in_df2"lesquels fusionner ne sont pas identiques, vous pouvez spécifier, par exemple, où CustomerId_in_df1est le nom de la colonne dans le premier bloc de données et CustomerId_in_df2le nom de la colonne dans le deuxième bloc de données. (Ceux-ci peuvent également être des vecteurs si vous devez fusionner sur plusieurs colonnes.)

Matt Parker
la source
2
@MattParker J'utilise le package sqldf pour toute une série de requêtes complexes contre les cadres de données, j'en avais vraiment besoin pour effectuer une jointure auto-croisée (c.-à-d. La jonction croisée data.frame elle-même) Je me demande comment il se compare du point de vue des performances ... . ???
Nicholas Hamilton
9
@ADP Je n'ai jamais vraiment utilisé sqldf, donc je ne suis pas sûr de la vitesse. Si les performances sont un problème majeur pour vous, vous devriez également examiner le data.tablepackage - c'est un tout nouvel ensemble de syntaxe de jointure, mais c'est radicalement plus rapide que tout ce dont nous parlons ici.
Matt Parker
5
Avec plus de clarté et d'explications ..... mkmanu.wordpress.com/2016/04/08/…
Manoj Kumar
42
Un ajout mineur qui m'a été utile - Lorsque vous souhaitez fusionner en utilisant plusieurs colonnes:merge(x=df1,y=df2, by.x=c("x_col1","x_col2"), by.y=c("y_col1","y_col2"))
Dileep Kumar Patchigolla
8
Cela fonctionne data.tablemaintenant, même fonction juste plus rapidement.
marbel
222

Je recommanderais de vérifier le package sqldf de Gabor Grothendieck , qui vous permet d'exprimer ces opérations en SQL.

library(sqldf)

## inner join
df3 <- sqldf("SELECT CustomerId, Product, State 
              FROM df1
              JOIN df2 USING(CustomerID)")

## left join (substitute 'right' for right join)
df4 <- sqldf("SELECT CustomerId, Product, State 
              FROM df1
              LEFT JOIN df2 USING(CustomerID)")

Je trouve que la syntaxe SQL est plus simple et plus naturelle que son équivalent R (mais cela peut simplement refléter mon biais RDBMS).

Voir sqldf GitHub de Gabor pour plus d'informations sur les jointures.

medriscoll
la source
198

Il y a l' approche data.table pour une jointure interne, qui est très efficace en temps et en mémoire (et nécessaire pour certains data.frames plus grands):

library(data.table)

dt1 <- data.table(df1, key = "CustomerId") 
dt2 <- data.table(df2, key = "CustomerId")

joined.dt1.dt.2 <- dt1[dt2]

mergefonctionne également sur data.tables (car il est générique et appelle merge.data.table)

merge(dt1, dt2)

data.table documenté sur stackoverflow:
comment effectuer une opération de fusion data.table
Traduire des jointures SQL sur des clés étrangères en R syntaxe data.table Alternatives
efficaces à fusionner pour des data.frames plus grands R
Comment faire une jointure externe gauche de base avec data.table dans R?

Encore une autre option est la joinfonction trouvée dans le paquet plyr

library(plyr)

join(df1, df2,
     type = "inner")

#   CustomerId Product   State
# 1          2 Toaster Alabama
# 2          4   Radio Alabama
# 3          6   Radio    Ohio

Options pour type: inner, left, right, full.

From ?join: Contrairement à merge, [ join] conserve l'ordre de x quel que soit le type de jointure utilisé.

Etienne Low-Décarie
la source
8
+1 pour mentionner plyr::join. Le micro-benchmarking indique qu'il fonctionne environ 3 fois plus vite que merge.
Beasterfield
20
Cependant, data.tableest beaucoup plus rapide que les deux. Il y a aussi un grand support dans SO, je ne vois pas beaucoup de rédacteurs de packages répondre aux questions ici aussi souvent que le data.tablerédacteur ou les contributeurs.
marbel
1
Quelle est la data.tablesyntaxe pour fusionner une liste de trames de données ?
Aleksandr Blekh
5
Veuillez noter: dt1 [dt2] est une jointure externe droite (pas une jointure interne "pure") de sorte que TOUTES les lignes de dt2 feront partie du résultat même s'il n'y a pas de ligne correspondante dans dt1. Impact: vous obtenez des lignes potentiellement indésirables si vous avez des valeurs de clé dans dt2 qui ne correspondent pas aux valeurs de clé de dt1.
R Yoda
8
@RYoda vous pouvez simplement spécifier nomatch = 0Ldans ce cas.
David Arenburg
181

Vous pouvez également faire des jointures en utilisant le formidable package dplyr de Hadley Wickham .

library(dplyr)

#make sure that CustomerId cols are both type numeric
#they ARE not using the provided code in question and dplyr will complain
df1$CustomerId <- as.numeric(df1$CustomerId)
df2$CustomerId <- as.numeric(df2$CustomerId)

Jointures mutantes: ajoutez des colonnes à df1 en utilisant des correspondances dans df2

#inner
inner_join(df1, df2)

#left outer
left_join(df1, df2)

#right outer
right_join(df1, df2)

#alternate right outer
left_join(df2, df1)

#full join
full_join(df1, df2)

Filtrage des jointures: filtrez les lignes dans df1, ne modifiez pas les colonnes

semi_join(df1, df2) #keep only observations in df1 that match in df2.
anti_join(df1, df2) #drops all observations in df1 that match in df2.
Andrew Barr
la source
16
Pourquoi avez-vous besoin de convertir CustomerIden numérique? Je ne vois aucune mention dans la documentation (pour plyret pour dplyr) de ce type de restriction. Votre code fonctionnerait-il incorrectement, si la colonne de fusion était de charactertype (particulièrement intéressé par plyr)? Suis-je en train de manquer quelque chose?
Aleksandr Blekh
Peut-on utiliser semi_join (df1, df2, df3, df4) pour ne garder dans df1 que des observations correspondant au reste des colonnes?
Ghose Bishwajit
@GhoseBishwajit En supposant que vous voulez dire le reste des dataframes au lieu des colonnes, vous pouvez utiliser rbind sur df2, df3 et df4 s'ils ont la même structure, par exemple semi_join (df1, rbind (df2, df3, df4))
abhy3
Oui, je voulais dire dataframe. Mais ce n'est pas la même structure que certains manquent sur certaines lignes. Pour quatre cadres de données, j'ai des données sur quatre indicateurs différents (PIB, PNB GINI, MMR) pour différents nombres de pays. Je souhaite rejoindre les cadres de données d'une manière qui ne conserve que les pays présents pour les quatre indicateurs.
Ghose Bishwajit
86

Il y a quelques bons exemples de cela sur le R Wiki . Je vais voler un couple ici:

Méthode de fusion

Étant donné que vos clés sont nommées de la même manière, la méthode la plus courte pour effectuer une jointure interne est merge ():

merge(df1,df2)

une jointure interne complète (tous les enregistrements des deux tables) peut être créée avec le mot clé "all":

merge(df1,df2, all=TRUE)

une jointure externe gauche de df1 et df2:

merge(df1,df2, all.x=TRUE)

une jointure externe droite de df1 et df2:

merge(df1,df2, all.y=TRUE)

vous pouvez les retourner, les gifler et les frotter pour obtenir les deux autres jointures externes dont vous avez parlé :)

Méthode d'indice

Une jointure externe gauche avec df1 à gauche en utilisant une méthode en indice serait:

df1[,"State"]<-df2[df1[ ,"Product"], "State"]

L'autre combinaison de jointures externes peut être créée en neutralisant l'exemple d'indice de jointure externe gauche. (ouais, je sais que c'est l'équivalent de dire "je vais le laisser comme un exercice pour le lecteur ...")

JD Long
la source
4
Le lien "R Wiki" est rompu.
zx8754
79

Nouveau en 2014:

Surtout si vous êtes également intéressé par la manipulation de données en général (y compris le tri, le filtrage, le sous-ensemble, le résumé, etc.), vous devriez certainement y jeter un œil dplyr, qui comprend une variété de fonctions conçues pour faciliter votre travail en particulier avec les blocs de données et certains autres types de bases de données. Il offre même une interface SQL assez élaborée, et même une fonction pour convertir (la plupart) du code SQL directement en R.

Les quatre fonctions liées à la jonction dans le package dplyr sont (pour citer):

  • inner_join(x, y, by = NULL, copy = FALSE, ...): retourne toutes les lignes de x où il y a des valeurs correspondantes dans y, et toutes les colonnes de x et y
  • left_join(x, y, by = NULL, copy = FALSE, ...): retourne toutes les lignes de x et toutes les colonnes de x et y
  • semi_join(x, y, by = NULL, copy = FALSE, ...): retourne toutes les lignes de x où il y a des valeurs correspondantes dans y, en gardant seulement les colonnes de x.
  • anti_join(x, y, by = NULL, copy = FALSE, ...): retourne toutes les lignes de x où il n'y a pas de valeurs correspondantes dans y, en gardant seulement les colonnes de x

Tout est ici en détail.

La sélection des colonnes peut être effectuée par select(df,"column"). Si cela ne vous suffit pas, il y a la sql()fonction, dans laquelle vous pouvez entrer le code SQL tel quel, et il fera l'opération que vous avez spécifiée comme si vous écriviez en R depuis le début (pour plus d'informations, veuillez vous référer à la vignette dplyr / bases de données ). Par exemple, si appliqué correctement, sql("SELECT * FROM hflights")sélectionnera toutes les colonnes de la table dplyr "hflights" (un "tbl").

maj
la source
Certainement la meilleure solution étant donné l'importance que le paquet dplyr a gagné au cours des deux dernières années.
Marco Fumagalli
72

Mise à jour des méthodes data.table pour joindre des ensembles de données. Voir ci-dessous des exemples pour chaque type de jointure. Il existe deux méthodes, l'une à partir du [.data.tablemoment où le deuxième data.table est passé comme premier argument du sous-ensemble, une autre façon consiste à utiliser une mergefonction qui distribue la méthode data.table rapide.

df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2L, 4L, 7L), State = c(rep("Alabama", 2), rep("Ohio", 1))) # one value changed to show full outer join

library(data.table)

dt1 = as.data.table(df1)
dt2 = as.data.table(df2)
setkey(dt1, CustomerId)
setkey(dt2, CustomerId)
# right outer join keyed data.tables
dt1[dt2]

setkey(dt1, NULL)
setkey(dt2, NULL)
# right outer join unkeyed data.tables - use `on` argument
dt1[dt2, on = "CustomerId"]

# left outer join - swap dt1 with dt2
dt2[dt1, on = "CustomerId"]

# inner join - use `nomatch` argument
dt1[dt2, nomatch=NULL, on = "CustomerId"]

# anti join - use `!` operator
dt1[!dt2, on = "CustomerId"]

# inner join - using merge method
merge(dt1, dt2, by = "CustomerId")

# full outer join
merge(dt1, dt2, by = "CustomerId", all = TRUE)

# see ?merge.data.table arguments for other cases

Ci-dessous les tests de référence de base R, sqldf, dplyr et data.table.
Benchmark teste des ensembles de données non clés / non indexés. Le benchmark est effectué sur des ensembles de données de 50 millions de lignes, il y a 50 millions de valeurs communes sur la colonne de jointure, de sorte que chaque scénario (interne, gauche, droit, complet) peut être testé et la jointure n'est toujours pas triviale à effectuer. C'est le type de jointure qui met bien l'accent sur les algorithmes de jointure. Timings sont en date du sqldf:0.4.11, dplyr:0.7.8, data.table:1.12.0.

# inner
Unit: seconds
   expr       min        lq      mean    median        uq       max neval
   base 111.66266 111.66266 111.66266 111.66266 111.66266 111.66266     1
  sqldf 624.88388 624.88388 624.88388 624.88388 624.88388 624.88388     1
  dplyr  51.91233  51.91233  51.91233  51.91233  51.91233  51.91233     1
     DT  10.40552  10.40552  10.40552  10.40552  10.40552  10.40552     1
# left
Unit: seconds
   expr        min         lq       mean     median         uq        max 
   base 142.782030 142.782030 142.782030 142.782030 142.782030 142.782030     
  sqldf 613.917109 613.917109 613.917109 613.917109 613.917109 613.917109     
  dplyr  49.711912  49.711912  49.711912  49.711912  49.711912  49.711912     
     DT   9.674348   9.674348   9.674348   9.674348   9.674348   9.674348       
# right
Unit: seconds
   expr        min         lq       mean     median         uq        max
   base 122.366301 122.366301 122.366301 122.366301 122.366301 122.366301     
  sqldf 611.119157 611.119157 611.119157 611.119157 611.119157 611.119157     
  dplyr  50.384841  50.384841  50.384841  50.384841  50.384841  50.384841     
     DT   9.899145   9.899145   9.899145   9.899145   9.899145   9.899145     
# full
Unit: seconds
  expr       min        lq      mean    median        uq       max neval
  base 141.79464 141.79464 141.79464 141.79464 141.79464 141.79464     1
 dplyr  94.66436  94.66436  94.66436  94.66436  94.66436  94.66436     1
    DT  21.62573  21.62573  21.62573  21.62573  21.62573  21.62573     1

Sachez qu'il existe d'autres types de jointures que vous pouvez effectuer à l'aide de data.table:
- mise à jour lors de la jointure - si vous souhaitez rechercher des valeurs d'une autre table dans votre table principale
- agréger lors de la jointure - si vous souhaitez agréger sur la clé que vous rejoignez, vous n'avez pas à se matérialiser tous les résultats de jointure
- chevauchement rejoindre - si vous souhaitez fusionner par des plages
- roulement rejoindre - si vous voulez fusionner pour pouvoir correspondre aux valeurs de précédant / suivant les lignes en les faisant rouler vers l' avant ou vers l' arrière
- non équi rejoindre - si votre la condition de jointure n'est pas égale

Code à reproduire:

library(microbenchmark)
library(sqldf)
library(dplyr)
library(data.table)
sapply(c("sqldf","dplyr","data.table"), packageVersion, simplify=FALSE)

n = 5e7
set.seed(108)
df1 = data.frame(x=sample(n,n-1L), y1=rnorm(n-1L))
df2 = data.frame(x=sample(n,n-1L), y2=rnorm(n-1L))
dt1 = as.data.table(df1)
dt2 = as.data.table(df2)

mb = list()
# inner join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x"),
               sqldf = sqldf("SELECT * FROM df1 INNER JOIN df2 ON df1.x = df2.x"),
               dplyr = inner_join(df1, df2, by = "x"),
               DT = dt1[dt2, nomatch=NULL, on = "x"]) -> mb$inner

# left outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all.x = TRUE),
               sqldf = sqldf("SELECT * FROM df1 LEFT OUTER JOIN df2 ON df1.x = df2.x"),
               dplyr = left_join(df1, df2, by = c("x"="x")),
               DT = dt2[dt1, on = "x"]) -> mb$left

# right outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all.y = TRUE),
               sqldf = sqldf("SELECT * FROM df2 LEFT OUTER JOIN df1 ON df2.x = df1.x"),
               dplyr = right_join(df1, df2, by = "x"),
               DT = dt1[dt2, on = "x"]) -> mb$right

# full outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all = TRUE),
               dplyr = full_join(df1, df2, by = "x"),
               DT = merge(dt1, dt2, by = "x", all = TRUE)) -> mb$full

lapply(mb, print) -> nul
jangorecki
la source
Vaut-il la peine d'ajouter un exemple montrant comment utiliser différents noms de colonnes dans le on = ?
SymbolixAU
1
@Symbolix nous pouvons attendre la sortie de la version 1.9.8 car elle ajoutera des opérateurs de jointures non équi à onarg
jangorecki
Une autre pensée; vaut-il la peine d'ajouter une note contenant merge.data.tablel' sort = TRUEargument par défaut , qui ajoute une clé pendant la fusion et la laisse là dans le résultat. C'est quelque chose à surveiller, surtout si vous essayez d'éviter de définir des clés.
SymbolixAU
1
Je suis surpris que personne n'ait mentionné que la plupart de ceux-ci ne fonctionnent pas s'il y a des doublons ...
statquant
@statquant Vous pouvez faire une jointure cartésienne data.table, que voulez-vous dire? Pouvez-vous être plus précis s'il vous plaît.
David Arenburg
32

dplyr depuis la version 0.4 a implémenté toutes ces jointures, y compris outer_join, mais il était intéressant de noter que pour les premières versions antérieures à la version 0.4, il ne proposait pas outer_join, et en conséquence, il y avait beaucoup de code utilisateur de contournement hacky qui circulait pendant un bon moment après (vous pouvez toujours trouver un tel code dans SO, Kaggle répond, github de cette période. Par conséquent, cette réponse sert toujours un but utile.)

Points saillants des versions liées aux jointures :

v0.5 (6/2016)

  • Gestion du type POSIXct, fuseaux horaires, doublons, différents niveaux de facteur. Meilleures erreurs et avertissements.
  • Nouvel argument de suffixe pour contrôler ce que les noms de variables en double suffixe reçoivent (# 1296)

v0.4.0 ( 1/2015 )

  • Implémenter la jointure droite et la jointure externe (# 96)
  • Les jointures mutantes, qui ajoutent de nouvelles variables à une table à partir des lignes correspondantes dans une autre. Filtrer les jointures, qui filtrent les observations d'une table selon qu'elles correspondent ou non à une observation de l'autre table.

v0.3 (10/2014)

  • Peut désormais left_join par différentes variables dans chaque table: df1%>% left_join (df2, c ("var1" = "var2"))

v0.2 (5/2014)

  • * _join () ne réorganise plus les noms de colonne (# 324)

v0.1.3 (4/2014)

Solutions de contournement par les commentaires de hadley dans ce numéro:

  • right_join (x, y) est le même que left_join (y, x) en termes de lignes, seules les colonnes auront des ordres différents. Facile à contourner avec select (new_column_order)
  • external_join est fondamentalement une union (left_join (x, y), right_join (x, y)) - c'est-à-dire conserver toutes les lignes dans les deux trames de données.
smci
la source
1
@Gregor: non, il ne doit pas être supprimé. Il est important pour les utilisateurs de R de savoir que les capacités de jointure ont été manquantes pendant de nombreuses années, car la plupart du code contient des solutions de contournement ou des implémentations manuelles ad hoc, ou ad hoc avec des vecteurs d'index, ou pire encore évite d'utiliser ces packages ou opérations du tout. Chaque semaine, je vois de telles questions sur SO. Nous dissiperons la confusion pendant de nombreuses années à venir.
smci
@Gregor et d'autres qui ont demandé: mise à jour, résumant les changements historiques et ce qui manquait depuis plusieurs années lorsque cette question a été posée. Cela illustre pourquoi le code de cette période était majoritairement hacky, ou évitait d'utiliser des jointures dplyr et retombait sur la fusion. Si vous vérifiez les bases de code historiques sur SO et Kaggle, vous pouvez toujours voir le délai d'adoption et le code utilisateur sérieusement confus qui en résulte. Faites-moi savoir si vous trouvez toujours cette réponse manquante.
smci
@Gregor: Ceux d'entre nous qui l'ont adopté mi-2014 n'ont pas choisi le meilleur moment. (Je pensais qu'il y avait des versions antérieures (0.0.x) en 2013, mais non, mon erreur.) Quoi qu'il en soit, il y avait encore beaucoup de code de merde jusqu'en 2015, c'est ce qui m'a motivé à publier ceci, j'essayais de démystifier le crud que j'ai trouvé sur Kaggle, github, SO.
smci
2
Oui, je comprends, et je pense que vous faites du bon travail. (J'ai également été un des premiers à adopter, et même si j'aime toujours la dplyrsyntaxe, le passage de lazyevalà rlangbackends a cassé un tas de code pour moi, ce qui m'a poussé à en savoir plus data.table, et maintenant j'utilise principalement data.table.)
Gregor Thomas
@Gregor: intéressant, pouvez-vous me signaler des questions / réponses (les vôtres ou celles de quelqu'un d'autre) qui couvrent cela? Il semble que notre adoption de plyr/ dplyr/ data.table/ tidyverse dépend énormément de l'année de début et de l'état (embryonnaire) dans lequel les colis étaient à l'époque, par opposition à maintenant ...
smci
25

En joignant deux trames de données avec ~ 1 million de lignes chacune, une avec 2 colonnes et l'autre avec ~ 20, j'ai étonnamment trouvé que merge(..., all.x = TRUE, all.y = TRUE)c'était plus rapide alors dplyr::full_join(). C'est avec dplyr v0.4

La fusion prend ~ 17 secondes, full_join prend ~ 65 secondes.

Un peu de nourriture pour moi, car je passe généralement par défaut à dplyr pour les tâches de manipulation.

BradP
la source
24

Dans le cas d'une jointure gauche avec une 0..*:0..1cardinalité ou d'une jointure droite avec une 0..1:0..*cardinalité, il est possible d'affecter en place les colonnes unilatérales du jointeur (la 0..1table) directement sur la joinee (la 0..*table), et ainsi d'éviter la création de une toute nouvelle table de données. Cela nécessite de faire correspondre les colonnes clés du joinee dans le menuisier et d'indexer + de classer les lignes du menuisier en conséquence pour l'affectation.

Si la clé est une seule colonne, nous pouvons utiliser un seul appel match()pour effectuer la correspondance. C'est le cas que je couvrirai dans cette réponse.

Voici un exemple basé sur l'OP, sauf que j'ai ajouté une ligne supplémentaire à df2avec un identifiant de 7 pour tester la casse d'une clé non correspondante dans la jointure. Ceci est effectivement df1laissé joint df2:

df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L)));
df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas'));
df1[names(df2)[-1L]] <- df2[match(df1[,1L],df2[,1L]),-1L];
df1;
##   CustomerId Product   State
## 1          1 Toaster    <NA>
## 2          2 Toaster Alabama
## 3          3 Toaster    <NA>
## 4          4   Radio Alabama
## 5          5   Radio    <NA>
## 6          6   Radio    Ohio

Dans ce qui précède, j'ai codé en dur une hypothèse selon laquelle la colonne clé est la première colonne des deux tables d'entrée. Je dirais que, en général, ce n'est pas une hypothèse déraisonnable, car, si vous avez un data.frame avec une colonne clé, il serait étrange qu'il n'ait pas été configuré comme la première colonne du data.frame de Le début. Et vous pouvez toujours réorganiser les colonnes pour qu'il en soit ainsi. Une conséquence avantageuse de cette hypothèse est que le nom de la colonne clé ne doit pas être codé en dur, bien que je suppose que cela remplace simplement une hypothèse par une autre. La concision est un autre avantage de l'indexation entière, ainsi que la vitesse. Dans les benchmarks ci-dessous, je changerai l'implémentation pour utiliser l'indexation des noms de chaîne pour correspondre aux implémentations concurrentes.

Je pense que c'est une solution particulièrement appropriée si vous avez plusieurs tables que vous souhaitez laisser joint contre une seule grande table. La reconstruction répétée de la table entière pour chaque fusion serait inutile et inefficace.

D'un autre côté, si vous avez besoin que le joinee reste inchangé pendant cette opération pour une raison quelconque, alors cette solution ne peut pas être utilisée, car elle modifie directement le joinee. Bien que dans ce cas, vous pouvez simplement faire une copie et effectuer les affectations sur place sur la copie.


En remarque, j'ai brièvement examiné les solutions de correspondance possibles pour les clés multicolonnes. Malheureusement, les seules solutions correspondantes que j'ai trouvées étaient:

  • concaténations inefficaces. par exemple match(interaction(df1$a,df1$b),interaction(df2$a,df2$b)), ou la même idée avec paste().
  • conjonctions cartésiennes inefficaces, par exemple outer(df1$a,df2$a,`==`) & outer(df1$b,df2$b,`==`).
  • la base R merge()et les fonctions de fusion basées sur des packages équivalentes, qui allouent toujours une nouvelle table pour renvoyer le résultat fusionné, et ne conviennent donc pas à une solution basée sur des affectations sur place.

Par exemple, voir Correspondance de plusieurs colonnes sur différents blocs de données et obtention d'une autre colonne comme résultat , correspondance de deux colonnes avec deux autres colonnes , Correspondance sur plusieurs colonnes et dupe de cette question à l'origine de la solution sur place, Combiner deux trames de données avec un nombre différent de lignes de R .


Analyse comparative

J'ai décidé de faire mon propre benchmarking pour voir comment l'approche d'affectation sur place se compare aux autres solutions qui ont été proposées dans cette question.

Code de test:

library(microbenchmark);
library(data.table);
library(sqldf);
library(plyr);
library(dplyr);

solSpecs <- list(
    merge=list(testFuncs=list(
        inner=function(df1,df2,key) merge(df1,df2,key),
        left =function(df1,df2,key) merge(df1,df2,key,all.x=T),
        right=function(df1,df2,key) merge(df1,df2,key,all.y=T),
        full =function(df1,df2,key) merge(df1,df2,key,all=T)
    )),
    data.table.unkeyed=list(argSpec='data.table.unkeyed',testFuncs=list(
        inner=function(dt1,dt2,key) dt1[dt2,on=key,nomatch=0L,allow.cartesian=T],
        left =function(dt1,dt2,key) dt2[dt1,on=key,allow.cartesian=T],
        right=function(dt1,dt2,key) dt1[dt2,on=key,allow.cartesian=T],
        full =function(dt1,dt2,key) merge(dt1,dt2,key,all=T,allow.cartesian=T) ## calls merge.data.table()
    )),
    data.table.keyed=list(argSpec='data.table.keyed',testFuncs=list(
        inner=function(dt1,dt2) dt1[dt2,nomatch=0L,allow.cartesian=T],
        left =function(dt1,dt2) dt2[dt1,allow.cartesian=T],
        right=function(dt1,dt2) dt1[dt2,allow.cartesian=T],
        full =function(dt1,dt2) merge(dt1,dt2,all=T,allow.cartesian=T) ## calls merge.data.table()
    )),
    sqldf.unindexed=list(testFuncs=list( ## note: must pass connection=NULL to avoid running against the live DB connection, which would result in collisions with the residual tables from the last query upload
        inner=function(df1,df2,key) sqldf(paste0('select * from df1 inner join df2 using(',paste(collapse=',',key),')'),connection=NULL),
        left =function(df1,df2,key) sqldf(paste0('select * from df1 left join df2 using(',paste(collapse=',',key),')'),connection=NULL),
        right=function(df1,df2,key) sqldf(paste0('select * from df2 left join df1 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do right join proper, not yet supported; inverted left join is equivalent
        ##full =function(df1,df2,key) sqldf(paste0('select * from df1 full join df2 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
    )),
    sqldf.indexed=list(testFuncs=list( ## important: requires an active DB connection with preindexed main.df1 and main.df2 ready to go; arguments are actually ignored
        inner=function(df1,df2,key) sqldf(paste0('select * from main.df1 inner join main.df2 using(',paste(collapse=',',key),')')),
        left =function(df1,df2,key) sqldf(paste0('select * from main.df1 left join main.df2 using(',paste(collapse=',',key),')')),
        right=function(df1,df2,key) sqldf(paste0('select * from main.df2 left join main.df1 using(',paste(collapse=',',key),')')) ## can't do right join proper, not yet supported; inverted left join is equivalent
        ##full =function(df1,df2,key) sqldf(paste0('select * from main.df1 full join main.df2 using(',paste(collapse=',',key),')')) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
    )),
    plyr=list(testFuncs=list(
        inner=function(df1,df2,key) join(df1,df2,key,'inner'),
        left =function(df1,df2,key) join(df1,df2,key,'left'),
        right=function(df1,df2,key) join(df1,df2,key,'right'),
        full =function(df1,df2,key) join(df1,df2,key,'full')
    )),
    dplyr=list(testFuncs=list(
        inner=function(df1,df2,key) inner_join(df1,df2,key),
        left =function(df1,df2,key) left_join(df1,df2,key),
        right=function(df1,df2,key) right_join(df1,df2,key),
        full =function(df1,df2,key) full_join(df1,df2,key)
    )),
    in.place=list(testFuncs=list(
        left =function(df1,df2,key) { cns <- setdiff(names(df2),key); df1[cns] <- df2[match(df1[,key],df2[,key]),cns]; df1; },
        right=function(df1,df2,key) { cns <- setdiff(names(df1),key); df2[cns] <- df1[match(df2[,key],df1[,key]),cns]; df2; }
    ))
);

getSolTypes <- function() names(solSpecs);
getJoinTypes <- function() unique(unlist(lapply(solSpecs,function(x) names(x$testFuncs))));
getArgSpec <- function(argSpecs,key=NULL) if (is.null(key)) argSpecs$default else argSpecs[[key]];

initSqldf <- function() {
    sqldf(); ## creates sqlite connection on first run, cleans up and closes existing connection otherwise
    if (exists('sqldfInitFlag',envir=globalenv(),inherits=F) && sqldfInitFlag) { ## false only on first run
        sqldf(); ## creates a new connection
    } else {
        assign('sqldfInitFlag',T,envir=globalenv()); ## set to true for the one and only time
    }; ## end if
    invisible();
}; ## end initSqldf()

setUpBenchmarkCall <- function(argSpecs,joinType,solTypes=getSolTypes(),env=parent.frame()) {
    ## builds and returns a list of expressions suitable for passing to the list argument of microbenchmark(), and assigns variables to resolve symbol references in those expressions
    callExpressions <- list();
    nms <- character();
    for (solType in solTypes) {
        testFunc <- solSpecs[[solType]]$testFuncs[[joinType]];
        if (is.null(testFunc)) next; ## this join type is not defined for this solution type
        testFuncName <- paste0('tf.',solType);
        assign(testFuncName,testFunc,envir=env);
        argSpecKey <- solSpecs[[solType]]$argSpec;
        argSpec <- getArgSpec(argSpecs,argSpecKey);
        argList <- setNames(nm=names(argSpec$args),vector('list',length(argSpec$args)));
        for (i in seq_along(argSpec$args)) {
            argName <- paste0('tfa.',argSpecKey,i);
            assign(argName,argSpec$args[[i]],envir=env);
            argList[[i]] <- if (i%in%argSpec$copySpec) call('copy',as.symbol(argName)) else as.symbol(argName);
        }; ## end for
        callExpressions[[length(callExpressions)+1L]] <- do.call(call,c(list(testFuncName),argList),quote=T);
        nms[length(nms)+1L] <- solType;
    }; ## end for
    names(callExpressions) <- nms;
    callExpressions;
}; ## end setUpBenchmarkCall()

harmonize <- function(res) {
    res <- as.data.frame(res); ## coerce to data.frame
    for (ci in which(sapply(res,is.factor))) res[[ci]] <- as.character(res[[ci]]); ## coerce factor columns to character
    for (ci in which(sapply(res,is.logical))) res[[ci]] <- as.integer(res[[ci]]); ## coerce logical columns to integer (works around sqldf quirk of munging logicals to integers)
    ##for (ci in which(sapply(res,inherits,'POSIXct'))) res[[ci]] <- as.double(res[[ci]]); ## coerce POSIXct columns to double (works around sqldf quirk of losing POSIXct class) ----- POSIXct doesn't work at all in sqldf.indexed
    res <- res[order(names(res))]; ## order columns
    res <- res[do.call(order,res),]; ## order rows
    res;
}; ## end harmonize()

checkIdentical <- function(argSpecs,solTypes=getSolTypes()) {
    for (joinType in getJoinTypes()) {
        callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
        if (length(callExpressions)<2L) next;
        ex <- harmonize(eval(callExpressions[[1L]]));
        for (i in seq(2L,len=length(callExpressions)-1L)) {
            y <- harmonize(eval(callExpressions[[i]]));
            if (!isTRUE(all.equal(ex,y,check.attributes=F))) {
                ex <<- ex;
                y <<- y;
                solType <- names(callExpressions)[i];
                stop(paste0('non-identical: ',solType,' ',joinType,'.'));
            }; ## end if
        }; ## end for
    }; ## end for
    invisible();
}; ## end checkIdentical()

testJoinType <- function(argSpecs,joinType,solTypes=getSolTypes(),metric=NULL,times=100L) {
    callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
    bm <- microbenchmark(list=callExpressions,times=times);
    if (is.null(metric)) return(bm);
    bm <- summary(bm);
    res <- setNames(nm=names(callExpressions),bm[[metric]]);
    attr(res,'unit') <- attr(bm,'unit');
    res;
}; ## end testJoinType()

testAllJoinTypes <- function(argSpecs,solTypes=getSolTypes(),metric=NULL,times=100L) {
    joinTypes <- getJoinTypes();
    resList <- setNames(nm=joinTypes,lapply(joinTypes,function(joinType) testJoinType(argSpecs,joinType,solTypes,metric,times)));
    if (is.null(metric)) return(resList);
    units <- unname(unlist(lapply(resList,attr,'unit')));
    res <- do.call(data.frame,c(list(join=joinTypes),setNames(nm=solTypes,rep(list(rep(NA_real_,length(joinTypes))),length(solTypes))),list(unit=units,stringsAsFactors=F)));
    for (i in seq_along(resList)) res[i,match(names(resList[[i]]),names(res))] <- resList[[i]];
    res;
}; ## end testAllJoinTypes()

testGrid <- function(makeArgSpecsFunc,sizes,overlaps,solTypes=getSolTypes(),joinTypes=getJoinTypes(),metric='median',times=100L) {

    res <- expand.grid(size=sizes,overlap=overlaps,joinType=joinTypes,stringsAsFactors=F);
    res[solTypes] <- NA_real_;
    res$unit <- NA_character_;
    for (ri in seq_len(nrow(res))) {

        size <- res$size[ri];
        overlap <- res$overlap[ri];
        joinType <- res$joinType[ri];

        argSpecs <- makeArgSpecsFunc(size,overlap);

        checkIdentical(argSpecs,solTypes);

        cur <- testJoinType(argSpecs,joinType,solTypes,metric,times);
        res[ri,match(names(cur),names(res))] <- cur;
        res$unit[ri] <- attr(cur,'unit');

    }; ## end for

    res;

}; ## end testGrid()

Voici une référence de l'exemple basé sur l'OP que j'ai démontré plus tôt:

## OP's example, supplemented with a non-matching row in df2
argSpecs <- list(
    default=list(copySpec=1:2,args=list(
        df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L))),
        df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas')),
        'CustomerId'
    )),
    data.table.unkeyed=list(copySpec=1:2,args=list(
        as.data.table(df1),
        as.data.table(df2),
        'CustomerId'
    )),
    data.table.keyed=list(copySpec=1:2,args=list(
        setkey(as.data.table(df1),CustomerId),
        setkey(as.data.table(df2),CustomerId)
    ))
);
## prepare sqldf
initSqldf();
sqldf('create index df1_key on df1(CustomerId);'); ## upload and create an sqlite index on df1
sqldf('create index df2_key on df2(CustomerId);'); ## upload and create an sqlite index on df2

checkIdentical(argSpecs);

testAllJoinTypes(argSpecs,metric='median');
##    join    merge data.table.unkeyed data.table.keyed sqldf.unindexed sqldf.indexed      plyr    dplyr in.place         unit
## 1 inner  644.259           861.9345          923.516        9157.752      1580.390  959.2250 270.9190       NA microseconds
## 2  left  713.539           888.0205          910.045        8820.334      1529.714  968.4195 270.9185 224.3045 microseconds
## 3 right 1221.804           909.1900          923.944        8930.668      1533.135 1063.7860 269.8495 218.1035 microseconds
## 4  full 1302.203          3107.5380         3184.729              NA            NA 1593.6475 270.7055       NA microseconds

Ici, je compare les données d'entrée aléatoires, en essayant différentes échelles et différents modèles de chevauchement des touches entre les deux tables d'entrée. Cette référence est toujours limitée au cas d'une clé entière à une seule colonne. De plus, pour garantir que la solution en place fonctionnerait pour les jointures gauche et droite des mêmes tables, toutes les données de test aléatoires utilisent la 0..1:0..1cardinalité. Ceci est mis en œuvre en échantillonnant sans remplacement la colonne clé du premier data.frame lors de la génération de la colonne clé du second data.frame.

makeArgSpecs.singleIntegerKey.optionalOneToOne <- function(size,overlap) {

    com <- as.integer(size*overlap);

    argSpecs <- list(
        default=list(copySpec=1:2,args=list(
            df1 <- data.frame(id=sample(size),y1=rnorm(size),y2=rnorm(size)),
            df2 <- data.frame(id=sample(c(if (com>0L) sample(df1$id,com) else integer(),seq(size+1L,len=size-com))),y3=rnorm(size),y4=rnorm(size)),
            'id'
        )),
        data.table.unkeyed=list(copySpec=1:2,args=list(
            as.data.table(df1),
            as.data.table(df2),
            'id'
        )),
        data.table.keyed=list(copySpec=1:2,args=list(
            setkey(as.data.table(df1),id),
            setkey(as.data.table(df2),id)
        ))
    );
    ## prepare sqldf
    initSqldf();
    sqldf('create index df1_key on df1(id);'); ## upload and create an sqlite index on df1
    sqldf('create index df2_key on df2(id);'); ## upload and create an sqlite index on df2

    argSpecs;

}; ## end makeArgSpecs.singleIntegerKey.optionalOneToOne()

## cross of various input sizes and key overlaps
sizes <- c(1e1L,1e3L,1e6L);
overlaps <- c(0.99,0.5,0.01);
system.time({ res <- testGrid(makeArgSpecs.singleIntegerKey.optionalOneToOne,sizes,overlaps); });
##     user   system  elapsed
## 22024.65 12308.63 34493.19

J'ai écrit du code pour créer des graphiques de journal des journaux des résultats ci-dessus. J'ai généré un tracé séparé pour chaque pourcentage de chevauchement. C'est un peu encombré, mais j'aime avoir tous les types de solution et les types de jointure représentés dans le même tracé.

J'ai utilisé l'interpolation spline pour montrer une courbe lisse pour chaque combinaison de type solution / jointure, dessinée avec des symboles pch individuels. Le type de jointure est capturé par le symbole pch, en utilisant un point pour les parenthèses intérieures, gauche et droite pour la gauche et la droite, et un diamant pour le plein. Le type de solution est capturé par la couleur comme indiqué dans la légende.

plotRes <- function(res,titleFunc,useFloor=F) {
    solTypes <- setdiff(names(res),c('size','overlap','joinType','unit')); ## derive from res
    normMult <- c(microseconds=1e-3,milliseconds=1); ## normalize to milliseconds
    joinTypes <- getJoinTypes();
    cols <- c(merge='purple',data.table.unkeyed='blue',data.table.keyed='#00DDDD',sqldf.unindexed='brown',sqldf.indexed='orange',plyr='red',dplyr='#00BB00',in.place='magenta');
    pchs <- list(inner=20L,left='<',right='>',full=23L);
    cexs <- c(inner=0.7,left=1,right=1,full=0.7);
    NP <- 60L;
    ord <- order(decreasing=T,colMeans(res[res$size==max(res$size),solTypes],na.rm=T));
    ymajors <- data.frame(y=c(1,1e3),label=c('1ms','1s'),stringsAsFactors=F);
    for (overlap in unique(res$overlap)) {
        x1 <- res[res$overlap==overlap,];
        x1[solTypes] <- x1[solTypes]*normMult[x1$unit]; x1$unit <- NULL;
        xlim <- c(1e1,max(x1$size));
        xticks <- 10^seq(log10(xlim[1L]),log10(xlim[2L]));
        ylim <- c(1e-1,10^((if (useFloor) floor else ceiling)(log10(max(x1[solTypes],na.rm=T))))); ## use floor() to zoom in a little more, only sqldf.unindexed will break above, but xpd=NA will keep it visible
        yticks <- 10^seq(log10(ylim[1L]),log10(ylim[2L]));
        yticks.minor <- rep(yticks[-length(yticks)],each=9L)*1:9;
        plot(NA,xlim=xlim,ylim=ylim,xaxs='i',yaxs='i',axes=F,xlab='size (rows)',ylab='time (ms)',log='xy');
        abline(v=xticks,col='lightgrey');
        abline(h=yticks.minor,col='lightgrey',lty=3L);
        abline(h=yticks,col='lightgrey');
        axis(1L,xticks,parse(text=sprintf('10^%d',as.integer(log10(xticks)))));
        axis(2L,yticks,parse(text=sprintf('10^%d',as.integer(log10(yticks)))),las=1L);
        axis(4L,ymajors$y,ymajors$label,las=1L,tick=F,cex.axis=0.7,hadj=0.5);
        for (joinType in rev(joinTypes)) { ## reverse to draw full first, since it's larger and would be more obtrusive if drawn last
            x2 <- x1[x1$joinType==joinType,];
            for (solType in solTypes) {
                if (any(!is.na(x2[[solType]]))) {
                    xy <- spline(x2$size,x2[[solType]],xout=10^(seq(log10(x2$size[1L]),log10(x2$size[nrow(x2)]),len=NP)));
                    points(xy$x,xy$y,pch=pchs[[joinType]],col=cols[solType],cex=cexs[joinType],xpd=NA);
                }; ## end if
            }; ## end for
        }; ## end for
        ## custom legend
        ## due to logarithmic skew, must do all distance calcs in inches, and convert to user coords afterward
        ## the bottom-left corner of the legend will be defined in normalized figure coords, although we can convert to inches immediately
        leg.cex <- 0.7;
        leg.x.in <- grconvertX(0.275,'nfc','in');
        leg.y.in <- grconvertY(0.6,'nfc','in');
        leg.x.user <- grconvertX(leg.x.in,'in');
        leg.y.user <- grconvertY(leg.y.in,'in');
        leg.outpad.w.in <- 0.1;
        leg.outpad.h.in <- 0.1;
        leg.midpad.w.in <- 0.1;
        leg.midpad.h.in <- 0.1;
        leg.sol.w.in <- max(strwidth(solTypes,'in',leg.cex));
        leg.sol.h.in <- max(strheight(solTypes,'in',leg.cex))*1.5; ## multiplication factor for greater line height
        leg.join.w.in <- max(strheight(joinTypes,'in',leg.cex))*1.5; ## ditto
        leg.join.h.in <- max(strwidth(joinTypes,'in',leg.cex));
        leg.main.w.in <- leg.join.w.in*length(joinTypes);
        leg.main.h.in <- leg.sol.h.in*length(solTypes);
        leg.x2.user <- grconvertX(leg.x.in+leg.outpad.w.in*2+leg.main.w.in+leg.midpad.w.in+leg.sol.w.in,'in');
        leg.y2.user <- grconvertY(leg.y.in+leg.outpad.h.in*2+leg.main.h.in+leg.midpad.h.in+leg.join.h.in,'in');
        leg.cols.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.join.w.in*(0.5+seq(0L,length(joinTypes)-1L)),'in');
        leg.lines.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in-leg.sol.h.in*(0.5+seq(0L,length(solTypes)-1L)),'in');
        leg.sol.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.main.w.in+leg.midpad.w.in,'in');
        leg.join.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in+leg.midpad.h.in,'in');
        rect(leg.x.user,leg.y.user,leg.x2.user,leg.y2.user,col='white');
        text(leg.sol.x.user,leg.lines.y.user,solTypes[ord],cex=leg.cex,pos=4L,offset=0);
        text(leg.cols.x.user,leg.join.y.user,joinTypes,cex=leg.cex,pos=4L,offset=0,srt=90); ## srt rotation applies *after* pos/offset positioning
        for (i in seq_along(joinTypes)) {
            joinType <- joinTypes[i];
            points(rep(leg.cols.x.user[i],length(solTypes)),ifelse(colSums(!is.na(x1[x1$joinType==joinType,solTypes[ord]]))==0L,NA,leg.lines.y.user),pch=pchs[[joinType]],col=cols[solTypes[ord]]);
        }; ## end for
        title(titleFunc(overlap));
        readline(sprintf('overlap %.02f',overlap));
    }; ## end for
}; ## end plotRes()

titleFunc <- function(overlap) sprintf('R merge solutions: single-column integer key, 0..1:0..1 cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,T);

R-merge-benchmark-single-column-integer-key-optional-one-to-one-99

R-merge-benchmark-single-column-integer-key-optional-one-to-one-50

R-merge-benchmark-single-column-integer-key-optional-one-to-one-1


Voici un deuxième benchmark à grande échelle qui est plus robuste, en ce qui concerne le nombre et les types de colonnes clés, ainsi que la cardinalité. Pour cette référence, j'utilise trois colonnes clés: un caractère, un entier et une logique, sans aucune restriction sur la cardinalité (c'est-à-dire 0..*:0..*). (En général, il n'est pas conseillé de définir des colonnes clés avec des valeurs doubles ou complexes en raison de complications de comparaison à virgule flottante, et fondamentalement, personne n'utilise jamais le type brut, encore moins pour les colonnes clés, donc je n'ai pas inclus ces types dans la clé Aussi, à titre d'information, j'ai d'abord essayé d'utiliser quatre colonnes clés en incluant une colonne clé POSIXct, mais le type POSIXct ne fonctionnait pas bien avec la sqldf.indexedsolution pour une raison quelconque, probablement en raison d'anomalies de comparaison à virgule flottante, donc j'ai retiré.)

makeArgSpecs.assortedKey.optionalManyToMany <- function(size,overlap,uniquePct=75) {

    ## number of unique keys in df1
    u1Size <- as.integer(size*uniquePct/100);

    ## (roughly) divide u1Size into bases, so we can use expand.grid() to produce the required number of unique key values with repetitions within individual key columns
    ## use ceiling() to ensure we cover u1Size; will truncate afterward
    u1SizePerKeyColumn <- as.integer(ceiling(u1Size^(1/3)));

    ## generate the unique key values for df1
    keys1 <- expand.grid(stringsAsFactors=F,
        idCharacter=replicate(u1SizePerKeyColumn,paste(collapse='',sample(letters,sample(4:12,1L),T))),
        idInteger=sample(u1SizePerKeyColumn),
        idLogical=sample(c(F,T),u1SizePerKeyColumn,T)
        ##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+sample(u1SizePerKeyColumn)
    )[seq_len(u1Size),];

    ## rbind some repetitions of the unique keys; this will prepare one side of the many-to-many relationship
    ## also scramble the order afterward
    keys1 <- rbind(keys1,keys1[sample(nrow(keys1),size-u1Size,T),])[sample(size),];

    ## common and unilateral key counts
    com <- as.integer(size*overlap);
    uni <- size-com;

    ## generate some unilateral keys for df2 by synthesizing outside of the idInteger range of df1
    keys2 <- data.frame(stringsAsFactors=F,
        idCharacter=replicate(uni,paste(collapse='',sample(letters,sample(4:12,1L),T))),
        idInteger=u1SizePerKeyColumn+sample(uni),
        idLogical=sample(c(F,T),uni,T)
        ##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+u1SizePerKeyColumn+sample(uni)
    );

    ## rbind random keys from df1; this will complete the many-to-many relationship
    ## also scramble the order afterward
    keys2 <- rbind(keys2,keys1[sample(nrow(keys1),com,T),])[sample(size),];

    ##keyNames <- c('idCharacter','idInteger','idLogical','idPOSIXct');
    keyNames <- c('idCharacter','idInteger','idLogical');
    ## note: was going to use raw and complex type for two of the non-key columns, but data.table doesn't seem to fully support them
    argSpecs <- list(
        default=list(copySpec=1:2,args=list(
            df1 <- cbind(stringsAsFactors=F,keys1,y1=sample(c(F,T),size,T),y2=sample(size),y3=rnorm(size),y4=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
            df2 <- cbind(stringsAsFactors=F,keys2,y5=sample(c(F,T),size,T),y6=sample(size),y7=rnorm(size),y8=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
            keyNames
        )),
        data.table.unkeyed=list(copySpec=1:2,args=list(
            as.data.table(df1),
            as.data.table(df2),
            keyNames
        )),
        data.table.keyed=list(copySpec=1:2,args=list(
            setkeyv(as.data.table(df1),keyNames),
            setkeyv(as.data.table(df2),keyNames)
        ))
    );
    ## prepare sqldf
    initSqldf();
    sqldf(paste0('create index df1_key on df1(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df1
    sqldf(paste0('create index df2_key on df2(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df2

    argSpecs;

}; ## end makeArgSpecs.assortedKey.optionalManyToMany()

sizes <- c(1e1L,1e3L,1e5L); ## 1e5L instead of 1e6L to respect more heavy-duty inputs
overlaps <- c(0.99,0.5,0.01);
solTypes <- setdiff(getSolTypes(),'in.place');
system.time({ res <- testGrid(makeArgSpecs.assortedKey.optionalManyToMany,sizes,overlaps,solTypes); });
##     user   system  elapsed
## 38895.50   784.19 39745.53

Les tracés résultants, en utilisant le même code de tracé donné ci-dessus:

titleFunc <- function(overlap) sprintf('R merge solutions: character/integer/logical key, 0..*:0..* cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,F);

R-merge-benchmark-assorted-key-optional-many-to-many-99

R-merge-benchmark-assorted-key-optional-many-to-many-50

R-merge-benchmark-assorted-key-optional-many-to-many-1

bgoldst
la source
très belle analyse, mais c'est dommage que vous définissiez une échelle de 10 ^ 1 à 10 ^ 6, ce sont des ensembles si minuscules que la différence de vitesse est presque hors de propos. 10 ^ 6 à 10 ^ 8 serait intéressant à voir!
jangorecki
1
J'ai également remarqué que vous incluez le moment de la coercition de classe dans le benchmark, ce qui le rend invalide pour l'opération de jointure.
jangorecki
8
  1. En utilisant la mergefonction, nous pouvons sélectionner la variable du tableau de gauche ou du tableau de droite, de la même manière que nous connaissons tous l'instruction SELECT en SQL (EX: Sélectionnez a. * ... ou Sélectionnez b. * Dans .....)
  2. Nous devons ajouter du code supplémentaire qui sera un sous-ensemble de la table nouvellement jointe.

    • SQL: - select a.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId

    • R: - merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df1)]

De la même façon

  • SQL: - select b.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId

  • R: - merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df2)]

sanjeeb
la source
7

Pour une jointure interne sur toutes les colonnes, vous pouvez également utiliser fintersectle paquet data.table ou intersectle paquet dplyr comme alternative à mergesans spécifier les bycolonnes. cela donnera les lignes qui sont égales entre deux trames de données:

merge(df1, df2)
#   V1 V2
# 1  B  2
# 2  C  3
dplyr::intersect(df1, df2)
#   V1 V2
# 1  B  2
# 2  C  3
data.table::fintersect(setDT(df1), setDT(df2))
#    V1 V2
# 1:  B  2
# 2:  C  3

Exemples de données:

df1 <- data.frame(V1 = LETTERS[1:4], V2 = 1:4)
df2 <- data.frame(V1 = LETTERS[2:3], V2 = 2:3)
Jaap
la source
5

Mettre à jour la jointure. Une autre jointure de style SQL importante est une " jointure de mise à jour " où les colonnes d'une table sont mises à jour (ou créées) à l'aide d'une autre table.

Modification des exemples de tables OP ...

sales = data.frame(
  CustomerId = c(1, 1, 1, 3, 4, 6), 
  Year = 2000:2005,
  Product = c(rep("Toaster", 3), rep("Radio", 3))
)
cust = data.frame(
  CustomerId = c(1, 1, 4, 6), 
  Year = c(2001L, 2002L, 2002L, 2002L),
  State = state.name[1:4]
)

sales
# CustomerId Year Product
#          1 2000 Toaster
#          1 2001 Toaster
#          1 2002 Toaster
#          3 2003   Radio
#          4 2004   Radio
#          6 2005   Radio

cust
# CustomerId Year    State
#          1 2001  Alabama
#          1 2002   Alaska
#          4 2002  Arizona
#          6 2002 Arkansas

Supposons que nous voulons ajouter l'état du client de custà la table des achats sales, en ignorant la colonne année. Avec la base R, nous pouvons identifier les lignes correspondantes, puis copier les valeurs sur:

sales$State <- cust$State[ match(sales$CustomerId, cust$CustomerId) ]

# CustomerId Year Product    State
#          1 2000 Toaster  Alabama
#          1 2001 Toaster  Alabama
#          1 2002 Toaster  Alabama
#          3 2003   Radio     <NA>
#          4 2004   Radio  Arizona
#          6 2005   Radio Arkansas

# cleanup for the next example
sales$State <- NULL

Comme vous pouvez le voir ici, matchsélectionne la première ligne correspondante dans la table des clients.


Mettre à jour la jointure avec plusieurs colonnes. L'approche ci-dessus fonctionne bien lorsque nous nous joignons à une seule colonne et sommes satisfaits de la première correspondance. Supposons que nous voulons que l'année de mesure dans la table client corresponde à l'année de vente.

Comme le mentionne la réponse de @ bgoldst, matchavec interactionpourrait être une option pour ce cas. Plus simplement, on pourrait utiliser data.table:

library(data.table)
setDT(sales); setDT(cust)

sales[, State := cust[sales, on=.(CustomerId, Year), x.State]]

#    CustomerId Year Product   State
# 1:          1 2000 Toaster    <NA>
# 2:          1 2001 Toaster Alabama
# 3:          1 2002 Toaster  Alaska
# 4:          3 2003   Radio    <NA>
# 5:          4 2004   Radio    <NA>
# 6:          6 2005   Radio    <NA>

# cleanup for next example
sales[, State := NULL]

Rolling update join. Alternativement, nous pouvons vouloir prendre le dernier état dans lequel le client a été trouvé:

sales[, State := cust[sales, on=.(CustomerId, Year), roll=TRUE, x.State]]

#    CustomerId Year Product    State
# 1:          1 2000 Toaster     <NA>
# 2:          1 2001 Toaster  Alabama
# 3:          1 2002 Toaster   Alaska
# 4:          3 2003   Radio     <NA>
# 5:          4 2004   Radio  Arizona
# 6:          6 2005   Radio Arkansas

Les trois exemples ci-dessus se concentrent tous sur la création / l'ajout d'une nouvelle colonne. Voir la FAQ R associée pour un exemple de mise à jour / modification d'une colonne existante.

Frank
la source