fwrite
est en boucle sur de nombreuses .csv
les fichiers dans le répertoire de travail, mais quand j'écris un .parquet
il remplace à chaque fois.
J'ai essayé plusieurs approches, fondamentalement, je suis en train d'utiliser de nom de fichier je pour garder la .csv
nom de fichier comme indiqué ci-dessous sans l'écraser.
rm(list = ls())
gc()
# Set up environment #
require("data.table")
require("arrow")
# Set directory to data, define files #
setwd("E:/TransferComplete/07/")
files <- list.files(pattern = "csv")
for (i in files){ setwd("E:/TransferComplete/07/")
loopStart <- Sys.time()
bb <- fread(i,header = TRUE,sep = ",", data.table = FALSE, stringsAsFactors = FALSE,
select = c("x","y","z"))
gc()
write_parquet(bb,
'E:/P/i.parquet')
loopEnd <- Sys.time()
loopTime <- round(as.numeric(loopEnd) - as.numeric(loopStart), 0)
}