fwrite
é um loop longo de muitos .csv
arquivos no diretório de trabalho mas quando eu escrevo uma .parquet
ele substitui cada vez.
Eu tentei várias abordagens, basicamente, eu estou tentando usar o nome de arquivo de eu manter a .csv
nome do arquivo conforme mostrado abaixo, sem substituí-lo.
rm(list = ls())
gc()
# Set up environment #
require("data.table")
require("arrow")
# Set directory to data, define files #
setwd("E:/TransferComplete/07/")
files <- list.files(pattern = "csv")
for (i in files){ setwd("E:/TransferComplete/07/")
loopStart <- Sys.time()
bb <- fread(i,header = TRUE,sep = ",", data.table = FALSE, stringsAsFactors = FALSE,
select = c("x","y","z"))
gc()
write_parquet(bb,
'E:/P/i.parquet')
loopEnd <- Sys.time()
loopTime <- round(as.numeric(loopEnd) - as.numeric(loopStart), 0)
}