Como acelerar a inserção em massa no MS SQL Server a partir do CSV usando pyodbc
Abaixo está o meu código com o qual gostaria de ajuda. Estou tendo que executá-lo em mais de 1.300.000 linhas, o que leva até40 minutos para inserir ~ 300.000 linhas.
Eu acho que inserção em massa é o caminho a seguir para acelerá-lo? Ou é porque eu estou iterando nas linhas viafor data in reader:
parte?
#Opens the prepped csv file
with open (os.path.join(newpath,outfile), 'r') as f:
#hooks csv reader to file
reader = csv.reader(f)
#pulls out the columns (which match the SQL table)
columns = next(reader)
#trims any extra spaces
columns = [x.strip(' ') for x in columns]
#starts SQL statement
query = 'bulk insert into SpikeData123({0}) values ({1})'
#puts column names in SQL query 'query'
query = query.format(','.join(columns), ','.join('?' * len(columns)))
print 'Query is: %s' % query
#starts curser from cnxn (which works)
cursor = cnxn.cursor()
#uploads everything by row
for data in reader:
cursor.execute(query, data)
cursor.commit()
Estou escolhendo dinamicamente meus cabeçalhos de coluna de propósito (como eu gostaria de criar o código mais pythonico possível).
SpikeData123 é o nome da tabela.