Jak zaimportować json z pliku w chmurze do Bigquery
Próbuję zaimportować plik (json.txt) z magazynu w chmurze do Bigquery za pośrednictwem interfejsu API i zgłosić błędy. Gdy odbywa się to za pośrednictwem interfejsu WWW, działa i nie ma błędów (ustawiłem nawet maxBadRecords = 0). Czy ktoś mógłby mi powiedzieć, co robię źle tutaj? Czy kod jest nieprawidłowy, czy muszę gdzieś zmienić ustawienia Bigquery?
Plik jest zwykłym plikiem tekstowym utf-8 z następującą zawartością: Przechowuję go w dokumentach dotyczących importu bigquery i json.
{"person_id":225,"person_name":"John","object_id":1}
{"person_id":226,"person_name":"John","object_id":1}
{"person_id":227,"person_name":"John","object_id":null}
{"person_id":229,"person_name":"John","object_id":1}
a po zaimportowaniu zadania pojawia się następujący błąd: „Nie można przekonwertować wartości na typ oczekiwany”. dla każdej pojedynczej linii.
{
"reason": "invalid",
"location": "Line:15 / Field:1",
"message": "Value cannot be converted to expected type."
},
{
"reason": "invalid",
"location": "Line:16 / Field:1",
"message": "Value cannot be converted to expected type."
},
{
"reason": "invalid",
"location": "Line:17 / Field:1",
"message": "Value cannot be converted to expected type."
},
{
"reason": "invalid",
"location": "Line:18 / Field:1",
"message": "Value cannot be converted to expected type."
},
{
"reason": "invalid",
"message": "Too many errors encountered. Limit is: 10."
}
]
},
"statistics": {
"creationTime": "1384484132723",
"startTime": "1384484142972",
"endTime": "1384484182520",
"load": {
"inputFiles": "1",
"inputFileBytes": "960",
"outputRows": "0",
"outputBytes": "0"
}
}
}
Plik jest dostępny tutaj:http://www.sendspace.com/file/7q0o37
a mój kod i schemat są następujące:
def insert_and_import_table_in_dataset(tar_file, table, dataset=DATASET)
config= {
'configuration'=> {
'load'=> {
'sourceUris'=> ["gs://test-bucket/#{tar_file}"],
'schema'=> {
'fields'=> [
{ 'name'=>'person_id', 'type'=>'INTEGER', 'mode'=> 'nullable'},
{ 'name'=>'person_name', 'type'=>'STRING', 'mode'=> 'nullable'},
{ 'name'=>'object_id', 'type'=>'INTEGER', 'mode'=> 'nullable'}
]
},
'destinationTable'=> {
'projectId'=> @project_id.to_s,
'datasetId'=> dataset,
'tableId'=> table
},
'sourceFormat' => 'NEWLINE_DELIMITED_JSON',
'createDisposition' => 'CREATE_IF_NEEDED',
'maxBadRecords'=> 10,
}
},
}
result = @client.execute(
:api_method=> @bigquery.jobs.insert,
:parameters=> {
#'uploadType' => 'resumable',
:projectId=> @project_id.to_s,
:datasetId=> dataset},
:body_object=> config
)
# upload = result.resumable_upload
# @client.execute(upload) if upload.resumable?
puts result.response.body
json = JSON.parse(result.response.body)
while true
job_status = get_job_status(json['jobReference']['jobId'])
if job_status['status']['state'] == 'DONE'
puts "DONE"
return true
else
puts job_status['status']['state']
puts job_status
sleep 5
end
end
end
Czy ktoś mógłby mi powiedzieć, co robię źle? Co mam naprawić i gdzie?
W pewnym momencie w przyszłości spodziewam się, że będę używał skompresowanych plików i importował z nich - czy „tar.gz” jest w porządku, czy też muszę to zrobić tylko „.gz”?
Z góry dziękuję za wszelką pomoc. Doceniam to.