Как контролировать порядок выхода в Scrapy
Помогите! Чтение следующего кода скрапа и результата сканирования. Я хочу сканировать некоторые данные изhttp://china.fathom.info/data/data.json, и толькоScrapy позволено. Но я не знаю, как контролировать порядок доходности. Я с нетерпением жду, чтобы обработать всеparse_member запрос в цикле, а затем вернутьgroup_item, но кажется, что элемент yield всегда выполняется перед запросом yield.
start_urls = [
"http://china.fathom.info/data/data.json"
]
def parse(self, response):
groups = json.loads(response.body)['group_members']
for i in groups:
group_item = GroupItem()
group_item['name'] = groups[i]['name']
group_item['chinese'] = groups[i]['chinese']
group_item['members'] = []
members = groups[i]['members']
for member in members:
yield Request(self.person_url % member['id'], meta={'group_item': group_item, 'member': member},
callback=self.parse_member, priority=100)
yield group_item
def parse_member(self, response):
group_item = response.meta['group_item']
member = response.meta['member']
person = json.loads(response.body)
ego = person['ego']
group_item['members'].append({
'id': ego['id'],
'name': ego['name'],
'chinese': ego['chinese'],
'role': member['role']
})