cURL многопоточность с PHP
я использую cURL, чтобы получить данные о ранге для более чем 20000 доменных имен, которые яхранится в базе данных.
Код ям с помощьюhttp://semlabs.co.uk/journal/object-oriented-curl-class-with-multi-threading.
Массив $ CompetteRequests представляет собой 20000 запросов к API Compette.com для рангов сайтов.
Это пример запроса:http://apps.compete.com/sites/stackoverflow.com/trended/rank/?apikey=xxxx&дата_начала = 201207 &дата_окончания = 201208 &JSONP = ";
Поскольку существует 20 000 таких запросов, я хочу разбить их на куски, чтобы яиспользуя следующий код для этого:
foreach(array_chunk($competeRequests, 1000) as $requests) {
foreach($requests as $request) {
$curl->addSession( $request, $opts );
}
}
Это прекрасно работает для отправки запросов партиями по 1000, однако выполнение сценария занимает слишком много времени. Я'мы увеличили max_execution_time более чем на 10 минут.
Есть ли способ отправить 1000 запросов из моего массива, затем проанализировать результаты, затем вывести обновление состояния, а затем продолжить со следующими 1000, пока массив не станет пустым? На данный момент экран остается белым в течение всего времени выполнения скрипта, что может занять более 10 минут.