Desempenho de regex C ++ vs .NET
Solicitado por um comentário de Konrad Rudolph emuma questão relacionada, Eu escrevi o seguinte programa para avaliar o desempenho da expressão regular em F #:
open System.Text.RegularExpressions
let str = System.IO.File.ReadAllText "C:\\Users\\Jon\\Documents\\pg10.txt"
let re = System.IO.File.ReadAllText "C:\\Users\\Jon\\Documents\\re.txt"
for _ in 1..3 do
let timer = System.Diagnostics.Stopwatch.StartNew()
let re = Regex(re, RegexOptions.Compiled)
let res = Array.Parallel.init 4 (fun _ -> re.Split str |> Seq.sumBy (fun m -> m.Length))
printfn "%A %fs" res timer.Elapsed.TotalSeconds
e o equivalente em C ++:
#include "stdafx.h"
#include <windows.h>
#include <regex>
#include <vector>
#include <string>
#include <fstream>
#include <cstdio>
#include <codecvt>
using namespace std;
wstring load(wstring filename) {
const locale empty_locale = locale::empty();
typedef codecvt_utf8<wchar_t> converter_type;
const converter_type* converter = new converter_type;
const locale utf8_locale = locale(empty_locale, converter);
wifstream in(filename);
wstring contents;
if (in)
{
in.seekg(0, ios::end);
contents.resize(in.tellg());
in.seekg(0, ios::beg);
in.read(&contents[0], contents.size());
in.close();
}
return(contents);
}
int count(const wstring &re, const wstring &s){
static const wregex rsplit(re);
auto rit = wsregex_token_iterator(s.begin(), s.end(), rsplit, -1);
auto rend = wsregex_token_iterator();
int count=0;
for (auto it=rit; it!=rend; ++it)
count += it->length();
return count;
}
int _tmain(int argc, _TCHAR* argv[])
{
wstring str = load(L"pg10.txt");
wstring re = load(L"re.txt");
__int64 freq, tStart, tStop;
unsigned long TimeDiff;
QueryPerformanceFrequency((LARGE_INTEGER *)&freq);
QueryPerformanceCounter((LARGE_INTEGER *)&tStart);
vector<int> res(4);
#pragma omp parallel num_threads(4)
for(auto i=0; i<res.size(); ++i)
res[i] = count(re, str);
QueryPerformanceCounter((LARGE_INTEGER *)&tStop);
TimeDiff = (unsigned long)(((tStop - tStart) * 1000000) / freq);
printf("(%d, %d, %d, %d) %fs\n", res[0], res[1], res[2], res[3], TimeDiff/1e6);
return 0;
}
Ambos os programas carregam dois arquivos como strings unicode (estou usando uma cópia da Bíblia), constroem um regex unicode não-trivial\w?\w?\w?\w?\w?\w
e dividir a string quatro vezes em paralelo usando a regex retornando a soma dos comprimentos das strings divididas (para evitar a alocação).
Executando ambos no Visual Studio (com MP e OpenMP habilitado para o C ++) no direcionamento de compilação de lançamento de 64 bits, o C ++ leva 43.5s e o F # leva 3.28s (mais de 13x mais rápido). Isso não me surpreende, porque acredito que o .NET JIT compila o regex para código nativo, enquanto o stdlib do C ++ o interpreta, mas eu gostaria de uma revisão por pares.
Existe um bug perf no meu código C ++ ou é uma consequência de expressões regulares compiladas vs interpretadas?
EDITAR: Billy ONeal apontou que o .NET pode ter uma interpretação diferente de\w
então eu expliquei em um novo regex:
[0-9A-Za-z_]?[0-9A-Za-z_]?[0-9A-Za-z_]?[0-9A-Za-z_]?[0-9A-Za-z_]?[0-9A-Za-z_]
Isso realmente torna o código .NET substancialmente mais rápido (C ++ é o mesmo), reduzindo o tempo de 3.28s para 2.38s para F # (acima de 17x mais rápido).