Tento codificar imagens da minha área de trabalho (1920x1080) em um arquivo de vídeo usando a API DXGI Desktop Duplication API e o MF Sink Writer. Meu segmento de codificação fica assim:

#define RETURN_ON_BAD_HR(expr) \
{ \
    HRESULT _hr_ = (expr); \
    if (FAILED(_hr_)) { \
        qDebug() << "Error encountered with message from HRESULT: " << \
                    getMessageFromHR(_hr_); \
        MFShutdown(); \
        CoUninitialize(); \
        return; \
    } \
}

void DuplicationThread::run() {
    if (CoInitializeEx(NULL, COINIT_APARTMENTTHREADED) != S_OK) {
        qDebug() << "Failed to initialize COM.";
        return;
    }

    if (MFStartup(MF_VERSION) != S_OK) {
        qDebug() << "Failed to initialize Media Foundation.";
        CoUninitialize();
        return;
    }

    CComPtr<ID3D11Device> pDevice;
    RETURN_ON_BAD_HR(InitializeDx(&pDevice));

    CComPtr<IDXGIOutputDuplication> pDeskDupl;
    RETURN_ON_BAD_HR(InitiateDupl(pDevice, &pDeskDupl));

    CComPtr<IMFSinkWriter> pSinkWriter;
    DWORD streamIndex;
    RETURN_ON_BAD_HR(InitSinkWriter(&pSinkWriter, &streamIndex));

    LONGLONG rtStart = 0;

    while (!isInterruptionRequested()) {
        DXGI_OUTDUPL_FRAME_INFO frameInfo;
        CComPtr<IDXGIResource> pDesktopResource;
        RETURN_ON_BAD_HR(pDeskDupl->AcquireNextFrame(500, &frameInfo, &pDesktopResource));

        CComPtr<ID3D11Texture2D> pAcquiredDesktopImage;
        RETURN_ON_BAD_HR(pDesktopResource->QueryInterface(__uuidof(ID3D11Texture2D), reinterpret_cast<void **>(&pAcquiredDesktopImage)));

        CComPtr<IMFMediaBuffer> pMediaBuffer;
        RETURN_ON_BAD_HR(MFCreateDXGISurfaceBuffer(__uuidof(ID3D11Texture2D), pAcquiredDesktopImage, 0, FALSE, &pMediaBuffer));

        CComPtr<IMF2DBuffer> p2DBuffer;
        DWORD length;
        RETURN_ON_BAD_HR(pMediaBuffer->QueryInterface(__uuidof(IMF2DBuffer), reinterpret_cast<void **>(&p2DBuffer)));
        RETURN_ON_BAD_HR(p2DBuffer->GetContiguousLength(&length));
        RETURN_ON_BAD_HR(pMediaBuffer->SetCurrentLength(length));

        CComPtr<IMFSample> pSample;
        RETURN_ON_BAD_HR(MFCreateVideoSampleFromSurface(NULL, &pSample));
        RETURN_ON_BAD_HR(pSample->AddBuffer(pMediaBuffer));
        RETURN_ON_BAD_HR(pSample->SetSampleTime(rtStart));
        RETURN_ON_BAD_HR(pSample->SetSampleDuration(VIDEO_FRAME_DURATION));

        RETURN_ON_BAD_HR(pSinkWriter->WriteSample(streamIndex, pSample));
        RETURN_ON_BAD_HR(pDeskDupl->ReleaseFrame());
        rtStart += VIDEO_FRAME_DURATION;

        // successful iterations 
        static int count = 0;
        qDebug() << "count: " << count++;
    }

    RETURN_ON_BAD_HR(pSinkWriter->Finalize());

    MFShutdown();
    CoUninitialize();
}

As rotinas de inicialização são obtidas diretamente deAmostra de duplicação da área de trabalho eSink Writer Tutorial. A definição do formato de vídeo também é obtida no tutorial do Sink Writer, com alterações na resolução de quadros eVIDEO_INPUT_FORMAT = MFVideoFormat_ARGB32.

No entanto, depois de passar por esse loop ~ 20 vezes (às vezes um pouco mais, às vezes um pouco menos), ele falha emmSinkWriter->WriteSample() oumDeskDupl->AcquireNextFrame() com a seguinte mensagem HRESULT:

O aplicativo fez uma chamada inválida. Os parâmetros da chamada ou o estado de algum objeto estavam incorretos. Habilite a camada de depuração do D3D para ver detalhes através de mensagens de depuração.

Com a camada de depuração do D3D ativada, vejo que meus quadros (suponho que esses objetos sejam meus quadros) não são liberados por algum motivo e continuo empilhando:

D3D11 AVISO: Objeto ativo em 0x0000006504FFC290, Recontagem: 17. [STATE_CREATION WARNING # 0: UNKNOWN]

Estou bastante certo de que as falhas do HRESULT estão vindo da minha GPU ficando sem memória (também confirmada ao assistir o uso da memória da GPU por meio do utilitário GPU-Z). No entanto, não tenho idéia do que causa esse vazamento de memória, porque estou liberando todos os recursos que estou alocando (Implementação do SafeRelease)

EDITAR: Ponteiros alterados para ponteiros inteligentes e definição de macro adicionada.