Eu tenho um subdiretório com um CMakeLists.txt que deve compilar uma biblioteca usando make e exportar o resultado como uma biblioteca importada para o diretório pai:

set(static_lib ${CMAKE_CURRENT_BINARY_DIR}/lib/mylib.a)

add_custom_command(
    WORKING_DIRECTORY ${CMAKE_CURRENT_SOURCE_DIR}
    OUTPUT ${static_lib}
    COMMAND make
    COMMAND make install PREFIX=${CMAKE_CURRENT_BINARY_DIR}
)

add_custom_target(compile_mylib DEPENDS ${static_lib})

add_library(mylib STATIC IMPORTED)
set_property(TARGET mylib PROPERTY IMPORTED_LOCATION ${static_lib})
add_dependencies(mylib compile_mylib)

O CMakeLists.txt no diretório pai é assim:

add_subdirectory(deps/mylib)
add_executable(mybin source.c)
target_link_libraries(mybin mylib)

No OSX isso funciona muito bem - mas se eu compilar o mesmo no Ubuntu, parece ignorar o CMakeLists do subdiretório e reclama:

/usr/bin/ld.bfd.real: cannot find -lmylib

Eu estou usando o Clang para compilação.