Kafka tema por productor
Digamos que tengo múltiples dispositivos. Cada dispositivo tiene diferentes tipos de sensores. Ahora quiero enviar los datos de cada dispositivo para cada sensor a kafka. Pero estoy confundido acerca de los temas kafka. Para procesar estos datos en tiempo real
¿Es bueno tener un tema kafka por dispositivo y todos los sensores de ese dispositivo enviarán los datos a un tema kafka en particular, o debería crear un tema y hacer que todos los dispositivos envíen los datos a ese tema?
Si voy con el primer caso donde crearemos un tema por dispositivo, entonces,
Dispositivo1 (sensor A, B, C) -> tema1
Dispositivo2 (sensor A, B, C) -> tema2
¿Cuántos temas puedo crear?¿Se escalará este modelo?Caso 2: dónde, enviar datos a un tema
Dispositivo1 (sensor A, B, C), Dispositivo2 (sensor A, B, C) .... DispositivoN .... -> tema
¿No va a ser un cuello de botella para los datos? Dado que se comportará como datos de la cola de algún sensor, estará muy atrasado en la cola y no se procesará en tiempo real.
¿Se escalará este modelo?
EDITAR
Digamos que cada dispositivo está asociado con el usuario (muchos a uno). Entonces, quiero procesar los datos según los dispositivos. Entonces, la forma en que quiero procesar los datos es que cada dispositivo y sus datos del sensor irán al usuario después de un procesamiento.
Di que sigo
Dispositivo1
-> Sensor A - Tema 1 Partición 1
-> Sensor B - Tema 1 Partición 2
Dispositivo2
-> Sensor A - Tema 2 Partición 1
-> Sensor B - Tema 2 Partición 2
Quiero algún tipo de comportamiento pub / sub. Dado que se pueden agregar o quitar dispositivos, también se pueden agregar o quitar sensores. ¿Hay alguna manera de crear estos temas y particiones sobre la marcha?
Si no es kafka, qué pub / sub será adecuado para este tipo de comportamiento.