El problema y el panorama

Tienes cuatro cámaras transmitiendo y un modelo esperando peticiones. Antes de conectarlos conviene entender por qué la forma obvia de hacerlo, la que casi todos escribimos la primera vez, no aguanta.

Este paso no lleva código que ejecutar: es el que le da sentido a todo lo demás. Ten el dashboard abierto en una pestaña mientras lo lees.

La forma obvia de conectarlos

Tienes cámaras que dan frames y un modelo que los analiza. Lo natural es escribir esto:

while True:
    frame = camera.read()             # waits on the camera   (I/O)
    result = model.detect(frame)      # occupies the CPU      (compute)
    store(result)                     # waits on the disk     (I/O)

Léelo despacio y fíjate en el detalle que lo arruina todo: mientras el modelo detecta, nadie está leyendo la cámara. Mientras el disco escribe, el modelo está de brazos cruzados. Cada línea espera a que la anterior termine del todo.

Con una cámara y poca carga esto funciona, y por eso sobrevive tanto tiempo en tantos proyectos. El problema aparece cuando agregas la segunda.

Por qué se cae al escalar

Mete cuatro cámaras en ese mismo bucle y esto es lo que pasa:

• Cada cámara espera su turno, así que la latencia crece de forma lineal con el número de fuentes.
• Si una sola etapa se atrasa, se atasca la cadena entera.
• Los frames que llegan mientras estás ocupado o se acumulan sin límite, o desaparecen sin dejar rastro. O revientas la memoria, o pierdes cuadros sin saber cuáles.

El throughput queda limitado por la suma de las etapas, no por la más lenta. Y esa suma es justo lo que no te puedes permitir en tiempo real.

Cuatro cámaras en un bucle bloqueante. Cada una empieza solo cuando la anterior terminó sus tres etapas, y las demás esperan su turno en gris. El tiempo total es la suma de todo.

Lo que vas a construir

En vez de esa cadena, el pipeline final tendrá tres etapas trabajando a la vez sobre frames distintos, conectadas por colas:

• Ingesta: una tarea por cámara, leyendo frames de la red.
• Inferencia: varios trabajadores que sacan frames de una cola y se los mandan al modelo.
• Publicación: manda los eventos resultantes al dashboard que ya tienes abierto.

Todo eso en un solo hilo. Y esa es la parte que hoy suena imposible.