Skip to content

franamaro-dev/FlowNode

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

1 Commit
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

FlowNode

High-throughput distributed Celery worker engine for scalable document processing.

⚠️ El Problema

Al construir pipelines de Inteligencia Artificial Financiera (como en VeriStack), tareas como generar Embeddings o procesar PDFs bloquean los hilos (Threads) del servidor. Esto causa un cuello de botella letal en producción (Timeouts).

⚡ La Solución (Arquitectura)

FlowNode es una arquitectura de microservicios distribuida diseñada para la escala:

  1. API Gateway (FastAPI): Recibe el documento y devuelve un HTTP 202 Inmediatamente.
  2. Message Broker (Redis): Encola la tarea de forma segura en memoria.
  3. Worker Nodes (Celery): Clusters trabajando en segundo plano devorando los trabajos pesados de forma concurrente, listos para integrarse con LLMs y RAG.

🚀 Despliegue en 1 Minuto

Levanta el ecosistema asíncrono entero en contenedores aislados:

git clone https://github.com/franamaro-dev/FlowNode.git
cd FlowNode
docker-compose up --build -d

Prueba de Rendimiento

Lanza trabajos pesados a la API y mira cómo el worker Celery se los traga sin bloquear a FastAPI:

curl -X POST http://localhost:8000/api/v1/jobs/enqueue \
  -H "Content-Type: application/json" \
  -d '{"document_id": "INV-2026-900", "action": "vectorize"}'

About

High-throughput distributed Celery engine for asynchronous task processing.

Topics

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

 
 
 

Contributors