ai-stack

En desarrollo

Progreso100%

Stack local de IA con varios microservicios (texto, imagen, voz, transcripción, vídeo) sobre OpenVINO + FastAPI, más una web Next.js y un asistente personal MAID con RAG sobre un vault de Obsidian.

PythonFastAPIOpenVINONext.jsTypeScriptPostgreSQLChromaDBSQLiteDockerAPSchedulerWhisperffmpeg

GitHub →

01 — Details

Problema

Depender de APIs de IA en la nube para tareas cotidianas es caro y obliga a enviar datos personales (notas del vault) a terceros.

Solución

Cada capacidad de IA corre como microservicio Python independiente sobre hardware local (GPU/NPU vía OpenVINO), todo detrás de un router con autenticación Bearer, con una web Next.js encima y un asistente MAID con RAG, sistema de plugins y scheduler propio.

Arquitectura

Más de ocho contenedores Docker independientes (llm-gpu, embed-npu, image-service, tts-service, whisper-service, video-service, router, maid-service, app-agent, web); el router hace de gateway único hacia el host y la web Next.js consume tanto el router como maid-service directamente. maid-service usa ChromaDB+SQLite para RAG y APScheduler para tareas programadas.

02 — Learnings

Aprendizajes

Separar cada capacidad de IA en su propio contenedor y Dockerfile (en vez de un monolito) permite reiniciar o escalar servicios de forma independiente según el hardware (GPU/NPU/CPU) que consumen.

Próximos pasos

Repo activo: seguir puliendo el pipeline de generación de vídeo del app-agent (guion→escenas→imágenes→narración→subtítulos→vídeo) y el sistema de plugins de maid-service.