mateolafalce

Modelos 2026

• Selección de modelos de IA para correr localmente en una RTX 3070 (8 GB de VRAM).
• Se verificó que todos los modelos listados a continuación pueden ejecutarse en nuestro hardware.
• La carpeta /modelos contiene los archivos docker-compose correspondientes a cada modelo para su despliegue.
• El motor de inferencia utilizado es vllm.

Listado

1. Qwen3.5-9B