Qwen

Categoría: modelos locales open-weights

Definición

Familia líder de LLM de pesos abiertos desarrollada por Alibabá (equipo Qwen). Es el estándar de referencia en la comunidad de IA local por su escalera granular de tamaños (que permite llenar cualquier capacidad de VRAM), su excelente soporte multilingüe, su Vocabulario de ~152k tokens y su estabilidad al aplicar Cuantización (EXL3, GGUF).

Variantes y tamaños principales (Qwen 3 / Qwen 2.5)

  • Modelos Densos: 0.6B, 1.7B, 4B, 8B, 14B, 32B y 72B. Los tamaños 14B y 32B son los favoritos en GPUs de 16 GB y 24 GB de VRAM.
  • Modelos MoE (Mixture of Experts):
    • Qwen3-30B-A3B: 30B parámetros totales con solo 3B activos por token; velocidad extrema en CPU/GPU con inteligencia de modelo mediano.
    • Qwen3-235B-A22B / Qwen3-Next-80B-A3B: Modelos masivos para estaciones de trabajo multi-GPU o descarga híbrida en RAM.
  • Modos duales (Thinking / Non-Thinking): En la serie Qwen3, un mismo modelo permite activar o desactivar el bloque de razonamiento <think> mediante el Chat Template.
  • Especialistas: Qwen-Coder (código), Qwen-VL (visión-lenguaje) y Qwen-Omni (audio/video/texto nativo).