DeepSeek-Models

Categoría: modelos locales open-weights

Definición

Familia de modelos de pesos abiertos (licencia MIT) desarrollada por DeepSeek. Revolucionó la IA local gracias a dos avances: arquitecturas MoE con compresión latente del KV Cache (MLA) que permiten correr modelos gigantescos con bajo consumo de memoria de contexto, y los modelos destilados de razonamiento (R1) que llevaron cadenas de pensamiento avanzadas a GPUs domésticas.

Variantes y tamaños principales

  • Serie DeepSeek-V4 / V3 (MoE Masivos):
    • DeepSeek-V4-Flash (284B totales / 13B activos): Contexto de 1M con atención dispersa comprimida (CSA), viable en estaciones de trabajo con mucha RAM + GPU mediante llama.cpp.
    • DeepSeek-V4-Pro (1.6T totales / 49B activos) / DeepSeek-V3 (671B / 37B activos): Modelos de frontera abierta diseñados para clústeres multi-GPU.
  • DeepSeek-R1 y Destilados (R1-Distill):
    • R1 (671B MoE): Modelo insignia de razonamiento por aprendizaje por refuerzo (GRPO).
    • R1-Distill (1.5B, 7B, 8B, 14B, 32B, 70B): Modelos densos basados en Qwen y Llama afinados con las trazas de razonamiento de R1; las versiones 14B y 32B son pilares en GPUs locales de 12–24 GB de VRAM.