Phi

Categoría: modelos locales open-weights

Definición

Familia de Modelos Pequeños de Lenguaje (SLMs - Small Language Models) desarrollada por Microsoft Research. Su filosofía técnica demuestra que entrenar redes compactas con datos sintéticos ultracurados y libros de texto (“Textbooks Are All You Need”) permite alcanzar capacidades de razonamiento lógico y matemático propias de modelos mucho más pesados.

Variantes y tamaños principales

  • Phi-4 (14B): Modelo denso que compite con modelos de 32B–70B en matemáticas y lógica; con cuantización a 4 bits (EXL3 / GGUF) ocupa ~8.5 GB, cabiendo holgadamente en GPUs de 12 GB de VRAM.
  • Phi-4-mini / Phi-3.5-mini (3.8B): Modelo ultracompacto capaz de correr a decenas de tokens por segundo incluso en CPU pura o GPUs integradas de laptop.
  • Phi-4-multimodal (5.6B): Integra texto, visión y procesamiento de audio en un paquete de menos de 6B de parámetros.