Command-R

Categoría: modelos locales open-weights rag

Definición

Familia de LLM empresariales desarrollada por Cohere con pesos abiertos para investigación y uso no comercial. Están diseñados desde su entrenamiento específicamente para RAG con citas verificables, uso multi-paso de herramientas (Tool Calling) y procesamiento multilingüe en ventanas de contexto largas (128k–256k tokens).

Variantes y tamaños principales

  • Command R7B (7B): Variante compacta optimizada para correr en GPUs de 8 GB de VRAM manteniendo capacidades sólidas de búsqueda documental y citas.
  • Command R (35B): Modelo equilibrado para GPUs de 24 GB (cuantizado a 4 bits en EXL3 o GGUF), muy popular en flujos locales de análisis documental.
  • Command R+ (104B) / Command A (111B): Modelos densos de gran escala orientados a estaciones multi-GPU para tareas agénticas empresariales complejas.