STT

Categoría: audio inferencia herramientas

Definición

Siglas de Speech-to-Text (también llamado ASR, Automatic Speech Recognition). Son modelos entrenados para convertir ondas de voz humana en texto transcrito con puntuación, marcas de tiempo y soporte multilingüe. Es la capa de entrada (“oídos”) de cualquier asistente de voz local.

Puntos clave

  • Métrica de evaluación estándar (WER): Word Error Rate (tasa de error de palabras). Un WER menor al 5% equivale a precisión humana profesional.
  • Cómputo y VRAM en local: A diferencia de los LLMs, los modelos STT son muy ligeros (de 150 MB a 3 GB de VRAM) y corren decenas de veces más rápido que el tiempo real (RTF — Real-Time Factor < 0.05) en GPUs modernas o incluso en CPU.
  • Arquitecturas y modelos locales de referencia:
    • Whisper (large-v3 / large-v3-turbo): El estándar universal multilingüe; en local se ejecuta mediante faster-whisper (CTranslate2, 4x más rápido que PyTorch) o whisper.cpp (en C++ puro, formato GGUF).
    • NVIDIA Canary / Parakeet (NeMo): Líderes en precisión y velocidad extrema (FastConformer), ideales cuando necesitas transcripción por lotes de altísima velocidad en GPU NVIDIA.
    • Moonshine: Modelos ultracompactos optimizados para transcripción en tiempo real en dispositivos de bajos recursos sin latencia fija de ventana de 30 segundos.
  • Problema clásico a controlar en producción local: Si envías silencio puro o ruido de fondo a un modelo Whisper sin filtrar antes con VAD (Silero VAD), el modelo tiende a alucinar frases repetitivas (“Subtítulos realizados por…”).