STT
Categoría: audio inferencia herramientas
Definición
Siglas de Speech-to-Text (también llamado ASR, Automatic Speech Recognition). Son modelos entrenados para convertir ondas de voz humana en texto transcrito con puntuación, marcas de tiempo y soporte multilingüe. Es la capa de entrada (“oídos”) de cualquier asistente de voz local.
Puntos clave
- Métrica de evaluación estándar (
WER): Word Error Rate (tasa de error de palabras). Un WER menor al 5% equivale a precisión humana profesional. - Cómputo y VRAM en local: A diferencia de los LLMs, los modelos STT son muy ligeros (de 150 MB a 3 GB de VRAM) y corren decenas de veces más rápido que el tiempo real (RTF — Real-Time Factor <
0.05) en GPUs modernas o incluso en CPU. - Arquitecturas y modelos locales de referencia:
- Whisper (
large-v3/large-v3-turbo): El estándar universal multilingüe; en local se ejecuta mediantefaster-whisper(CTranslate2, 4x más rápido que PyTorch) owhisper.cpp(en C++ puro, formato GGUF). - NVIDIA Canary / Parakeet (
NeMo): Líderes en precisión y velocidad extrema (FastConformer), ideales cuando necesitas transcripción por lotes de altísima velocidad en GPU NVIDIA. - Moonshine: Modelos ultracompactos optimizados para transcripción en tiempo real en dispositivos de bajos recursos sin latencia fija de ventana de 30 segundos.
- Whisper (
- Problema clásico a controlar en producción local: Si envías silencio puro o ruido de fondo a un modelo Whisper sin filtrar antes con VAD (
Silero VAD), el modelo tiende a alucinar frases repetitivas (“Subtítulos realizados por…”).