Categoría: empresas ecosistema modelos arquitectura
Definición
Gigante tecnológico estadounidense cuyo brazo unificado de investigación Google DeepMind (fusión de Google Brain y DeepMind) es el creador de la arquitectura fundacional Transformers y de las familias de modelos Gemini (cerrados de frontera) y Gemma (pesos abiertos para ejecución local).
Puntos clave
- Cimientos históricos de toda la IA moderna:
- Arquitectura Transformers (2017): El artículo “Attention Is All You Need” de Google Brain reemplazó a las redes recurrentes (RNN/LSTM) e hizo posible el escalado masivo de los LLM actuales.
- Hitós previos: Word2Vec (base de los Embeddings), BERT (estándar histórico para comprensión de texto y rerankers en RAG), TensorFlow y JAX (framework funcional de alto rendimiento muy usado en investigación y TPUs).
- Aportes directos al ecosistema local:
- Familia Gemma (Gemma 1, 2, 3 y CodeGemma / PaliGemma): Modelos de pesos abiertos derivados de la misma investigación que Gemini, optimizados para correr localmente en tamaños compactos (
1B,2B,4B,9B,12B,27B). Destacan por su calidad de redacción, soporte multimodal nativo en versiones recientes y su propio formato de Chat Template. - SentencePiece: Tokenizador independiente del idioma desarrollado por Google, utilizado por múltiples familias de modelos abiertos.
- Contexto largo y multimodalidad nativa: Con Gemini, Google lideró el escalado de ventanas de contexto de millones de tokens y el procesamiento nativo unificado de texto, audio, imagen y video en una misma Red Neuronal.
- Familia Gemma (Gemma 1, 2, 3 y CodeGemma / PaliGemma): Modelos de pesos abiertos derivados de la misma investigación que Gemini, optimizados para correr localmente en tamaños compactos (