Google

Categoría: empresas ecosistema modelos arquitectura

Definición

Gigante tecnológico estadounidense cuyo brazo unificado de investigación Google DeepMind (fusión de Google Brain y DeepMind) es el creador de la arquitectura fundacional Transformers y de las familias de modelos Gemini (cerrados de frontera) y Gemma (pesos abiertos para ejecución local).

Puntos clave

  • Cimientos históricos de toda la IA moderna:
    • Arquitectura Transformers (2017): El artículo “Attention Is All You Need” de Google Brain reemplazó a las redes recurrentes (RNN/LSTM) e hizo posible el escalado masivo de los LLM actuales.
    • Hitós previos: Word2Vec (base de los Embeddings), BERT (estándar histórico para comprensión de texto y rerankers en RAG), TensorFlow y JAX (framework funcional de alto rendimiento muy usado en investigación y TPUs).
  • Aportes directos al ecosistema local:
    • Familia Gemma (Gemma 1, 2, 3 y CodeGemma / PaliGemma): Modelos de pesos abiertos derivados de la misma investigación que Gemini, optimizados para correr localmente en tamaños compactos (1B, 2B, 4B, 9B, 12B, 27B). Destacan por su calidad de redacción, soporte multimodal nativo en versiones recientes y su propio formato de Chat Template.
    • SentencePiece: Tokenizador independiente del idioma desarrollado por Google, utilizado por múltiples familias de modelos abiertos.
    • Contexto largo y multimodalidad nativa: Con Gemini, Google lideró el escalado de ventanas de contexto de millones de tokens y el procesamiento nativo unificado de texto, audio, imagen y video en una misma Red Neuronal.