Mistral

Definition

Mistral refere-se a uma família de poderosos LLMs de pesos abertos criados pela startup francesa Mistral AI. Modelos como Mistral 7B e Mistral Large utilizam técnicas avançadas, como Janela Deslizante de Atenção (Sliding Window Attention) e Agrupamento de Cabeças (Grouped-Query Attention), permitindo inferência rápida e eficiente mesmo em hardware limitado.

Summary

Uma série de modelos de linguagem grandes (LLMs) eficientes e de pesos abertos desenvolvidos pela Mistral AI, conhecida por alto desempenho com custos computacionais menores.

Key Concepts

• Pesos abertos
• Janela Deslizante de Atenção
• Eficiência
• Mistral AI

Use Cases

• Implantação local de LLMs
• Ajuste fino para domínios específicos
• Inferência com baixo custo computacional

Related Terms

• Mixtral (Modelo MoE da mesma família)
• LLaMA (Outro modelo popular de pesos abertos)
• Transformer (Arquitetura base)
• Open Source (Código Aberto)