Implantação de Modelos
term_id: model_serving
Category: engineering_practice
Definition
A implantação de modelos envolve pegar um modelo estático e treinado e envolvê-lo em uma infraestrutura escalável que lida com solicitações recebidas, realiza inferência e retorna resultados. Os principais desafios incluem o gerenciamento de latência e escalabilidade.
Summary
O processo de implantar modelos de aprendizado de máquina treinados em ambientes de produção para fazer previsões ou gerar saídas para usuários finais.
Key Concepts
- Inferência
- Otimização de Latência
- Escalabilidade
- Implantação
Use Cases
- Motores de recomendação em tempo real
- APIs de classificação de imagens
- Serviços de processamento de linguagem natural