Llama 3.1

term_id: llama31

Category: basic_concepts

Definition

Rilasciata ad agosto 2024, Llama 3.1 espande la famiglia Llama includendo un massiccio modello da 405 miliardi di parametri accanto alle varianti più piccole da 8B e 70B. Una caratteristica distintiva è la finestra di contesto estesa a 128k token.

Summary

Llama 3.1 è l’aggiornamento di agosto 2024 di Meta che presenta modelli da 8B, 70B e 405B di parametri con una finestra di contesto estesa a 128k e capacità native di utilizzo degli strumenti.

Key Concepts

  • Finestra di contesto lunga
  • Chiamata di funzioni (function calling)
  • Utilizzo degli strumenti (tool use)
  • 405B parametri

Use Cases

  • Analisi di documenti lunghi
  • Agenti per integrazione API
  • Sintesi di codice avanzata