Llama 2
term_id: llama_2
Category: basic_concepts
Definition
Выпущенная Meta AI в июле 2023 года, Llama 2 представляет собой значительный шаг вперед в развитии больших языковых моделей с открытым весом. Она предлагает варианты как для предварительного обучения, так и для дообучения, варьирующиеся от 7 до 70 миллиардов параметров.
Summary
Llama 2 — это семейство больших языковых моделей, выпущенное компанией Meta в июле 2023 года, отличающееся оптимизированной архитектурой и увеличенным контекстным окном по сравнению с предшественником.
Key Concepts
- Модели с открытым весом
- Архитектура Transformer
- Контекстное окно
- Дообучение (fine-tuning)
Use Cases
- Прототипирование исследований
- Разработка пользовательских чат-ботов
- Задачи генерации кода