Skip to main content

Module llama

Module llama 

Source
Expand description

Llama model implementation with support for Llama 1/2/3 and GQA

Structsยง

LlamaConfig
Llama model configuration
LlamaModel
Llama model implementation
RopeScaling
RoPE scaling configuration (Llama 3)