Arquivos .gguf de exemplo

GGML Universal Format · categoria IA & Machine Learning

GGUF é o formato usado por llama.cpp para distribuir modelos de linguagem (LLMs) quantizados, executáveis localmente em CPU/GPU.

Quando usar .gguf

  • LLMs locais (llama.cpp)
  • Modelos quantizados
  • Inferência offline

Ficha técnica

MIME type
application/octet-stream
Runtime
llama.cpp / Ollama

Baixar arquivos .gguf de exemplo

Hospedados no nosso servidor — basta clicar para baixar.

Carregando arquivos…