Ollama configurar context 64000


OLLAMA_CONTEXT_LENGTH é uma variável de ambiente do Ollama usada para definir o tamanho da janela de contexto (context window) padrão para os modelos de IA carregados. O “contexto” é a quantidade máxima de texto (medida em tokens) que a IA consegue “lembrar” ou ler de uma só vez em uma única conversa. Se você precisa aumentar essa janela de contexto no Ollama para Linux siga o procedimento abaixo:

Edite o arquivo /etc/systemd/system/ollama.service

[sudo pico /etc/systemd/system/ollama.service]

Adicione o novo tamanho da janela de contexto dentro de [Service].

[Environment=”OLLAMA_CONTEXT_LENGTH=64000″]

Reinicie o ollama

[sudo systemctl daemon-reload]

[sudo systemctl restart ollama]

Chame algum modelo e acompanhe o tamanho da nova janela de contexto com o comando abaixo.

[watch -n1 ollama ps]

We will be happy to hear your thoughts

Leave a reply

Som2ny Network
Logo
Register New Account
Compare items
  • Total (0)
Compare
0
Shopping cart