Se você vendar os olhos, girar 50 vezes e lançar uma pedra, inevitavelmente acertará um modelo baseado em inteligência artificial. O hype associado a essa tecnologia deixou para trás qualquer sensação de controle, mas além das dúvidas sobre sua qualidade e utilidade, o fato é que ela se tornou muito mais fácil de instalar em ambientes convencionais. Na verdade, o projeto Ollama reduz todo o processo a um download inicial, alguns comandos no PowerShell e alguns minutos do seu tempo.
Talvez você tenha se perguntado por que não estou cobrindo novidades relacionadas à inteligência artificial como antes. A verdade é que atravessamos uma fase de «Eu Também» que beira o desesperador. O número de projetos abusando da legenda «agora com IA» ou similar é absurdo e, na grande maioria dos casos, os resultados são decepcionantes.
Some-se a isso a disponibilidade imediata dos modelos mais importantes, como ChatGPT (que removeu a exigência de login na versão gratuita), Google Gemini e Copilot (que a Microsoft oferece até para ir ao banheiro). No entanto, hoje apresento um pequeno ato de rebeldia, na forma de modelos locais, privados e offline. Obviamente, você precisará de certo poder de fogo para que funcionem sem sobressaltos, mas os requisitos de software são muito simples. O primeiro passo é baixar o Ollama.
Ollama: uma forma eficaz de executar modelos de inteligência artificial offline
Depois de baixar e instalar o Ollama, você notará um pequeno ícone na bandeja do sistema. Isso apenas indica o funcionamento do ambiente. Você também pode acessar http://localhost:11434/ e verificar se aparece a frase «Ollama está rodando». No entanto, o Ollama não possui interface, mas também não precisa: o «chat» propriamente dito funciona no PowerShell.
Recomendo abrir o PowerShell com privilégios elevados, já que o Ollama precisará baixar os modelos para garantir sua execução local. A lista completa está aqui, mas Llama2 e Mistral são duas opções interessantes para começar. Por exemplo, ao executar o comando «ollama run llama2», o Ollama obterá automaticamente uma cópia do Llama2. A média é de 4 gigabytes por modelo, ou seja, você precisará de um pouco de paciência e espaço suficiente no disco. O modelo estará pronto para uso quando você vir o cursor, acompanhado pela expressão «Envie uma mensagem (/? para ajuda)».
Então, quão bem o Ollama funciona? Admito que o ambiente é muito bom, mas a qualidade final das sessões sempre estará atrelada ao que cada modelo pode ou não fazer. Tanto Llama2 quanto Mistral tiveram um bom começo, porém, em menos de dez minutos já estavam delirando com informações incorretas. Mistral conjurou um projeto americano (Project ALFRED) baseado em RTGs em meados dos anos 60, do qual não encontrei nada. Por outro lado, o Llama2 me deu duas datas diferentes para as eleições gerais no México… e inventou nomes de candidatos. ¯\_(ツ)_/¯
Em resumo, como ferramenta de experimentação, o Ollama é sólido. Os modelos são outra história. Link abaixo!
Site oficial e download: Clique aqui
